Gemma 4 E4B Instruct (MLX 4-bit)

该模型归属 Gemma 系列，名称中的 Instruct 表明它经过指令微调，可直接用于对话与任务式提问；MLX 4-bit 则说明权重以苹果 MLX 框架的 4-bit 量化格式打包，优先服务本地推理而非云端批量服务。它要解决的核心问题很直接：把一条可用的指令模型压到消费级设备能加载的体积，同时保留 32768 tokens 上下文和 8192 tokens 单次输出，让中等长度文档的理解与较长回答的生成不被迫切块。参数规模、训练数据构成等细节官方说明有限。能力上公开可确认的只有温度调节这一项采样控制，不支持图像输入。厂商标注的输入输出价格均为零，配合开源权重，等于把成本从调用费转移到本地硬件与推理时长上。

选型建议需要本地离线、零调用成本且任务以文本整理与问答为主时选它；若依赖图像输入、超长上下文或高强度推理，则不适合作为主力模型。

• 在苹果芯片设备上本地加载，做离线可用的对话与问答助手
• 对中等长度报告、合同段落做摘要与要点重写
• 批量执行文本改写、纠错、语气统一等内容清洗工作
• 从客服记录、问卷文本中抽取字段并整理成结构化结果
• 在不能外传数据的环境里搭建内部文本处理流程

沿用 Gemma 家族的自回归文本架构，以 MLX 4-bit 量化形式发布，规模与精度取向都偏向本地轻量推理。

• 结构Gemma 家族的自回归文本模型，权重经 4-bit 量化打包为 MLX 格式，便于在苹果芯片的统一内存架构上加载，占用明显低于同规模全精度权重。
• 能力支持 32768 tokens 上下文与最长 8192 tokens 单次输出，可覆盖中等长度文档处理与较长回答生成；提供温度调节，便于在稳定输出与发散写作之间切换。
• 披露厂商与发布日期可查，但参数规模、训练数据、量化误差等官方说明公开资料较少，4-bit 压缩对精度的具体影响缺少可核对材料。

开源权重

是

模型家族

gemma

本站未收录该模型的第三方跑分，以下判断基于规格与量化形态的定性推断，不构成能力排序。

• 强项小体积加 4-bit 量化的组合，让本地加载与首字延迟更可控，配合 32K 上下文，适合连续多轮的文档问答与摘要改写。
• 短板量化会削弱长链推理与严格格式遵循的稳定性；仅支持文本输入，遇到图文混排、表格截图类任务需要另配方案。
• 适合把隐私和离线可用性放在首位、且任务以文本整理与问答为主的场景；对复杂推理有要求的任务宜与更大规模模型交叉验证。

官方标价输入输出均为零，开源权重可自托管，实际成本主要由本地硬件与推理时长构成。

• 定位免费开源权重路线，付费环节被前移到设备与电力，适合调用量大、对单次成本敏感的使用方式。
• 横向对比同页对比中，同家族 IQ4_XS 版本与 Qwen 3.5 9B 两个量化版本同样免费；Amoral Gemma3 27B v2 双向 $0.3/M，Trendyol Asure 12B 输入 $0.1/M、输出 $0.5/M。
• 平台差价models.dev 与 models.dev · atomic-chat 两条报价记录均为输入输出免费，缓存读价格未标注，跨平台不存在可计算的价差。
• 省钱批量文本处理放本地跑最划算；偶发少量调用直接走免费托管入口，比自建环境更省维护成本。

同一个模型在不同网关的报价可能不同。本页基准取官方口径 免费 / 免费（输入 / 输出，美元 / 百万 tokens），其余来源的差价在「相对输入价」列列出，供比价参考。

取上下文相近（约 0.5~2 倍）的同类主流模型；同厂商、同家族优先；价格差为相对本模型的输入价

• 口径本站未收录该模型的公开跑分，任何能力强弱结论都只能停留在定性层面，不宜用作选型排序依据。
• 边界仅文本输入输出，上下文上限 32768 tokens、单次输出上限 8192 tokens，超长材料需分段；4-bit 量化在精细格式约束与多步推理上可能弱于全精度版本。

本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并， 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens，为各平台对 API 调用的报价，不含自部署成本。 资料由公开来源整理，不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理，部分未经本站逐项核实；规格、价格与跑分以本页数据字段为准。