Qwen 3.5 9B (MLX 4-bit)

Qwen 3.5 9B (MLX 4-bit) 属于 qwen 模型家族，由 Atomic Chat 于 2026 年 2 月 23 日发布，采用开源权重。它把 9B 级参数压成 MLX 4-bit 格式，目标是在 Apple Silicon 设备上直接利用统一内存运行推理，省掉云端调用环节。上下文窗口为 32768 tokens，单次最多输出 8192 tokens，输入支持文本与图像，输出为纯文本，具备工具调用、附件输入与温度调节三项能力，可覆盖带图附件的对话、文档摘要与轻量智能体等需求。官方输入、输出价格均为零，成本主要落在本地硬件、耗电与维护上。目前仅有 1 家平台给出报价，第三方跑分缺失，实际效果需按自有任务验证。

选型建议需要在 Apple Silicon 上本地推理、看重数据隐私与零调用成本时选它；若追求复杂推理高分、超长上下文或跨平台部署，应另选更大的托管模型。

• 在 Mac 上本地搭建图文问答助手，处理截图、图表与文档的混合输入
• 接入工具调用，把自然语言指令转成 API 请求或本地脚本执行动作
• 对内部会议记录与报告做摘要和要点抽取，保证数据不离开本地设备
• 为小团队批量做结构化信息提取，例如从票据图片中整理关键字段
• 作为端侧原型验证载体，快速比对 4-bit 量化与 Q4_K_M 版本的效果差异

属于 Qwen 3.5 系列的 9B 规模版本，以 MLX 4-bit 量化权重分发，适配 Apple Silicon 的统一内存布局与本地推理栈。

• 结构以 9B 级权重规模为基础，经 4-bit 量化压缩位宽，换取在笔记本与工作站内存中的可装载性与更低的显存占用。
• 能力同时接受文本与图像输入，输出限定为文本，支持工具调用与温度调节，可支撑带附件的对话与轻量智能体流程。
• 披露层数、注意力结构等细节官方未展开，公开资料较少；量化由 Atomic Chat 打包，精度损失需按实际任务实测。

开源权重

是

模型家族

qwen

公开跑分缺失，性能判断只能基于参数规模、量化位宽与同类 9B 模型的一般表现做定性推断，不宜当作确定结论。

• 强项9B 规模在本地量化模型中属中量级，图文输入与工具调用齐备，适合摘要、检索问答与结构化抽取等日常任务。
• 短板4-bit 量化易放大长链推理与数值计算的误差，32K 上下文在长文档场景偏紧，多步复杂任务稳定性弱于更大模型。
• 适合以 Apple Silicon 设备为推理载体、对延迟与数据隐私敏感、并能接受结果人工复核的个人开发者与小型团队。

官方输入与输出标价均为零，成本实际转移到本地硬件、电力与维护上，属于自托管型免费权重方案。

• 定位免费权重配合本地推理，把边际调用成本压到接近零，适合高频、单次价值较低的调用场景。
• 横向对比同厂分发的 Qwen 3.5 9B (Q4_K_M) 与 Gemma 4 E4B 量化版同样免费；DeepSeek R1 Distill Qwen 14B、32B 按输入与输出分别计费，走按量付费路线。
• 平台差价models.dev 与 models.dev·atomic-chat 两条报价均为零，不存在跨平台价差，比价意义有限。
• 省钱真正影响总成本的是设备内存、量化格式兼容性与推理耗电，选型时应比较本地吞吐而非单价。

同一个模型在不同网关的报价可能不同。本页基准取官方口径 免费 / 免费（输入 / 输出，美元 / 百万 tokens），其余来源的差价在「相对输入价」列列出，供比价参考。

取上下文相近（约 0.5~2 倍）的同类主流模型；同厂商、同家族优先；价格差为相对本模型的输入价

• 口径公开跑分缺失，对照表中的 AA 一栏为空，无法与 DeepSeek R1 Distill 系列的分数直接比较，性能结论需自行实测。
• 边界上下文 32768 tokens、单次输出上限 8192 tokens，长文档与长对话需切分处理；MLX 格式绑定 Apple Silicon，跨平台迁移受限。

本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并， 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens，为各平台对 API 调用的报价，不含自部署成本。 资料由公开来源整理，不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理，部分未经本站逐项核实；规格、价格与跑分以本页数据字段为准。