Qwen3.6-35B-A3B-PrismaQuant-4.75bit-vllm

该权重属于 Qwen3.6 系列的社区量化分支，名称可拆成三层：底座是 35B 参数的 Qwen3.6-35B-A3B，量化方案为 PrismaQuant 4.75bit，运行后端面向 vLLM。发布者为 rdtand，采用 Apache-2.0 许可并开放权重，输入支持文本与图像，输出为文本。它主要解决的问题是：35B 级稀疏多模态模型直接部署时显存压力较大，而约 4.75bit 的量化能压缩权重体积，使中小团队用自有显卡进行图文理解与文本生成更可行。需要说明的是，它是第三方再分发的量化版本，不是官方原版；官方价格未公开，本站收录平台数为 0，能力项未标注，也没有可引用的第三方跑分，实际效果应以自有数据验证为准。

选型建议需要 35B 级稀疏多模态能力、又受显存和授权成本约束时值得评估；若要求开箱即用的跑分背书或高精度细粒度视觉，建议先做对比测试或选择官方原版。

• 搭建企业内部图文问答服务，让模型读取产品截图或文档配图后输出文字说明
• 对电商商品图批量生成标题与卖点描述，用离线批处理控制单次推理成本
• 在 vLLM 上部署轻量多模态推理接口，为客服或运营后台提供图片理解能力
• 用 Apache-2.0 权重做私有化原型验证，对比量化前后在自有数据上的表现
• 处理票据、表单等版式固定的图像，抽取关键信息并转写为结构化文本

从命名与公开信息可确认的是：它是 Qwen3.6 系列中 35B 参数、A3B 命名的稀疏结构模型，并带有视觉输入；量化与打包由 rdtand 完成，而非官方原版权重。

• 结构A3B 命名通常表示 MoE 稀疏激活，35B 为总参数规模，推理时只调用部分专家，因此显存与算力开销低于同参数量的稠密模型。
• 多模态输入侧支持文本与图像，输出为纯文本，适合图文问答、截图理解、文档配图解析等需要先读图再写文字的任务。
• 后端后缀 vllm 表明权重按 vLLM 的加载与推理格式整理，可直接用于 vLLM 服务化部署；具体并行方式与显存需求以权重卡说明为准。
• 披露能力项未标注，本站无第三方跑分，量化精度损失、图像分辨率上限等关键参数公开资料较少，选型前需用自有数据验证。

开源权重

是

模型家族

—

许可证

apache-2.0

参数规模

35B

缺少公开跑分与能力标注，只能做定性判断：它的价值在「35B 级多模态 + 4.75bit 量化 + vLLM 服务化」的组合，而不是单项指标领先。

• 强项支持文本与图像输入，Apache-2.0 许可便于商用与再分发，适合在自有环境做图文理解类应用的原型与私有化部署，授权与改造成本相对可控。
• 短板4.75bit 量化在长上下文、细粒度视觉和复杂推理上通常有精度折损，且没有第三方跑分背书，效果需以自有评测集验证后再上线。
• 适合显存预算有限、但仍希望使用 35B 级稀疏多模态模型的中小团队，用于内部工具、离线批处理与低并发在线服务。

官方价格未公开，权重本身开源可免费获取；实际成本主要落在显存、推理卡与运维上，而不是授权费。

• 定位Apache-2.0 开源权重，无按 token 计费的官方定价，成本结构以自建推理的硬件与人力为主。
• 横向对比与同规模稠密多模态模型相比，A3B 稀疏结构在推理算力上更省；与官方原版权重相比，量化版更看重显存节省而非精度上限。
• 平台差价本站显示 0 家平台提供该模型，暂无云端按量报价可比；若走云厂商托管，价格取决于所选实例与计费方式，需自行比价。
• 省钱优先用 4.75bit 量化权重在自有卡上跑 vLLM，按需启停服务；对延迟不敏感的任务走离线批处理，可摊薄单位请求成本。

• 口径名称中的 35B 为参数规模、4.75bit 为量化位宽描述，二者均来自权重命名；能力项未标注，本站无第三方跑分，不能据此推断具体效果。
• 边界输入支持文本与图像、输出仅文本；量化会带来精度取舍，长文档、密集图表与细粒度视觉任务建议先做小样本对比再上线。
• 许可Apache-2.0 允许商用与再分发，但仍需自行确认底座模型与量化权重的附加声明，尤其是对外提供服务时的署名与免责要求。

本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并， 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens，为各平台对 API 调用的报价，不含自部署成本。 资料由公开来源整理，不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理，部分未经本站逐项核实；规格、价格与跑分以本页数据字段为准。