Qwen3.5-35B-A3B-NVFP4

MODEL PROFILE模型资料

txn545 · 2026-02-24 发布 · 开源权重

无公开托管渠道

Qwen3.5-35B-A3B-NVFP4 是一款以 Apache-2.0 许可开放权重的纯文本生成模型,发布者标注为 txn545,参数规模 35B,权重采用 NVFP4 低比特格式。它面向需要在本地或私有环境部署、希望用较低显存跑起中等规模模型的开发者与小型团队,仅支持文本输入与文本输出。

模型介绍

模型名称沿用 Qwen3.5 系列命名,由发布者 txn545 于 2026 年 2 月 24 日开放权重,许可证为 Apache-2.0,参数规模 35B,输入输出均为纯文本。名称中的 A3B 指向稀疏混合专家结构中单个 token 激活的参数量级,NVFP4 说明权重以 4 位浮点格式分发。两者共同指向一个目标:把中等规模模型的部署门槛压到单卡或小显存环境可承受的范围内。它要解决的是私有化落地时既要较大模型容量、又不愿承担高精度权重显存开销的矛盾,适合开发者自建推理服务、验证量化效果或搭建内部文本流水线。官方未公布价格与能力标注,第三方跑分同样缺失,实际表现需要按自有任务实测。

选型建议需要私有部署、能接受量化精度取舍并愿意自行评测的团队可以试;追求开箱即用的稳定评测、官方支持或托管 API 的场景则不建议选它。

开源权重稀疏专家结构4 位量化文本生成Apache-2.0私有部署

关键指标

输入模态文本
HF 下载量13,148
HF 点赞7

适用场景

  • 在自有 GPU 上部署纯文本问答与对话服务
  • 批量处理长文摘要、改写与结构化输出
  • 为内部知识库搭建私有化文本生成接口
  • 验证 4 位量化权重的推理速度与效果取舍
  • 做文本分类、信息抽取任务的原型验证

暂无:上下文窗口、最大输出、知识截止、模型家族、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 260 天。

规格与能力

上面没列到的字段

整体为 35B 参数规模的稀疏混合专家文本模型,权重以 4 位浮点量化格式分发,架构细节的公开材料较少。

  • 结构35B 总参数配合稀疏专家路由,单次前向只激活其中一部分,推理算力更接近小模型,容量仍留在总参数上。
  • 量化格式权重以 NVFP4 这一 4 位浮点格式发布,主要面向支持该数值格式的 GPU 推理栈,加载显存占用明显低于同规模高精度权重。
  • 能力官方未标注具体能力项,也没有可引用的第三方评测,语言覆盖、上下文长度等关键规格需以发布页或自行测试为准。
  • 披露发布者为 txn545,权重以 Apache-2.0 开放,技术报告、训练数据说明与评测材料目前公开得很少。
开源权重
是
许可证
apache-2.0
参数规模
35B
能力 资料未标注

同系列其他规格

型号厂商参数上下文输入价输出价
Qwen3.5 35B-A3B Alibaba — 262.1K $0.25/M $2/M
Qwen3.5 35B-A3B Base Thinking Machines 35B 65.5K $0.54/M $1.335/M
Qwen3.5-35B-A3B-NVFP4 AxionML 35B — — —
Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive HauhauCS 35B — — —
Qwen3.5 35B-A3B Base Alibaba — — — —

性能表现

公开跑分缺失,性能只能从结构特征做定性判断,最终效果仍取决于所用推理框架与量化实现。

  • 强项稀疏激活让单次推理的算力需求低于同等总参数的稠密模型,配合 4 位权重,在单卡或小显存机器上跑起来相对可行。
  • 短板4 位量化可能带来精度损失,长文本推理、数值计算与格式严格遵循类任务上,稳定性通常弱于高精度权重版本。
  • 适合文本摘要、内容改写、开放问答与批量分类等容错较高的生成任务,适合先做原型再做灰度替换。
  • 不确定缺乏公开评测,与同量级稠密模型的实际差距无法量化,替换前建议用自有测试集对齐。

价格与性价比

结合各平台报价与同类对比

官方价格未公开,权重本身以 Apache-2.0 免费开放,成本主要落在算力、部署与调优上。

  • 定位无官方定价,属于自托管成本模型,支出取决于所用 GPU 与推理框架,而非按 token 计费。
  • 横向对比与闭源 API 相比省去调用费用,但要自行承担显存、运维与调优投入,小规模使用时未必更便宜。
  • 平台差价目前没有第三方平台提供该模型的托管服务,也就没有可横向比较的报价。
  • 省钱流量稳定或数据敏感的场景自建更划算;高并发场景需先核算显存占用与吞吐,再与调用 API 的成本对照。

关于 Qwen3.5-35B-A3B-NVFP4 的常见问题

2 条
Qwen3.5-35B-A3B-NVFP4 的 API 价格是多少?

当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。

Qwen3.5-35B-A3B-NVFP4 是开源模型吗?

Qwen3.5-35B-A3B-NVFP4 提供开源权重,可以自行下载部署,许可证为 apache-2.0,HuggingFace 下载量 13,148。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

使用注意

  • 口径能力项与价格均未公开,参数规模与许可证以发布页为准,本页不含任何未公开的评测数据。
  • 边界4 位量化依赖支持 NVFP4 的推理栈,其他硬件上可能需要转换格式;发布者非官方团队,长期维护与更新节奏不确定。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。