Qwen3.6-35B-A3B-heretic-NVFP4
MODEL PROFILE模型资料AEON-7 · 2026-04-17 发布 · 开源权重
Qwen3.6-35B-A3B-heretic-NVFP4 是 AEON-7 在 2026 年 4 月发布的开源图文理解模型,沿用 Qwen3.6 系列的 35B 稀疏激活底座,经社区取向微调并做 NVFP4 量化,面向能自备新版 NVIDIA 显卡、希望离线自托管的开发者。
模型介绍
该模型挂在 Qwen3.6 系列名下,发布方标注为 AEON-7,从命名规则看属于社区在既有 Qwen3.6 权重上再加工的版本,而非官方原厂发布。名称里三段信息基本说明了它的取舍:A3B 指向稀疏激活的 MoE 结构,总参数 35B 但单次推理只激活部分专家;heretic 是社区常见的一类取向微调,通常以减少拒答为目标;NVFP4 则是 NVIDIA 的 4 位浮点量化格式。它要解决的问题很实际——把 35B 级别的图文模型压到单机可承载的显存预算内,同时给使用者留出修改拒答行为的空间。输入支持文本与图像,输出只有文本,属于多模态理解而非生成图像。许可证为 Apache-2.0,允许商用与再分发,这对想把它嵌进内部流水线的团队是加分项。需要提醒的是,厂商未标注任何能力项,本站也未收录公开跑分,模型卡信息与实际表现之间需要用自有数据验证。
选型建议需要在本机运行 35B 级图文模型、能接受量化精度损失并自行承担合规责任时选它;想要开箱即用的稳定 API 或严格内容管控则不建议。
关键指标
适用场景
- 在自建 GPU 服务器上部署图文问答,处理截图、表单、图表类输入的内部知识检索
- 基于 Apache-2.0 权重做垂直领域继续微调,验证稀疏激活架构在自有数据上的可行性
- 为显存受限的单机环境搭建离线文档理解与摘要流水线,避免依赖外部 API
- 对模型拒答行为做红队测试,评估 heretic 取向微调在自家业务中的风险边界
暂无:上下文窗口、最大输出、知识截止、模型家族、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 209 天。
规格与能力
上面没列到的字段官方未披露结构细节,能确认的信息主要来自命名与权重格式,其余只能做定性判断。
- 结构名称中的 A3B 指向稀疏激活的 MoE 设计,总参数 35B,推理时只调用部分专家,算力开销低于同参数稠密模型。
- 量化NVFP4 指 NVIDIA 的 4 位浮点格式,权重体积与显存占用明显低于未量化版本,但需要推理栈与驱动侧支持。
- 模态输入接受文本与图像,输出仅文本,定位是图文理解,不承担图像生成任务。
- 披露厂商未标注参数结构、上下文长度等细节,权重仓库说明是唯一可靠来源,本站无补充数据。
- 开源权重
- 是
- 许可证
- apache-2.0
- 参数规模
- 35B
同系列其他规格
| 型号 | 厂商 | 参数 | 上下文 | 输入价 | 输出价 |
|---|---|---|---|---|---|
| Qwen3.6 35B-A3B | Alibaba | 35B | 262.1K | $0.375/M | $2.25/M |
| Qwen3.6 35B | Neuralwatt | — | 131.1K | $0.29/M | $1.15/M |
| Qwen3.6 35B Flex | Neuralwatt | — | 131.1K | $0.1885/M | $0.7475/M |
| Qwen 3.6 35B A3B FP8 | NEAR AI Cloud | — | 262.1K | $0.17/M | $1.1/M |
| Qwen3.6 35B Fast | Neuralwatt | — | 131.1K | $0.29/M | $1.15/M |
| Qwen3.6-35B-A3B-fp8-no-thinking | InferX | — | 262K | 免费 | 免费 |
| Qwen3.6 35B A3B TEE | NanoGPT | — | 262.1K | $0.2/M | $1.27/M |
| Qwen3.6-35B-A3B-DFlash | z-lab | 35B | — | — | — |
性能表现
厂商未公布评测结果,本站也没有收录第三方跑分,只能依据稀疏激活与 4 位量化的通行规律做定性判断。
- 强项稀疏激活叠加 4 位量化,让 35B 级图文模型有机会落进单机单卡或双卡的显存预算,部署门槛低于稠密同规模权重。
- 短板4 位量化通常带来精度损失,heretic 取向微调也可能削弱对敏感请求的拒答,输出稳定性需自行验证。
- 适合离线、可控环境下的自托管推理与二次微调,不适合直接对外提供无过滤的公共服务。
- 验证缺乏跑分参照,选型前应准备自有业务样本,与未量化版本做小规模对照测试再决定。
价格与性价比
结合各平台报价与同类对比官方价格未公开,权重以 Apache-2.0 发布,成本主要落在自建算力与运维上。
- 定位无官方定价,Apache-2.0 允许商用与再分发,实际支出取决于自备 GPU、电费与部署人力。
- 横向对比与未量化的同规模权重相比,NVFP4 版本对显存要求更低,代价是一定程度的精度让步。
- 平台差价本站收录平台数为 0,暂时没有托管 API 报价,无法与云端推理方案做价格横向比较。
- 省钱显存紧张时优先用该量化版本压低硬件门槛,算力充足则改用高精度权重更稳妥。
同类模型对比
4 条| 模型 | 上下文 | 输入价 | 输出价 | 输入价差 | AA 综合 |
|---|---|---|---|---|---|
| Ornith-1.0-35B-AEON-Ultimate-Uncensored-BF16 | — | — | — | 基准 | — |
| Ornith-1.0-35B-AEON-Ultimate-Uncensored-NVFP4 | — | — | — | 基准 | — |
| Gemma-4-E4B-DECKARD-HERETIC-NVFP4 | — | — | — | 基准 | — |
| Gemma-4-E4B-it-Uncensored-NVFP4 | — | — | — | 基准 | — |
取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价
关于 Qwen3.6-35B-A3B-heretic-NVFP4 的常见问题
2 条Qwen3.6-35B-A3B-heretic-NVFP4 的 API 价格是多少?
当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。
Qwen3.6-35B-A3B-heretic-NVFP4 是开源模型吗?
Qwen3.6-35B-A3B-heretic-NVFP4 提供开源权重,可以自行下载部署,许可证为 apache-2.0,HuggingFace 下载量 81,323。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。
使用注意
- 口径能力项厂商未标注、第三方跑分为零,任何效果描述都只能当参考,不能当作性能承诺。
- 边界heretic 类微调可能改变拒答行为,涉及合规与内容安全的场景需自行加评测与后置过滤。
- 硬件NVFP4 依赖特定 GPU 架构与推理框架,较老的显卡或通用环境可能无法直接加载权重。
资料说明
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。
本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。