Qwen3.6-35B-A3B-heretic-NVFP4

MODEL PROFILE模型资料

AEON-7 · 2026-04-17 发布 · 开源权重

无公开托管渠道

Qwen3.6-35B-A3B-heretic-NVFP4 是 AEON-7 在 2026 年 4 月发布的开源图文理解模型,沿用 Qwen3.6 系列的 35B 稀疏激活底座,经社区取向微调并做 NVFP4 量化,面向能自备新版 NVIDIA 显卡、希望离线自托管的开发者。

模型介绍

该模型挂在 Qwen3.6 系列名下,发布方标注为 AEON-7,从命名规则看属于社区在既有 Qwen3.6 权重上再加工的版本,而非官方原厂发布。名称里三段信息基本说明了它的取舍:A3B 指向稀疏激活的 MoE 结构,总参数 35B 但单次推理只激活部分专家;heretic 是社区常见的一类取向微调,通常以减少拒答为目标;NVFP4 则是 NVIDIA 的 4 位浮点量化格式。它要解决的问题很实际——把 35B 级别的图文模型压到单机可承载的显存预算内,同时给使用者留出修改拒答行为的空间。输入支持文本与图像,输出只有文本,属于多模态理解而非生成图像。许可证为 Apache-2.0,允许商用与再分发,这对想把它嵌进内部流水线的团队是加分项。需要提醒的是,厂商未标注任何能力项,本站也未收录公开跑分,模型卡信息与实际表现之间需要用自有数据验证。

选型建议需要在本机运行 35B 级图文模型、能接受量化精度损失并自行承担合规责任时选它;想要开箱即用的稳定 API 或严格内容管控则不建议。

开源权重图文理解稀疏激活NVFP4量化社区微调Apache-2.0

关键指标

输入模态文本+图片 → 文本
HF 下载量81,323
HF 点赞74

适用场景

  • 在自建 GPU 服务器上部署图文问答,处理截图、表单、图表类输入的内部知识检索
  • 基于 Apache-2.0 权重做垂直领域继续微调,验证稀疏激活架构在自有数据上的可行性
  • 为显存受限的单机环境搭建离线文档理解与摘要流水线,避免依赖外部 API
  • 对模型拒答行为做红队测试,评估 heretic 取向微调在自家业务中的风险边界

暂无:上下文窗口、最大输出、知识截止、模型家族、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 209 天。

规格与能力

上面没列到的字段

官方未披露结构细节,能确认的信息主要来自命名与权重格式,其余只能做定性判断。

  • 结构名称中的 A3B 指向稀疏激活的 MoE 设计,总参数 35B,推理时只调用部分专家,算力开销低于同参数稠密模型。
  • 量化NVFP4 指 NVIDIA 的 4 位浮点格式,权重体积与显存占用明显低于未量化版本,但需要推理栈与驱动侧支持。
  • 模态输入接受文本与图像,输出仅文本,定位是图文理解,不承担图像生成任务。
  • 披露厂商未标注参数结构、上下文长度等细节,权重仓库说明是唯一可靠来源,本站无补充数据。
开源权重
是
许可证
apache-2.0
参数规模
35B
能力 资料未标注

同系列其他规格

型号厂商参数上下文输入价输出价
Qwen3.6 35B-A3B Alibaba 35B 262.1K $0.375/M $2.25/M
Qwen3.6 35B Neuralwatt — 131.1K $0.29/M $1.15/M
Qwen3.6 35B Flex Neuralwatt — 131.1K $0.1885/M $0.7475/M
Qwen 3.6 35B A3B FP8 NEAR AI Cloud — 262.1K $0.17/M $1.1/M
Qwen3.6 35B Fast Neuralwatt — 131.1K $0.29/M $1.15/M
Qwen3.6-35B-A3B-fp8-no-thinking InferX — 262K 免费 免费
Qwen3.6 35B A3B TEE NanoGPT — 262.1K $0.2/M $1.27/M
Qwen3.6-35B-A3B-DFlash z-lab 35B — — —

性能表现

厂商未公布评测结果,本站也没有收录第三方跑分,只能依据稀疏激活与 4 位量化的通行规律做定性判断。

  • 强项稀疏激活叠加 4 位量化,让 35B 级图文模型有机会落进单机单卡或双卡的显存预算,部署门槛低于稠密同规模权重。
  • 短板4 位量化通常带来精度损失,heretic 取向微调也可能削弱对敏感请求的拒答,输出稳定性需自行验证。
  • 适合离线、可控环境下的自托管推理与二次微调,不适合直接对外提供无过滤的公共服务。
  • 验证缺乏跑分参照,选型前应准备自有业务样本,与未量化版本做小规模对照测试再决定。

价格与性价比

结合各平台报价与同类对比

官方价格未公开,权重以 Apache-2.0 发布,成本主要落在自建算力与运维上。

  • 定位无官方定价,Apache-2.0 允许商用与再分发,实际支出取决于自备 GPU、电费与部署人力。
  • 横向对比与未量化的同规模权重相比,NVFP4 版本对显存要求更低,代价是一定程度的精度让步。
  • 平台差价本站收录平台数为 0,暂时没有托管 API 报价,无法与云端推理方案做价格横向比较。
  • 省钱显存紧张时优先用该量化版本压低硬件门槛,算力充足则改用高精度权重更稳妥。

同类模型对比

4 条
Qwen3.6-35B-A3B-heretic-NVFP4 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Ornith-1.0-35B-AEON-Ultimate-Uncensored-BF16 —— —基准—
Ornith-1.0-35B-AEON-Ultimate-Uncensored-NVFP4 —— —基准—
Gemma-4-E4B-DECKARD-HERETIC-NVFP4 —— —基准—
Gemma-4-E4B-it-Uncensored-NVFP4 —— —基准—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 Qwen3.6-35B-A3B-heretic-NVFP4 的常见问题

2 条
Qwen3.6-35B-A3B-heretic-NVFP4 的 API 价格是多少?

当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。

Qwen3.6-35B-A3B-heretic-NVFP4 是开源模型吗?

Qwen3.6-35B-A3B-heretic-NVFP4 提供开源权重,可以自行下载部署,许可证为 apache-2.0,HuggingFace 下载量 81,323。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

使用注意

  • 口径能力项厂商未标注、第三方跑分为零,任何效果描述都只能当参考,不能当作性能承诺。
  • 边界heretic 类微调可能改变拒答行为,涉及合规与内容安全的场景需自行加评测与后置过滤。
  • 硬件NVFP4 依赖特定 GPU 架构与推理框架,较老的显卡或通用环境可能无法直接加载权重。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。