Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4
MODEL PROFILE模型资料AEON-7 · 2026-06-06 发布 · 开源权重
Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 是 AEON-7 基于 Gemma 4 12B 指令模型改出的纯文本权重,采用 NVFP4 低位宽量化,并弱化拒答行为;它面向需要在自有显卡上部署轻量对话模型、对输出限制较宽松的开发者。
模型介绍
该模型属于 AEON-7 的 Gemma-4 衍生系列。同门还有 BF16 原精度版、26B-A4B 的 MoE 版本、31B 的 DECKARD-HERETIC 版本与 SVDQuant 版本,以及 Ornith-1.0-35B。这一系列的做法是在 Gemma 4 基座上做二次加工:一路压缩精度,一路放宽对齐。12B 这个规模解决的是“单卡可跑”的问题,NVFP4 低位宽格式进一步压低显存占用;Abliterated 后缀则指向拒答行为的弱化,减少模型在创作、角色扮演类请求上的自我拦截。权重于 2026-06-06 发布,采用 gemma 许可证,输入输出都是纯文本。目前本站收录平台数为 0,官方价格未公开,也没有第三方跑分,实际能力只能做定性判断。
选型建议显存紧张、需要宽松输出的本地部署场景可以一试;追求可复现评测、合规审查或长上下文任务的,应等第三方评测或改选其他版本。
关键指标
适用场景
- 在单张消费级显卡上部署本地中文对话助手,处理日常问答与文本改写
- 为内部资料搭建离线摘要与要点提取流程,避免把内容发往外部接口
- 生成营销文案或剧情草稿,利用较宽松的输出边界做发散式头脑风暴
- 作为 BF16 同门模型的显存受限替代,做小样本对照测试
- 搭建批量文本清洗、分类打标等轻量处理流水线
暂无:上下文窗口、最大输出、知识截止、模型家族、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 159 天;最近一次更新时刚收录。
规格与能力
上面没列到的字段主体沿用 Gemma 4 的纯文本 decoder-only Transformer,改动集中在量化格式与对齐层面,厂商没有公开结构细节。
- 结构沿用 Gemma 4 12B 的纯文本 decoder-only 骨架,输入输出均为 text,不含视觉或音频通路。
- 量化名称中的 NVFP4 指向 4 位浮点权重格式,适合在支持该格式的较新加速卡上明显降低显存占用。
- 对齐改动Abliterated 后缀通常表示对拒答行为做了弱化微调,输出边界比原版指令模型更松。
- 披露AEON-7 未公布层数、注意力设计、训练数据与量化校准细节,公开资料较少。
- 开源权重
- 是
- 许可证
- gemma
- 参数规模
- 12B
同系列其他规格
| 型号 | 厂商 | 参数 | 上下文 | 输入价 | 输出价 |
|---|---|---|---|---|---|
| Gemma 4 12B IT | 12B | 131.1K | $0.05/M | $0.25/M | |
| Gemma 4 12B Instruct | NanoGPT | 12B | 131.1K | $0.05/M | $0.25/M |
| Gemma 4 12B Semancer | NanoGPT | — | 131.1K | $0.05/M | $0.25/M |
| Gemma 4 12B Starry Ocean | NanoGPT | — | 131.1K | $0.05/M | $0.25/M |
| Gemma 4 12B StationKeeper | NanoGPT | — | 131.1K | $0.05/M | $0.25/M |
| Gemma-4-12B-OBLITERATED | OBLITERATUS | 12B | — | — | — |
| Gemma-4-12B-it-AEON-Abliterated-K4-BF16 | AEON-7 | 12B | — | — | — |
| Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced | HauhauCS | 12B | — | — | — |
性能表现
本站未收录该模型的任何公开跑分,以下只能是基于基座与量化方式的定性判断。
- 强项12B 指令基座足以支撑通用对话、改写与摘要,4 位量化后显存门槛显著低于 BF16 同门。
- 短板低位宽量化通常在长尾知识、数值推理和长文一致性上出现损失,拒答弱化也可能放大不当输出。
- 适合单卡或小显存本地推理、创意草稿、内部试验;不适合高精度计算与对外合规敏感场景。
- 不确定缺少第三方评测,与 BF16 版本的质量差距无法量化,建议先用小样本做对照。
价格与性价比
结合各平台报价与同类对比官方价格未公开,本站收录平台数为 0,成本结构目前只能从开源权重自建推理的角度估算。
- 定位属于开源权重,没有官方定价,真实开销来自自建推理的显卡、显存与电费。
- 横向对比同门 BF16、26B-A4B、31B 系列同样未公开价格,价差数据为空,无法给出对比结论。
- 平台差价收录平台为 0 家,暂时没有云厂商报价可横向比较,也没有按 token 计费的参照。
- 省钱用 4 位量化版换取更低显存占用,先小样本验证质量,再决定是否回到 BF16 精度。
同类模型对比
5 条| 模型 | 上下文 | 输入价 | 输出价 | 输入价差 | AA 综合 |
|---|---|---|---|---|---|
| Gemma-4-12B-it-AEON-Abliterated-K4-BF16 | — | — | — | 基准 | — |
| Gemma-4-26B-A4B-it-Uncensored-NVFP4 | — | — | — | 基准 | — |
| Gemma-4-31B-it-DECKARD-HERETIC-Uncensored-NVFP4 | — | — | — | 基准 | — |
| Gemma-4-31B-it-DECKARD-HERETIC-Uncensored-NVFP4-SVDQuant | — | — | — | 基准 | — |
| Ornith-1.0-35B-AEON-Ultimate-Uncensored-BF16 | — | — | — | 基准 | — |
取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价
关于 Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 的常见问题
2 条Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 的 API 价格是多少?
当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。
Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 是开源模型吗?
Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 提供开源权重,可以自行下载部署,许可证为 gemma,HuggingFace 下载量 5,374。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。
使用注意
- 口径本站无跑分、无上下文长度、无价格记录,任何性能表述仅作定性参考,不能当作选型依据。
- 边界gemma 许可证沿用 Gemma 条款,商用与再分发需逐条核对,不能按宽松开源许可理解。
- 可用性目前 0 家平台收录,需自行下载权重并搭建推理环境,且要确认硬件支持 NVFP4。
资料说明
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。
本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。