Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4

MODEL PROFILE模型资料

AEON-7 · 2026-06-06 发布 · 开源权重

无公开托管渠道

Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 是 AEON-7 基于 Gemma 4 12B 指令模型改出的纯文本权重,采用 NVFP4 低位宽量化,并弱化拒答行为;它面向需要在自有显卡上部署轻量对话模型、对输出限制较宽松的开发者。

模型介绍

该模型属于 AEON-7 的 Gemma-4 衍生系列。同门还有 BF16 原精度版、26B-A4B 的 MoE 版本、31B 的 DECKARD-HERETIC 版本与 SVDQuant 版本,以及 Ornith-1.0-35B。这一系列的做法是在 Gemma 4 基座上做二次加工:一路压缩精度,一路放宽对齐。12B 这个规模解决的是“单卡可跑”的问题,NVFP4 低位宽格式进一步压低显存占用;Abliterated 后缀则指向拒答行为的弱化,减少模型在创作、角色扮演类请求上的自我拦截。权重于 2026-06-06 发布,采用 gemma 许可证,输入输出都是纯文本。目前本站收录平台数为 0,官方价格未公开,也没有第三方跑分,实际能力只能做定性判断。

选型建议显存紧张、需要宽松输出的本地部署场景可以一试;追求可复现评测、合规审查或长上下文任务的,应等第三方评测或改选其他版本。

Gemma 412BNVFP4 量化开源权重文本生成AEON-7

关键指标

输入模态文本
HF 下载量5,374
HF 点赞1

适用场景

  • 在单张消费级显卡上部署本地中文对话助手,处理日常问答与文本改写
  • 为内部资料搭建离线摘要与要点提取流程,避免把内容发往外部接口
  • 生成营销文案或剧情草稿,利用较宽松的输出边界做发散式头脑风暴
  • 作为 BF16 同门模型的显存受限替代,做小样本对照测试
  • 搭建批量文本清洗、分类打标等轻量处理流水线

暂无:上下文窗口、最大输出、知识截止、模型家族、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 159 天;最近一次更新时刚收录。

规格与能力

上面没列到的字段

主体沿用 Gemma 4 的纯文本 decoder-only Transformer,改动集中在量化格式与对齐层面,厂商没有公开结构细节。

  • 结构沿用 Gemma 4 12B 的纯文本 decoder-only 骨架,输入输出均为 text,不含视觉或音频通路。
  • 量化名称中的 NVFP4 指向 4 位浮点权重格式,适合在支持该格式的较新加速卡上明显降低显存占用。
  • 对齐改动Abliterated 后缀通常表示对拒答行为做了弱化微调,输出边界比原版指令模型更松。
  • 披露AEON-7 未公布层数、注意力设计、训练数据与量化校准细节,公开资料较少。
开源权重
是
许可证
gemma
参数规模
12B
能力 资料未标注

同系列其他规格

型号厂商参数上下文输入价输出价
Gemma 4 12B IT Google 12B 131.1K $0.05/M $0.25/M
Gemma 4 12B Instruct NanoGPT 12B 131.1K $0.05/M $0.25/M
Gemma 4 12B Semancer NanoGPT — 131.1K $0.05/M $0.25/M
Gemma 4 12B Starry Ocean NanoGPT — 131.1K $0.05/M $0.25/M
Gemma 4 12B StationKeeper NanoGPT — 131.1K $0.05/M $0.25/M
Gemma-4-12B-OBLITERATED OBLITERATUS 12B — — —
Gemma-4-12B-it-AEON-Abliterated-K4-BF16 AEON-7 12B — — —
Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced HauhauCS 12B — — —

性能表现

本站未收录该模型的任何公开跑分,以下只能是基于基座与量化方式的定性判断。

  • 强项12B 指令基座足以支撑通用对话、改写与摘要,4 位量化后显存门槛显著低于 BF16 同门。
  • 短板低位宽量化通常在长尾知识、数值推理和长文一致性上出现损失,拒答弱化也可能放大不当输出。
  • 适合单卡或小显存本地推理、创意草稿、内部试验;不适合高精度计算与对外合规敏感场景。
  • 不确定缺少第三方评测,与 BF16 版本的质量差距无法量化,建议先用小样本做对照。

价格与性价比

结合各平台报价与同类对比

官方价格未公开,本站收录平台数为 0,成本结构目前只能从开源权重自建推理的角度估算。

  • 定位属于开源权重,没有官方定价,真实开销来自自建推理的显卡、显存与电费。
  • 横向对比同门 BF16、26B-A4B、31B 系列同样未公开价格,价差数据为空,无法给出对比结论。
  • 平台差价收录平台为 0 家,暂时没有云厂商报价可横向比较,也没有按 token 计费的参照。
  • 省钱用 4 位量化版换取更低显存占用,先小样本验证质量,再决定是否回到 BF16 精度。

同类模型对比

5 条
Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Gemma-4-12B-it-AEON-Abliterated-K4-BF16 —— —基准—
Gemma-4-26B-A4B-it-Uncensored-NVFP4 —— —基准—
Gemma-4-31B-it-DECKARD-HERETIC-Uncensored-NVFP4 —— —基准—
Gemma-4-31B-it-DECKARD-HERETIC-Uncensored-NVFP4-SVDQuant —— —基准—
Ornith-1.0-35B-AEON-Ultimate-Uncensored-BF16 —— —基准—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 的常见问题

2 条
Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 的 API 价格是多少?

当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。

Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 是开源模型吗?

Gemma-4-12B-it-AEON-Abliterated-K4-NVFP4 提供开源权重,可以自行下载部署,许可证为 gemma,HuggingFace 下载量 5,374。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

使用注意

  • 口径本站无跑分、无上下文长度、无价格记录,任何性能表述仅作定性参考,不能当作选型依据。
  • 边界gemma 许可证沿用 Gemma 条款,商用与再分发需逐条核对,不能按宽松开源许可理解。
  • 可用性目前 0 家平台收录,需自行下载权重并搭建推理环境,且要确认硬件支持 NVFP4。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。