gemma-3-12b-it-qat-q4_0-unquantized

MODEL PROFILE模型资料

Google · 2025-04-08 发布 · 开源权重

无公开托管渠道 返回厂商

Gemma 3 系列中的 12B 参数开源权重模型,来自 Google,支持文本与图像输入、纯文本输出,面向需要在自有环境内部署多模态理解能力的开发者与团队。

模型介绍

该模型属于 Google Gemma 3 开源模型家族,2025 年 4 月 8 日发布,参数规模 12B,采用 Gemma 许可证开放权重。相比只处理文本的同系列模型,它把图像也纳入输入侧,可读取截图、照片、扫描文档等视觉信息,再以文本作答,因此在私有化部署、垂直领域微调和图文混合理解这几类需求中更有用。命名中的 QAT 与 q4_0 指向量化感知训练路线,说明该版本关注在较低精度下的可用性;后缀 unquantized 与量化标识并列,实际权重形态应以官方仓库说明为准。12B 属于中等参数规模,处于“能力尚可、部署门槛可控”的区间,适合当作业务流水线中的理解环节,而非承担最重的推理任务。官方价格未公开,本站也尚未记录该模型的第三方跑分与托管平台报价,横向比较缺少同口径依据。

选型建议需要可自托管、可微调的图文理解中量级模型时选它;需要托管 API、超长上下文或更强推理能力时,转向 Gemini 系列商用模型更合适。

GoogleGemma 3开源权重多模态输入量化感知训练12B

关键指标

输入模态文本+图片 → 文本
HF 下载量7,706
HF 点赞220

适用场景

  • 在本地或私有云部署图文问答助手,处理截图、表单、产品图的描述与追问
  • 批量抽取票据与扫描文档图片中的关键信息,再交由下游文本流程处理
  • 基于开放权重做领域微调,把图像理解能力收敛到单一垂直业务场景
  • 为离线或弱网环境搭建可运行的多模态推理服务,避免业务数据外传
  • 作为原型阶段的验证模型,先跑通端到端流程,再决定是否换用更大模型

暂无:上下文窗口、最大输出、知识截止、模型家族、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 582 天。

规格与能力

上面没列到的字段

基于 Gemma 3 系列的稠密解码器结构,研究思路与 Gemini 同源,并在输入侧扩展出图像通道。

  • 结构属 Gemma 3 家族的 12B 稠密解码器模型,输入接受文本与图像、输出仅文本,整体沿用该系列的设计路线。
  • 能力原生支持图文混合输入,可完成图片描述、截图问答与文档理解,输出统一为文本,便于接入既有的文本后处理流程。
  • 披露官方未逐条公开网络层与训练细节,命名中的 QAT 与 q4_0 指向量化感知训练,实际权重形态需以官方仓库说明为准。
开源权重
是
许可证
gemma
参数规模
12B
能力 资料未标注

同系列其他规格

型号厂商参数上下文输入价输出价
Gemma 3 12B IT Google 12B 131.1K 免费 免费
Gemma 3 12B AI/ML API — 131K $0.0529/M $0.1587/M
Gemma 3 12B IT (Amazon Bedrock) Eden AI — 128K $0.09/M $0.29/M
gemma-3-12b-it-heretic DreamFast 12B — — —
gemma-3-12b-it-heretic-v2 DreamFast 12B — — —
gemma-3-12b-it-lenientchatfix m8than 12B — — —
gemma-3-12b-it-qat-q4_0-unquantized Lightricks 12B — — —
gemma-3-12b-pt Google 12B — — —

性能表现

本站尚未记录该模型的第三方跑分,以下判断基于参数量级与架构定位,跨模型比较缺少同口径依据。

  • 强项12B 量级在开源权重模型中兼顾多模态理解与部署成本,对截图、表单、产品图这类图像问答适配直接,私有环境可运行。
  • 短板缺少公开跑分支撑,复杂长链推理与超长文档处理不及更大规模模型;上下文长度等规格本站未列出,需查官方模型卡。
  • 适合适合数据不宜外传、又需要图文理解的团队,可放在内部助手或业务流水线中做理解环节,不宜作为顶级推理主力。

价格与性价比

结合各平台报价与同类对比

官方未公开该模型价格,其成本结构与按 token 计费的商用 API 不同,需按自托管方式核算。

  • 定位权重开放获取,成本主要落在推理硬件与运维人力上,不产生按 token 计费的调用账单,前期投入偏重。
  • 横向对比对比中的 Gemini 系列为闭源商用 API,按输入输出 token 计价;本模型为自托管形态,两者价差记为不可比。
  • 平台差价本站记录的可调用平台数为 0,暂无第三方托管报价可对照,实际价格取决于云厂商自行上架时的定价策略。
  • 省钱调用量稳定且已有 GPU 资源时,自托管能在长期摊薄成本;调用量小或缺少运维人力时,商用 API 往往更划算。

同类模型对比

5 条
gemma-3-12b-it-qat-q4_0-unquantized 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Gemini 4 Argon 1.05M$2/M $10/M基准166.4
Gemini 3.8 Flash 1.05M$0.75/M $3.75/M基准158.6
Gemini 3.7 Flash 1.05M$0.75/M $3.75/M基准158.4
Gemini 3.5 Flash 1.05M$1.5/M $9/M基准155.2
Gemini 3.6 Flash 1.05M$0.75/M $3.75/M基准155.2

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 gemma-3-12b-it-qat-q4_0-unquantized 的常见问题

2 条
gemma-3-12b-it-qat-q4_0-unquantized 的 API 价格是多少?

当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。

gemma-3-12b-it-qat-q4_0-unquantized 是开源模型吗?

gemma-3-12b-it-qat-q4_0-unquantized 提供开源权重,可以自行下载部署,许可证为 gemma,HuggingFace 下载量 7,706。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

使用注意

  • 口径本站未记录该模型的公开跑分与榜单成绩,能力描述均为定性判断,具体表现以官方模型卡和实际测试为准。
  • 边界图像仅作输入通道、输出为纯文本,不能生成图片;Gemma 许可证附带使用条款,商用与再分发前需逐条确认。
  • 规格上下文长度、显存占用与推理框架支持情况未在本站数据中列出,部署前应自行确认硬件与量化格式的兼容性。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。