Gemma 4 31B IT FP8

MODEL PROFILE模型资料

InferX · 2026-04-02 发布 · gemma 家族 · 开源权重 · 1 家平台收录

Gemma 4 31B IT FP8 是 InferX 提供的 gemma 系列开放权重指令微调模型,采用 FP8 量化部署,支持文本与图像输入,具备 26 万级上下文窗口,面向需要长文档理解、工具调用与结构化输出的开发者与中小团队。

模型介绍

该模型属于 gemma 家族,名称中的 IT 表示指令微调版本,FP8 则是面向推理部署的量化精度。它要解决的问题很具体:在单次请求里塞进整份长文档或多张图片,并让模型按要求输出结构化结果。262144 tokens 的上下文窗口配合 32768 tokens 的单次最大输出,意味着它可以先读完再写长,而不是分段拼接。输入侧同时接受文本与图像,输出侧只产出文本,适合做理解与生成,不适合图像生成类需求。能力清单覆盖推理、工具调用、结构化输出、附件输入与温度调节,基本对齐当前 Agent 与批处理管线对模型接口的常见要求。知识截止时间为 2025-01,此后的事实需要靠检索或工具补充。权重开放,可按许可自行部署;InferX 提供的则是 FP8 量化托管版本。官方价格输入输出均为免费,准入门槛低,但本站未收录任何公开跑分,实际效果需要用自己的样本验证。同平台还有多款 26 万级上下文的免费模型并列,选型更应看任务匹配度而非价格。

选型建议需要在免费档内获得长上下文加图像输入、且依赖工具调用与结构化输出的项目值得优先试它;若要求公开跑分背书或更强的高并发吞吐,则不必选它。

gemma开放权重多模态输入长上下文FP8工具调用免费

关键指标

官方输入价免费
官方输出价免费
上下文窗口262.1K
最大输出32.8K
输入模态文本+图片 → 文本
知识截止2025-01
部署平台数1 家
最后更新2026-04-02

适用场景

  • 解析带图表的长 PDF 或截图,抽取关键字段并按指定 JSON 结构返回
  • 通读整份合同或研报,生成分层摘要与风险点清单
  • 接入函数调用,把自然语言指令转换为内部 API 的调用参数
  • 在 Agent 流程中承担多轮工具编排与中间结果校验
  • 借助温度调节对同一提示批量生成风格不同的文案草稿

暂无:许可证、参数规模、缓存读价、缓存写价(上游未公开,本站不估算)。 资料更新于 223 天前;发布 223 天。

规格与能力

上面没列到的字段

gemma 系列走开放权重路线,31B 属于该家族中偏大的稠密规格,InferX 提供的是 FP8 量化托管版本,公开的架构细节披露有限。

  • 结构沿用 gemma 的稠密 Transformer 解码器路线,31B 参数量级,权重开放,可自行校验或另择环境部署,FP8 用于压缩显存与提升推理吞吐。
  • 能力原生接受文本与图像输入,只输出文本,配合工具调用、结构化输出与温度调节,可直接嵌入 Agent 编排与批量抽取流程。
  • 披露本站未收录该模型的公开跑分,量化带来的精度变化缺少中立数据佐证,架构层面的细节应以官方模型卡与许可条款为准。
开源权重
是
模型家族
gemma
能力 推理工具调用结构化输出附件温度调节

同系列其他规格

型号厂商参数上下文输入价输出价
Gemma 4 31B Neuralwatt 31B 262.1K $0.144/M $0.42/M
Gemma-4-31B-IT Google 31B 256K 免费 免费
Gemma 4 31B Thinking TEE NanoGPT — 262.1K $0.12/M $0.37/M
gemma 4 31B turbo TEE Chutes — 131.1K $0.12/M $0.37/M
Gemma 4 31B Claude 4.6 Opus Reasoning Distilled NanoGPT — 262.1K $0.306/M $0.306/M
Gemma 4 31B IT TEE NanoGPT — 262.1K $0.15/M $0.46/M
Gemma 4 31B Cognitive Unshackled NanoGPT — 262.1K $0.306/M $0.306/M
Gemma 4 31B DarkIdol NanoGPT — 262.1K $0.306/M $0.306/M

性能表现

缺少第三方跑分,只能依据上下文、输出上限与能力清单做定性判断,真实表现需用自有样本实测。

  • 强项262144 tokens 上下文与 32768 tokens 单次输出,适合整份合同、研报、代码库文件的一次性读取与成篇生成,不必频繁切分。
  • 短板31B 稠密结构在 FP8 下的显存占用与并发吞吐仍高于同平台的小尺寸或稀疏结构模型,高并发长上下文请求时资源压力更明显。
  • 适合图像加长文本联合理解的场景,例如截图、票据、带图表 PDF 的信息抽取,并要求以 JSON 等结构化形式稳定返回。
  • 对比与同平台 27B、35B 级模型同处免费档,选择时更应关注上下文利用率、结构化输出的稳定性与图像理解质量。

价格与性价比

结合各平台报价与同类对比

官方标价为输入与输出均为 0 美元每百万 tokens,落在平台的免费档,价格本身不构成选型门槛。

  • 定位输入与输出双向免费,属于获取门槛最低的一档,适合在效果未验证阶段低成本试跑长上下文与图像理解任务。
  • 横向对比同平台的 Qwen3.6 27B、Ornith-1.0-35B、Agents-A1 等报价同样免费,定价无法区分优劣,选型要回到能力匹配。
  • 平台差价本站仅收录 1 家平台的两个报价条目,且均为免费,暂无跨平台价差可以比较,迁移成本主要来自接口适配。
  • 省钱把高频的长文档摘要、图像字段抽取放在这一档验证,确认稳定后再决定是否投入工程改造或迁移到其他模型。

平台报价对比

2 个来源口径
Gemma 4 31B IT FP8 在各来源的输入 / 输出价格(美元 / 百万 tokens)
来源输入价输出价缓存读相对输入价
models.dev 免费免费—基准
models.dev · inferx 免费免费—基准

同一个模型在不同网关的报价可能不同。本页基准取官方口径 免费 / 免费(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。

同类模型对比

5 条
Gemma 4 31B IT FP8 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Qwen3.6 27B FP8 262.1K免费 免费基准—
Ornith-1.0-35B-FP8 262K免费 免费基准—
Qwen3.6-35B-A3B-fp8-no-thinking 262K免费 免费基准—
Agents-A1 262K免费 免费基准—
Qwen3-Coder-Next-FP8-no-thinking 260K免费 免费基准—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 Gemma 4 31B IT FP8 的常见问题

5 条
Gemma 4 31B IT FP8 的 API 价格是多少?

当前收录的资料把该模型标为免费(输入与输出价格均为 0)。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。

Gemma 4 31B IT FP8 支持多长的上下文?

资料显示上下文窗口 262.1K(262,144 tokens),单次最大输出 32.8K。实际可用长度还取决于调用平台的限制。

Gemma 4 31B IT FP8 是开源模型吗?

Gemma 4 31B IT FP8 提供开源权重,可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

Gemma 4 31B IT FP8 支持哪些能力?

按当前资料,Gemma 4 31B IT FP8 支持推理、工具调用、结构化输出、附件、温度调节。输入输出模态为 文本+图片 → 文本。

Gemma 4 31B IT FP8 可以在哪些平台调用?

当前资料显示该模型被 1 家 provider 或网关收录。本站核对的数据来源包括 models.dev。收录数量只反映公开目录的部署面,不代表任何一家平台的服务质量。

使用注意

  • 口径没有任何第三方跑分与榜单数据可供引用,任何性能结论都应以自有业务样本的实测结果为准,谨慎对待宣传式描述。
  • 边界知识截止 2025-01,之后的事实需依赖检索与工具补齐;单次输出上限 32768 tokens,超长产出必须分段续写。
  • 授权权重虽开放,FP8 量化版本的具体许可与商用条件仍需回查官方说明,二次分发前应确认条款。
  • 供给仅 1 家平台收录,免费策略与速率配额以平台条款为准,存在调整或限流的可能,不宜作为唯一依赖。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。