GPT OSS 120B High Throughput
MODEL PROFILE模型资料Clarifai · 2025-08-05 发布 · gpt-oss 家族 · 开源权重 · 1 家平台收录
资料长期未更新
返回厂商
GPT OSS 120B High Throughput 是 Clarifai 平台上架的 gpt-oss 系列 120B 级开放权重模型的高吞吐端点，面向需要长上下文、可调温度与工具调用的文本推理类业务，尤其是对单位 token 成本敏感的批量调用场景。
模型介绍
该模型属于 gpt-oss 家族，权重开放，2025-08-05 由 Clarifai 提供上架版本，命名中的 High Throughput 指向以吞吐为优先的部署形态，而非另一个独立训练的基础模型。它解决的是「大参数量开放权重模型在托管环境下怎么用得起、跑得动」的问题：131072 tokens 的上下文窗口可以容纳较长的文档、对话历史或工具返回结果，单次最多输出 16384 tokens，足以支撑分段长文生成与多步推理链路。能力面覆盖推理、工具调用与温度调节，适合接入检索增强、函数调用和需要稳定可控输出风格的流水线。输入输出均为纯文本，不涉及图像或音频。官方定价为输入 0.09 美元/百万 tokens、输出 0.36 美元/百万 tokens，输出单价约为输入的四倍，这一结构决定了成本优化的重点在输出侧。知识截止时间为 2024-06，涉及更晚事实的问题需依赖外部检索补充。目前暂无公开跑分数据可供横向验证，选型时更适合以自有业务样本做小规模压测，再决定是否放量。
选型建议预算敏感、以文本长输入和工具调用为主、且能接受无公开跑分背书的场景可选它；需要多模态、超长单次输出或强时效知识时不宜作为主力。
关键指标
适用场景
- 批量处理合同、报告等长文档的摘要与要点抽取，充分利用 131K 上下文减少切片
- 搭建带工具调用的问答助手，把检索结果与函数返回拼入上下文后统一推理
- 对工单、评论、问卷做分类与结构化字段填充，靠低输入价压低单条处理成本
- 在代码或配置审查流程中做多步推理与问题定位，输出控制在中等长度以保证响应速度
- 为内部知识库做离线批处理生成，用高吞吐端点缩短夜间任务的整体耗时
暂无：许可证、参数规模、缓存读价、缓存写价、结构化输出、附件（上游未公开，本站不估算）。 资料已 463 天没更新，规格与价格可能已变；发布 463 天。
规格与能力
上面没列到的字段沿用 gpt-oss 系列的开放权重路线，采用混合专家（MoE）稀疏结构，在保持较大参数规模的同时控制单次推理的算力开销；具体层数、专家数与激活参数官方未在给定资料中披露。
- 结构属 gpt-oss 家族的 120B 级 MoE 模型，权重开放，可由托管方自行部署；High Throughput 是该权重在 Clarifai 上的吞吐优先端点形态。
- 能力支持推理、工具调用与温度调节，配合 131072 tokens 上下文与 16384 tokens 单次输出上限，可承载多轮工具链与长文档处理。
- 披露给定资料未给出层数、专家数量、激活参数量等结构细节，参数量以外的架构规格公开资料较少，不宜据此推断具体实现。
- 开源权重
- 是
- 模型家族
- gpt-oss
能力
推理工具调用温度调节
同系列其他规格
| 型号 | 厂商 | 参数 | 上下文 | 输入价 | 输出价 |
|---|---|---|---|---|---|
| GPT OSS 120B | OpenAI | 120B | 131.1K | $0.178/M | $0.68/M |
| GPT OSS 120B (Databricks) | Eden AI | — | 131.1K | $0.15/M | $0.6/M |
| GPT OSS 120B (Fireworks AI) | Eden AI | — | 131.1K | $0.15/M | $0.6/M |
| GPT OSS 120B (Groq) | Eden AI | — | 131.1K | $0.15/M | $0.6/M |
| gpt-oss-120b (GovCloud) | Amazon Bedrock | — | 128K | $0.18/M | $0.72/M |
| GPT OSS 120B (Cloudflare) | Eden AI | — | 128K | $0.35/M | $0.75/M |
| GPT-OSS 120B TEE | NanoGPT | — | 131.1K | $0.15/M | $0.6/M |
| GPT-OSS-120B-CS | Poe | — | 128K | $0.3535/M | $0.7576/M |
性能表现
缺乏公开跑分，能力判断只能基于家族定位与参数面：推理与工具调用是设计重点，绝对水平需以业务样本实测确认。
- 强项推理、工具调用与温度调节三项能力齐备，131K 上下文在同价位区间属于较宽裕的一档，适合多步任务与长输入检索增强。
- 短板暂无第三方跑分可佐证实际水平，且为纯文本模型；知识截止 2024-06，对时效性问题需要外部信息兜底。
- 输出约束单次最多输出 16384 tokens，超长生成需分段拼接，长文场景要额外设计续写与一致性校验环节。
- 适合批量文本处理、结构化抽取、工具编排等对成本与吞吐敏感、对极限推理深度要求不极端的任务。
价格与性价比
结合各平台报价与同类对比输入 0.09 美元/百万 tokens、输出 0.36 美元/百万 tokens，在同页对比的模型中处于偏低区间，成本优势主要来自输入侧。
- 定位输出单价为输入的四倍，成本结构偏向「重输入、轻输出」的任务，长文档理解与分类比长文创作更划算。
- 横向对比Trinity Mini 输入价低 50%，是最直接的低价替代；OpenAI 上的 gpt-oss-120b 输入价高 97.8%，同权重换平台价差明显。
- 高位参照MiniMax-M2.5 High Throughput 输入价高 233.3%，Ministral 3 系列高出 1054.4% 至 2677.8%，上下文更长但单价不在同一量级。
- 平台差价仅在 Clarifai 一处上架，两条报价记录价格一致，无缓存读折扣，缺少跨平台比价空间与议价余地。
- 省钱压缩提示词与检索片段以降低输入量，限制最大输出 tokens 并避免冗长复述，是控制账单最直接的两个手段。
平台报价对比
2 个来源口径| 来源 | 输入价 | 输出价 | 缓存读 | 相对输入价 |
|---|---|---|---|---|
| models.dev | $0.09/M | $0.36/M | — | 0.0% |
| models.dev · clarifai | $0.09/M | $0.36/M | — | 0.0% |
同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.09/M / $0.36/M（输入 / 输出，美元 / 百万 tokens），其余来源的差价在「相对输入价」列列出，供比价参考。
同类模型对比
5 条| 模型 | 上下文 | 输入价 | 输出价 | 输入价差 | AA 综合 |
|---|---|---|---|---|---|
| Trinity Mini | 131.1K | $0.045/M | $0.15/M | -50.0% | — |
| MiniMax-M2.5 High Throughput | 204.8K | $0.3/M | $1.2/M | +233.3% | — |
| Ministral 3 14B Reasoning 2512 | 262.1K | $2.5/M | $1.7/M | +2677.8% | — |
| Ministral 3 3B Reasoning 2512 | 262.1K | $1.039/M | $0.5483/M | +1054.4% | — |
| GPT OSS 120BOpenAI | 131.1K | $0.178/M | $0.68/M | +97.8% | 140.2 |
取上下文相近（约 0.5~2 倍）的同类主流模型；同厂商、同家族优先；价格差为相对本模型的输入价
关于 GPT OSS 120B High Throughput 的常见问题
5 条GPT OSS 120B High Throughput 的 API 价格是多少？
当前收录的官方口径价格为输入 $0.09/M、输出 $0.36/M，单位为美元 / 百万 tokens。不同网关可能有自己的加价与折扣，实际计费以调用平台为准。
GPT OSS 120B High Throughput 支持多长的上下文？
资料显示上下文窗口 131.1K（131,072 tokens），单次最大输出 16.4K。实际可用长度还取决于调用平台的限制。
GPT OSS 120B High Throughput 是开源模型吗？
GPT OSS 120B High Throughput 提供开源权重，可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价，自部署不计入。
GPT OSS 120B High Throughput 支持哪些能力？
按当前资料，GPT OSS 120B High Throughput 支持推理、工具调用、温度调节。输入输出模态为 文本。
GPT OSS 120B High Throughput 可以在哪些平台调用？
当前资料显示该模型被 1 家 provider 或网关收录。本站核对的数据来源包括 models.dev。收录数量只反映公开目录的部署面，不代表任何一家平台的服务质量。
使用注意
- 口径无第三方跑分，对比表中的 AA 列均为「—」，任何能力结论都缺少统一评测背书，只能以自建测试集验证。
- 时效知识截止 2024-06，涉及更晚发生的事件、版本或价格的问题，必须依赖检索或外部数据注入。
- 边界仅支持文本输入输出，不支持图像与音频；单次输出上限 16384 tokens，超长内容需分段处理。
- 供应仅 1 家平台提供，端点可用性与配额受单一供应商约束，缺少故障时的同价备份方案。
资料说明
本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并， 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens，为各平台对 API 调用的报价，不含自部署成本。 资料由公开来源整理，不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。
本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理，部分未经本站逐项核实；规格、价格与跑分以本页数据字段为准。
本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并，冲突时取优先级高的来源；价格单位为美元 / 百万 tokens。
