deepinfra/Qwen/Qwen2.5-72B-Instruct

MODEL PROFILE模型资料

deepinfra · 2024-09-19 发布 · 开源权重

已从上游目录移除 返回厂商

Qwen2.5-72B-Instruct 是 Qwen2.5 系列的开源 72B 指令微调模型,经 DeepInfra 提供在线推理,面向需要超长上下文、工具调用与结构化输出的开发者与企业团队。

模型介绍

该模型属于 Qwen2.5 系列,是其中参数规模较大的稠密指令模型,由托管服务商 DeepInfra 提供 API 访问;它解决的是长文档理解与复杂指令执行这一类需求:131072 tokens 的上下文窗口允许把整份合同、技术手册或多轮对话历史一次性输入,而不必先做切片摘要。官方能力标签包括推理、工具调用和结构化输出,意味着它可以直接承担函数调用编排、JSON 字段填充等对输出格式敏感的流程。权重以开源形式发布,但许可证标注为 other,并非标准 OSI 协议,落地前需要核对具体条款。站点未收录该模型的公开跑分,实际效果建议用自有任务做小样本验证后再放量。

选型建议需要 72B 级长上下文加工具调用、并能接受中等输入单价时选它;追求极低 token 成本或需要多模态输入时换别家。

Qwen2.572B长上下文开源权重工具调用结构化输出

关键指标

官方输入价$0.23/M
官方输出价$0.4/M
缓存读 / 写$0.23/M / —
上下文窗口131.1K
输入模态文本
HF 下载量188,911
HF 点赞1,040

适用场景

  • 解析长篇合同或技术手册,抽取条款要点并输出结构化 JSON
  • 为客服与工单系统接入工具调用,串联查询、建单、回填等动作
  • 批量生成多语言产品文案与长文摘要,并控制输出长度以压低成本
  • 搭建需要多轮上下文记忆的内部知识问答或代码解释助手
  • 在数据清洗流程中做字段归一与格式校验,替代规则脚本

暂无:知识截止、模型家族、缓存写价、附件、温度调节(上游未公开,本站不估算)。 本期快照对比中,该条目已从上游目录消失;发布 783 天。

规格与能力

上面没列到的字段

采用 Qwen2.5 系列的稠密解码器结构,72B 参数全量加载、不依赖专家路由,属于该系列中偏重质量而非极致吞吐的一档。

  • 结构沿用 Qwen2.5 系列的稠密 Transformer 解码器设计,72B 参数以全量方式加载,配合 131072 tokens 的上下文窗口,可容纳整本手册级别的长输入。
  • 能力指令微调版本原生支持工具调用与结构化输出,适合把函数签名、JSON 模式直接写进请求,减少外围解析与重试逻辑。
  • 披露权重开放下载但许可证标为 other,与常见的 Apache、MIT 类协议不同,商用分发前需逐条核对;本站暂无其公开跑分可引用。
开源权重
是
许可证
other
参数规模
72B
能力 推理工具调用结构化输出

性能表现

本站未收录可核验的跑分数据,以下判断基于参数规模、上下文窗口与能力标签的定性推断,不宜当作实测结论。

  • 强项72B 稠密规模叠加超长上下文,长文档理解、多轮复杂指令跟随与工具编排是这类模型的常规优势区间。
  • 短板模型体量大,自托管显存门槛与单次推理时延明显高于同系列小参数版本,纯高并发轻任务用它并不划算。
  • 适合一次要吃进长文本、又要求输出稳定 JSON 或函数调用的业务流,比小模型外挂规则后处理更省工程维护成本。

价格与性价比

结合各平台报价与同类对比

官方报价为输入 $0.23/M、输出 $0.4/M,缓存读与输入同价;放在 131.1K 上下文这一档里,不算最便宜的一侧。

  • 定位按 token 计费,输入 $0.23/M、输出 $0.4/M,缓存读与输入同价,长输出型任务的成本主要落在输出侧。
  • 横向对比同为 131.1K 上下文的 Llama-3.3-70B-Instruct-Turbo 输入价比它低约 56.5%,Mistral-Nemo-Instruct-2407 低约 87.4%,只有 gemma-4-31B-it-Ultra 的输入价高出约 17.4%。
  • 平台差价Requesty 报输入 $0.23/M、输出 $0.4/M,与官方价持平;DeepInfra 报输入 $0.36/M、输出 $0.4/M,输入侧高出约 56.5%。
  • 省钱输出单价高于输入单价,且缓存读未低于输入价,复用缓存的收益有限,控制生成长度比扩大缓存更直接有效。

平台报价对比

2 个来源口径
deepinfra/Qwen/Qwen2.5-72B-Instruct 在各来源的输入 / 输出价格(美元 / 百万 tokens)
来源输入价输出价缓存读相对输入价
Requesty $0.23/M$0.4/M$0.23/M0.0%
DeepInfra $0.36/M$0.4/M—+56.5%

同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.23/M / $0.4/M(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。

同类模型对比

5 条
deepinfra/Qwen/Qwen2.5-72B-Instruct 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
inclusionAI/Ling-3.0-flash 131.1K$0.06/M $0.18/M-73.9%—
inclusionAI/Ling-3.0-flash-VL 131.1K$0.06/M $0.18/M-73.9%—
mistralai/Mistral-Nemo-Instruct-2407 131.1K$0.029/M $0.03/M-87.4%—
google/gemma-4-31B-it-Ultra 131.1K$0.27/M $0.76/M+17.4%—
meta-llama/Llama-3.3-70B-Instruct-Turbo 131.1K$0.1/M $0.32/M-56.5%—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 deepinfra/Qwen/Qwen2.5-72B-Instruct 的常见问题

4 条
deepinfra/Qwen/Qwen2.5-72B-Instruct 的 API 价格是多少?

当前收录的官方口径价格为输入 $0.23/M、输出 $0.4/M、缓存读 $0.23/M,单位为美元 / 百万 tokens。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。

deepinfra/Qwen/Qwen2.5-72B-Instruct 支持多长的上下文?

资料显示上下文窗口 131.1K(131,072 tokens)。实际可用长度还取决于调用平台的限制。

deepinfra/Qwen/Qwen2.5-72B-Instruct 是开源模型吗?

deepinfra/Qwen/Qwen2.5-72B-Instruct 提供开源权重,可以自行下载部署,许可证为 other,HuggingFace 下载量 188,911。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

deepinfra/Qwen/Qwen2.5-72B-Instruct 支持哪些能力?

按当前资料,deepinfra/Qwen/Qwen2.5-72B-Instruct 支持推理、工具调用、结构化输出。输入输出模态为 文本。

使用注意

  • 口径本站未收录该模型的第三方跑分与榜单名次,能力标签来自厂商声明,实际表现需按自有任务抽样验证。
  • 边界仅支持文本输入与文本输出,不含图像、音频等模态;许可证标注为 other,商用与再分发条款需单独确认。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。