deepinfra/Qwen/Qwen2.5-72B-Instruct
MODEL PROFILE模型资料deepinfra · 2024-09-19 发布 · 开源权重
Qwen2.5-72B-Instruct 是 Qwen2.5 系列的开源 72B 指令微调模型,经 DeepInfra 提供在线推理,面向需要超长上下文、工具调用与结构化输出的开发者与企业团队。
模型介绍
该模型属于 Qwen2.5 系列,是其中参数规模较大的稠密指令模型,由托管服务商 DeepInfra 提供 API 访问;它解决的是长文档理解与复杂指令执行这一类需求:131072 tokens 的上下文窗口允许把整份合同、技术手册或多轮对话历史一次性输入,而不必先做切片摘要。官方能力标签包括推理、工具调用和结构化输出,意味着它可以直接承担函数调用编排、JSON 字段填充等对输出格式敏感的流程。权重以开源形式发布,但许可证标注为 other,并非标准 OSI 协议,落地前需要核对具体条款。站点未收录该模型的公开跑分,实际效果建议用自有任务做小样本验证后再放量。
选型建议需要 72B 级长上下文加工具调用、并能接受中等输入单价时选它;追求极低 token 成本或需要多模态输入时换别家。
关键指标
适用场景
- 解析长篇合同或技术手册,抽取条款要点并输出结构化 JSON
- 为客服与工单系统接入工具调用,串联查询、建单、回填等动作
- 批量生成多语言产品文案与长文摘要,并控制输出长度以压低成本
- 搭建需要多轮上下文记忆的内部知识问答或代码解释助手
- 在数据清洗流程中做字段归一与格式校验,替代规则脚本
暂无:知识截止、模型家族、缓存写价、附件、温度调节(上游未公开,本站不估算)。 本期快照对比中,该条目已从上游目录消失;发布 783 天。
规格与能力
上面没列到的字段采用 Qwen2.5 系列的稠密解码器结构,72B 参数全量加载、不依赖专家路由,属于该系列中偏重质量而非极致吞吐的一档。
- 结构沿用 Qwen2.5 系列的稠密 Transformer 解码器设计,72B 参数以全量方式加载,配合 131072 tokens 的上下文窗口,可容纳整本手册级别的长输入。
- 能力指令微调版本原生支持工具调用与结构化输出,适合把函数签名、JSON 模式直接写进请求,减少外围解析与重试逻辑。
- 披露权重开放下载但许可证标为 other,与常见的 Apache、MIT 类协议不同,商用分发前需逐条核对;本站暂无其公开跑分可引用。
- 开源权重
- 是
- 许可证
- other
- 参数规模
- 72B
性能表现
本站未收录可核验的跑分数据,以下判断基于参数规模、上下文窗口与能力标签的定性推断,不宜当作实测结论。
- 强项72B 稠密规模叠加超长上下文,长文档理解、多轮复杂指令跟随与工具编排是这类模型的常规优势区间。
- 短板模型体量大,自托管显存门槛与单次推理时延明显高于同系列小参数版本,纯高并发轻任务用它并不划算。
- 适合一次要吃进长文本、又要求输出稳定 JSON 或函数调用的业务流,比小模型外挂规则后处理更省工程维护成本。
价格与性价比
结合各平台报价与同类对比官方报价为输入 $0.23/M、输出 $0.4/M,缓存读与输入同价;放在 131.1K 上下文这一档里,不算最便宜的一侧。
- 定位按 token 计费,输入 $0.23/M、输出 $0.4/M,缓存读与输入同价,长输出型任务的成本主要落在输出侧。
- 横向对比同为 131.1K 上下文的 Llama-3.3-70B-Instruct-Turbo 输入价比它低约 56.5%,Mistral-Nemo-Instruct-2407 低约 87.4%,只有 gemma-4-31B-it-Ultra 的输入价高出约 17.4%。
- 平台差价Requesty 报输入 $0.23/M、输出 $0.4/M,与官方价持平;DeepInfra 报输入 $0.36/M、输出 $0.4/M,输入侧高出约 56.5%。
- 省钱输出单价高于输入单价,且缓存读未低于输入价,复用缓存的收益有限,控制生成长度比扩大缓存更直接有效。
平台报价对比
2 个来源口径| 来源 | 输入价 | 输出价 | 缓存读 | 相对输入价 |
|---|---|---|---|---|
| Requesty | $0.23/M | $0.4/M | $0.23/M | 0.0% |
| DeepInfra | $0.36/M | $0.4/M | — | +56.5% |
同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.23/M / $0.4/M(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。
同类模型对比
5 条| 模型 | 上下文 | 输入价 | 输出价 | 输入价差 | AA 综合 |
|---|---|---|---|---|---|
| inclusionAI/Ling-3.0-flash | 131.1K | $0.06/M | $0.18/M | -73.9% | — |
| inclusionAI/Ling-3.0-flash-VL | 131.1K | $0.06/M | $0.18/M | -73.9% | — |
| mistralai/Mistral-Nemo-Instruct-2407 | 131.1K | $0.029/M | $0.03/M | -87.4% | — |
| google/gemma-4-31B-it-Ultra | 131.1K | $0.27/M | $0.76/M | +17.4% | — |
| meta-llama/Llama-3.3-70B-Instruct-Turbo | 131.1K | $0.1/M | $0.32/M | -56.5% | — |
取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价
关于 deepinfra/Qwen/Qwen2.5-72B-Instruct 的常见问题
4 条deepinfra/Qwen/Qwen2.5-72B-Instruct 的 API 价格是多少?
当前收录的官方口径价格为输入 $0.23/M、输出 $0.4/M、缓存读 $0.23/M,单位为美元 / 百万 tokens。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。
deepinfra/Qwen/Qwen2.5-72B-Instruct 支持多长的上下文?
资料显示上下文窗口 131.1K(131,072 tokens)。实际可用长度还取决于调用平台的限制。
deepinfra/Qwen/Qwen2.5-72B-Instruct 是开源模型吗?
deepinfra/Qwen/Qwen2.5-72B-Instruct 提供开源权重,可以自行下载部署,许可证为 other,HuggingFace 下载量 188,911。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。
deepinfra/Qwen/Qwen2.5-72B-Instruct 支持哪些能力?
按当前资料,deepinfra/Qwen/Qwen2.5-72B-Instruct 支持推理、工具调用、结构化输出。输入输出模态为 文本。
使用注意
- 口径本站未收录该模型的第三方跑分与榜单名次,能力标签来自厂商声明,实际表现需按自有任务抽样验证。
- 边界仅支持文本输入与文本输出,不含图像、音频等模态;许可证标注为 other,商用与再分发条款需单独确认。
资料说明
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。
本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。