Llama 3.1 Nemotron 70B Instruct (Deep Infra)

该模型属于 nemotron 家族，2025 年 4 月 15 日发布，权重公开可下载，本站记录由 Eden AI 平台上架，后端标注为 Deep Infra。它要解决的是「长文本 + 指令跟随 + 外部工具」三件事同时出现时的调用问题：131072 tokens 的上下文窗口可以整篇放入合同、研报、代码库说明等材料，不必先切片；工具调用能力让模型在对话中触发外部函数，温度调节则给输出稳定性留出调整余地。输入输出均为文本，单次最多生成 8192 tokens，因此更适合分段产出而非一次性长文写作。相对同页对比的 MoE 与轻量模型，它走的是稠密 70B 路线，能力与成本都处在中间位置。

选型建议需要长上下文、工具调用、且输出量与输入量相当的纯文本任务可以选它；若更看重低输入价、多模态或超长单次输出，应优先比对同页其他模型。

• 接入客服或工单系统，通过工具调用查询订单状态并生成回复
• 处理合同、财报等长文档，做条款抽取、要点归纳与问答
• 搭建批量文本分类与信息抽取流水线，用温度调节控制输出稳定度
• 将开源权重部署在自有环境，处理不宜外发的敏感文本
• 在 Agent 流程中承担意图判断与函数调度角色

整体沿用 Llama 3.1 70B 的稠密解码器结构，经指令微调后用于对话与任务执行，不涉及多模态分支。

• 结构基于 Llama 3.1 70B 做指令微调，标准自回归文本生成路径，权重开源可自托管部署。
• 能力原生支持工具调用与温度调节，便于嵌入需要外部函数和稳定输出的工作流。
• 披露训练数据配比、微调细节等未见本站记录，公开资料较少，结构层判断以家族通例为准。

开源权重

是

模型家族

nemotron

本站未收录该模型的第三方跑分，能力判断只能依据上下文窗口、输出上限与模态这些结构参数，结合家族公开认知做定性描述。

• 强项131072 tokens 上下文能一次容纳长文档与多轮对话，指令跟随和工具调用是 Nemotron 系列的主要卖点。
• 短板纯文本模态，单次输出上限 8192 tokens，长报告需分段续写；缺少跑分佐证，能力边界只能靠实测确认。
• 适合以文本理解、结构化抽取、函数调用为主的在线服务，不适合图像处理或超长一次性生成。

官方报价输入与输出同为 0.6 美元/百万 tokens，输出侧不溢价，计价结构简单。

• 定位输入输出同价，生成量大、输入量小的任务不会被输出费用反噬，成本更容易预估。
• 横向对比同页 GPT OSS 120B 输入价低 75%，Muse Glimmer 30B 输入低 50% 但输出价翻倍，需按输入输出比例算账。
• 平台差价本站仅记录 models.dev 与 edenai 两处报价且完全一致，暂无跨平台价差可利用。
• 省钱记录中未提供缓存读价格，重复前缀无法折价，宜在提示词层做去重并合并调用。

同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.6/M / $0.6/M（输入 / 输出，美元 / 百万 tokens），其余来源的差价在「相对输入价」列列出，供比价参考。

取上下文相近（约 0.5~2 倍）的同类主流模型；同厂商、同家族优先；价格差为相对本模型的输入价

• 口径本站未收录任何公开跑分，能力比较只能停留在上下文、价格、模态等结构参数，不能替代真实评测。
• 边界单一平台来源、纯文本输入输出、8192 tokens 输出上限，决定它不适合多模态与超长单次生成场景。

本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并， 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens，为各平台对 API 调用的报价，不含自部署成本。 资料由公开来源整理，不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理，部分未经本站逐项核实；规格、价格与跑分以本页数据字段为准。