Llama 3.3 70B Instruct (US)

MODEL PROFILE模型资料

Amazon Bedrock · 2024-12-06 发布 · llama 家族 · 开源权重 · 1 家平台收录

资料长期未更新 返回厂商

Llama 3.3 70B Instruct (US) 是 Amazon Bedrock 上提供的 Llama 系列文本指令模型,面向需要开放权重、128K 上下文和工具调用的企业文本应用,适合在 Bedrock 内做长文档处理与函数式工作流。

模型介绍

Llama 3.3 70B Instruct (US) 属于 Llama 3.3 系列的指令微调模型,于 2024-12-06 发布,在 Amazon Bedrock 上以 US 区域形态提供。它面向文本输入与文本输出场景,核心卖点是开放权重、128K tokens 上下文、4096 tokens 单次最大输出,以及工具调用和温度调节能力。它要解决的问题很具体:在托管平台上获得 Llama 70B 级开放权重模型的文本理解与生成能力,同时把长上下文、外部工具和可控采样参数纳入同一套调用方式。输入与输出同为 0.72 美元/百万 tokens,计费结构简单;知识截止为 2023-12,时效性任务需要外接检索或工具。本站未收录第三方跑分,选型应结合真实业务样本做验证。

选型建议需要开放权重、128K 上下文和工具调用,且能接受文本专用与 4096 tokens 输出上限时选它;追求多模态、超长单次输出或更低单价时不宜作为首选。

Llama开放权重文本模型长上下文工具调用Amazon Bedrock

关键指标

官方输入价$0.72/M
官方输出价$0.72/M
上下文窗口128K
最大输出4.1K
输入模态文本
知识截止2023-12
部署平台数1 家
最后更新2024-12-06

适用场景

  • 构建长文档问答与摘要流程,利用 128K 上下文处理多份材料
  • 编排工具调用,把模型接入查询、计算或业务系统操作
  • 生成客服回复、邮件和产品说明等文本内容,并控制采样温度
  • 用开放权重做私有化部署评估与领域适配试验
  • 在 Amazon Bedrock 上搭建文本分类、信息抽取和对话原型

暂无:许可证、参数规模、缓存读价、缓存写价、推理、结构化输出、附件(上游未公开,本站不估算)。 资料已 705 天没更新,规格与价格可能已变;发布 705 天。

规格与能力

上面没列到的字段

Llama 3.3 70B Instruct (US) 沿用 Llama 系列的指令微调路线,权重开放,具体网络结构细节未在本站事实中展开。

  • 结构采用 Llama 系列指令微调架构,权重开放,便于在受控环境中部署与二次适配;层数、注意力实现等精确结构以官方模型卡为准。
  • 能力支持 128K tokens 上下文、工具调用与温度调节,可把长文档、对话状态和外部函数放入同一调用链。
  • 披露本站未收录训练数据构成、架构图与详细训练方法等资料,公开资料较少的部分不做推断。
开源权重
是
模型家族
llama
能力 工具调用温度调节

同系列其他规格

型号厂商参数上下文输入价输出价
Llama-3.3-70B-Instruct Meta 70B 128K $0.5466/M $1.0226/M
Llama-3.3-70B-Instruct (IONOS) Eden AI — 128K $0.7289/M $0.7289/M
Llama-3.3-70B-Instruct (Arkanecloud) Eden AI — 128K $0.7/M $0.7/M
Llama 3.3 70B Instruct abliterated NanoGPT 70B 32.8K $0.7/M $0.7/M
Llama 3.3 70B NanoGPT — 128K $1.75/M $2.75/M
Llama 3.3 70B Euryale NanoGPT — 20.5K $0.493/M $0.493/M
Llama 3.3 70B Instruct Turbo AI/ML API — 128K $0.7618/M $2.3837/M
Llama 3.3 70B Instruct fp8 Fast Cloudflare Workers AI — 24K $0.293/M $2.253/M

性能表现

本站未收录该模型的第三方跑分,以下仅依据可用配置与限制做定性描述,不给出数值结论。

  • 强项128K 上下文适合长文档问答、检索增强和长对话;工具调用便于把模型接入函数式业务流程,开放权重也利于私有化评估。
  • 短板仅支持文本输入输出,单次最大输出 4096 tokens,长报告或长代码需分段;缺少本站收录的跑分,复杂推理表现需实测。
  • 适合优先用于文本理解、摘要、问答和工具编排;若任务依赖图像、音频或超长单次输出,应评估其他模型。

价格与性价比

结合各平台报价与同类对比

官方价格为输入 0.72 美元/百万 tokens、输出 0.72 美元/百万 tokens,输入输出同价,计费口径直观。

  • 定位在 Bedrock 的 Llama 70B 档位中采用输入输出同价,适合输出长度波动较大的文本任务,成本估算相对简单。
  • 横向对比相对本模型输入价,Llama 3.1 70B 持平,Magistral Small 1.2 低 30.6%,Llama 3.1 8B 低 69.4%,Nova Micro APAC/EU 低约 94%。
  • 平台差价本站仅收录 models.dev 与 models.dev · amazon-bedrock 条目,两者报价一致,暂无跨平台价差可比较。
  • 省钱输出同价让长输出不必按更高单价估算;若业务以短输出、高并发为主,可用更低价小模型做分层路由。

平台报价对比

2 个来源口径
Llama 3.3 70B Instruct (US) 在各来源的输入 / 输出价格(美元 / 百万 tokens)
来源输入价输出价缓存读相对输入价
models.dev $0.72/M$0.72/M—0.0%
models.dev · amazon-bedrock $0.72/M$0.72/M—0.0%

同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.72/M / $0.72/M(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。

同类模型对比

5 条
Llama 3.3 70B Instruct (US) 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Llama 3.1 70B Instruct (US) 128K$0.72/M $0.72/M0.0%—
Llama 3.1 8B Instruct (US) 128K$0.22/M $0.22/M-69.4%—
Magistral Small 1.2 128K$0.5/M $1.5/M-30.6%—
Nova Micro (APAC) 128K$0.037/M $0.148/M-94.9%—
Nova Micro (EU) 128K$0.04/M $0.16/M-94.4%—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 Llama 3.3 70B Instruct (US) 的常见问题

5 条
Llama 3.3 70B Instruct (US) 的 API 价格是多少?

当前收录的官方口径价格为输入 $0.72/M、输出 $0.72/M,单位为美元 / 百万 tokens。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。

Llama 3.3 70B Instruct (US) 支持多长的上下文?

资料显示上下文窗口 128K(128,000 tokens),单次最大输出 4.1K。实际可用长度还取决于调用平台的限制。

Llama 3.3 70B Instruct (US) 是开源模型吗?

Llama 3.3 70B Instruct (US) 提供开源权重,可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

Llama 3.3 70B Instruct (US) 支持哪些能力?

按当前资料,Llama 3.3 70B Instruct (US) 支持工具调用、温度调节。输入输出模态为 文本。

Llama 3.3 70B Instruct (US) 可以在哪些平台调用?

当前资料显示该模型被 1 家 provider 或网关收录。本站核对的数据来源包括 models.dev。收录数量只反映公开目录的部署面,不代表任何一家平台的服务质量。

使用注意

  • 口径本站未收录公开跑分,能力判断只依据上下文长度、最大输出、模态和工具调用等配置,不能替代真实业务测试。
  • 边界知识截止 2023-12,且仅支持文本输入输出;时效性强的信息需外接检索或工具,不能依赖模型内建知识。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。