Llama 3.3 70B

MODEL PROFILE模型资料

NanoGPT · 2024-12-06 发布 · llama 家族 · 开源权重 · 6 家平台收录

资料长期未更新 返回厂商

Llama 3.3 70B 是 NanoGPT 于 2024-12-06 发布的开源模型。资料显示上下文窗口 128K、单次最大输出 16.4K、模态为 文本。官方口径价格:输入 $1.75/M、输出 $2.75/M、缓存读 $1.75/M(美元 / 百万 tokens)。能力上支持温度调节。目前有 6 家 provider 或网关收录该模型。

关键指标

官方输入价$1.75/M
官方输出价$2.75/M
缓存读 / 写$1.75/M / —
上下文窗口128K
最大输出16.4K
输入模态文本
知识截止2023-12
生成速度—
首字延迟 TTFT—
部署平台数6 家
AA 综合指数—
最后更新2024-12-06
快速信息
厂商
NanoGPT
发布日期
2024-12-06
部署平台
6 家
中转站收录
—
资料完整度
61%(11/18 项)
生命周期
资料长期未更新

暂无:许可证、参数规模、缓存写价、推理、工具调用、结构化输出、附件(上游未公开,本站不估算)。 资料已 691 天没更新,规格与价格可能已变;发布 691 天。

规格与能力

上面没列到的字段
开源权重
是
模型家族
llama
许可证
—
参数规模
—
能力 温度调节

平台报价对比

7 个来源口径
Llama 3.3 70B 在各来源的输入 / 输出价格(美元 / 百万 tokens)
来源输入价输出价缓存读相对输入价
models.dev · stackit 更低 $0.53/M$0.76/M—-69.7%
models.dev · groq 更低 $0.59/M$0.79/M—-66.3%
models.dev · venice 更低 $0.7/M$2.8/M—-60.0%
models.dev · wandb 更低 $0.71/M$0.71/M$0.71/M-59.4%
models.dev · togetherai 更低 $1.04/M$1.04/M—-40.6%
Nano-GPT $1.75/M$2.75/M$1.75/M0.0%
models.dev $1.75/M$2.75/M$1.75/M0.0%

同一个模型在不同网关的报价可能不同。本页基准取官方口径 $1.75/M / $2.75/M(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。

同类模型对比

5 条
Llama 3.3 70B 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Gemini 3.1 Pro (Preview High) 1.05M$2/M $12/M+14.3%—
Gemini 3.1 Pro (Preview Low) 1.05M$2/M $12/M+14.3%—
Gemma 4 12B Instruct 131.1K$0.05/M $0.25/M-97.1%—
Llama 3.2 3b Instruct 131.1K$0.0306/M $0.0493/M-98.3%—
Ornith 1.5 122B 262.1K$0.26/M $2.08/M-85.1%—

同厂商优先,其次同家族与同上下文档;价格差为相对本模型的输入价

开源部署测算

4 个量化档位
参数规模70B 激活 / 70B 总
上下文128K
许可证Llama 3.3 Community License
发布时间2024-12
Llama 3.3 70B 自部署的量化档位、显存需求与推荐卡型
量化档位显存需求质量参考推荐卡型
FP16Reference 140 GB100%2x H100-80GB
FP8Single-GPU 75 GB99%1x H100-80GB
AWQ INT4Cheaper GPU 40 GB96%1x A100-80GB
GGUF Q4_K_MWorkstation 45 GB94%1x RTX 6000
权重能力 texttool-usefunction-callingmultilingual

显存需求与推荐卡型是公开资料的估算口径,实际占用受驱动、并行策略与推理框架影响;「质量参考」是相对该模型最高精度档的百分比。 权重下载见开源仓库。 模型主页见厂商站点。 按卡型比价与租金测算见部署测算。

关于 Llama 3.3 70B 的常见问题

5 条
Llama 3.3 70B 的 API 价格是多少?

当前收录的官方口径价格为输入 $1.75/M、输出 $2.75/M、缓存读 $1.75/M,单位为美元 / 百万 tokens。另外 models.dev · stackit 给出的输入价更低($0.53/M,-69.7%)。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。

Llama 3.3 70B 支持多长的上下文?

资料显示上下文窗口 128K(128,000 tokens),单次最大输出 16.4K。实际可用长度还取决于调用平台的限制。

Llama 3.3 70B 是开源模型吗?

Llama 3.3 70B 提供开源权重,可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

Llama 3.3 70B 支持哪些能力?

按当前资料,Llama 3.3 70B 支持温度调节。输入输出模态为 文本。

Llama 3.3 70B 可以在哪些平台调用?

当前资料显示该模型被 6 家 provider 或网关收录。本站核对的数据来源包括 models.dev。收录数量只反映公开目录的部署面,不代表任何一家平台的服务质量。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。