Llama-3.3-70B-Instruct (Arkanecloud)

MODEL PROFILE模型资料

Eden AI · 2024-12-06 发布 · llama 家族 · 开源权重 · 1 家平台收录

资料长期未更新 返回厂商

Llama-3.3-70B-Instruct (Arkanecloud) 是 Llama 系列的开源权重指令微调模型,经 Eden AI 以 Arkanecloud 名义对外提供调用,面向需要长上下文、工具调用与稳定文本推理的开发者与企业团队。

模型介绍

该模型属于 Llama 家族,采用开源权重发布,指令微调版本侧重对话与任务跟随。128K tokens 的上下文窗口可容纳长文档、多轮对话历史或成规模的代码片段;单次最多输出 4096 tokens,适合分步生成结构化结果,但不适合一次生成超长报告。能力层面提供推理、工具调用与温度调节,便于搭建需要外部函数或检索配合的问答与自动化流程。知识截止为 2023-12,之后的事实需依赖外部检索补充。Eden AI 作为提供方,把该模型以 Arkanecloud 名称上架,官方定价为输入与输出均 0.7 美元/百万 tokens,缓存读 0.2 美元/百万 tokens,输入输出同价让长输出任务的成本估算相对简单。

选型建议需要开源权重、长上下文与工具调用,且能接受 2023-12 知识截止时选它;追求多模态输入或单次超长输出则应另选模型。

开源权重Llama 系列长上下文工具调用纯文本通用推理

关键指标

官方输入价$0.7/M
官方输出价$0.7/M
缓存读 / 写$0.2/M / —
上下文窗口128K
最大输出4.1K
输入模态文本
知识截止2023-12
部署平台数1 家
最后更新2024-12-06

适用场景

  • 解析长篇合同或技术文档,抽取要点并生成结构化摘要
  • 为内部知识库搭建带工具调用的检索问答流程
  • 批量改写与润色产品文案,用温度参数稳定输出风格
  • 阅读代码仓库片段,输出变更说明与注释建议
  • 在自托管环境中部署开源权重模型,做数据不出域的推理

暂无:许可证、参数规模、缓存写价、结构化输出、附件(上游未公开,本站不估算)。 资料已 705 天没更新,规格与价格可能已变;发布 705 天。

规格与能力

上面没列到的字段

沿用 Llama 系列的 decoder-only 稠密 Transformer 路线,指令微调后偏向对话与任务执行;更细的层数、注意力变体等结构细节,公开资料较少。

  • 结构70B 级稠密 Transformer 加指令微调,面向多轮对话与指令跟随优化;具体参数规模与注意力实现公开资料较少,这里不作断言。
  • 能力原生支持推理、工具调用与温度调节,128K 上下文可整段放入长文档;单次输出上限 4096 tokens,长答案需按轮次续写拼接。
  • 披露开源权重可自托管核查与二次微调,实际延迟与吞吐取决于部署方;本站未收录该模型的公开跑分。
开源权重
是
模型家族
llama
能力 推理工具调用温度调节

同系列其他规格

型号厂商参数上下文输入价输出价
Llama-3.3-70B-Instruct Meta 70B 128K $0.5466/M $1.0226/M
Llama-3.3-70B-Instruct (IONOS) Eden AI — 128K $0.7289/M $0.7289/M
Llama 3.3 70B Instruct abliterated NanoGPT 70B 32.8K $0.7/M $0.7/M
Llama 3.3 70B NanoGPT — 128K $1.75/M $2.75/M
Llama 3.3 70B Euryale NanoGPT — 20.5K $0.493/M $0.493/M
Llama 3.3 70B Instruct (US) Amazon Bedrock — 128K $0.72/M $0.72/M
Llama 3.3 70B Instruct Turbo AI/ML API — 128K $0.7618/M $2.3837/M
Llama 3.3 70B Instruct fp8 Fast Cloudflare Workers AI — 24K $0.293/M $2.253/M

性能表现

强项在通用文本推理与指令跟随,短板集中在输出长度上限与知识时效。

  • 强项中长文本理解与多步推理表现稳定,配合工具调用能输出结构化结果,适合文档问答、流程自动化与配置解读类任务。
  • 短板知识截止 2023-12,更新事实须靠检索补齐;单次最多 4096 tokens 输出,写长报告要拆成多轮,容易产生衔接不一致。
  • 适合长文档摘要、代码片段说明、需要温度控制风格的多轮对话;极端低延迟或一次性超长生成的场景不合适。

价格与性价比

结合各平台报价与同类对比

官方价输入输出同为 0.7 美元/百万 tokens,缓存读 0.2 美元/百万 tokens,在 70B 级开源模型里属中性价位。

  • 定位输入与输出同价,长输出任务不额外加价,成本估算比进出差价大的模型更容易,适合以生成为主的工作负载。
  • 横向对比比同门 Llama-3.1-70B 的 0.8 美元/百万 tokens 低约 14%,但明显高于 8B、11B 等小模型,能力与预算需按任务权衡。
  • 平台差价Requesty 报价输入 0.23、输出 0.4 美元/百万 tokens,显著低于官方价;models.dev·edenai 报 0.7248 美元/百万 tokens,略高约 3.5%。
  • 省钱固定系统提示与前缀文档走缓存读 0.2 美元/百万 tokens,把重复内容前置可压低单次调用成本,再按量比价选平台。

平台报价对比

3 个来源口径
Llama-3.3-70B-Instruct (Arkanecloud) 在各来源的输入 / 输出价格(美元 / 百万 tokens)
来源输入价输出价缓存读相对输入价
Requesty 更低 $0.23/M$0.4/M$0.23/M-67.1%
models.dev $0.7/M$0.7/M$0.2/M0.0%
models.dev · edenai $0.7324/M$0.7324/M—+4.6%

同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.7/M / $0.7/M(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。

同类模型对比

5 条
Llama-3.3-70B-Instruct (Arkanecloud) 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Llama-3.3-70B-Instruct (IONOS) 128K$0.7289/M $0.7289/M+4.1%—
Llama-3.1-8B-Instruct (Arkanecloud) 131.1K$0.15/M $0.15/M-78.6%—
Llama-3.1-70B-Instruct (Arkanecloud) 131.1K$0.8/M $0.8/M+14.3%—
Llama-3.2-11B-Vision-Instruct (Deep Infra) 131.1K$0.345/M $0.345/M-50.7%—
Llama 3.2 3B Instruct (Deep Infra) 131.1K$0.02/M $0.02/M-97.1%—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 Llama-3.3-70B-Instruct (Arkanecloud) 的常见问题

5 条
Llama-3.3-70B-Instruct (Arkanecloud) 的 API 价格是多少?

当前收录的官方口径价格为输入 $0.7/M、输出 $0.7/M、缓存读 $0.2/M,单位为美元 / 百万 tokens。另外 Requesty 给出的输入价更低($0.23/M,-67.1%)。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。

Llama-3.3-70B-Instruct (Arkanecloud) 支持多长的上下文?

资料显示上下文窗口 128K(128,000 tokens),单次最大输出 4.1K。实际可用长度还取决于调用平台的限制。

Llama-3.3-70B-Instruct (Arkanecloud) 是开源模型吗?

Llama-3.3-70B-Instruct (Arkanecloud) 提供开源权重,可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

Llama-3.3-70B-Instruct (Arkanecloud) 支持哪些能力?

按当前资料,Llama-3.3-70B-Instruct (Arkanecloud) 支持推理、工具调用、温度调节。输入输出模态为 文本。

Llama-3.3-70B-Instruct (Arkanecloud) 可以在哪些平台调用?

当前资料显示该模型被 1 家 provider 或网关收录。本站核对的数据来源包括 models.dev、Requesty。收录数量只反映公开目录的部署面,不代表任何一家平台的服务质量。

使用注意

  • 口径本站仅收录 1 家平台的价格与能力信息,且无第三方跑分,跨模型的能力强弱只能做定性判断,不能当评测结论使用。
  • 边界仅支持文本输入与文本输出,不含图像、音频;128K 上下文与 4096 tokens 单次输出为调用硬限制,超出需自行截断或分段。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。