Llama-3.1-8B-CS

MODEL PROFILE模型资料

Poe · 2024-07-23 发布 · llama 家族 · 开源权重 · 1 家平台收录

资料长期未更新 返回厂商

Llama-3.1-8B-CS 是 Poe 基于 Llama 3.1 系列 8B 规模推出的开源权重纯文本模型,支持 128K 上下文与工具调用。它面向需要低成本承载大批量、任务边界清晰的文本处理场景的开发者与团队。

模型介绍

该模型属于 llama 家族,于 2024 年 7 月 23 日发布,权重开放,输入与输出均为纯文本,知识截止 2023 年 12 月。从命名看,它建立在 Llama 3.1 的 8B 规模基座之上,由 Poe 以“CS”后缀发布,可理解为面向该平台分发环境的定制版本。它要解决的核心问题是:把长上下文与结构化输出能力放在极低的调用成本上,让摘要、抽取、分类、轻量问答、工具编排等高频任务可以按量规模化运行,而非把预算集中在少数复杂推理请求上。128K 上下文使其能一次性容纳较长的文档或多轮对话历史,工具调用能力则让它可接入外部函数完成查询、写入等动作。需要说明的是,该定制版本的训练细节、微调数据与对齐策略公开资料较少,难以判断其与原版 Llama 3.1 8B 的具体差异,选型时宜以实际任务验证为准。

选型建议需要长上下文、工具调用且对单价极度敏感的大批量文本任务可以选它;追求复杂推理、前沿知识或高难度代码生成时不宜作为主力。

Llama 3.1开源权重长上下文工具调用低成本纯文本

关键指标

官方输入价$0.1/M
官方输出价$0.1/M
上下文窗口128K
输入模态文本
知识截止2023-12
部署平台数1 家
最后更新2024-07-23

适用场景

  • 批量处理长篇报告,输出结构化摘要与关键字段
  • 为检索系统做查询改写、结果去重与要点归并
  • 在客服或工单流程中做意图分类与初步分派
  • 通过工具调用完成参数填充、状态查询等轻量编排
  • 对多轮长对话历史做压缩与要点回溯

暂无:许可证、参数规模、缓存读价、缓存写价、推理、结构化输出、附件、温度调节(上游未公开,本站不估算)。 资料已 841 天没更新,规格与价格可能已变;发布 841 天。

规格与能力

上面没列到的字段

沿用 Llama 3.1 系列的 decoder-only Transformer 主干,8B 规模配合长上下文扩展设计,整体走的是成熟、易部署的稠密模型路线。

  • 结构基于 Llama 3.1 的 decoder-only 架构,8B 稠密参数规模,配合分组查询注意力与旋转位置编码,支持长上下文外推,单卡推理门槛较低。
  • 能力原生支持 128K tokens 上下文窗口,可用于长文档通读、跨段落信息抽取和多轮长对话;具备工具调用接口,便于接入外部函数。
  • 披露Poe 以 CS 后缀发布的这一版本,其微调数据、对齐方式与训练细节公开资料较少,与上游基座的差异需以实测结果判断。
开源权重
是
模型家族
llama
能力 工具调用

同系列其他规格

型号厂商参数上下文输入价输出价
Llama-3.1-8B-Instruct Meta 8B 131.1K $0.22/M $0.22/M
Llama-3.1-8B-Instruct (Arkanecloud) Eden AI — 131.1K $0.15/M $0.15/M
Llama 3.1 8b (uncensored) NanoGPT — 32.8K $0.8/M $1.6/M
Llama 3.1 8B Groq — 131.1K $0.05/M $0.08/M
Llama 3.1 8B Instruct (US) Amazon Bedrock — 128K $0.22/M $0.22/M
Llama 3.1 8B Instruct fp8 Cloudflare Workers AI — 32K $0.152/M $0.287/M
Llama 3.1 8B (decentralized) NanoGPT — 128K $0.02/M $0.03/M
LLaMA3.1-8B-Instruct-DFlash-UltraChat z-lab 8B — — —

性能表现

本站未收录该模型的第三方跑分,以下判断基于架构规模与公开认知的定性描述,不代表实测排名。

  • 强项长上下文承载与结构化输出是主要优势,128K 窗口便于整篇文档通读;工具调用使其能承担函数分发、参数填充等流程化任务。
  • 短板8B 量级在复杂多跳推理、长链数学与高难度代码生成上通常弱于更大参数模型,长上下文中的中段信息召回也容易衰减。
  • 适合适合以量取胜、容错度较高的任务,如批量摘要、字段抽取、意图分类、检索结果改写,而不是一次到位的难题求解。

价格与性价比

结合各平台报价与同类对比

输入与输出同为 0.1 美元/百万 tokens 的对称定价,在同类对比中处于极低区间,成本结构简单、便于预估。

  • 定位定价落在轻量文本处理档位,输入输出同价,没有输出倍率惩罚,适合输出长度不确定的生成型任务。
  • 横向对比与同平台的 GPT-5 系列、GPT-4o-Aug 相比,输入价差达数倍到二十余倍,差距主要来自参数规模与推理能力层级。
  • 平台差价models.dev 与 models.dev · poe 两处报价一致,均为输入 0.1、输出 0.1 美元/百万 tokens,暂无明显渠道价差。
  • 省钱把分类、抽取、清洗等简单请求路由到该模型,仅将复杂推理留给高价模型,是控制整体账单的可行做法。

平台报价对比

2 个来源口径
Llama-3.1-8B-CS 在各来源的输入 / 输出价格(美元 / 百万 tokens)
来源输入价输出价缓存读相对输入价
models.dev $0.1/M$0.1/M—0.0%
models.dev · poe $0.1/M$0.1/M—0.0%

同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.1/M / $0.1/M(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。

同类模型对比

5 条
Llama-3.1-8B-CS 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
GPT-5.1-Instant 128K$1.1/M $9/M+1000.0%—
GPT-4o-Aug 128K$2.2727/M $9.0909/M+2172.7%—
GPT-5-Chat 128K$1.1/M $9/M+1000.0%—
GPT-5.2-Instant 128K$1.6/M $13/M+1500.0%—
GPT-5.3-Instant 128K$1.6/M $13/M+1500.0%—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 Llama-3.1-8B-CS 的常见问题

5 条
Llama-3.1-8B-CS 的 API 价格是多少?

当前收录的官方口径价格为输入 $0.1/M、输出 $0.1/M,单位为美元 / 百万 tokens。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。

Llama-3.1-8B-CS 支持多长的上下文?

资料显示上下文窗口 128K(128,000 tokens)。实际可用长度还取决于调用平台的限制。

Llama-3.1-8B-CS 是开源模型吗?

Llama-3.1-8B-CS 提供开源权重,可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

Llama-3.1-8B-CS 支持哪些能力?

按当前资料,Llama-3.1-8B-CS 支持工具调用。输入输出模态为 文本。

Llama-3.1-8B-CS 可以在哪些平台调用?

当前资料显示该模型被 1 家 provider 或网关收录。本站核对的数据来源包括 models.dev。收录数量只反映公开目录的部署面,不代表任何一家平台的服务质量。

使用注意

  • 口径本站未收录该模型的公开跑分,任何能力排序都缺少统一评测支撑,跨模型比较只能参考参数规模与上下文等结构指标。
  • 边界知识截止 2023 年 12 月,之后的事实需依赖检索或工具补充;8B 规模在长上下文精确召回与复杂推理上存在天然上限。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。