Llama-3.1-8B-CS
MODEL PROFILE模型资料Poe · 2024-07-23 发布 · llama 家族 · 开源权重 · 1 家平台收录
Llama-3.1-8B-CS 是 Poe 基于 Llama 3.1 系列 8B 规模推出的开源权重纯文本模型,支持 128K 上下文与工具调用。它面向需要低成本承载大批量、任务边界清晰的文本处理场景的开发者与团队。
模型介绍
该模型属于 llama 家族,于 2024 年 7 月 23 日发布,权重开放,输入与输出均为纯文本,知识截止 2023 年 12 月。从命名看,它建立在 Llama 3.1 的 8B 规模基座之上,由 Poe 以“CS”后缀发布,可理解为面向该平台分发环境的定制版本。它要解决的核心问题是:把长上下文与结构化输出能力放在极低的调用成本上,让摘要、抽取、分类、轻量问答、工具编排等高频任务可以按量规模化运行,而非把预算集中在少数复杂推理请求上。128K 上下文使其能一次性容纳较长的文档或多轮对话历史,工具调用能力则让它可接入外部函数完成查询、写入等动作。需要说明的是,该定制版本的训练细节、微调数据与对齐策略公开资料较少,难以判断其与原版 Llama 3.1 8B 的具体差异,选型时宜以实际任务验证为准。
选型建议需要长上下文、工具调用且对单价极度敏感的大批量文本任务可以选它;追求复杂推理、前沿知识或高难度代码生成时不宜作为主力。
关键指标
适用场景
- 批量处理长篇报告,输出结构化摘要与关键字段
- 为检索系统做查询改写、结果去重与要点归并
- 在客服或工单流程中做意图分类与初步分派
- 通过工具调用完成参数填充、状态查询等轻量编排
- 对多轮长对话历史做压缩与要点回溯
暂无:许可证、参数规模、缓存读价、缓存写价、推理、结构化输出、附件、温度调节(上游未公开,本站不估算)。 资料已 841 天没更新,规格与价格可能已变;发布 841 天。
规格与能力
上面没列到的字段沿用 Llama 3.1 系列的 decoder-only Transformer 主干,8B 规模配合长上下文扩展设计,整体走的是成熟、易部署的稠密模型路线。
- 结构基于 Llama 3.1 的 decoder-only 架构,8B 稠密参数规模,配合分组查询注意力与旋转位置编码,支持长上下文外推,单卡推理门槛较低。
- 能力原生支持 128K tokens 上下文窗口,可用于长文档通读、跨段落信息抽取和多轮长对话;具备工具调用接口,便于接入外部函数。
- 披露Poe 以 CS 后缀发布的这一版本,其微调数据、对齐方式与训练细节公开资料较少,与上游基座的差异需以实测结果判断。
- 开源权重
- 是
- 模型家族
- llama
同系列其他规格
| 型号 | 厂商 | 参数 | 上下文 | 输入价 | 输出价 |
|---|---|---|---|---|---|
| Llama-3.1-8B-Instruct | Meta | 8B | 131.1K | $0.22/M | $0.22/M |
| Llama-3.1-8B-Instruct (Arkanecloud) | Eden AI | — | 131.1K | $0.15/M | $0.15/M |
| Llama 3.1 8b (uncensored) | NanoGPT | — | 32.8K | $0.8/M | $1.6/M |
| Llama 3.1 8B | Groq | — | 131.1K | $0.05/M | $0.08/M |
| Llama 3.1 8B Instruct (US) | Amazon Bedrock | — | 128K | $0.22/M | $0.22/M |
| Llama 3.1 8B Instruct fp8 | Cloudflare Workers AI | — | 32K | $0.152/M | $0.287/M |
| Llama 3.1 8B (decentralized) | NanoGPT | — | 128K | $0.02/M | $0.03/M |
| LLaMA3.1-8B-Instruct-DFlash-UltraChat | z-lab | 8B | — | — | — |
性能表现
本站未收录该模型的第三方跑分,以下判断基于架构规模与公开认知的定性描述,不代表实测排名。
- 强项长上下文承载与结构化输出是主要优势,128K 窗口便于整篇文档通读;工具调用使其能承担函数分发、参数填充等流程化任务。
- 短板8B 量级在复杂多跳推理、长链数学与高难度代码生成上通常弱于更大参数模型,长上下文中的中段信息召回也容易衰减。
- 适合适合以量取胜、容错度较高的任务,如批量摘要、字段抽取、意图分类、检索结果改写,而不是一次到位的难题求解。
价格与性价比
结合各平台报价与同类对比输入与输出同为 0.1 美元/百万 tokens 的对称定价,在同类对比中处于极低区间,成本结构简单、便于预估。
- 定位定价落在轻量文本处理档位,输入输出同价,没有输出倍率惩罚,适合输出长度不确定的生成型任务。
- 横向对比与同平台的 GPT-5 系列、GPT-4o-Aug 相比,输入价差达数倍到二十余倍,差距主要来自参数规模与推理能力层级。
- 平台差价models.dev 与 models.dev · poe 两处报价一致,均为输入 0.1、输出 0.1 美元/百万 tokens,暂无明显渠道价差。
- 省钱把分类、抽取、清洗等简单请求路由到该模型,仅将复杂推理留给高价模型,是控制整体账单的可行做法。
平台报价对比
2 个来源口径| 来源 | 输入价 | 输出价 | 缓存读 | 相对输入价 |
|---|---|---|---|---|
| models.dev | $0.1/M | $0.1/M | — | 0.0% |
| models.dev · poe | $0.1/M | $0.1/M | — | 0.0% |
同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.1/M / $0.1/M(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。
同类模型对比
5 条| 模型 | 上下文 | 输入价 | 输出价 | 输入价差 | AA 综合 |
|---|---|---|---|---|---|
| GPT-5.1-Instant | 128K | $1.1/M | $9/M | +1000.0% | — |
| GPT-4o-Aug | 128K | $2.2727/M | $9.0909/M | +2172.7% | — |
| GPT-5-Chat | 128K | $1.1/M | $9/M | +1000.0% | — |
| GPT-5.2-Instant | 128K | $1.6/M | $13/M | +1500.0% | — |
| GPT-5.3-Instant | 128K | $1.6/M | $13/M | +1500.0% | — |
取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价
关于 Llama-3.1-8B-CS 的常见问题
5 条Llama-3.1-8B-CS 的 API 价格是多少?
当前收录的官方口径价格为输入 $0.1/M、输出 $0.1/M,单位为美元 / 百万 tokens。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。
Llama-3.1-8B-CS 支持多长的上下文?
资料显示上下文窗口 128K(128,000 tokens)。实际可用长度还取决于调用平台的限制。
Llama-3.1-8B-CS 是开源模型吗?
Llama-3.1-8B-CS 提供开源权重,可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。
Llama-3.1-8B-CS 支持哪些能力?
按当前资料,Llama-3.1-8B-CS 支持工具调用。输入输出模态为 文本。
Llama-3.1-8B-CS 可以在哪些平台调用?
当前资料显示该模型被 1 家 provider 或网关收录。本站核对的数据来源包括 models.dev。收录数量只反映公开目录的部署面,不代表任何一家平台的服务质量。
使用注意
- 口径本站未收录该模型的公开跑分,任何能力排序都缺少统一评测支撑,跨模型比较只能参考参数规模与上下文等结构指标。
- 边界知识截止 2023 年 12 月,之后的事实需依赖检索或工具补充;8B 规模在长上下文精确召回与复杂推理上存在天然上限。
资料说明
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。
本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。