Llama 3.2 1B Instruct (Cloudflare)
MODEL PROFILE模型资料Eden AI · 2024-09-25 发布 · llama 家族 · 开源权重 · 1 家平台收录
Llama 3.2 1B Instruct 是 Llama 3.2 系列里参数规模最小的指令微调模型,在本站以 Eden AI 为提供方、Cloudflare 推理栈为承载对外服务。它面向对延迟和成本极度敏感、任务相对轻的纯文本场景,例如端侧助手、批量文本处理与简单分类,不适合承担复杂推理或长文创作。
模型介绍
该模型属于 Meta 的 Llama 3.2 家族,是其中体量最小的一档指令微调版本,权重公开可下载,本站条目由 Eden AI 提供调用入口。它要解决的核心问题是:在不需要大模型全力的任务上,把单位调用成本和响应延迟压到最低。上下文窗口 60K tokens、单次最大输出 32K tokens,对这么一个体量的模型来说,可用余量相对宽裕,能覆盖多轮对话、中等长度文档摘要和批量抽取。输入输出均为纯文本,不支持图像等多模态输入;知识截止标注为 2023-12,回答涉及更晚事件时需要外部检索补充。可调温度,便于在确定性的结构化输出和略具发散性的生成之间切换。开源权重意味着可以自托管、做本地微调或离线部署,但在本站只有一家平台收录该条目,实际选型时仍需自行评估托管方的 SLA 与限流策略。
选型建议需要极低单次成本、低延迟且任务模板化时选它;涉及复杂推理、多步工具调用或高质量中文创作时,应直接换用更大参数量模型。
关键指标
适用场景
- 对海量用户评论做情感与主题打标,用低成本模型完成首轮粗分类
- 为端侧或离线环境部署轻量对话助手,承担问答与指令响应
- 在 RAG 流水线中做查询改写、段落摘要与相关性初筛
- 批量清洗与规整文本字段,把非结构化内容转成固定 JSON 结构
- 对长文档做分段摘要,再交给更大模型汇总成终稿
暂无:许可证、参数规模、缓存读价、缓存写价、推理、工具调用、结构化输出、附件(上游未公开,本站不估算)。 资料已 777 天没更新,规格与价格可能已变;发布 777 天。
规格与能力
上面没列到的字段沿用 Llama 3 系列的稠密解码器结构,1B 档位在家族中定位为轻量与端侧友好版本,公开披露的技术细节少于大参数量型号。
- 结构采用 Llama 3 系列的解码器式 Transformer,1B 与 3B 两档公开说法是基于更大模型蒸馏而来,目标是在有限算力下保留可用的指令跟随能力。
- 能力支持 60K tokens 上下文与最长 32K tokens 输出,配合温度调节,可在批量摘要、结构化抽取等任务上做稳定性调优。
- 披露本站未收录该模型的公开跑分,权重虽开放,但具体训练数据配比、分词器细节等需查阅官方模型卡,本站不做推断。
- 开源权重
- 是
- 模型家族
- llama
同系列其他规格
| 型号 | 厂商 | 参数 | 上下文 | 输入价 | 输出价 |
|---|---|---|---|---|---|
| Llama 3.2 1B Instruct | Meta | 1B | 16K | $0.01/M | $0.01/M |
| Llama-3.2-1B | Meta | 1B | — | — | — |
| Llama-3.2-1B | Nous Research | 1B | — | — | — |
性能表现
受限于极小参数量,它的优势集中在成本与延迟,而非推理深度;本站没有第三方跑分,以下判断基于规模与公开架构信息。
- 强项调用延迟低、单位成本极低,指令跟随在同类小模型中属可用水平,适合高频、短输入、模板化输出的批量任务。
- 短板知识容量与多步推理明显弱于 3B 及以上档位,长链条数学、复杂代码生成、需要细腻语感的中文创作容易掉链子。
- 适合把大模型当作流水线中的一环而非主角,例如先做粗筛、打标、清洗,再由更大模型复核,这种分工能压住整体成本。
价格与性价比
结合各平台报价与同类对比官方报价为输入 0.027 美元/百万 tokens、输出 0.201 美元/百万 tokens,输出单价明显高于输入,成本结构偏向“少生成、多读取”。
- 定位处于价格带的底端,适用于调用量大但对单次质量要求不高的场景,成本敏感度高于效果敏感度时优先考虑。
- 横向对比Llama 3.2 3B 输入价相对本模型高约 88.5%,Mistral Small 3 高约 85.2%,换更大模型前应先确认小模型是否够用。
- 平台差价本站仅收录 models.dev 与 models.dev·edenai 两处报价,数值一致,均无缓存读折扣,跨平台比价空间有限。
- 省钱输出比输入贵出数倍,控制生成长度、把任务改造成短答或分类标签形式,比单纯比价更能压低账单。
平台报价对比
2 个来源口径| 来源 | 输入价 | 输出价 | 缓存读 | 相对输入价 |
|---|---|---|---|---|
| models.dev | $0.027/M | $0.201/M | — | 0.0% |
| models.dev · edenai | $0.027/M | $0.201/M | — | 0.0% |
同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.027/M / $0.201/M(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。
同类模型对比
5 条| 模型 | 上下文 | 输入价 | 输出价 | 输入价差 | AA 综合 |
|---|---|---|---|---|---|
| Llama 3.2 3B Instruct (Cloudflare) | 80K | $0.0509/M | $0.335/M | +88.5% | — |
| Nano Banana Pro (Vertex AI) | 65.5K | $2/M | $12/M | +7307.4% | — |
| WizardLM 2 8x22B (Deep Infra) | 65.5K | $0.48/M | $0.48/M | +1677.8% | — |
| Nano Banana (Vertex AI) | 32.8K | $0.3/M | $2.5/M | +1011.1% | — |
| Mistral Small 3 (Deep Infra) | 32.8K | $0.05/M | $0.08/M | +85.2% | — |
取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价
关于 Llama 3.2 1B Instruct (Cloudflare) 的常见问题
5 条Llama 3.2 1B Instruct (Cloudflare) 的 API 价格是多少?
当前收录的官方口径价格为输入 $0.027/M、输出 $0.201/M,单位为美元 / 百万 tokens。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。
Llama 3.2 1B Instruct (Cloudflare) 支持多长的上下文?
资料显示上下文窗口 60K(60,000 tokens),单次最大输出 32K。实际可用长度还取决于调用平台的限制。
Llama 3.2 1B Instruct (Cloudflare) 是开源模型吗?
Llama 3.2 1B Instruct (Cloudflare) 提供开源权重,可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。
Llama 3.2 1B Instruct (Cloudflare) 支持哪些能力?
按当前资料,Llama 3.2 1B Instruct (Cloudflare) 支持温度调节。输入输出模态为 文本。
Llama 3.2 1B Instruct (Cloudflare) 可以在哪些平台调用?
当前资料显示该模型被 1 家 provider 或网关收录。本站核对的数据来源包括 models.dev。收录数量只反映公开目录的部署面,不代表任何一家平台的服务质量。
使用注意
- 口径本站未收录该模型的第三方跑分,所有能力描述均为定性判断,不作为量化选型依据,正式评估需自建小样本测试集。
- 边界60K 上下文和 32K 输出是上限而非保证,长输入下小模型的有效利用率会下降;知识截止 2023-12,时效性问题需外挂检索。
- 边界仅支持文本输入输出,无法处理图片、音频;开源权重允许自托管,但部署与运维成本需另行核算,不等同于托管价。
资料说明
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。
本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。