Llama 3.2 3B Instruct (Deep Infra)
MODEL PROFILE模型资料Eden AI · 2024-09-25 发布 · llama 家族 · 开源权重 · 1 家平台收录
资料长期未更新
返回厂商
Llama 3.2 3B Instruct 是 Llama 3.2 系列中的小参数量指令微调模型，托管在 Deep Infra 推理服务上并经 Eden AI 接入；面向需要低成本、可私有化权重、文本对话与轻量工具调用能力的开发者与产品团队。
模型介绍
该模型属于 Llama 家族，2024-09-25 发布，开源权重可获取，本站记录其输入与输出均为纯文本模态，知识截止为 2023-12。它要解决的是「大模型能力够用但成本与延迟过高」这一类问题：以较小的参数规模承接分类、抽取、改写、对话补全、结构化输出等常规任务，并把调用成本压到极低。上下文窗口与单次最大输出均为 131072 tokens，意味着长文档一次性读入、长结果一次性返回在接口层面都是允许的，适合把整篇材料塞进提示词的批处理流程。能力面上明确支持工具调用与温度调节，前者让它能进入 Agent 或函数调用链路，后者便于在确定性与发散度之间做业务侧调参。本站收录的公开跑分缺失，实际效果需按自身任务做小样本评测。
选型建议预算紧、任务可拆解、需要开源权重或工具调用时选它；要求复杂推理、专业深度或稳定长文理解时，改用同家族更大参数版本。
关键指标
适用场景
- 批量处理工单与评论的意图分类、情绪打标与摘要生成
- 在 Agent 流程中承担工具选择与参数填充的轻量决策节点
- 对长文档做一次性通读后的结构化抽取与字段归并
- 为客服或内部知识库提供低成本的对话补全与话术改写
- 在本地或私有环境部署开源权重，处理不便外发的文本数据
暂无：许可证、参数规模、缓存读价、缓存写价、推理、结构化输出、附件（上游未公开，本站不估算）。 资料已 768 天没更新，规格与价格可能已变；发布 768 天。
规格与能力
上面没列到的字段沿用 Llama 系列的 decoder-only Transformer 路线，3B 量级主打轻量部署；具体层数、注意力变体与训练 token 量等细节，公开资料较少，本站未做核实。
- 结构decoder-only 自回归架构，指令微调版本，权重开源，可在自有环境部署或走托管推理。
- 能力支持工具调用与温度调节，便于接入函数调用链路并按场景调节输出随机性。
- 上下文窗口与单次最大输出同为 131072 tokens，长输入长输出在接口限制内不被截断。
- 披露参数细节、训练数据构成与对齐方法官方披露有限，本站亦未做独立验证。
- 开源权重
- 是
- 模型家族
- llama
- 许可证
- —
- 参数规模
- —
能力
工具调用温度调节
性能表现
本站未收录该模型的公开跑分，以下为基于架构规模与家族定位的定性判断，不代表实测结论。
- 强项响应成本与延迟压力小，适合高并发、短交互、格式固定的重复性文本任务。
- 短板3B 量级在复杂多步推理、长链条工具调用与专业领域深度上通常弱于同家族更大参数版本。
- 长文本131072 tokens 窗口可用，但小模型对超长上下文的细节召回往往不及大模型，需实测。
- 适合把任务拆小、以流程而非单次推理取胜的产品形态，比一次性硬啃难题更匹配。
价格与性价比
结合各平台报价与同类对比官方标价输入与输出均为 0.02 美元/百万 tokens，在本站收录的同家族对比中处于最低一档。
- 定位面向成本敏感型业务的入门档托管模型，输入输出同价，长输出任务不必担心价差。
- 横向对比Llama-3.1-8B-Instruct 输入价相对本模型高 650%，70B 版本高 3900%，价差悬殊。
- 平台差价本站仅收录一家平台的报价，标准与 Eden AI 通道均为 0.02 美元/百万 tokens，无差价。
- 缓存成本暂无缓存读价格，重复投喂同一长提示词无法享受折扣，长上下文场景需自行核算。
- 省钱价格基数极低，成本优化空间更多来自减少无效 token 与缩短提示词，而非换渠道。
平台报价对比
2 个来源口径| 来源 | 输入价 | 输出价 | 缓存读 | 相对输入价 |
|---|---|---|---|---|
| models.dev | $0.02/M | $0.02/M | — | 0.0% |
| models.dev · edenai | $0.02/M | $0.02/M | — | 0.0% |
同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.02/M / $0.02/M（输入 / 输出，美元 / 百万 tokens），其余来源的差价在「相对输入价」列列出，供比价参考。
同类模型对比
5 条| 模型 | 上下文 | 输入价 | 输出价 | 输入价差 | AA 综合 |
|---|---|---|---|---|---|
| Llama-3.1-8B-Instruct (Arkanecloud) | 131.1K | $0.15/M | $0.15/M | +650.0% | — |
| Llama-3.1-70B-Instruct (Arkanecloud) | 131.1K | $0.8/M | $0.8/M | +3900.0% | — |
| Llama-3.2-11B-Vision-Instruct (Deep Infra) | 131.1K | $0.345/M | $0.345/M | +1625.0% | — |
| Llama-Guard-3-8B (Cloudflare) | 131.1K | $0.484/M | $0.03/M | +2320.0% | — |
| Llama-Guard-3-8B (Deep Infra) | 131.1K | $0.055/M | $0.055/M | +175.0% | — |
取上下文相近（约 0.5~2 倍）的同类主流模型；同厂商、同家族优先；价格差为相对本模型的输入价
关于 Llama 3.2 3B Instruct (Deep Infra) 的常见问题
5 条Llama 3.2 3B Instruct (Deep Infra) 的 API 价格是多少？
当前收录的官方口径价格为输入 $0.02/M、输出 $0.02/M，单位为美元 / 百万 tokens。不同网关可能有自己的加价与折扣，实际计费以调用平台为准。
Llama 3.2 3B Instruct (Deep Infra) 支持多长的上下文？
资料显示上下文窗口 131.1K（131,072 tokens），单次最大输出 131.1K。实际可用长度还取决于调用平台的限制。
Llama 3.2 3B Instruct (Deep Infra) 是开源模型吗？
Llama 3.2 3B Instruct (Deep Infra) 提供开源权重，可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价，自部署不计入。
Llama 3.2 3B Instruct (Deep Infra) 支持哪些能力？
按当前资料，Llama 3.2 3B Instruct (Deep Infra) 支持工具调用、温度调节。输入输出模态为 文本。
Llama 3.2 3B Instruct (Deep Infra) 可以在哪些平台调用？
当前资料显示该模型被 1 家 provider 或网关收录。本站核对的数据来源包括 models.dev。收录数量只反映公开目录的部署面，不代表任何一家平台的服务质量。
使用注意
- 口径本站未收录该模型的公开跑分与评测榜单成绩，任何效果结论都应以自建测试集为准。
- 知识知识截止为 2023-12，之后的事实性信息需靠检索或工具调用补齐，不宜依赖模型记忆。
- 边界长窗口不等于长文本理解力，超长输入下关键信息位置与召回率需按业务验证。
资料说明
本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并， 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens，为各平台对 API 调用的报价，不含自部署成本。 资料由公开来源整理，不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。
本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理，部分未经本站逐项核实；规格、价格与跑分以本页数据字段为准。
本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并，冲突时取优先级高的来源；价格单位为美元 / 百万 tokens。
