128K 上下文
Granite 3.1 的稠密模型、MoE 模型与 Granite Guardian 3.1 护栏模型全部支持 128K token 上下文长度，比 Granite 3.0 明显拉长，适合长文档与多轮工具调用场景。
IBM Granite 3.1
AI TOOL PROFILE工具资料IBM 面向企业场景的开源语言模型家族，上下文扩展到 128K token
官网地址 https://www.ibm.com/new/announcements/ibm-granite-3-1-powerful-performance-lo…
价格官网未标价
平台Web / API
归类大模型与开发平台
收录2025-02-25
复核2025-02-25
编辑评分
4.2 / 5
★★★★☆
IBM Granite 3.1编辑总结
IBM Granite 3.1 是 Granite 系列开源语言模型的最新更新，主打企业场景的工具调用、检索增强生成（RAG）与可扩展的智能体工作流。整条语言模型产品线——稠密模型、MoE 模型以及护栏模型——上下文长度统一扩展到 128K token。同批还发布了四种尺寸的检索优化嵌入模型，参数规模覆盖 30M 到 278M，均支持 12 种语言，全部以 Apache 2.0 许可开源。短板在于多模态能力尚未落地，官方将这一部分排到后续版本。
IBM Granite 3.1是什么？
IBM Granite 3.1 是 IBM 对 Granite 系列开源语言模型的又一次更新，定位是「开放、高性能、面向企业优化」，重点覆盖工具调用、检索增强生成（RAG）和可扩展的智能体工作流这几类企业常见任务。
这一版包含多个子系列：稠密模型有 Granite 3.1 8B 与 Granite 3.1 2B，MoE 模型有 Granite 3.1 3B-A800M 与 Granite 3.1 1B-A400M，护栏模型有 Granite Guardian 3.1 8B 与 Granite Guardian 3.1 2B，整条产品线统一提供 128K token 上下文。此外推出四款检索优化的 Granite Embedding 嵌入模型，参数跨度 30M–278M，和生成模型一样支持 12 种语言。
使用者可以按角色选择入口：普通使用者可通过 IBM watsonx.ai 或 Docker、Hugging Face、LM Studio、Ollama、Replicate 等平台伙伴直接调用；开发者可以基于 Apache 2.0 许可自行部署与二次开发，并结合 Docling、Bee 等配套框架搭建 RAG 与智能体流程；企业团队则可参照三星（SDS 平台）与洛克希德·马丁（AI Factory 工具，服务超过 10,000 名开发者与工程师）的集成方式落地。
IBM Granite 3.1核心功能
指令模型性能提升
Granite 3.1 8B Instruct 相比 Granite 3.0 8B Instruct 有显著性能改善，其在 Hugging Face OpenLLM Leaderboard 各项基准上的平均分，在同权重级别的开源模型中处于最高一档。
四款嵌入模型
全新推出检索优化的 Granite Embedding 嵌入模型，共四种尺寸，参数范围 30M–278M，面向 RAG 检索场景优化，可与生成模型搭配使用。
12 种语言支持
生成模型与嵌入模型均提供多语言支持，覆盖英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语和中文共 12 种语言。
幻觉检测
Granite Guardian 3.1 8B 与 2B 新增函数调用幻觉检测能力，面向会发起工具调用的智能体，提升过程的可控制性与可观测性。
Apache 2.0 开源
Granite 3.1、Granite Guardian 3.1 与 Granite Embedding 全部以 Apache 2.0 许可开源，许可条款宽松，便于企业自行部署与再分发。
多平台接入
模型已在 IBM watsonx.ai 上线，同时可通过 Docker、Hugging Face、LM Studio、Ollama、Replicate 等平台伙伴获取使用。
时序模型接入
IBM 的紧凑时序模型 Granite TTM（TinyTimeMixers）通过 watsonx.ai 时序预测 API 与 SDK 的 beta 版本在 watsonx.ai 中提供。
IBM Granite 3.1值不值得用？
当你要做企业级的检索增强生成、工具调用或智能体工作流，而且希望模型能自己部署、许可没约束时，Granite 3.1 值得认真评估：128K 上下文覆盖长文档，Apache 2.0 让二次开发和分发都没有障碍，12 种语言也够覆盖常见的跨境业务。但如果你现在就需要多模态理解（比如看图、看图表），这一版还没有，官方把多模态能力排在了后续版本；如果你的场景主要靠单一超大模型的通用能力，同权重级别的开源模型里也有其他选择可以直接对比。
建议选它的情况
- 需要在长上下文里做 RAG 或工具调用的开发团队
- 要求模型可自行部署、许可宽松的企业
- 面向多语言业务、需要覆盖中文在内的 12 种语言
- 想在 watsonx.ai 或 Ollama、Hugging Face 等平台上快速试用的开发者
不建议选它的情况
- 当前就需要多模态（图像、图表理解）能力的场景
- 想用一个超大参数模型解决全部通用任务的团队
- 对闭源商业支持与托管服务有硬性要求的项目
IBM Granite 3.1使用建议
入门先把路子走对
- 先看 8B Instruct如果要快速判断是否合用，先跑 Granite 3.1 8B Instruct，它相对 Granite 3.0 8B Instruct 的提升最直接，也最贴近企业指令场景。
- 从平台伙伴入手不搭环境验证时，可直接在 Hugging Face、Ollama 或 LM Studio 上拉取模型试用，省去自建推理服务的前期成本。
- 配套用 Granite Guardian如果流程里会出现智能体发起工具调用，搭配 Granite Guardian 3.1 做幻觉检测，能对调用过程多一层观测。
进阶省时间也省钱
- RAG 先配嵌入模型检索效果不理想时，别只换生成模型；先试 Granite Embedding 里更大尺寸的版本，从 30M 到 278M 逐个比较召回质量。
- 长文档切分放宽有了 128K token 上下文，原先为迁就短上下文做的细碎切分可以放宽，减少上下文被切断导致的检索断层。
- 组合 Docling 做预处理处理 PDF、幻灯片等模型不易直接读取的格式时，先用 Docling 做文档预处理，再接 Granite 3.1 做 RAG，能少走不少弯路。
- 按权重级别选型低算力设备优先看 2B 与 1B-A400M，对质量要求高的场景用 8B 或 3B-A800M，同一家族切换时提示词基本可以复用。
IBM Granite 3.1适合谁用？
企业 AI 平台团队
推荐需要可自部署、许可宽松的模型来承载内部检索与智能体流程，Apache 2.0 与 128K 上下文正好匹配这类需求。
RAG 应用开发者
推荐要同时解决长文档输入与检索召回，Granite 3.1 的生成模型加四款嵌入模型可以在一套体系内配齐。
做智能体工具调用的人
推荐Granite Guardian 3.1 新增函数调用幻觉检测，适合需要观测和控制工具调用链路的项目。
面向多语言市场的团队
推荐12 种语言覆盖中、日、韩、阿拉伯语等，跨境或多语种业务可以直接复用同一套模型。
需要图像与图表理解的场景
有条件多模态能力尚未落地，官方表示排在后续版本，现在以图像理解为核心需求的选型要等。
IBM Granite 3.1优点和缺点
优点
- 整条产品线统一到 128K token 上下文，长文档场景不用再靠激进切分硬撑
- Granite 3.1 8B Instruct 在 OpenLLM Leaderboard 的平均分居同权重开源模型最高一档
- 全部模型以 Apache 2.0 开源，企业自部署与分发没有许可障碍
- 生成模型与嵌入模型都覆盖 12 种语言，包括中文
- Granite Guardian 3.1 增加函数调用幻觉检测，智能体链路更可观测
- 已上线 watsonx.ai 并接入 Docker、Hugging Face、Ollama 等平台伙伴，获取门槛低
缺点
- 多模态能力尚未推出，官方计划排入后续版本
- 时序模型 Granite TTM 在 watsonx.ai 上仍为 beta 版本的 API 与 SDK
- 官网未公开具体定价与各档免费额度
IBM Granite 3.1关键指标
| 指标 | 数值 | 数据来源 |
|---|---|---|
| 上下文长度 | 128K token | IBM Granite 3.1 发布说明 |
| 嵌入模型参数范围 | 30M–278M | IBM Granite 3.1 发布说明 |
| 支持语言数 | 12 | IBM Granite 3.1 发布说明 |
| 开源许可 | Apache 2.0 | IBM Granite 3.1 发布说明 |
| Lockheed Martin AI Factory 服务开发者数 | over 10,000 | IBM Granite 3.1 发布说明 |
IBM Granite 3.1常见问题
Granite 3.1 有哪些模型，上下文多长？＋
稠密模型包括 Granite 3.1 8B 与 Granite 3.1 2B，MoE 模型包括 Granite 3.1 3B-A800M 与 Granite 3.1 1B-A400M，护栏模型包括 Granite Guardian 3.1 8B 与 Granite Guardian 3.1 2B。这一整条产品线的上下文长度统一为 128K token。
相比 Granite 3.0，这一版提升了什么？＋
最直接的是 Granite 3.1 8B Instruct 相对 Granite 3.0 8B Instruct 的性能改善，它在 Hugging Face OpenLLM Leaderboard 各项基准上的平均分进入同权重开源模型的最高一档。此外整条产品线上下文扩展到 128K token，并新增四款 30M–278M 参数、支持 12 种语言的检索优化嵌入模型。
开源许可是什么，能不能商用？＋
Granite 3.1、Granite Guardian 3.1 以及 Granite Embedding 全部以 Apache 2.0 许可开源。这是宽松、标准的开源许可，企业可以在此基础上自行部署与分发。
支持哪些语言？＋
生成模型与嵌入模型都支持 12 种语言，分别是英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语和中文，覆盖了常见的跨境业务语种。
在哪里可以拿到这些模型？＋
模型已在 IBM watsonx.ai 上线，也可以通过平台伙伴获取，包括 Docker、Hugging Face、LM Studio、Ollama 和 Replicate。想快速试用可以优先从这些平台的现成入口拉取，不搭本地推理环境。
有没有多模态能力？＋
这一版没有多模态能力。IBM 表示会继续为 Granite 3 系列发布更新模型与功能，其中新多模态能力计划在后续版本推出。当前以图像或图表理解为核心需求的场景需要等后续版本。
Granite Guardian 能做什么？＋
Granite Guardian 3.1 8B 与 2B 是护栏模型，这一版新增了函数调用幻觉检测能力。对会发起工具调用的智能体来说，这提供了额外的控制手段和可观测性。
价格怎么算？＋
具体定价与免费额度尚未公布。可以确定的是模型以 Apache 2.0 许可开源，自部署不产生授权费用，成本主要来自你自己的算力与运维；托管服务的价格需要另行确认。
IBM Granite 3.1最新动态
-
Granite 3.2 发布
IBM Granite 3.2 推出，新模型带来实验性的推理能力与视觉理解，重点在文档理解方向。
-
Granite 3.1 发布
整条 Granite 3 语言模型产品线上下文扩展到 128K token，Granite 3.1 8B Instruct 性能明显提升，并新增四款检索优化的嵌入模型与函数调用幻觉检测能力。
