256K 长上下文
两个模型均具备 256K 有效上下文窗口，可处理超长文档摘要与分析，以及 agentic 和 RAG 工作流，适合需要一次性消化大篇幅材料的企业任务。
Jamba 1.5 Open Model Family
AI TOOL PROFILE工具资料采用 SSM-Transformer 混合架构的长上下文开源模型家族，含 Mini 与 Large 两个版本。
官网地址 https://www.ai21.com/blog/announcing-jamba-model-family
价格官网未标价
平台Web / API / Hugging Face / Google Cloud Vertex AI / Microsoft Azure / NVIDIA NIM
归类大模型与开发平台
收录2025-01-01
复核2025-01-01
编辑评分
4.2 / 5
★★★★☆
Jamba 1.5 Open Model Family编辑总结
Jamba 1.5 是 AI21 推出的开放模型家族，包含 Jamba 1.5 Mini 和 Jamba 1.5 Large，基于新型 SSM-Transformer 混合架构，主打长上下文、速度与质量。两者拥有 256K 有效上下文窗口，长上下文场景下最高提速 2.5 倍。Mini 在 Arena Hard 得分 46.1，Large 得分 65.4。模型在 Jamba Open Model License 下发布，支持结构化 JSON 输出、函数调用与引用生成。明显短板是 Large 全精度无法在单节点 8 GPU 上加载，需依赖自研 ExpertsInt8 量化才能部署，对硬件与调优有要求。
Jamba 1.5 Open Model Family是什么？
Jamba 1.5 Open Model Family 是 AI21 推出的开放模型系列，包含 Jamba 1.5 Mini 与 Jamba 1.5 Large 两个版本，面向企业级长文本处理场景设计。
模型基于新型 SSM-Transformer 混合架构，融合 Transformer 的质量与 Mamba 的效率，宣称是首个成功扩展到市场领先模型质量水平的非 Transformer 模型。两者拥有 256K 有效上下文窗口，在长上下文场景下最高提速 2.5 倍。Jamba 1.5 Mini 在 Arena Hard 得分 46.1，Jamba 1.5 Large 得分 65.4。模型除英语外还支持西班牙语、法语、葡萄牙语、意大利语、荷兰语、德语、阿拉伯语和希伯来语。
普通用户可通过 AI21 Studio 及 Google Cloud Vertex AI、Microsoft Azure、NVIDIA NIM 等云平台使用；开发者可从 Hugging Face 下载权重，并接入 LangChain、LlamaIndex 等框架；企业可选择私有化本地部署或 VPC 部署。模型原生支持结构化 JSON 输出、函数调用、文档对象消化和引用生成。
Jamba 1.5 Open Model Family核心功能
长文本提速
在长上下文场景下最高提速 2.5 倍，且在同尺寸级别中所有上下文长度下均为最快，适合对响应速度敏感的批处理与交互式应用。
SSM-Transformer 架构
融合 Transformer 的质量与 Mamba 的效率，内存占用低于同类竞品，使用 Jamba 1.5 Mini 可在单块 GPU 上处理最长 140K token 的上下文。
多语言支持
除英语外，支持西班牙语、法语、葡萄牙语、意大利语、荷兰语、德语、阿拉伯语和希伯来语，共九种语言，适合跨国团队的多语言文档处理。
开发者友好
原生支持结构化 JSON 输出、函数调用、文档对象消化和引用生成，方便接入需要结构化数据交换与可溯源回答的工程流程。
ExpertsInt8 量化
自研量化技术，仅量化 MoE 层权重（通常占模型权重 85% 以上）为 INT8，运行时在 GPU 内核中反量化，量化仅需数分钟且无需校准，使 Jamba 1.5 Large 可装入单台 8 GPU 节点。
多平台部署
可通过 AI21 Studio 使用，也已在 Google Cloud Vertex AI、Microsoft Azure、NVIDIA NIM 上线，并即将登陆 Amazon Bedrock、Databricks Marketplace、Snowflake Cortex、Together.AI，同时支持私有化本地和 VPC 部署。
Jamba 1.5 Open Model Family值不值得用？
当任务需要超长上下文处理、多语言文档分析或需要本地化部署时，Jamba 1.5 值得考虑，256K 上下文与 2.5 倍长文本提速是实打实的优势。但若团队没有多 GPU 节点或不愿处理量化调优，Large 版本的部署门槛较高，可从 Mini 起步或用云平台托管。若任务以短文本英文为主、对生态成熟度要求高，Jamba 1.5 的吸引力会下降。
建议选它的情况
- 需要处理数十万字级别文档摘要、分析或 RAG 工作流的企业
- 希望在本地方案中部署长上下文模型、且接受量化流程的团队
- 需要多语言（含阿拉伯语、希伯来语）文档处理能力的跨国业务
- 已在 Google Cloud Vertex AI、Microsoft Azure 或 NVIDIA NIM 上构建应用的开发团队
不建议选它的情况
- 只有单张消费级 GPU、无法满足 8 GPU 节点部署需求的个人开发者
- 任务以短文本英文为主、对上下文长度不敏感的轻量场景
- 不愿处理量化调优、希望模型开箱即用全精度的团队
Jamba 1.5 Open Model Family使用建议
入门先把路子走对
- 从 Mini 起步验证Jamba 1.5 Mini 可在单块 GPU 上处理 140K token，适合先用它跑通长文档处理流程，再评估是否需要升级到 Large。
- 优先用云平台如果不打算自建 GPU 环境，可直接通过 AI21 Studio、Google Cloud Vertex AI、Microsoft Azure 或 NVIDIA NIM 调用，省去部署与量化环节。
- 确认语言覆盖在投入前先测试目标语种（西班牙语、法语、葡萄牙语、意大利语、荷兰语、德语、阿拉伯语、希伯来语）在具体任务上的输出质量。
进阶省时间也省钱
- 用 ExpertsInt8 量化部署 Jamba 1.5 Large 时采用 ExpertsInt8，量化仅需数分钟且无需校准，可显著降低部署门槛并保持 BF16 处理大激活值。
- 善用结构化输出利用原生 JSON 输出、函数调用和引用生成能力，把模型接入需要结构化数据与可溯源回答的自动化流程，减少后处理。
- 微调选 Mini得益于低内存占用，Jamba 1.5 Mini 的长上下文微调比 Transformer 模型更易进行，适合在自有数据上做定制。
- 关注框架接入LangChain 和 LlamaIndex 即将支持，若已有基于这两个框架的管线，可提前规划迁移与测试。
Jamba 1.5 Open Model Family适合谁用？
企业 AI 工程团队
推荐需要处理长文档摘要、分析及 RAG 工作流，Jamba 1.5 的 256K 上下文和长文本提速能直接改善关键应用质量。
已有 GPU 集群的团队
推荐拥有 8 GPU 节点并愿意使用 ExpertsInt8 量化，可本地部署 Jamba 1.5 Large，兼顾质量与成本。
跨国多语言业务
推荐业务涉及阿拉伯语、希伯来语等九种语言文档处理，模型的多语言能力可减少为不同语种单独选型的工作量。
个人开发者
有条件资源有限，Jamba 1.5 Large 全精度无法在单节点 8 GPU 上加载，除非接受量化或改用 Mini，否则部署门槛偏高。
短文本轻量场景
不推荐任务以短文本英文为主，不需要长上下文或多语言，256K 窗口和长文本提速的优势无法体现，选型性价比不高。
Jamba 1.5 Open Model Family优点和缺点
优点
- 256K 有效上下文窗口，长文档摘要与分析场景优势明显
- 长上下文最高提速 2.5 倍，同尺寸级别全上下文长度最快
- Jamba 1.5 Large Arena Hard 得分 65.4，超过 Llama 3.1 70B 和 405B
- Jamba 1.5 Mini Arena Hard 得分 46.1，超过 Mixtral 8x22B 和 Command-R+
- 支持九种语言，覆盖阿拉伯语、希伯来语等小语种
- ExpertsInt8 量化仅需数分钟且无需校准，降低 Large 部署门槛
缺点
- Jamba 1.5 Large 全精度无法在单节点 8 GPU 上加载，须依赖量化
- 开源许可为 Jamba Open Model License，商用条款需自行确认
- LangChain、LlamaIndex、Amazon Bedrock 等接入尚在即将支持阶段
- 官网未公开具体价格与各云平台的调用费率
Jamba 1.5 Open Model Family关键指标
Jamba 1.5 Open Model Family常见问题
Jamba 1.5 是开源的吗？＋
是的，Jamba 1.5 Mini 和 Large 在 Jamba Open Model License 下发布，可在 Hugging Face 上立即下载使用。许可的具体条款与商用范围官网未详细说明，商用前建议查阅许可原文。
Jamba 1.5 的上下文窗口有多大？＋
两个模型均具备 256K 有效上下文窗口。其中 Jamba 1.5 Mini 通过 SSM-Transformer 架构降低内存占用，可在单块 GPU 上处理最长 140K token 的上下文，适合处理超长文档。
Jamba 1.5 支持哪些语言？＋
除英语外，还支持西班牙语、法语、葡萄牙语、意大利语、荷兰语、德语、阿拉伯语和希伯来语，共九种语言，可覆盖多数跨国业务场景。
Jamba 1.5 Mini 和 Large 在质量上差多少？＋
Jamba 1.5 Mini 在 Arena Hard 基准得分为 46.1，超过 Mixtral 8x22B 和 Command-R+ 等更大模型；Jamba 1.5 Large 得分为 65.4，超过 Llama 3.1 70B 和 405B。Large 质量更高，但对硬件要求也更高。
在哪里可以使用或部署 Jamba 1.5？＋
可通过 AI21 Studio 使用，也已在 Google Cloud Vertex AI、Microsoft Azure、NVIDIA NIM 上线，并即将登陆 Amazon Bedrock、Databricks Marketplace、Snowflake Cortex、Together.AI，同时支持私有化本地和 VPC 部署。
Jamba 1.5 Large 部署需要什么硬件？＋
Jamba 1.5 Large 无法以全精度（FP32）或半精度（FP16/BF16）在单节点 8 GPU 上完整加载。使用自研ExpertsInt8 量化后，可装入单台 8 GPU 节点。
Jamba 1.5 Open Model Family最新动态
-
Jamba 1.5 模型家族发布
AI21 推出 Jamba 1.5 Mini 和 Jamba 1.5 Large，采用 SSM-Transformer 架构，具备 256K 上下文窗口，在 Jamba Open Model License 下发布，并上线多个云平台。
官方公告 ↗
