数据连接器
可从 API、文件、SQL 以及数十种其他来源摄取数据,是构建 RAG 管线的入口环节,把分散在各处的原始数据统一接入到 LLM 可消费的流程中。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
LlamaIndex.TS 是一个用于构建大语言模型应用的 TypeScript 框架,主打上下文工程(Context Engineering),让开发者能把私有数据注入 LLM 提示词中。它覆盖从快速原型 RAG 聊天机器人到生产级多智能体工作流的全流程,适配 Node.js、Deno、Bun、Cloudflare Workers 等现代 JavaScript 运行时。核心能力包括数据连接器、索引与检索器、代理与引擎、工作流编排以及可观测性集成。官方提供 LlamaCloud 托管解析、抽取与索引服务,并称有慷慨的免费额度。短板在于:官网未公开具体定价与免费额度数额,落地仍需配合 LlamaCloud 或自建管线。
LlamaIndex.TS 是由 LlamaIndex 团队推出的 TypeScript 框架,用来构建基于大语言模型的生成式 AI 应用,定位是「在 JavaScript 和 TypeScript 里做上下文工程」。它面向需要在 JS 技术栈里接入 LLM 的开发者,覆盖从快速原型到生产部署的链路。
它的核心思路是上下文工程:LLM 预训练用的是公开语料,不了解私有或领域数据,框架负责在合适的时机把合适的数据片段注入提示词。最典型的用法是检索增强生成(RAG),同一套思路也支撑代理记忆、评估、抽取、摘要等场景。框架提供数据连接器、索引与检索器、代理与引擎、工作流、可观测性集成等构件。
使用方式按角色区分:普通用户可通过 StackBlitz 在线示例免本地环境直接跑起第一个应用;开发者用几行代码即可搭出 RAG 聊天机器人,再逐步扩展到多智能体工作流,并部署成微服务;团队则可以借助 create-llama 脚手架快速起项目,配合 Next.js UI 组件构建聊天界面。需要端到端托管管线时,可接入 LlamaCloud 的文档解析(LlamaParse)、抽取(LlamaExtract)与索引服务。
可从 API、文件、SQL 以及数十种其他来源摄取数据,是构建 RAG 管线的入口环节,把分散在各处的原始数据统一接入到 LLM 可消费的流程中。
负责存储数据并按需检索,供大语言模型消费。索引解决数据怎么组织,检索器解决提问时取回哪些片段,两者共同决定 RAG 的回答质量。
提供查询与聊天加推理的接口,让 LLM 能在你的数据上做交互。代理是可推理、能调用外部工具并执行动作的助手,适合研究、数据抽取与自动化任务。
工作流是多步骤、事件驱动的流程,把代理、数据连接器和其他工具串起来解决复杂问题。可把检索、生成、工具调用等步骤串成一条管线,再整体部署为微服务。
内置可观测性集成,方便在迭代过程中确认每一步的实际表现,让上下文工程的效果可被观察和调整。
面向需要端到端托管管线的场景,提供文档解析 LlamaParse、抽取 LlamaExtract 与索引服务,有慷慨的免费额度,具体额度官网未公开。
官方提供的脚手工具,可在数秒内生成一个新项目,省去从零搭建目录与依赖的时间;配套的 Next.js UI 组件可用于构建聊天应用界面。
当你要在 JavaScript 或 TypeScript 技术栈里做 RAG 聊天机器人或多智能体工作流时,LlamaIndex.TS 值得优先考虑:它把连接器、索引检索、代理、工作流、可观测性都收在同一套惯用 TypeScript 的框架里,并且明确支持 Node.js、Deno、Bun、Cloudflare Workers 等运行时。需要端到端托管解析与抽取时,还能接 LlamaCloud。但,预算事前无法估算,对成本敏感的团队要先确认。若你的项目是 Python 栈,官方另有 Python 框架与文档,应改用那一侧。
在现有 JS/TS 项目里加 LLM 能力,框架是惯用 TypeScript 写法,接入成本低,可直接用 npm 依赖方式引入。
从原型到生产都在一个框架内完成,连接器、索引检索、工作流、可观测性齐全,省去自研基础设施的时间。
官方提供代理与工作流两套基础构件,可把多步骤、事件驱动的流程编排后部署成微服务,适合做复杂自动化。
LlamaCloud 提供 LlamaParse 文档解析与 LlamaExtract 抽取,有慷慨免费额度,但具体额度与计费官网未公开。
官方另有 Python 框架与文档,跨栈引入 TS 版会带来维护成本,除非前端链路确实以 JS/TS 为主,否则不建议切换。
它是一个用 TypeScript 构建大语言模型应用的框架,核心是上下文工程:把私有或领域数据在合适的时机注入 LLM 提示词。最典型的用法是检索增强生成,也就是 RAG 聊天机器人,同一套思路也能用于代理记忆、评估、抽取和摘要。
说明面向现代 JavaScript 运行时,包括 Node.js、Deno、Bun、Cloudflare Workers 等。也就是说你现有的 JS 服务端环境大概率可以直接用,不需要为它单独换一套基础设施。
最快的方式是用官方的 StackBlitz 示例,不需要本地安装环境,第一个应用只需 5 行代码。之后可以跟教程依次学习安装与运行时指南、创建第一个代理、索引数据并与它聊天,以及自己写工作流和代理。
未公开框架本身的具体价格,LlamaCloud 托管服务方面提供慷慨的免费额度,但免费额度的具体数额与后续计费方式官网未说明,需要以官方页面为准。
框架负责上下文工程与应用编排,LlamaCloud 则是可选的端到端托管管线,提供文档解析 LlamaParse、抽取 LlamaExtract 与索引服务。你把重活交给托管服务,业务编排仍留在自己的 TypeScript 代码里。
同时提供 Python 框架与文档、Python 版 GitHub 仓库。两者定位一致,只是语言不同:项目主力是 Python 就用 Python 版,主力是 JavaScript 或 TypeScript 就用这个 TS 版本。
有。create-llama 可在数秒内生成一个新项目,官方还提供一套基于 Next.js 的 UI 组件,用于构建聊天应用界面。两者配合可以省去项目起步阶段的目录搭建和界面开发工作。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| LlamaIndex.TS本工具 | 4.4 | LlamaCloud 称提供慷慨的免费额度 | 数据连接器;索引与检索器;代理与引擎;工作流编排 | Web / Node.js / Deno / Bun / Cloudflare Workers |
| Snowglobe | — | 未标价 | 用于大规模测试 LLM 应用的人工智能模拟环境 | — |
| reachat | — | Apache 2.0 许可,个人或商业项目免费使用 | 开源的 ReactJS UI 库,用于快速构建 LLM 和聊天用户界面 | Web |
| Prompt flow | — | 未标价 | 端到端开发工具套件,简化基于 LLM 的 AI 应用的开发流程 | — |
| Merlin API Platform | — | 每年结算 19 美元/月;对比其他工具每月 130 美元 | 快速将 LLM 集成到生产应用 | Web / Chrome 浏览器扩展 / iOS |
| Lintrule | — | 未标价 | 让 LLM 为您的代码审查 | — |