多模态输入输出
智能体可以处理实时语音、视频和文本输入,并以任意模态产生输出,覆盖说话、打字和屏幕共享等交互方式。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
把 Python 或 Node.js 程序变成房间里的实时多模态 AI 参与者
LiveKit Agents 是一个端到端框架,让任何 Python 或 Node.js 程序作为完整的实时参与者加入 LiveKit 房间,通过 STT-LLM-TTS 管线处理语音、视频和文本。它用 WebRTC 连接前端与智能体,智能体再通过 HTTP 和 WebSockets 与后端通信,内建可靠的轮次检测、打断处理和 LLM 编排能力。框架完全开源,插件覆盖几乎所有主流 AI 提供商。你还可以用 LiveKit Agent Builder 在浏览器里不写代码就原型化和部署语音智能体,或者部署到 LiveKit Cloud 的全球基础设施上。主要限制是它面向开发者场景,依赖对实时通信或 SDK 的基本理解,单纯想开箱即用的人上手门槛偏高。
LiveKit Agents 是 LiveKit 推出的智能体框架,用来构建生产级的多模态和语音 AI 智能体。它把智能体代码定位成用户与强大 AI 模型之间的有状态实时桥梁,前端与智能体之间走 LiveKit WebRTC,智能体与你的后端之间走 HTTP 和 WebSockets。
框架提供了处理实时语音 AI 核心难题的组件,包括把音频流经 STT-LLM-TTS 管线、可靠的轮次检测、处理打断以及 LLM 编排。它支持大多数主流 AI 提供商的插件,并且持续增加。你可以用 Python 和 Node.js SDK 写代码构建智能体,也可以用 LiveKit Agent Builder 在浏览器里不写代码地原型化和部署。部署目标可以是 LiveKit Cloud 的全球基础设施,也可以是任何自定义环境。
对普通用户来说,Agent Builder 提供了不写代码的入口,几分钟就能做出第一个语音智能体。对开发者来说,Python 和 Node.js SDK 加上 GitHub 上的示例代码,配合 Voice AI 快速上手指南,可以在 10 分钟内构建并部署一个简单的语音助手。对团队来说,LiveKit Cloud 提供托管部署、内建的转录和追踪可观测性,以及无需 API key 就能运行 AI 模型的 LiveKit Inference。
智能体可以处理实时语音、视频和文本输入,并以任意模态产生输出,覆盖说话、打字和屏幕共享等交互方式。
内建把音频流经语音识别、大语言模型和语音合成三段式处理的组件,支持插件接入大多数主流 AI 提供商,新的插件在持续增加。
提供可靠的轮次检测和处理用户打断的能力,让实时语音对话更接近真人交流的节奏,不需要自己从头实现。
可以定义与任何 LLM 兼容的工具,甚至能把工具调用转发到前端,让智能体在对话中触发外部能力。
把复杂工作流拆成更简单的任务,通过智能体之间的交接来协作,示例里的餐厅系统就在多个智能体之间共享状态。
前端与智能体之间使用 LiveKit WebRTC,即使在不稳定的移动网络下也能保持顺畅通信,同时避免 WebRTC 通常的集成复杂度。
在浏览器里直接原型化和部署语音智能体,不需要写任何代码,适合想快速验证想法的人。
提供托管部署、内建的转录与追踪可观测性,以及无需 API key 运行 AI 模型的 LiveKit Inference,也可以部署到自定义环境。
当你要构建实时语音或视频 AI 智能体、并且团队里有 Python 或 Node.js 开发能力时,LiveKit Agents 值得选:它把 WebRTC、轮次检测、打断处理和多提供商插件这些难啃的活都做成了组件,开源可自部署,也能托管到 LiveKit Cloud。当你想找一个开箱即用、完全不碰代码的成品语音助手时,它并不合适——虽然 Agent Builder 提供不写代码的路径,但框架本身仍是开发者工具,深入使用绕不开 SDK 和管线概念。当你的场景只是纯文本问答、不涉及实时音视频时,也不需要引入这套实时通信体系。
要构建呼叫中心、远程医疗、实时翻译等实时语音场景,框架已内建轮次检测、打断处理和 STT-LLM-TTS 管线,省去自研实时通信层的工作量。
两种语言都有 SDK,GitHub 上有源码和示例,10 分钟内能跑通第一个语音助手,适合已经有开发能力、想快速接入语音 AI 的人。
插件覆盖大多数主流 AI 提供商且持续增加,LLM、STT、TTS 都可替换,避免被某一家模型商锁死。
Agent Builder 可以在浏览器里不写代码地原型化和部署语音智能体,但要做深度定制仍然需要接触 SDK 和管线概念,纯成品需求可能不合适。
框架用 WebRTC 连接前端与智能体、用 HTTP 和 WebSockets 连接后端,虽然降低了 WebRTC 通常的复杂度,但仍需要理解实时通信与智能体编排的基本概念。
价格与免费额度未公布。框架本身完全开源,Python 源码和示例可以在 GitHub 上获取,因此自行部署到自定义环境不涉及框架授权费用;但托管到 LiveKit Cloud 涉及的价格需要另行确认。
提供 Python 和 Node.js 两套 SDK,任何 Python 或 Node.js 程序都可以作为完整的实时参与者加入 LiveKit 房间。官方文档还给出 Python SDK 的参考文档和 GitHub 上的源码与示例。
可以。LiveKit Agent Builder 让你在浏览器里直接原型化和部署语音智能体,不需要写任何代码。不过要做深度定制、接入自己的模型或业务逻辑,仍然需要走 Python 或 Node.js SDK。
支持语音、视频和文本三种实时输入,并能以任意模态产生输出。框架内建把音频流经 STT-LLM-TTS 管线的组件,也有处理视频输入的视觉智能体示例。
插件覆盖了几乎所有主流 AI 提供商,涵盖 LLM、STT、TTS 等环节,并且新插件在持续增加。官方快速上手示例里就组合使用了不同厂商的语音识别、语言模型和语音合成服务。
官网未说明地域限制或国内可用性。实际能否使用取决于你选择的 AI 提供商和部署环境,如果模型服务本身对访问区域有要求,需要单独确认。
可以部署到 LiveKit Cloud 的全球基础设施,享受托管部署、内建转录与追踪可观测性以及无需 API key 的 LiveKit Inference;也可以部署到任何自定义环境,自行管理基础设施。