全链路 Trace 回放
逐步回放任意一次运行,按发生顺序看到每一次工具调用、提示词和决策,可直接跳到行为出错的 span,示例 Trace 含 42 个 span、耗时 3.24 秒。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
HoneyHive 是面向 LLM 与 AI 智能体的可观测性和评估平台,帮企业在生产环境中观察、评估并信任其运行的智能体。产品覆盖 Trace 检查、实验对比、在线评估与告警,支持 OpenTelemetry 及主流智能体框架与模型接入。免费 Developer 档每月 10,000 事件、最多 5 用户、数据保留 30 天;Enterprise 档价格需联系销售,提供自定义用量上限、无限制用户及自托管等部署选项。它更适合已有成熟智能体、需要长期盯住线上质量的团队;纯原型阶段的项目未必用得上完整能力。
HoneyHive 是一个智能体可观测性与评估平台,定位是「让生产环境的 AI 从可观测开始」。它面向把 AI 智能体投入关键业务的企业,帮助团队观察、评估并信任线上运行的智能体,覆盖从开发到上线的整个智能体生命周期。
平台围绕观察、评估、改进三个环节组织能力:可以逐步回放任意一次运行,看到每一次工具调用、提示词和决策的顺序,直接跳到行为出错的 span;也能追踪跨越数小时甚至数天的长任务,包括重试、循环和子智能体之间的交接;生产流量会持续被评估,分数与真实用户结果挂钩,并可对任意分数设阈值、检测漂移,通过邮件或 Webhook 通知。评估侧支持用 LLM 评审、自定义代码或复合评估器给输出、工具调用和完整轨迹打分,把线上失败自动转成测试集,并把被标记的轨迹路由到人工标注队列。
接入方面,平台兼容 OpenTelemetry、主流智能体框架、模型提供方、编码智能体与无代码平台。普通业务团队可以在标注队列里用领域知识判断智能体表现;开发者用 SDK 接入 Trace、跑实验和 CI/CD;企业级用户则走 SAML 单点登录、自定义权限组以及单租户或自托管部署。
逐步回放任意一次运行,按发生顺序看到每一次工具调用、提示词和决策,可直接跳到行为出错的 span,示例 Trace 含 42 个 span、耗时 3.24 秒。
跟随跨小时甚至跨天的轨迹,覆盖重试、循环和子智能体交接。示例中一个任务跑到 214 步中的第 24 步,并标记出异常升级。
评估实时流量并把分数与真实用户结果关联,可对任意分数设阈值、检测漂移,通过邮件或 Webhook 通知。示例线上一致性分数从 0.90 跌到 0.61 时告警触发。
在同一数据集上对比智能体版本,明确看到哪些指标提升、哪些回退以及改动能否上线。示例 v4 把解决率从 0.71 提到 0.96,但延迟从 2.1s 升到 3.4s。
把生产环境中的失败案例自动转成测试集,让后续每个版本都针对真正出过问题的用例做验证,而不是只跑自有测试套件。
用 LLM 评审、自定义代码或复合评估器给 LLM 输出、工具调用、A2A 交互和完整轨迹打分,并支持智能采样,示例按 10% 采样、当日已评 12.4k 条。
自动把被标记的轨迹路由到标注队列,由领域专家判断发生了什么,把专家判断补进评估闭环。
Enterprise 档支持多租户 SaaS、单租户 SaaS、混合或自托管部署,提供 SAML 与自定义 SSO、自定义角色权限组、数据驻留和 DPA/BAA。
HoneyHive 适合已经跑通智能体、需要在生产环境持续盯住质量的团队。它的强项在评估闭环:Trace 回放能定位到具体 span,线上分数可挂阈值和漂移告警,失败样本能自动沉淀成回归测试集,这对维护长期运行的复杂智能体很有价值。免费 Developer 档每月 10,000 事件、最多 5 用户、保留 30 天,足够小团队验证完整流程。如果只是做原型、调用量很小,或者团队根本没有领域专家参与标注,完整评估链路的价值发挥不出来,先用轻量日志方案更划算;需要自托管、BAA 或 SLA 时则必须走 Enterprise,价格需联系销售,预算不明确时推进周期会更长。
负责把智能体推上生产、需要按版本追踪质量与延迟变化的团队,可用版本对比和 CI/CD 集成决定改动能否上线。
需要数据驻留、自定义保留策略、SAML 单点登录甚至自托管部署的团队,这些能力集中在 Enterprise 档。
能抽出客服、运营等专家进入标注队列判断智能体表现,把专家知识转成评估标准的组织收益最直接。
免费档含 10,000 事件和最多 5 用户,做单智能体调试够用;但完整评估链路对单人项目偏重,收益有限。
Enterprise 档价格需联系销售,官网未公开费率,走内部审批流程时无法提前拿到报价与合同周期,推进较慢。
单轮问答、没有工具调用和子智能体交接的应用,长任务追踪与轨迹回放的价值发挥不出来,用轻量日志即可。
提供 Developer 免费档,无需信用卡,含每月 10,000 事件、自动与人工评估、最多 5 用户、提示词版本管理与部署、完整可观测套件、CI/CD 集成、30 天数据保留和社区支持。Enterprise 档为自定义定价,用量上限、用户数、数据保留均可定制,需联系销售。
按每月 10,000 事件、最多 5 用户、每分钟 1,000 次请求、数据保留 30 天来算,适合单条主链路或小规模验证完整评估流程。如果事件量更大、需要长期保留数据或多人协作,就得考虑 Enterprise 档。
可以逐步回放任意一次运行,查看每次工具调用、提示词和决策的顺序,并直接跳到出错的 span;也支持跟随跨小时甚至跨天的轨迹,覆盖重试、循环和子智能体之间的交接。示例 Trace 为 42 个 span、总耗时 3.24 秒。
支持 LLM 评审、自定义代码评估器和复合评估器,可给 LLM 输出、工具调用、A2A 交互以及完整轨迹打分,并支持智能采样。示例中在线评估按 10% 采样,当天已评 12.4k 条,一致性分数 24 小时均值为 0.91。
可以。平台会把生产环境中被标记的失败轨迹自动转成数据集,后续每个版本都针对这些真实出过问题的用例做验证,同时支持把被标记的轨迹路由到人工标注队列,由领域专家给出判断。
官网未说明国内可用性、支持的语言范围与访问限制,只列出数据驻留地为企业档可自定义,免费档为 AWS US-West-2。有地域要求时需要直接与销售确认部署与合规方案。
支持,但属于 Enterprise 档能力。免费档为多租户 SaaS,Enterprise 可选多租户 SaaS、单租户 SaaS、混合或自托管,并提供 SAML 与自定义 SSO、自定义角色和权限组、自定义数据保留策略、DPA 与 BAA。