Grafana 提出用 SLO 与错误预算衡量 AI 智能体行为可靠性

Grafana Labs 给出了一套思路：借用可靠性工程里那套老办法，来应对现代软件中一个还算新鲜的问题——AI 智能体的实际表现究竟好不好，该怎么量。该公司在近期一篇文章里说明，评估、服务级别目标（SLO）和错误预算可以派上用场，把幻觉、任务完成度、毒性以及成本这些行为，转成能够度量的目标，并保持持续监控。

这一构想瞄准的是传统应用可观测性的一道根本短板。按老指标，工程师能知道智能体响应够快、没碰上技术错误、花掉了多少 Token，可这些数字未必说明得了答案对不对、有没有拿现有信息做依据、对用户有没有用。Grafana 的办法是直接评估行为本身，再把结果转成 SLI，拿去对照 SLO 衡量。

头一步是评估。一次智能体交互会被检查，看它是否满足某项特定的行为标准。Grafana 举的例子包括：响应有没有以所提供的上下文为依据、有没有完成用户请求、有没有带毒性内容、有没有泄露个人信息，以及有没有被提示词注入影响。评估可以让另一个语言模型来当裁判；如果不用 LLM 也能识别相关行为，正则表达式这类确定性检查同样可行。

这跟去造一个单一的“智能体质量分数”是两回事，差别不小。Grafana 的看法是，质量本身是多维的：一个智能体可能回答有据可依但成本高昂，可能有帮助却偶尔生成有毒内容，也可能准确但速度缓慢。把这几方面拆成独立指标，团队就能针对特定应用真正在意的行为分别定目标，而不是让重要故障藏在一个汇总分数里。

某种行为一旦可以衡量，传统的 SRE 概念就能接上了。Grafana 举例说，可以设一个 SLO：30 天内，95% 的对话被判定为已经完成用户请求。剩下那 5% 就是错误预算——团队明确认定，这段时间里可以容忍的不可接受行为就这么多。

这套方法的分量，与其说在百分比本身，不如说在它立起来的决策模型。错误预算还宽裕时，团队可以去调提示词、换模型、改智能体行为；预算一点点见底，重心就可以转到提质量上，而不是接着引入更多变更。概念上，这跟 SRE 团队多年来平衡可靠性与开发速度所做的取舍是一回事。Grafana 现有的 SLO 工具也是用 SLI、目标值和时间窗口来定义 SLO，再按目标值与 100% 之间的差额算出错误预算。

当智能体行为是慢慢变的、而不是突然出大故障时，这种办法尤其管用。传统告警能抓到失败请求的突然激增，可智能体也许还在正常响应，答案却在悄悄变得不那么有用。模型变更、提示词修改、检索方式变化或者用户行为转变，都可能让质量每天掉零点几个百分点。Grafana 认为，盯住错误预算的消耗，能让这种漂移显形。

对一个 30 天的目标来说，单次糟糕交互可能无关紧要，但持续下降会稳稳地吃掉可用预算。这就给出了一种有别于传统基础设施监控的信号：要关注的未必是某一次执行有没有失败，而是系统整体行为是不是正在偏离约定的可靠性边界。

最难的部分，可能不是建 SLO，而是定下什么才算可接受的行为。可用性目标有几十年的运维经验可借；可智能体的任务完成度或者回答有据性，究竟该到 85%、95% 还是 99%，业界远没有形成同等程度的共识。

Grafana 的做法是先靠评估立基线，再用历史结果帮忙推荐合适的目标值；等智能体逐渐成熟，之后还可以把目标收紧。这一概念也折射出可观测性覆盖范围正在发生的更大变化。Grafana 自己的智能体可观测性工作，就源于监控 Grafana Assistant 时碰到的问题：提示词、模型和工具不断变，传统监控已经不够用。在社区讨论中，Grafana 工程师把离线评估和在线评估分开来看：前者针对已知场景验证变更，后者依据真实的生产交互评估行为。

传统可观测性通常盯着系统是否可用、性能是否落在技术限制之内。AI 系统多出一层：系统的决策和输出是否仍处在可接受的行为边界内。这在评估、可观测性和工程变更之间搭起一个反馈闭环，跟传统应用监控相比，更接近持续的质量度量。

这种方法也有一项重要限制。SLO 管不管用，完全取决于底层的测量。要是充当裁判的 LLM 老是错误分类响应，由此得出的错误预算可能带来一种虚假的精确感。同样，设计不当的评估，可能会奖励那些技术上满足了某项标准、实际却没真正满足用户意图的智能体输出。

这意味着，组织仍然需要具有代表性的评估数据集、对可接受行为的清晰定义、在适当场景中采用确定性检查、对模糊案例进行人工审查，并持续验证评估器本身。SLO 提供的是治理机制，并不会让底层质量测量天然就变得正确。

SLO 传统上给工程团队提供了一套共同语言，用来平衡可靠性和变更：定义重要事项，对其进行衡量，设定可接受的阈值，并利用剩余的错误预算指导决策。

把同样的思路套到 AI 智能体上，这一模型就从系统可靠性扩展到了行为可靠性。智能体在技术层面可能处于可用状态，运行层面却并不可靠，因为它的答案正在变得越来越不准确、缺少依据、成本高昂或不安全。把这些行为当作可衡量的服务目标，工程团队就有了一种机制，用来发现这种退化，并判断什么时候该停止实验、转去修复。

所以，意义不只是 Grafana 又多了一项 AI 指标，而是一个成熟的 SRE 原则正被用进一种特殊环境：系统即使仍然“在线”，也可能变得越来越不可信。对正在把 AI 智能体投入生产环境的组织来说，这一区别可能会成为 AI 可观测性中更为重要的组成部分之一。

Grafana 推的 SLO 思路，是业界想把智能体行为变成可量化指标这股潮流中的一支，其他机构走的则是别的路子。Anthropic 就给智能体定了一套更正式的评估做法：先把任务说清楚，再反复跑试验，用多个评分器来打分，看智能体能不能稳定拿到预期结果。其中 pass@k 和 pass^k 的区别，放到生产环境的智能体身上特别有用。pass@k 看的是试若干次里有没有至少成功一回，pass^k 看的则是每一次都得成。对生产智能体来说，能不能一直靠谱，比偶尔碰对一次答案要紧得多。

OpenTelemetry 切入的层面又不一样。它正在给智能体遥测定标准化的语义约定，让追踪、指标和日志有一套统一的基础，好跨框架、跨供应商去评估智能体的表现。这几条路拼在一起，能看出一种正在成形的分工：评估管的是智能体做得对不对，可观测性负责拿出证据，SLO 则给出一个运行阈值，用来判断这种行为能不能接受。