Datadog Scout:AI SRE 故障排查专用模型,成本成焦点
Datadog 发布 Scout,一个用于排查生产问题的模型。它在 Bits Investigation(该公司的 AI SRE 产品)中运行,能够接收告警、查看遥测数据并给出问题根因推测。Datadog 工程师和少量客户正在使用其封闭预览版。 公告中描述的大部分工作都与成本有关。排查故障可能需要多次调用模型,因为 B
Datadog 推出了一款名为 Scout 的模型,专门用来排查生产问题。它跑在该公司的 AI SRE 产品 Bits Investigation 里,能接收告警、调取遥测数据,并给出问题根因的推测。目前 Datadog 工程师和少数客户正在封闭预览版中使用它。
公告里讲得最多的,其实是成本。排查一次故障往往要多次调用模型——
Bits 会先查询、再分析结果、然后决定下一步查什么。通用模型干得了这类活,但 Datadog 表示调用费用太高,没法对每条告警都跑一遍。团队想要的效果是:工程师刚收到告警、还在响应的时候,Bits 已经动起来了。
在 Datadog 自家的 AlertEval 基准测试中,Scout medium 的得分与 GPT-6.1 Sol high、Claude Opus 5.5 high 接近,而推理预估成本只有后两者的三分之一到八分之一。Datadog 还称,xhigh 档位下 Scout 的效果与 Claude Fable 5.1 xhigh 相当,成本却仅为后者的四分之一。官方没有公布具体定价,这些数字都是相对 Scout medium 一次排查的成本来算的。
AlertEval 用的素材是真实告警、归档遥测数据,以及 Datadog 工程师撰写的故障说明。LLM 评判器会把 Scout 的报告和专家报告放在一起比对,对直接原因和根本原因吻合的情况打分。有矛盾、或者推断缺乏证据支撑,都会被扣分。最终得分区间是 0 到 100 分,不过 Datadog 提醒,这个分数并不等于成功解决故障的百分比。
Scout 基于 GLM-5.3 Flash 构建。Datadog 用模拟事件做强化学习后训练,这些模拟事件来自历史案例中发现的模式,包含告警、可查询的遥测数据和已知根因。公司称训练素材里没有客户数据。练习时 Scout 用的是模拟 Bits 工具的工具,涵盖跨日志、指标和追踪的搜索,以及代码、部署和功能标志检查。技术报告也详细写了训练中踩过的坑:最初只按最终结论设奖励,Scout 就倾向于少做推断、早早收手——受罚的概率是降了,排查能力却没长进。团队随后把奖励改成兼顾正确性、探索和支持证据,还在部分训练运行中拿掉工具、或压缩可用时间,防止模型学出一套固定的排查路径。
Datadog 又在 SREGym 上做了第二轮评估,这是一个包含 90 个故障场景的公开数据集。Scout medium 档位解决了 71 个案例,high 档位 79 个,xhigh 档位 80 个;GPT-6.1 Sol xhigh 完成 82 个。所有测试都是 Datadog 自己做的,其他对比模型也一样,因此独立第三方验证的结果会更有参考价值。
Scout 面世的时候,可观测性厂商们正纷纷琢磨 AI 智能体该接手多少故障处置工作。AWS DevOps Agent 把多个监控产品的遥测数据与源代码、部署记录、运行手册拼到一起,思路是跨工具整合信息;Datadog 走的是另一条路——训一款低成本专用模型,在自家产品里反复调用。Honeycomb 的 Canvas Agent 则更贴近工程师手动排查的习惯:告警触发或 SLO 消耗过快时,它会打开一个共享 Canvas,执行查询、验证猜想,把证据留下来供工程师检查。团队还能把熟悉的调试过程封装成 Canvas Skill。Honeycomb 另外提供了 MCP 服务器,允许外部智能体查询其遥测数据。不过 Honeycomb 尚未发布专门的 SRE 模型,重心放在查询引擎和排查过程记录上。
Splunk 和 New Relic 走得更远,已经延伸到修复环节。Splunk AI SRE 会对告警分组,生成带证据链的根因结论,配套的 Claude 智能体能在沙箱里生成代码改动、提交 PR。New Relic 的 SRE Agent 把运行手册、事件审查和以往的解决方案纳入分析,Autopilot 还能给出修复建议。这两家都要求变更正式上线前经过人工审批。
InfoQ 报道过一项 ClickHouse 的研究:通用模型能生成摘要,但要持续找到根因,还得靠人工指导。Instacart 的 Blueberry 做法类似——智能体先收集上下文,再由工程师在 Slack 里评估它给出的根因推测。
Scout 的基准数据主要出自 Datadog 自己。Scout 发布后,独立 AI 资讯账号 AGTP 指出 AlertEval 尚未经过独立测试,并要求提供审计轨迹,说明 Scout 考虑过、又丢弃了哪些证据。Honeycomb 的可视化 Canvas 和 Splunk 的证据链说明,其他供应商同样在意这件事。排查故障时,简短结论当然有用,但工程师还需要看清楚模型是怎么得出答案的。
Datadog 还没公布正式发布日期。公司计划在模拟案例里加入更多故障类型,长远目标是让 Bits 能执行修复操作。当前预览版离这一步还远:Scout 只负责排查、给出诊断、建议恢复方案,最终变更仍由工程师来做。