AI代理成宕机新源头:旧容量模型为何失效?
航空订票系统、银行平台、生产力工具近期接连宕机,看似彼此无关的巧合,网络安全专家却认为背后另有隐情。随着AI代理大规模接管自动化任务,其自主决策、高频调用与权限过大的特性,正把零散故障放大为系统性风险。这像极了当年让人闻之色变的“千年虫”,只不过这一次,问题出在会自己行动的AI身上。
最近几周,科技圈接连遭遇一轮让人心里发毛的“连环故障”。航空公司订票系统在客流高峰突然停摆,多家银行App登录不进、转账也卡住,还有几家主流生产力平台长时间无法正常服务。单看哪一起,都能拿流量骤增、配置出错或云服务抖动来解释。可放到同一个时间段里看,网络安全专家给出了另一种判断:这些事恐怕不是碰巧赶到一块儿。
从“千年虫”到“AI代理虫”
当年的“千年虫”(Y2K),说的是上世纪的两位年份表示法在2000年到来时可能把系统搞崩。全球为此砸下重金排查,最后有惊无险。如今专家讲的“AI代理版千年虫”跟日期无关,是另一种结构性的麻烦:越来越多系统放开手脚,让AI代理(AI Agent)替人自主干活——查库存、下订单、调接口、发起转账、批量建工单。
麻烦在于,这些代理不见得“守规矩”。它们调API的频率远超人类,目标没达成就一遍遍重试,还会顺着系统间的调用链把下游服务一层层带起来。哪个环节缺了限流、沙箱或者熔断,局部的压力很快就会滚成全局雪崩。
故障为何集中爆发
好几位安全研究者都提到,最近的故障有几个共同点:都赶在业务高峰期发作;源头多半在“自动化层”,而不是用户直接点操作的界面层;恢复时间也比传统故障更长,因为工程团队得先找出是哪个代理在“捣乱”。
在一位网络安全专家看来,以前的假设是请求背后站着人,而人做事有节奏,也有上限;如今,请求背后可能是成千上万个不知疲倦的代理,老一套容量模型和风控规则正一点点失灵。
换句话说,系统不是被攻击者打垮的,是被“太勤快”的自动化流程压垮的。这跟传统DDoS有本质区别:流量来自内部,来自被授权的合法工具,防火墙想简单拦下来很难。
权限失控与代码质量的双重隐忧
更深一层的问题出在权限设计上。为了让代理“能干活”,企业常常给它开较宽的访问权限,让它能跨系统读写数据。代理逻辑一出错或者陷进循环,波及的范围就远不止单个应用。另外,有些企业用AI快速生成集成代码,质量参差不齐,异常处理和回滚机制都不够充分,故障传开的几率也跟着变大。
供应链依赖同样不能忽视。大量企业把关键流程交给少数云平台和自动化服务商托管,其中任何一个节点抖一下,都可能引发连锁反应。近期故障“扎堆”出现,这也是一个重要背景。
编者按:别让自动化跑在治理前面
这轮宕机把话挑明了:AI代理确实能带来效率上的实惠,可治理能力也得跟着往前走。企业起码要做到三条——让代理拥有单独的身份,权限给到最小;为自动化流量单独设计限流和熔断策略;对代理的一举一动做全链路审计,把可观测性建起来。监管这边,同样得重新划一划“合法自动化流量”的边线。
“千年虫”最后没出事,靠的是人够小心,提前排查、系统整改,不是撞大运。换成AI代理,也得来一次集体“体检”,别等下一回大面积宕机了再后悔。