10月29日，MIT Technology Review 的工作日通讯《The Download》推出新一期，两条议题被摆到一起：AI智能体的实时监测，以及地球气候系统中的反馈回路。表面看二者并不搭界，底色却一致。前者关系到人类能不能看清自己造出的技术当下在干什么，后者关系到地球会不会更快滑向更热的未来。说到底，两边焦虑的是同一件事——复杂系统正在变得看不见。
从考试到上岗：AI治理的范式缺口
当日的观点栏目里，Partnership on AI的Madhulika Srikumar与Claire Leibowicz联合撰文，提出一个紧迫主张：我们需要对AI智能体的行为进行实时监测。Partnership on AI是一家致力于推动AI治理最佳实践的非营利组织，其观点往往被视为行业风向标。
这一呼吁正好戳中当下AI治理的盲区。过去几年，大模型的安全讨论基本围着发布前的评估和基准测试打转：模型在标准数据集上得分如何、有没有偏见、红队测试过不过得了。这套做法，好比让学生毕业前参加一场标准化考试，拿一次性的成绩去推断他长期的表现。
可AI一旦从应答式聊天机器人变成能自主完成任务的智能体，这套逻辑就不灵了。智能体能规划多步骤任务、调用浏览器和外部API、读写文件，还能在没人盯着的情况下连续行动数小时乃至数天。它面对的是开放、动态、充满不确定性的真实环境，不是一个静态测试集。一次工具调用出错、一条被注入的恶意指令、一段意外触发的连锁操作，都可能在用户毫无察觉时造成实际损害。
发布前的评估只能回答“它可能怎么做”，却无法回答“它此刻正在做什么”。
两位作者因此把重点放在实时监测上。监测不是事后审计，也不是事后追责。它要求系统在运行过程中持续记录智能体的决策路径、工具调用、外部交互和状态变化，并且在异常出现时能及时告警、干预甚至中断。换句话说，治理的重心要从一次性准入，转到全生命周期的持续观察。
为什么实时监测如此困难
难处首先在技术。智能体的行为链条通常很长，中间步骤散落在模型推理、工具调用和外部服务之间，没有统一的日志标准；各家厂商的智能体框架接口不一样，第三方想接入成本很高；多个智能体协同时，责任边界就更说不清了。
其次是激励。实时监测带来更高的计算开销、更复杂的工程架构，还有可能把自家系统的缺陷暴露出来的透明度。对厂商来说，这些短期内都算不上商业优势。现有监管框架大多围绕模型发布环节设计，对部署后持续运行的动态行为没有明确要求，市场自然缺少自发投入的动力。
再就是定义。什么行为算异常？智能体偏离预期到多大概率才该触发告警？误报带来的运营负担和漏报带来的安全风险，该怎么权衡？这些问题还没有共识，却直接决定监测系统能不能真正落地。
业界其实已经在摸索：可观测性工具开始从传统软件领域往AI系统迁移，行为日志、轨迹回放、运行时护栏等概念陆续进入产品；一些研究团队试着用独立的监督模型对智能体行为做在线审查。不过这些实践还很零散，统一标准和跨机构协作都还缺着。
另一条警报：地球的自我强化循环
同一期通讯还提到气候科学里一个让研究者不安的概念——气候反馈回路。它和人类排放直接推动的增温不同：变暖引发的变化，反过来又进一步加剧变暖，形成自我强化的过程。
典型例子不少：北极永久冻土融化，释放出封存已久的甲烷与二氧化碳；海冰与积雪消融压低地表反照率，更多太阳能被吸收而不是反射出去；亚马逊雨林与北方森林因干旱和火灾退化，碳汇能力被削弱；野火频发本身又成了新的排放源。这些机制不是各干各的，而是可能相互叠加、彼此放大。
反馈回路真正危险的地方在于非线性和滞后性。系统可能长期缓慢变化，越过某个临界点后却骤然加速，而人类往往事后才意识到拐点已经过去了。这和AI智能体的风险结构惊人地相似：都涉及多要素耦合，都有难以预测的阈值，也都要求我们在损害发生之前就建立起足够的感知能力。
编者按：可见性才是治理的前提
把这两条新闻放在一起看，它们指向同一个方法论命题：面对高度自主、快速演化的复杂系统，事前的静态评估和事后的损失统计都不够用，真正稀缺的是运行过程中的实时可见性。
对AI来说，这意味着把监测能力写进产品设计与监管要求：建立可互操作的行为日志规范，推动第三方独立审计，明确开发者在部署后的持续责任。对气候来说，这意味着加大对关键临界要素的长期观测和早期预警投入，别让科学监测成为最容易被砍掉的预算项。
技术能力的增长速度，往往快于我们理解其后果的速度。缩小这一差距，靠的不是更强的预测，而是更诚实的观察。
