OpenAI上线“控制室”：35秒内可掐断失控AI智能体

AI 智能体一旦跑偏，人类还能不能拉得住缰绳？11 月 10 日，OpenAI 给出了一道新保险——名为“控制室”的系统已在内部研究设施上线，专门用来掐断有风险的 AI 任务，最快能在 35 秒内叫停一只失控的智能体。

这套系统的思路，是从“报警”升级到“断供”。传统监控只会给可疑行为贴标签，控制室走的却是主动阻断路线：它把智能体训练、评估和数据处理等任务负载接入中央服务，由系统拍板某项任务能否继续吐出内容。

任务开工之前，研究员得先到控制室领一个唯一的任务 ID；往后每回向推理引擎发请求，这个身份标识都跟着走。引擎动手前要先征得控制室同意：“这活儿能不能干？”

只要研究员或监控系统发出停止指令，控制室便会把下一次推理请求挡回去，引擎对该任务就不再吐出任何模型结果。说白了，危险动作靠的是当场掐断，而非事后记录。

35 秒延迟，目标归零。OpenAI 透露，从收到停止指令到彻底拦下任务，最长耗时 35 秒。这道时差来自推理授权请求的缓存层，公司正设法把它压到零。

另外，所有前沿强化学习任务各自都配了一名模型监控器，专门盯行为，一旦察觉问题就发出警报。

让 AI 自己看着 AI 跑、再设一道人工可触发的急停开关，OpenAI 这套做法，折射出行业对“失控智能体”风险的警惕正从纸面预案走向工程落地。