OpenAI建中央控制室：35秒内可叫停异常模型

前沿AI模型的规模和推理能力一路往上走，高风险模型在运行中怎么盯住、出了事怎么紧急叫停，要求比以往严得多。OpenAI 近日对外宣布，已搭建起一套新的中央研究工作负载管控系统，名为 Control Room（控制室）。它的任务就是实时追踪研究基础设施里的模型工作负载，一旦发现可能的安全或安保隐患，能以很高速度切断相关工作。

这套控制室属于 OpenAI 前沿模型整体安全训练与部署方案的一部分，覆盖了全部研究推理工作负载。运行架构上，它并不单独行事，而是和错位行为监测系统（Misalignment Monitoring System）保持无缝协同。监测系统一旦察觉模型运行中出现异常偏离、安全风险或安保隐患，控制室会很快作出反应。

按官方给出的数据，管理层或系统正式决定介入、暂停或停止某项任务之后，Control Room 能在35秒以内彻底终止相关模型的持续输出。关键时刻，这道防线就立在那里。