OpenAI部署“控制室”系统：35秒内可叫停失控AI智能体
IT之家 11 月 10 日消息，OpenAI 今天宣布，公司已在内部研究设施中部署“控制室”系统，用于停止可能存在风险的 AI 任务，可在 35 秒内“叫停”失控的 AI 智能体。 据介绍，这套系统将智能体训练、评估和数据处理任务等负载接入中央服务，然后由系统负责决定任务能否继续输出。 IT之家了解到，这套系统与负责
OpenAI 11月10日宣布，已在内部研究设施部署“控制室”系统，用来停止可能存在风险的 AI 任务，失控的 AI 智能体可在 35 秒内被“叫停”。
据介绍，智能体训练、评估和数据处理等负载会接入中央服务，任务能否继续输出由这套系统判定。它与负责标记可疑行为的传统监控不同，能主动阻止风险研究任务进一步请求输出。研究员启用某一项任务时，须向控制室请求唯一任务 ID，该标识符会附加到发送给推理引擎的请求中，引擎随后咨询控制室，确认相关任务是否可以运行。
一旦研究员或监控系统下令停止指示，控制室服务就会拒绝下一次推理请求，推理引擎便不再为任务输出任何模型内容。
OpenAI 表示，从收到停止指令到阻止任务继续，这套系统的最长延迟为 35 秒。延迟来自推理授权请求的缓存层，公司正努力将其缩短至 0。
该系统还集成了自动化监控机制。OpenAI 透露，所有前沿强化学习任务都会配备独立的模型监控器，用于检查模型行为，并在发现潜在问题时发出警报。
本文由本站编辑组整理与排版，内容基于公开信息核实后归纳发布，与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态，力求信息准确、表述清晰；文中涉及的名称、价格与功能细节可能随官方调整而变化，请以官方最新说明为准。如发现疏漏或表述有误，欢迎通过站内渠道反馈指正。
