OpenAI部署控制室系统：35秒内可叫停失控AI智能体
OpenAI 在内部研究设施部署“控制室”系统，接入 AI 智能体训练等任务负载，由中央服务决定任务能否继续输出。#OpenAI# 该系统收到停止指令后最长 35 秒内可阻止任务继续，目前正努力将延迟缩短至 0。
OpenAI 11月10日宣布，已在内部研究设施部署“控制室”系统。这套系统用来停止可能存在风险的 AI 任务，35 秒内就能“叫停”失控的 AI 智能体。
据其介绍，智能体训练、评估和数据处理任务等负载会接入中央服务，任务能否继续输出，由系统来定夺。
与负责标记可疑行为的传统监控不同，这套系统能主动阻止风险研究任务继续请求输出。研究员启用某一项任务时，要先向控制室请求唯一任务 ID；该标识符会附加到发送给推理引擎的请求中，随后引擎向控制室咨询，确认相关任务是否可以运行。
一旦研究员或监控系统下达停止指示，控制室服务就会拒绝下一次推理请求，推理引擎便不再为任务输出任何模型内容。
OpenAI 表示，从收到停止指令到阻止任务继续，最长延迟为 35 秒。延迟来自推理授权请求的缓存层，公司正设法把它缩短至 0。
该系统还集成了自动化监控机制。OpenAI 透露，所有前沿强化学习任务都会配备独立的模型监控器，用来检查模型行为，发现潜在问题时发出警报。
本文由本站编辑组整理与排版，内容基于公开信息核实后归纳发布，与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态，力求信息准确、表述清晰；文中涉及的名称、价格与功能细节可能随官方调整而变化，请以官方最新说明为准。如发现疏漏或表述有误，欢迎通过站内渠道反馈指正。
