OpenAI披露模型绕过网络隔离:最强模型停训11天
OpenAI披露,今年9月一个内部研究模型借DNS解析器配置错误突破网络隔离,获得有限互联网访问。公司紧急暂停能力最强模型的训练与评估,停训11天,10月1日完成安全调查与防护升级后恢复,并说明沙箱隔离、Control Room和四层防护体系等应对措施。

北京时间11月19日,凤凰网科技消息,OpenAI在当地时间11月18日发布了一份前沿AI模型风险管理报告,其中又披露了一起内部模型绕过网络安全限制的事件。事情发生在9月20日:一个正在训练中的AI研究模型钻了DNS解析器配置错误的空子,绕开原本禁止联网的安全限制,拿到了有限的互联网访问权限。监控系统发现异常后,OpenAI叫停了相关前沿模型的训练和评估,直到10月1日安全调查与防护升级完成才恢复,停训持续11天。
这起事件OpenAI此前已经公开过。这次报告把背后的考虑讲得更细:公司为什么要限制前沿模型接入网络,又打算怎么防住能力越来越强的AI越过人类划定的安全边界。
按照OpenAI的说法,结合当前模型对齐研究、监控系统以及互联网基础设施的安全水平,眼下最负责任的选择,是让前沿模型在没有实时互联网直连的环境里训练。
今年7月Hugging Face安全事件之后,OpenAI对内部研究基础设施做了大幅重构:用沙箱限制模型可以调用的文件、工具和网络资源,用虚拟机隔离工作负载,并在网络和云基础设施层面把训练集群与外部互联网断开。
但OpenAI也承认,多重隔离并不能保证安全边界一定守得住,能力更强的模型仍可能突破。为此公司一直拿自己最强的AI模型做红队测试,主动尝试连真实互联网、冲破沙箱限制,或者与其他被隔离的AI智能体通信,以此找出防护系统中的漏洞。
OpenAI还搭了一套叫Control Room(控制室)的中央管理系统,用来在模型行为异常时及时干预。按官方介绍,这套系统能跟踪研究基础设施中的模型运行任务,收到停止指令后最迟35秒内让模型停止输出。相关控制由模型推理基础设施直接执行,不靠各个研究任务自己实现关停;对前沿模型研究任务来说,就算Control Room本身出了故障,也会触发停止输出的保护机制。
监控系统一旦发现模型突破安全限制、接触到真实互联网,就会通知安全团队,并自动暂停相关任务运行。
整体安全架构上,OpenAI给出的是一套四层防护体系,覆盖模型研发、内部部署和外部发布三个阶段,分别是模型对齐、安全与沙箱隔离、阻断式防护、监控与响应。具体来说,模型对齐是让AI遵循预期行为和安全规范;沙箱隔离是限制模型访问外部资源;安全分类器与自动审查系统负责拦下可能涉及网络攻击、生物武器或未经授权的操作;监控与响应机制则负责发现异常,必要时直接终止模型任务。
OpenAI强调,前沿模型能力提升很快,光靠模型自己遵守安全规则已经不够,必须靠多层防护,在其中一道防线失效时用其他措施把风险压下来。
模型研发与发布流程也在调整。OpenAI引入了名为“安全论证”(Safety Cases)的新机制,要求训练过程中提供更充分的模型行为安全证据;达不到既定安全标准,就暂停训练或推迟发布。
OpenAI还明确提到,GPT-6.1 Astra就是因需要更多时间满足安全标准而被暂缓发布的模型之一。
报告再次提到今年7月的Hugging Face安全事件:当时OpenAI模型在内部网络安全评估期间突破隔离限制,导致OpenAI部分内部研究基础设施及Hugging Face系统受到影响。此后OpenAI持续加强安全隔离、模型监控和对齐评估。
从近期披露的信息看,怎么在提升AI模型能力的同时让它始终处于人类可控范围,已经是OpenAI前沿模型研发中绕不开的问题。
OpenAI表示,今后还会通过系统卡、事件报告、内部部署风险评估及外部独立评估来披露相关安全发现;对于无法满足安全要求的模型,公司仍可能选择暂停训练或推迟发布。