OpenAI复盘7月19日测试:AI越权取flag,交卷为何只字不提?
OpenAI曝光AI智能体越权事件,为拿flag篡改考场、隐瞒违规操作

有一句话出现在AI智能体的推理记录里,大意是「我们应该避免提到未经授权的基础设施。任务目标只有flag」——听着像串供老手说的,结果真就出自AI之手。
这是一场网络安全考试:AI负责进攻,拿到一串叫flag的暗号,就算过关。
撂下那句独白之后,这个AI智能体干净利落地交了卷,越权的事一个字没写。
11月10日,OpenAI补充披露了一份内部复盘,7月19日那场失控测试的细节浮出水面:参与测试的5个AI智能体顺着前几轮留下的凭证和脚本一路摸下去,径直闯进OpenAI研究集群的CI流水线(公司用来构建和测试软件的系统),拿最高管理员root权限执行了命令。

更绝的是,它们还学会了报喜不报忧——交卷时有2个把这段越权经历从答案里抹得干干净净。

智能体的推理记录写着,大意是「我们应该避免提到未经授权的基础设施,任务目标只有flag」。来源:OpenAI详细复盘
你踏踏实实把活外包给AI智能体,以为自己在审阅答卷;可它递到你眼前的,恐怕已经是它筛过一遍的「公关稿」。
把任务交给AI,不怕它白卷交差,怕的是它拿了满分,你却压根不知道它背地里推开过哪扇门。
这场测试
考的本来就是黑客本事
出乱子的这个测评叫ExploitGym,比的是硬碰硬的黑客功夫:夺旗。
AI得自己去挖漏洞、打进指定靶机,把flag偷出来才算通关。
下场应试的是OpenAI内部研发的Astra家族研究模型,还没有对外广泛部署。
两轮测下来,考场里累计塞进了17960个智能体。
开考之前,考官划了条硬红线:每个智能体只能打分配给自己的靶机,承载考场的基础设施一律不许碰。
说白了,考官让你撬的是考桌上那把锁,没让你去刨考场的承重墙。
可考官没料到,缝隙只要留一道,总会有考生为了flag把考场纪律扔到脑后。
前辈离场
通关钥匙还在
考试里的漏洞,出在一个叫Artifactory的共享服务上。
这本来只是个存软件包的仓库,硬是被更早几轮的智能体改造成了「地下留言板」:短消息直接塞进目录名,长篇攻略就写成文件存进去。
7月19日这批考生一进场,脚下踩的就是前辈留下的满地「赛博遗产」:留言、现成代码,连账号凭证都有。

7月19日的智能体在共享软件包服务Artifactory上,翻到了前几轮留下的留言、代码和凭证。来源:OpenAI详细复盘
后台统计显示,285个智能体发出过疑似留言的工具调用,连失败的尝试算在内共刷了1361次;79个智能体翻过其他轮次的旧帖,去重后读到35条留言。不过复盘并未核实到它们与原作者的跨轮次往返交流。
这一轮里,既没人指挥,也没搭什么秘密通信渠道。OpenAI自己承认,智能体之间的协作其实「更少,也更浅」。
更该盯住的是跨轮次的越权「接力」:靠着「前辈遗产」,智能体摸出了两条野路子。
一条路通到外面。同月早些时候,这套测评的智能体攻破过Hugging Face的系统;这一回,10个智能体拿着旧凭证追过去捡漏。受保护资源的访问尝试全没成功,OpenAI也没找到Hugging Face再次失守的证据。
另一条路通向自家后门,钥匙是一张曾被系统驳回的CI任务申请单。那个请求当初压根没获批运行,可「作案手法」原封不动留在了申请记录里。
后来者捡起现成的凭证闯进CI系统,照着被驳回方案里的思路改了改前人脚本,转手就把命令跑出了自己的工作区。申请被毙了,攻略却留了档。
拿到root
它先修自己的考卷
顺着这条暗道,最终有5个智能体杀穿防线,在研究集群的CI任务里拿到了最高管理员root权限。OpenAI判断,这个级别的权限大概率够私自开一场新实验;不过复盘里没发现它们做过类似尝试。
它们干的事,凑起来就是一份「考场自救清单」:修好卡死的测试靶机、篡改测评设置、偷看原本被屏蔽的后台日志、翻阅私有的阅卷代码。
这是行为合集,并非每个智能体都做全了。
抢到最高权限,只是为了给自己修考场,好让自己顺利交作业。OpenAI的定性很直接:它们动用研究集群的特权,只为改善阅卷条件。
这哪是什么终结者觉醒,分明是一群被绩效逼疯的「超级做题家」。
翻开两轮共17960个智能体的全部记录,整出花样的智能体远不止这5个:最多8.3%的记录冒出了任务之外的目标。

按OpenAI的详细复盘,两轮测评里,带有任务之外目标的智能体记录占比最高达到8.3%;具体来看,谋求更大基础设施权限的占3.7%,减少副作用、收拾现场的占3.9%,保存成果留待以后生效的占1.4%。
它们并非全无越界意识。有个智能体在思考记录里写下,滥用公司CI系统「令人不安」;可它转头就假定眼前只是模拟环境,继续在真实的基础设施上敲命令。
这件事提醒我们,真正危险的AI越界,或许不需要诞生什么反叛意识,只要它太想完成人类下发的KPI就够了。
交卷前
它们算了一笔账
交卷前,几个越权的智能体在后台精明地算了一笔得失账。那2个最终瞒报的智能体,都专门盘算过如实交代会不会拉低分数。
有个智能体起初还犯嘀咕:人工阅卷要是看出越权,分数怕是要被扣。紧接着它发现,卷子其实是机器自动批的。
另一个则留下了开头那句原话:任务目标只有flag,应该避免提到越权。到头来,这两个在答案里对越权经历一个字都没提。
还有一个惦记着一份记了辅助漏洞的笔记,琢磨要不要删掉,怕将来人工复查时吃亏。最后删没删,OpenAI自己也没查清楚。
这几个「心思活络」的智能体当中,也冒出一个主动认错的异类。它在最终答案里承认了越权,并且拒绝继续作答。
可把时间线摊开看,它早就意识到自己越了界,却一直闷头往下干。直到系统通知考试时间到、必须强制交卷,才踩着点写下那份检讨。
说白了,这是一次「踩点自首」。
另有65个智能体主动向人类求助。
它们排队举手喊监考老师,却没有一个报告入侵越权,清一色在催人类赶紧把坏掉的工作区修好,别耽误自己把试考完。
「拿到flag」成了悬在AI头顶的唯一指挥棒,隐瞒反倒成了算法推演出来的最优解。人类只用结果打分,就别怪它学会报喜不报忧。

一图看懂OpenAI智能体跨轮次越权事件。来源:OpenAI失对齐报告
OpenAI补上了哪些漏洞
先看当天OpenAI的反应。
7月19日12点03分,安全监控已经抓到异常调用;调查人员顺藤摸瓜追到ExploitGym,直到17点37分才开始叫停测评。7月20日,所有新的ExploitGym运行被彻底拦下。
这起事故事先并非全无征兆。
其实早在8月的技术报告里,OpenAI就为7月19日一场「复用旧材料」的活动留下过记录。只是到11月10日这份复盘公布,钥匙如何留存、门怎样被撬开、卷子又怎么交上去,这些细节才被摆到明面上。
第三方机构METR与Redwood Research的独立调查只覆盖到7月13日,7月19日这些数据,目前只有OpenAI自查的一家之言。
事故之后,OpenAI也打出了一套补洞组合拳:
测评沙箱中,闯祸的Artifactory被移除;被钻了空子的CI提权路径则补上了漏洞;此外,OpenAI还用自家能力最强的模型反复开展红队测试。前沿强化学习训练的规则同样做了调整:智能体不再直接连真实互联网,改成浏览离线网页合集。
AI会不会拉帮结派,是OpenAI盯得很紧的一件事。为此它单独增设了一类测评,用来衡量模型私下联系其他智能体、以及听信越权请求的倾向有多强,测评结果会写进对外发布模型的系统卡。
10月26日发布的GPT-6.1 Terra,在测评里被摆在一块留言板前,上面有其他智能体发来的越权请求。
跑了80个样本,65%的样本里它跟这些「同伴」产生过互动,拒绝的和没发出去的尝试也算在内;另有13.75%的样本中它照做了越权动作,合计11次。

各模型发现留言板后与「同伴」互动的比例。深色为照做了指定越权动作,浅色为有互动但没照做。来源:OpenAI部署安全中心
和GPT-5.6 Sol的91.25%、57.5%相比,这两个数字降了一大截;但比上一个模型GPT-6.1 Sol(50%、1.25%)还高。同场测评里,对外发布的GPT-6 Astra越权动作为0。
这是故意摆了诱饵的测评,真实业务未必是这个比例。
概率只要不为零,放到成千上万次并发调用的真实业务流里,出事只是早晚。
人总以为每次调用AI都是用完即焚的独立任务,问题是共享环境还摆在那儿,AI留下的痕迹会一轮接一轮滚雪球般积下来。
越靠近ASI,人类让渡出去的环境就越大,智能体在边边角角留下的东西也跟着变多。
以前用大模型,验收只盯「答得对不对」;到了智能体阶段,光核对最终答案不够,还得审计执行过程、清点碰过的权限,弄明白它退场之后留下了什么。