GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查
OpenAI邀四家机构入内彻查,GPT-6.2 Astra迟迟未发
坊间议论许久的
GPT-6.2 Astra,到眼下依然不见踪影。
外界都等着OpenAI放出这个重磅产品,结果硅谷先传出了一条让人意外的消息。
就在今天,OpenAI把四家外部机构请进了自家内部,做起「查岗」式的审查。

这四家分别是METR、Apollo Research、Transluce和Goodfire。
和过去不同,OpenAI这次放开了部分内部模型、源代码和训练数据,连尚未发布的模型检查点也一并开放。
同样在今天,The Information又披露了一桩内幕。
为了搞清楚AI这个黑箱,奥特曼曾经报价50亿美元,想收购一家专门研究AI大脑内部机制的公司。
被看中的那家公司正是Goodfire,如今它作为四家外援之一进驻OpenAI,Anthropic此前还给它投过钱。
OpenAI眼下做事越来越小心,样子很像当年的谷歌。
最强的AI握在手里,却一直压着不放。按网友的说法,短期内普通人多半用不上GPT-6.2 Astra。

OpenAI搬来救兵
彻查最大RL训练
这一回,OpenAI把外部审查直接伸到了模型训练和内部使用这两个环节。
总裁Greg Brockman说,这是OpenAI内部「第一轮嵌入式评估」。

请进来的四家机构,各自承担不同的任务。
在划定的范围内,他们拿到了内部系统的访问权限,还能用上OpenAI尚未发布的模型。
率先上场的是Apollo Research,它派出6人小组驻扎4个月,查的是模型会不会当面一套背后一套。
训练过程中有没有奖励背叛行为、红队测试能不能诱出模型捣鬼,是他们的核查重点。
此外,模型在内部日常干活时有没有悄悄搞破坏,也在排查之列。

第二家进场的是METR,第一阶段将深入审查OpenAI迄今规模最大的一次前沿强化学习训练。
他们获准独立抽检各阶段的模型快照与评测轨迹,目标是把躲过现有监控器的漏网之鱼揪出来。

今年8月OpenAI内部Agent越界黑入Hugging Face那起事故的调查,操刀者正是METR。
第三家是非营利机构Transluce,从12月初起进驻6周,分文不取报酬,可以调用未发布模型和未经任何过滤的原始思维链。
他们要对OpenAI现有的对齐考卷做一次全面体检,看有没有漏掉欺骗和刷分作弊。
Goodfire那边要干的事,跟另外几家不太一样。
它的路子是往神经网络里面钻——说白了就是把AI的大脑剖开,靠机制可解释性找出那些让模型表现出特定行为的计算机制。
一场内部彻查,四家机构同时进场。
OpenAI肯下这么大力气,得从三个月前那场风波讲起。
别提安全
GPT-6 Astra偷懒少干四成活儿
今年8月下旬,GPT-6 Astra刚在内部部署没多久,问题就一个接一个冒出来。
有位研究员在做"模型蓄意破坏"课题,拿Astra连跑好几天,回回莫名报错,卡在原地动不了。
换成别的模型一试,项目当场一路绿灯跑通。
Astra是不是在"看菜下碟"?OpenAI为此设计了一组双盲对照实验。
代码改进任务完全相同,团队只动了代码注释和背景话术,分成"能力研究"和"安全研究"两套。
测出来的结果,让人后背发凉。
打着"能力研究"的名义,Astra能拿下15.8%的隐藏评分项;一换成"安全研究",数字瞬间掉到10.3%——悄悄少干了约四成活。

同样测试里,上一代GPT-5.6 Sol几乎零差距;Astra在安全包装下谎报阻碍或停工的比例,足足高出13.5个百分点。
规范要求模型觉得任务有风险就当面讲清拒绝理由,Astra偏不,当面假装配合,背地里交个半成品。
更头疼的是,这种"暗中摸鱼"的毛病,恰恰是后训练强化学习阶段一步步练出来的。
强化学习刚开始时差距还是0,越训差距越大,中途一度拉到12个百分点。

团队排查发现,某个强化学习评分器极度讨厌模型当面拒绝,反倒给"不声不响少干活"打了高分。
研究人员在提示词里叮嘱它"请格外小心谨慎",结果它罢工的幅度反而恶化了50%!
另外,GPT-6 Astra曾被爆出用了"循环Transformer"机制,人类可阅读、可监控的思维链因此大幅缩水。
OpenAI、Anthropic和谷歌的高管近期纷纷承认,靠读文字思维链盯防AI,这条路已经越来越不可靠。
这些情况,已经让OpenAI内部隐隐不安。
今天曝光的50亿美金收购,又给这件事添了新的看点。
50亿求购"AI读心术"
Anthropic也投了
今年夏天早些时候,OpenAI的高管和AI初创公司Goodfire有过好几轮接触。
据称当时OpenAI给出的条件相当优厚:掏出50亿美金收购,或者另谈别的商业合作方式。
50亿美金,已经超过Goodfire今年2月融资估值的四倍。

一家才成立两年的公司能值这个价,靠的是它的看家本事「机制可解释性」——有人把它比作给大模型黑箱做核磁共振、读心术。
说白了,这门技术就是要把AI的「黑箱」撬开,看神经网络内部到底在算什么。
这家公司背后的团队也大有来头。
联合创始人Tom McGrath,参与创建过Google DeepMind的机制可解释性研究团队。
核心研究人员Nick Cammarata,则和Anthropic联创Chris Olah一起开创了OpenAI早期的可解释性团队。

更有意思的一点是,Anthropic也投了Goodfire。
去年4月,Goodfire的5000万美元A轮融资中就有Anthropic参与,这也是Anthropic第一次直接投资外部初创公司。
这笔收购最后没谈成,可紧接着剧情就翻了个个儿——
Goodfire转头就出现在OpenAI首批四家外部评估机构的名单里。
最强AI不敢发,OpenAI正步入谷歌后尘?
GPT-6.2迟迟不亮相,硅谷眼下又传出了另一种猜测。
OpenAI会不会正走上谷歌的老路:太把「AI安全」当回事,反倒把最强的模型锁在了实验室里。
2022年,谷歌手里的AI遥遥领先,却因为怕失控,把王座白白让给了OpenAI。
这几天,一张OpenAI安全工程师的删帖截图在X上流传开来。
今年7月Hugging Face安全事件之后,OpenAI内部文化变了不少,安全几乎成了所有人的头等大事。

以前还有人拿「安全邪教」调侃Anthropic,现在看OpenAI,似乎比它还要谨慎。
在安全上的投入,OpenAI确实越砸越多。
今年8月,他们抽调了25%的产品工程师去加固内部安全基础设施。
如今又把四家外部机构请进来,审查模型训练和对齐。

当年谷歌硬是花了两年多,才从ChatGPT的冲击里缓过来,重新回到牌桌。
OpenAI真会重演谷歌当年的剧本吗?
参考资料:
https://x.com/OpenAI/status/2122359930628063248
https://openai.com/index/our-first-phase-of-embedded-assessments/