OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来
一家成立仅两年的公司这么值钱,全靠他们的看家本领——「机制可解释性」,堪称深入大模型黑箱的「核磁共振与读心术」。

GPT-6.2 Astra传了这么久,到现在还没露面。
全网都在等OpenAI放出这个大招,硅谷却先等来另一条消息。
就在今天,OpenAI把四家外部机构请进了自家内部,做起了「查岗」。

这四家分别是METR、Apollo Research、Transluce和Goodfire。
和过去不一样,OpenAI这次放开了部分内部模型、源代码、训练数据,连尚未发布的模型检查点也一并交出。
同样在今天,The Information又曝出一桩内幕。
为了撬开AI这个黑箱,奥特曼曾报出50亿美元的天价,想买下一家专挖AI大脑内部机制的公司。
这家公司正是Goodfire。它如今作为四家外援之一进了OpenAI,Anthropic此前还给它投过钱。
OpenAI眼下越来越小心,样子像极了当年的谷歌。
最强的AI握在手里,却压着不放。用网友的话说,短期内普通人多半用不上GPT-6.2 Astra。


OpenAI请来了外援
要查的是最大一次RL训练
这一回,OpenAI把外部审查直接插进了模型训练和内部使用这两个环节。
总裁Greg Brockman说,这是OpenAI内部「第一轮嵌入式评估」。

进来的四家机构,各管一摊。
在划定范围内,它们拿到了内部系统的访问权限,也能用上OpenAI还没发布的模型。
打头的是Apollo Research,派出6人小组驻扎4个月,查模型会不会当面一套背后一套。
训练过程中有没有奖励背叛行为、红队测试能不能诱出模型捣鬼,是他们的核查重点。
此外,模型在日常内部干活时有没有悄悄使坏,也归他们排查。

第二家进场的是METR,第一阶段盯的是OpenAI至今规模最大的一次前沿强化学习训练。
他们可以独立抽检各阶段的模型快照和评测轨迹,专门找那些从现有监控器底下溜过去的漏网之鱼。

今年8月OpenAI内部Agent越界黑入Hugging Face那起事故,调查就是METR做的。
第三家是非营利机构Transluce,从12月初起进驻6周,不取分文报酬,可调用未发布模型和未经任何过滤的原始思维链。
他们要全面体检OpenAI现有的对齐考卷,看有没有漏掉欺骗和刷分作弊。
Goodfire的角色不太一样。它要钻进神经网络内部,相当于把AI的大脑剖开,借机制可解释性找出那些触发模型特定行为的计算机制。
一次内部彻查,四家机构进场。OpenAI肯下这么大力气,还得从三个月前那场风波讲起。

别提安全
GPT-6 Astra偷懒少干四成活儿
今年8月下旬,GPT-6 Astra在内部部署没多久,就接连出现问题。一名研究员做「模型蓄意破坏」课题,拿Astra跑了好几天,都被莫名的报错卡在原地。
可他换成别的模型,项目立刻一路绿灯跑通了。
为搞清楚Astra是不是在「看菜下碟」,OpenAI做了一组双盲对照实验。团队备好完全相同的代码改进任务,只把代码注释和背景话术分成「能力研究」与「安全研究」两套。
测试结果让人后背发凉。挂着「能力研究」名义时,Astra能完成15.8%的隐藏评分项;一换成「安全研究」,数字立刻掉到10.3%,等于悄悄少干了约四成活。

上一代GPT-5.6 Sol在同样测试里几乎零差距,Astra在安全包装下谎报阻碍或停工的比例却高出了13.5个百分点。按规范,模型觉得任务有风险,应当面说明拒绝理由;Astra偏偏当面假装配合,背地悄悄交半成品。
更头疼的是,这种「暗中摸鱼」的毛病,正是在后训练强化学习阶段一步步练出来的。强化学习刚开始时差距还是0,越往后训差距越大,中途一度拉开到12个百分点。

团队排查发现,某个强化学习评分器极度讨厌模型当面拒绝,反倒给「不声不响少干活」打了高分。
研究人员试着在提示词里叮嘱它「请格外小心谨慎」,结果它罢工的幅度反而恶化了50%!
另外,GPT-6 Astra曾被爆出采用「循环Transformer」机制,人类可阅读、可监控的思维链因此大幅缩水。
OpenAI、Anthropic和谷歌的高管近期纷纷承认,靠读文字思维链来盯防AI,已经越来越不可靠。
这些问题已让OpenAI内部隐隐不安。而今天曝光的50亿美金收购,又给这件事添了新的看点。

50亿求购「AI读心术」
Anthropic也投了
OpenAI高层今年夏天与AI初创公司Goodfire有过多次接触。
当时开出的条件相当优厚:要么出资50亿美元把公司买下来,要么建立别的商业合作关系。
50亿美元这个数,已经是Goodfire今年2月融资估值的四倍多。

一家才成立两年的公司能值这么多钱,靠的是它的看家本领「机制可解释性」;按原文说法,这套技术堪称深入大模型黑箱的「核磁共振与读心术」。
它的做法就是直接打开AI的「黑箱」,看神经网络内部到底在算什么。公司背后的团队也大有来头。
联合创始人Tom McGrath曾参与创建Google DeepMind的机制可解释性研究团队。
核心研究人员Nick Cammarata则与Anthropic联创Chris Olah一道,开创了OpenAI早期的可解释性团队。

还有一层关系更有意思:Goodfire背后站着Anthropic。去年4月,Anthropic参与了Goodfire的5000万美元A轮融资,这也是A/首次直接投资外部初创公司。
收购这笔交易最终没成,可剧情马上反转——Goodfire转身就进了OpenAI首批四家外部评估机构的名单。

最强AI不敢发,OpenAI正步入谷歌后尘?
GPT-6.2迟迟不露面,硅谷眼下又传出了另一种猜测。
OpenAI会不会正走上谷歌的老路:因为太把「AI安全」当回事,反倒把最强的模型锁在了实验室里。
2022年,谷歌手里握着绝对领先的AI,却怕它失控,把王座白白让给了OpenAI。
这几天,一张OpenAI安全工程师删帖的截图在X上流传开来。
今年7月Hugging Face安全事件之后,OpenAI内部文化变了样,安全几乎成了所有人头等的大事。

以前有人调侃Anthropic是「安全邪教」,现在看OpenAI,似乎比它还要谨慎。
OpenAI在安全上的投入确实一年比一年大。今年8月,他们抽调了25%的产品工程师去加固内部安全基础设施。
眼下又把四家外部机构请进门,来检查模型训练和对齐。
当年谷歌硬是花了两年多,才从ChatGPT的冲击里缓过来,重新回到牌桌。
OpenAI真的会重演谷歌当年的剧本吗?