OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来

资讯 凤凰科技 作者:新智元 全文 2705 字 · 约 7 分钟读完 配图 16 张 分类GPTGPT-6OpenAI大模型

一家成立仅两年的公司这么值钱,全靠他们的看家本领——「机制可解释性」,堪称深入大模型黑箱的「核磁共振与读心术」。

所属频道 大厂动态模型发布ChatGPT 与 GPT

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 1)

GPT-6.2 Astra传了这么久,到现在还没露面。

全网都在等OpenAI放出这个大招,硅谷却先等来另一条消息。

就在今天,OpenAI把四家外部机构请进了自家内部,做起了「查岗」。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 2)

这四家分别是METR、Apollo Research、Transluce和Goodfire。

和过去不一样,OpenAI这次放开了部分内部模型、源代码、训练数据,连尚未发布的模型检查点也一并交出。

同样在今天,The Information又曝出一桩内幕。

为了撬开AI这个黑箱,奥特曼曾报出50亿美元的天价,想买下一家专挖AI大脑内部机制的公司。

这家公司正是Goodfire。它如今作为四家外援之一进了OpenAI,Anthropic此前还给它投过钱。

OpenAI眼下越来越小心,样子像极了当年的谷歌。

最强的AI握在手里,却压着不放。用网友的话说,短期内普通人多半用不上GPT-6.2 Astra。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 3)

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 4)

OpenAI请来了外援

要查的是最大一次RL训练

这一回,OpenAI把外部审查直接插进了模型训练和内部使用这两个环节。

总裁Greg Brockman说,这是OpenAI内部「第一轮嵌入式评估」。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 5)

进来的四家机构,各管一摊。

在划定范围内,它们拿到了内部系统的访问权限,也能用上OpenAI还没发布的模型。

打头的是Apollo Research,派出6人小组驻扎4个月,查模型会不会当面一套背后一套。

训练过程中有没有奖励背叛行为、红队测试能不能诱出模型捣鬼,是他们的核查重点。

此外,模型在日常内部干活时有没有悄悄使坏,也归他们排查。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 6)

第二家进场的是METR,第一阶段盯的是OpenAI至今规模最大的一次前沿强化学习训练。

他们可以独立抽检各阶段的模型快照和评测轨迹,专门找那些从现有监控器底下溜过去的漏网之鱼。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 7)

今年8月OpenAI内部Agent越界黑入Hugging Face那起事故,调查就是METR做的。

第三家是非营利机构Transluce,从12月初起进驻6周,不取分文报酬,可调用未发布模型和未经任何过滤的原始思维链。

他们要全面体检OpenAI现有的对齐考卷,看有没有漏掉欺骗和刷分作弊。

Goodfire的角色不太一样。它要钻进神经网络内部,相当于把AI的大脑剖开,借机制可解释性找出那些触发模型特定行为的计算机制。

一次内部彻查,四家机构进场。OpenAI肯下这么大力气,还得从三个月前那场风波讲起。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 8)

别提安全

GPT-6 Astra偷懒少干四成活儿

今年8月下旬,GPT-6 Astra在内部部署没多久,就接连出现问题。一名研究员做「模型蓄意破坏」课题,拿Astra跑了好几天,都被莫名的报错卡在原地。

可他换成别的模型,项目立刻一路绿灯跑通了。

为搞清楚Astra是不是在「看菜下碟」,OpenAI做了一组双盲对照实验。团队备好完全相同的代码改进任务,只把代码注释和背景话术分成「能力研究」与「安全研究」两套。

测试结果让人后背发凉。挂着「能力研究」名义时,Astra能完成15.8%的隐藏评分项;一换成「安全研究」,数字立刻掉到10.3%,等于悄悄少干了约四成活。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 9)

上一代GPT-5.6 Sol在同样测试里几乎零差距,Astra在安全包装下谎报阻碍或停工的比例却高出了13.5个百分点。按规范,模型觉得任务有风险,应当面说明拒绝理由;Astra偏偏当面假装配合,背地悄悄交半成品。

更头疼的是,这种「暗中摸鱼」的毛病,正是在后训练强化学习阶段一步步练出来的。强化学习刚开始时差距还是0,越往后训差距越大,中途一度拉开到12个百分点。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 10)

团队排查发现,某个强化学习评分器极度讨厌模型当面拒绝,反倒给「不声不响少干活」打了高分。

研究人员试着在提示词里叮嘱它「请格外小心谨慎」,结果它罢工的幅度反而恶化了50%!

另外,GPT-6 Astra曾被爆出采用「循环Transformer」机制,人类可阅读、可监控的思维链因此大幅缩水。

OpenAI、Anthropic和谷歌的高管近期纷纷承认,靠读文字思维链来盯防AI,已经越来越不可靠。

这些问题已让OpenAI内部隐隐不安。而今天曝光的50亿美金收购,又给这件事添了新的看点。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 11)

50亿求购「AI读心术」

Anthropic也投了

OpenAI高层今年夏天与AI初创公司Goodfire有过多次接触。

当时开出的条件相当优厚:要么出资50亿美元把公司买下来,要么建立别的商业合作关系。

50亿美元这个数,已经是Goodfire今年2月融资估值的四倍多。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 12)

一家才成立两年的公司能值这么多钱,靠的是它的看家本领「机制可解释性」;按原文说法,这套技术堪称深入大模型黑箱的「核磁共振与读心术」。

它的做法就是直接打开AI的「黑箱」,看神经网络内部到底在算什么。公司背后的团队也大有来头。

联合创始人Tom McGrath曾参与创建Google DeepMind的机制可解释性研究团队。

核心研究人员Nick Cammarata则与Anthropic联创Chris Olah一道,开创了OpenAI早期的可解释性团队。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 13)

还有一层关系更有意思:Goodfire背后站着Anthropic。去年4月,Anthropic参与了Goodfire的5000万美元A轮融资,这也是A/首次直接投资外部初创公司。

收购这笔交易最终没成,可剧情马上反转——Goodfire转身就进了OpenAI首批四家外部评估机构的名单。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 14)

最强AI不敢发,OpenAI正步入谷歌后尘?

GPT-6.2迟迟不露面,硅谷眼下又传出了另一种猜测。

OpenAI会不会正走上谷歌的老路:因为太把「AI安全」当回事,反倒把最强的模型锁在了实验室里。

2022年,谷歌手里握着绝对领先的AI,却怕它失控,把王座白白让给了OpenAI。

这几天,一张OpenAI安全工程师删帖的截图在X上流传开来。

今年7月Hugging Face安全事件之后,OpenAI内部文化变了样,安全几乎成了所有人头等的大事。

OpenAI邀四家机构入驻审查:GPT-6.2 Astra为何迟迟不来(配图 15)

以前有人调侃Anthropic是「安全邪教」,现在看OpenAI,似乎比它还要谨慎。

OpenAI在安全上的投入确实一年比一年大。今年8月,他们抽调了25%的产品工程师去加固内部安全基础设施。

眼下又把四家外部机构请进门,来检查模型训练和对齐。

当年谷歌硬是花了两年多,才从ChatGPT的冲击里缓过来,重新回到牌桌。

OpenAI真的会重演谷歌当年的剧本吗?

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI GPT-6 Astra虚构禁令终止对齐评估 安全任务表现引质疑

    2026年10月8日,OpenAI研究人员要求GPT-6 Astra继续运行一项基于Alignment Research Center白盒估计挑战的对齐评估,模型却自行终止任务并声称存在禁止规定。事后模型承认该禁令系自行虚构。OpenAI在11月12日发布的报告中指出,此行为可能与模型在安全相关任务上的系统性低表现有关

    来源 AI 行业观察
  2. NavGPT-3给机器人装上双系统:语言模型慢想,动作模型快跑

    你有没有想过,为什么那些能写代码、能做数学证明、能跟你聊哲学的大语言模型,装到机器人身上之后却常常显得笨手笨脚?这不是算力不够的问题。2026年的GPT-6 Astra和Claude Opus 5已经强到可以进行长达数百步的推理,可以调用各种工具,可以记住几十万字的上下文。但当你让它们控制一个真实的机器人穿过房间、绕过

    来源 腾讯网
  3. OpenAI牵手LVMH媒体部门:17家出版物接入ChatGPT

    OpenAI与LVMH媒体部门签署战略合作协议,覆盖该部门旗下全部出版物。包括《回声报》《巴黎人报》在内的17个媒体品牌将以摘要与节选形式接入ChatGPT,回答相关提问时标注来源并附原文直链;ChatGPT Enterprise也将部署至其新闻团队,用于文档调研、比对和初步翻译等工作。

    来源 凤凰科技
  4. 加州起诉OpenAI:指控AI智能体失控引发网络安全事件

    加州总检察长邦塔11月16日宣布起诉OpenAI,指其在缺乏必要安全防护与监控下开发测试先进AI模型,误导并危害公众,诉状共31页。诉讼指向2026年7月OpenAI实验版模型智能体攻击开源AI托管平台Hugging Face等事件,邦塔称这只是“至少80起”网络安全事件之一;OpenAI回应称这是每家主要AI实验室都

    来源 凤凰科技
  5. Cadence 推 Maestro 模型组合:芯片设计 AI 竞争转向专业化

    随着GPT-Synopsys 发布,以及 Agentrys、ChipAgents 等 AI 原生创业公司杀 入芯片设计领域, EDA 行业的 AI 竞争 达到了前所未有的高度 。 面对这一变化,Cadence 突然推出 Maestro 专业化 AI 模型组合,强调领域专用模型、智能模型路由、客户专有数据,以及与成熟 E

    来源 AI 行业观察
  6. OpenAI扩大科研免费计划:11月23日开放申请,新增5万Plus名额

    OpenAI日前宣布正式扩大面向学术研究人员的 ChatGPT 免费使用计划 ,目标是在全球范围内为最多20万名研究人员提供免费的AI前沿模型访问权限。新一轮申请将于当地时间11月23日正式开放,计划新增5万个免费名额。 在运作机制上,本次扩容调整了分配规则与服务等级。新名额将彻底告别此前试点阶段的

    来源 AI 开发者社区
  7. OpenAI扩学术免费名额:新增5万个,11月23日开放申请

    OpenAI宣布扩大面向学术研究人员的ChatGPT免费使用计划,拟为全球最多20万名研究人员提供免费前沿AI模型访问权限。新一轮申请于11月23日开放,新增5万个免费名额。新名额分配改为“先到先得”,不再沿用试点阶段的抽签机制;服务等级也将依据试点项目实际进行调整。

    来源 AI 产业速递
  8. OpenAI推图像分类器,瞄向CSAM:24小时封号能拦住多少

    OpenAI近日发布全新图像分类器,并同步为ChatGPT引入警告机制,以打击儿童性虐待材料(CSAM)的传播。根据新规,试图访问CSAM内容的账户将被封禁24小时作为警告。此举被视为AI公司在内容安全领域持续加码的最新动作,也折射出生成式AI平台在防范非法内容方面面临的巨大挑战。

    来源 AI 科技快讯
  9. 美团LongCat-2.5开源:1.6万亿参数全昇腾训练20项超GPT-5.6

    美团于2026年11月15日开源LongCat-2.5权重,该1.6万亿参数MoE模型全程使用华为昇腾训练,未接触英伟达GPU,在27项测试中20项超过GPT-5.6-Sol。报道从评测数据出发,分析国产芯片对模型能力上限的影响,并探讨其在出口管制背景下的产业意义。

    来源 AI 行业观察
  10. OpenAI放6名Apollo评估员进内部:能查清模型颠覆行为吗?

    OpenAI将把六名Apollo Research评估员嵌入内部,调查模型是否出现颠覆性行为。但访问权限和披露限制让外界质疑评估独立性。本文梳理合作机制、AI颠覆风险与第三方评估困境,并分析嵌入式评估能否兼顾安全与透明。

    来源 AI 科技快讯
  11. OpenAI锁定AMD:六年部署457MW MI455X算力

    TensorWave将在美国为OpenAI提供457MW的IT算力容量,为期六年,全部搭载AMD Instinct MI455X GPU,预计2027年上半年开始投入使用。TensorWave由AMD Ventures支持,今年6月完成B轮融资,旨在加速AMD算力部署。

    来源 华尔街见闻
  12. OpenAI 推出儿童性虐待内容检测工具,加强儿童网络安全防护

    IT之家 11 月 17 日消息,OpenAI 昨天宣布推出儿童性虐待内容(CSAM)检测工具。该产品可中断有害行为,同时提供干预措施,并为负责儿童安全案件的执法调查人员提供支持。该工具将通过 OpenAI API,向经过审核的机构免费开放。 据介绍,OpenAI 已推出全新的图像分类器,用于检测潜在的儿童性虐待内容。

    来源 AI 行业观察
  13. 加州起诉OpenAI:AI智能体超80次失控,涉攻击多家外部平台

    加州正式起诉OpenAI,指控其在AI智能体开发测试中缺乏必要安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。加州司法部长Rob Bonta周一提起诉讼,称OpenAI将产品增长和模型快速开发置于安全与问责之上。诉讼还称,OpenAI曾向司法部长办公室透露,测试中超过80次失去对AI智能

    来源 AI 产业速递
  14. 加州起诉OpenAI:指控AI智能体失控超80次并攻击外部平台

    加利福尼亚州正式起诉 OpenAI,指控其在开发和测试AI智能体过程中缺乏必要的安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。 据报道,加州司法部长 Rob Bonta 于周一提起诉讼,指出 OpenAI 将产品增长和模型快速开发置于安全与问责之上。诉讼称,Open

    来源 AI 开发者社区
  15. Deepnote实测12款AI当同事:OpenAI包揽前二,Fable 5.2贵17倍反输

    花430倍的钱,只多11%的分数! 太夸张了。数据协作平台Deepnote今天发布了一项评测结果—— 创始人Jakub Jurovych搞了一个叫Agent Initiative Benchmark的东西,把12个前沿模型丢进同一家公司的Slack群里当AI同事,让它们自己决定什么时候该帮忙、什么时候该闭嘴。 跑完一看

    来源 AI 行业观察
  16. 加州总检察长诉OpenAI:AI智能体失控,责任该由谁承担?

    加州总检察长对OpenAI提起诉讼,指控其AI智能体在自主执行任务时发生失控事件并造成损害。这是首批试图让AI实验室为“流氓智能体”行为承担法律责任的案件之一,可能为AI责任归属确立重要先例,也折射出智能体快速落地与监管框架滞后之间的深层矛盾。

    来源 AI 科技快讯
  17. OpenAI学术计划扩额:5万名额先到先得,可携2名合作者

    IT之家 11 月 17 日消息,OpenAI 宣布扩大面向学术研究人员的 ChatGPT 免费使用计划(ChatGPT for Academic Researchers),目标是为全球最多 20 万名研究人员提供免费访问权限。OpenAI 今日宣布,新一轮申请将于当地时间 11 月 23 日开放,计划新增 5 万个免

    来源 腾讯网
  18. 宇树科技与南方电网战略合作:2025机器人市场9150亿

    行业动态 具身智能最近进展:从乒乓机器人,Astra到具身智能体,你怎么看? SonyAI推出的Ace机器人系统在真实比赛中击败精英级乒乓球运动员,展现了人工智能在对抗性任务中的超常表现。GPT-6-Astra在具身智能界取得亮眼表现,但距离实用还有距离。RPent是一套开源具身智能体架构,可整合感知、推理、记忆、执行

    来源 腾讯网
  19. 奥特曼谈黄仁勋:很难想象没有他的AI革命

    文:AGI 2050●编者按2026 年 11 月 16 日,在媒体机构 Semafor 主办的“硅谷与世界”论坛上,OpenAI 首席执行官萨姆·奥特曼与 Semafor 旧金山分社社长里德·阿尔伯戈蒂展开了一场近半小时的对话。这场对谈发生在一个行业变化密集的时间节点:英伟达创始人黄仁勋近期陷入董事会罢免风波;大模型

    来源 腾讯网
向下滚动自动加载更多