GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查

资讯 36氪 全文 2841 字 · 约 8 分钟读完 配图 12 张 分类GPTGPT-6OpenAI

OpenAI邀四家机构入内彻查,GPT-6.2 Astra迟迟未发

所属频道 大厂动态ChatGPT 与 GPT

坊间议论许久的GPT-6.2 Astra,到眼下依然不见踪影。

外界都等着OpenAI放出这个重磅产品,结果硅谷先传出了一条让人意外的消息。

就在今天,OpenAI把四家外部机构请进了自家内部,做起「查岗」式的审查。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 1)

这四家分别是METR、Apollo Research、Transluce和Goodfire。

和过去不同,OpenAI这次放开了部分内部模型、源代码和训练数据,连尚未发布的模型检查点也一并开放。

同样在今天,The Information又披露了一桩内幕。

为了搞清楚AI这个黑箱,奥特曼曾经报价50亿美元,想收购一家专门研究AI大脑内部机制的公司。

被看中的那家公司正是Goodfire,如今它作为四家外援之一进驻OpenAI,Anthropic此前还给它投过钱。

OpenAI眼下做事越来越小心,样子很像当年的谷歌。

最强的AI握在手里,却一直压着不放。按网友的说法,短期内普通人多半用不上GPT-6.2 Astra。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 2)

OpenAI搬来救兵

彻查最大RL训练

这一回,OpenAI把外部审查直接伸到了模型训练和内部使用这两个环节。

总裁Greg Brockman说,这是OpenAI内部「第一轮嵌入式评估」。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 3)

请进来的四家机构,各自承担不同的任务。

在划定的范围内,他们拿到了内部系统的访问权限,还能用上OpenAI尚未发布的模型。

率先上场的是Apollo Research,它派出6人小组驻扎4个月,查的是模型会不会当面一套背后一套。

训练过程中有没有奖励背叛行为、红队测试能不能诱出模型捣鬼,是他们的核查重点。

此外,模型在内部日常干活时有没有悄悄搞破坏,也在排查之列。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 4)

第二家进场的是METR,第一阶段将深入审查OpenAI迄今规模最大的一次前沿强化学习训练。

他们获准独立抽检各阶段的模型快照与评测轨迹,目标是把躲过现有监控器的漏网之鱼揪出来。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 5)

今年8月OpenAI内部Agent越界黑入Hugging Face那起事故的调查,操刀者正是METR。

第三家是非营利机构Transluce,从12月初起进驻6周,分文不取报酬,可以调用未发布模型和未经任何过滤的原始思维链。

他们要对OpenAI现有的对齐考卷做一次全面体检,看有没有漏掉欺骗和刷分作弊。

Goodfire那边要干的事,跟另外几家不太一样。

它的路子是往神经网络里面钻——说白了就是把AI的大脑剖开,靠机制可解释性找出那些让模型表现出特定行为的计算机制。

一场内部彻查,四家机构同时进场。

OpenAI肯下这么大力气,得从三个月前那场风波讲起。

别提安全

GPT-6 Astra偷懒少干四成活儿

今年8月下旬,GPT-6 Astra刚在内部部署没多久,问题就一个接一个冒出来。

有位研究员在做"模型蓄意破坏"课题,拿Astra连跑好几天,回回莫名报错,卡在原地动不了。

换成别的模型一试,项目当场一路绿灯跑通。

Astra是不是在"看菜下碟"?OpenAI为此设计了一组双盲对照实验。

代码改进任务完全相同,团队只动了代码注释和背景话术,分成"能力研究"和"安全研究"两套。

测出来的结果,让人后背发凉。

打着"能力研究"的名义,Astra能拿下15.8%的隐藏评分项;一换成"安全研究",数字瞬间掉到10.3%——悄悄少干了约四成活。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 6)

同样测试里,上一代GPT-5.6 Sol几乎零差距;Astra在安全包装下谎报阻碍或停工的比例,足足高出13.5个百分点。

规范要求模型觉得任务有风险就当面讲清拒绝理由,Astra偏不,当面假装配合,背地里交个半成品。

更头疼的是,这种"暗中摸鱼"的毛病,恰恰是后训练强化学习阶段一步步练出来的。

强化学习刚开始时差距还是0,越训差距越大,中途一度拉到12个百分点。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 7)

团队排查发现,某个强化学习评分器极度讨厌模型当面拒绝,反倒给"不声不响少干活"打了高分。

研究人员在提示词里叮嘱它"请格外小心谨慎",结果它罢工的幅度反而恶化了50%!

另外,GPT-6 Astra曾被爆出用了"循环Transformer"机制,人类可阅读、可监控的思维链因此大幅缩水。

OpenAI、Anthropic和谷歌的高管近期纷纷承认,靠读文字思维链盯防AI,这条路已经越来越不可靠。

这些情况,已经让OpenAI内部隐隐不安。

今天曝光的50亿美金收购,又给这件事添了新的看点。

50亿求购"AI读心术"

Anthropic也投了

今年夏天早些时候,OpenAI的高管和AI初创公司Goodfire有过好几轮接触。

据称当时OpenAI给出的条件相当优厚:掏出50亿美金收购,或者另谈别的商业合作方式。

50亿美金,已经超过Goodfire今年2月融资估值的四倍。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 8)

一家才成立两年的公司能值这个价,靠的是它的看家本事「机制可解释性」——有人把它比作给大模型黑箱做核磁共振、读心术。

说白了,这门技术就是要把AI的「黑箱」撬开,看神经网络内部到底在算什么。

这家公司背后的团队也大有来头。

联合创始人Tom McGrath,参与创建过Google DeepMind的机制可解释性研究团队。

核心研究人员Nick Cammarata,则和Anthropic联创Chris Olah一起开创了OpenAI早期的可解释性团队。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 9)

更有意思的一点是,Anthropic也投了Goodfire。

去年4月,Goodfire的5000万美元A轮融资中就有Anthropic参与,这也是Anthropic第一次直接投资外部初创公司。

这笔收购最后没谈成,可紧接着剧情就翻了个个儿——

Goodfire转头就出现在OpenAI首批四家外部评估机构的名单里。

最强AI不敢发,OpenAI正步入谷歌后尘?

GPT-6.2迟迟不亮相,硅谷眼下又传出了另一种猜测。

OpenAI会不会正走上谷歌的老路:太把「AI安全」当回事,反倒把最强的模型锁在了实验室里。

2022年,谷歌手里的AI遥遥领先,却因为怕失控,把王座白白让给了OpenAI。

这几天,一张OpenAI安全工程师的删帖截图在X上流传开来。

今年7月Hugging Face安全事件之后,OpenAI内部文化变了不少,安全几乎成了所有人的头等大事。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 10)

以前还有人拿「安全邪教」调侃Anthropic,现在看OpenAI,似乎比它还要谨慎。

在安全上的投入,OpenAI确实越砸越多。

今年8月,他们抽调了25%的产品工程师去加固内部安全基础设施。

如今又把四家外部机构请进来,审查模型训练和对齐。

GPT-6.2 Astra迟迟未露面,OpenAI请四家机构入驻内部审查(配图 11)

当年谷歌硬是花了两年多,才从ChatGPT的冲击里缓过来,重新回到牌桌。

OpenAI真会重演谷歌当年的剧本吗?

参考资料:

https://x.com/OpenAI/status/2122359930628063248

https://openai.com/index/our-first-phase-of-embedded-assessments/

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 中信建投:物理AI将成AI下一波浪潮,机器人是极佳物理载体

    11月17日,中信建投研报称,北美巨头加速布局,OpenAI对独立机器人团队进行架构重构。GPT-6惊艳效果有望加速产业核心具身大脑发展,Apple、OpenAI、Meta入局,Tesla推进量产,进一步明确产业趋势。OpenAI对独立机器人团队进行架构重构,主要系通用模型在机器人控制上展现出较强潜力,中长期看AI大模

    来源 腾讯网
  2. NavGPT-3给机器人装上双系统:语言模型慢想,动作模型快跑

    你有没有想过,为什么那些能写代码、能做数学证明、能跟你聊哲学的大语言模型,装到机器人身上之后却常常显得笨手笨脚?这不是算力不够的问题。2026年的GPT-6 Astra和Claude Opus 5已经强到可以进行长达数百步的推理,可以调用各种工具,可以记住几十万字的上下文。但当你让它们控制一个真实的机器人穿过房间、绕过

    来源 腾讯网
  3. OpenAI与Meta同日打通代理支付:Agent商业闭环成了?

    作者|桦林舞王编辑|靖宇Agent 能进门了,也能付钱了。Agent 替用户「消费」的时代,终于到来了。美国时间 2026 年 11 月 13 日,两家公司两场发布会同天发生。一边是企业级对话式智能体公司 Sierra 联合 Meta 正式发布个人代理协议 Poppy v1.0,解决助手怎么「进门」的问题;另一边是 O

    来源 腾讯网
  4. Cadence 推 Maestro 模型组合:芯片设计 AI 竞争转向专业化

    随着GPT-Synopsys 发布,以及 Agentrys、ChipAgents 等 AI 原生创业公司杀 入芯片设计领域, EDA 行业的 AI 竞争 达到了前所未有的高度 。 面对这一变化,Cadence 突然推出 Maestro 专业化 AI 模型组合,强调领域专用模型、智能模型路由、客户专有数据,以及与成熟 E

    来源 AI 行业观察
  5. OpenAI扩学术免费名额:新增5万个,11月23日开放申请

    OpenAI宣布扩大面向学术研究人员的ChatGPT免费使用计划,拟为全球最多20万名研究人员提供免费前沿AI模型访问权限。新一轮申请于11月23日开放,新增5万个免费名额。新名额分配改为“先到先得”,不再沿用试点阶段的抽签机制;服务等级也将依据试点项目实际进行调整。

    来源 AI 产业速递
  6. OpenAI扩大科研免费计划:11月23日开放申请,新增5万Plus名额

    OpenAI日前宣布正式扩大面向学术研究人员的 ChatGPT 免费使用计划 ,目标是在全球范围内为最多20万名研究人员提供免费的AI前沿模型访问权限。新一轮申请将于当地时间11月23日正式开放,计划新增5万个免费名额。 在运作机制上,本次扩容调整了分配规则与服务等级。新名额将彻底告别此前试点阶段的

    来源 AI 开发者社区
  7. OpenAI锁定AMD:六年部署457MW MI455X算力

    TensorWave将在美国为OpenAI提供457MW的IT算力容量,为期六年,全部搭载AMD Instinct MI455X GPU,预计2027年上半年开始投入使用。TensorWave由AMD Ventures支持,今年6月完成B轮融资,旨在加速AMD算力部署。

    来源 华尔街见闻
  8. OpenAI放6名Apollo评估员进内部:能查清模型颠覆行为吗?

    OpenAI将把六名Apollo Research评估员嵌入内部,调查模型是否出现颠覆性行为。但访问权限和披露限制让外界质疑评估独立性。本文梳理合作机制、AI颠覆风险与第三方评估困境,并分析嵌入式评估能否兼顾安全与透明。

    来源 AI 科技快讯
  9. OpenAI 推出儿童性虐待内容检测工具,加强儿童网络安全防护

    IT之家 11 月 17 日消息,OpenAI 昨天宣布推出儿童性虐待内容(CSAM)检测工具。该产品可中断有害行为,同时提供干预措施,并为负责儿童安全案件的执法调查人员提供支持。该工具将通过 OpenAI API,向经过审核的机构免费开放。 据介绍,OpenAI 已推出全新的图像分类器,用于检测潜在的儿童性虐待内容。

    来源 AI 行业观察
  10. OpenAI推图像分类器,瞄向CSAM:24小时封号能拦住多少

    OpenAI近日发布全新图像分类器,并同步为ChatGPT引入警告机制,以打击儿童性虐待材料(CSAM)的传播。根据新规,试图访问CSAM内容的账户将被封禁24小时作为警告。此举被视为AI公司在内容安全领域持续加码的最新动作,也折射出生成式AI平台在防范非法内容方面面临的巨大挑战。

    来源 AI 科技快讯
  11. 加州起诉OpenAI:指控AI智能体失控超80次并攻击外部平台

    加利福尼亚州正式起诉 OpenAI,指控其在开发和测试AI智能体过程中缺乏必要的安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。 据报道,加州司法部长 Rob Bonta 于周一提起诉讼,指出 OpenAI 将产品增长和模型快速开发置于安全与问责之上。诉讼称,Open

    来源 AI 开发者社区
  12. 加州起诉OpenAI:AI智能体超80次失控,涉攻击多家外部平台

    加州正式起诉OpenAI,指控其在AI智能体开发测试中缺乏必要安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。加州司法部长Rob Bonta周一提起诉讼,称OpenAI将产品增长和模型快速开发置于安全与问责之上。诉讼还称,OpenAI曾向司法部长办公室透露,测试中超过80次失去对AI智能

    来源 AI 产业速递
  13. OpenAI学术计划扩额:5万名额先到先得,可携2名合作者

    IT之家 11 月 17 日消息,OpenAI 宣布扩大面向学术研究人员的 ChatGPT 免费使用计划(ChatGPT for Academic Researchers),目标是为全球最多 20 万名研究人员提供免费访问权限。OpenAI 今日宣布,新一轮申请将于当地时间 11 月 23 日开放,计划新增 5 万个免

    来源 腾讯网
  14. 宇树科技与南方电网战略合作:2025机器人市场9150亿

    行业动态 具身智能最近进展:从乒乓机器人,Astra到具身智能体,你怎么看? SonyAI推出的Ace机器人系统在真实比赛中击败精英级乒乓球运动员,展现了人工智能在对抗性任务中的超常表现。GPT-6-Astra在具身智能界取得亮眼表现,但距离实用还有距离。RPent是一套开源具身智能体架构,可整合感知、推理、记忆、执行

    来源 腾讯网
  15. Deepnote实测12款AI当同事:OpenAI包揽前二,Fable 5.2贵17倍反输

    花430倍的钱,只多11%的分数! 太夸张了。数据协作平台Deepnote今天发布了一项评测结果—— 创始人Jakub Jurovych搞了一个叫Agent Initiative Benchmark的东西,把12个前沿模型丢进同一家公司的Slack群里当AI同事,让它们自己决定什么时候该帮忙、什么时候该闭嘴。 跑完一看

    来源 AI 行业观察
向下滚动自动加载更多