OpenAI开放训练环节:四家机构入驻,六名评估员查AI颠覆行为
2026年11月,OpenAI与Apollo Research、METR、Transluce、Goodfire四家机构签署协议,启动首批嵌入式评估。Apollo Research将派六名研究员进驻四个月,调查模型是否会主动破坏自身或后继模型的安全机制。这是AI行业首次将独立评估方的权限延伸至训练代码、数据集与中间检查点
2026年11月13日,OpenAI与Apollo Research、METR、Transluce、Goodfire四家独立研究机构签下协议,启动其口中的“第一阶段嵌入式评估”。Apollo Research在11月16日发布公告,披露将派六名评估员进入OpenAI内部,驻场四个月,主要任务是查清AI模型会不会主动破坏针对自身或后继模型的安全机制。
这次评估的不同之处在于位置:它落在训练过程中,而非模型发布前夕。Apollo Research在公告里说得很清楚,以前对前沿模型的评估都放在后训练结束、公开发布之前,这样的安排既看不透训练过程中的隐性图谋行为,也评估不了模型在OpenAI内部部署期间冒出的风险。嵌入式评估正好补上这两个缺口。
Apollo这四个月要回答四个问题:训练过程是否在把模型往颠覆性行为上推;标准评估程序会不会诱发这类行为;OpenAI内部部署中是否已经出现这类行为;颠覆性推理发生时能不能被检测到。围绕第一个问题,Apollo拿到的权限包括相关训练代码和数据集、带可用推理追踪与奖励信号的强化学习rollout,以及查询中间模型检查点的能力。另外三个问题的访问安排,双方还在协商。
其余三家机构的分工各不相同。METR负责评估OpenAI迄今规模最大的强化学习训练运行中的失准行为,包括现有测试和监控系统可能已经漏掉的问题;Transluce审查OpenAI后训练对齐评估的质量与覆盖范围;Goodfire则派可解释性研究员入驻,用Goodfire平台分析模型内部机制并监控训练过程。
四家机构的补偿方式差别不小,各自的立场定位也由此显现。Apollo Research和Goodfire拿财务报酬,但金额与评估结论不挂钩。METR和Transluce不收资金,不过可能接受算力或API额度。
访问边界是这次评估里最该细看的一环。Apollo的文件显示,其权限只适用于“已约定的评估主张、特定模型和特定时间段”,OpenAI保留以技术不可行、安全风险或知识产权为由拒绝提供信息的权利。双方约定,OpenAI不能仅因信息对自身不利就拒绝披露,拒绝时必须书面说明理由。人员访问层面,有权与评估员讨论保密信息的员工由OpenAI挑选,Apollo可以建议人选或提出专业需求,最终决定权仍在OpenAI手里。若授权名单之外的OpenAI员工在评估员面前提到保密信息,Apollo须马上停止实质性讨论,后续接触转由其指定联络人处理。评估员用OpenAI硬件干活,配备可被监控的独立通信渠道,默认无权访问OpenAI的通用内部频道。
报告披露机制方面,Apollo打算发两份公开报告:第一份评估训练过程对颠覆行为的激励作用;第二份覆盖评估方法、内部部署情况以及颠覆性推理的可检测性。OpenAI董事会安全与安保委员会将收到未删减版,公开版本则可能受信息限制。
这套机制在产业层面的意义,是它改掉了“何时评估”的行业默认值。以往外部安全评估几乎都在模型即将发布时进行,相当于产品出厂才做质检。OpenAI这次让外部评估方进入训练环节,从结构上把安全审查提前了整整一个开发阶段。对同样在前沿模型赛道上竞争的谷歌DeepMind、Anthropic等机构来说,一旦OpenAI的嵌入式评估模式拿出可信报告,行业会感受到隐性压力。
对企业选型和开发者而言,这次评估的实际价值取决于一个还没有答案的问题:公开报告最终能披露到什么程度。如果OpenAI大量行使信息豁免权,报告可能只呈现有限的阴性结论,无法给外部验证者提供足够的证据链。Apollo的文件已经承认这一风险,直言“访问和披露权限仍未达到其完全嵌入式评估的标准”。
时间上,Apollo的四个月驻场期从2026年11月起算,大约到2027年第一季度结束。另外三家机构的评估启动时间不一,目前尚未全部开始。