协议签署日是2026年11月13日,OpenAI自己把这轮安排叫作“第一阶段嵌入式评估”。三天后的11月16日,Apollo Research发布公告对外说明:将向OpenAI内部派驻六名评估员,为期四个月,核心任务就是调查AI模型是否存在主动颠覆自身或后继模型安全机制的倾向。
真正的新意在于评估发生的位置——训练过程中,而非模型发布前夕。Apollo Research在公告里讲得很清楚,过去他们对前沿模型的评估都安排在后续训练完成、公开发布之前,这样的安排既审查不到训练阶段藏着的图谋行为,也评估不了模型在OpenAI内部部署期间冒出的风险。嵌入式评估要补的正是这两块空白。
四个月里,Apollo围绕四个问题做功课:训练过程会不会把模型往颠覆性行为上推;标准评估程序本身能不能诱出这类行为;OpenAI内部部署中是否已经出现;以及颠覆性推理一旦发生,能不能被察觉。第一个问题对应的权限已经明确:相关训练代码和数据集、带可用推理追踪与奖励信号的强化学习rollout、对中间模型检查点的查询能力。剩下三个问题怎么开放访问,双方还要接着谈。
另外三家各有分工。METR负责评估OpenAI至今最大规模的强化学习训练运行中的失准行为,包括现有测试和监控系统可能已经漏掉的问题;Transluce审查的是OpenAI后训练对齐评估的质量与覆盖范围;Goodfire则派可解释性研究员入驻,用Goodfire平台分析模型内部机制、盯住训练过程。
四家拿报酬的方式很不一样,立场差异也藏在这里。Apollo Research和Goodfire收钱,但金额和评估结论不挂钩。METR和Transluce不要资金,算力或API额度则可能接受。
权限边界是这份安排里最该逐字看的地方。Apollo的文件写明,其权限只覆盖“已约定的评估主张、特定模型和特定时间段”;技术不可行、安全风险、知识产权,都能成为OpenAI拒绝提供信息的理由。双方同时约定,OpenAI不能只因为信息对自己不利就拒绝披露,拒绝必须书面说明原因。人员层面,谁能和评估员谈保密信息由OpenAI挑选,Apollo可以提人选建议或专业需求,拍板权仍在OpenAI。若授权名单之外的OpenAI员工在评估员面前提到保密信息,Apollo要立刻停下实质性讨论,后续接触交给其指定联络人。评估员用的是OpenAI硬件,通信渠道独立且可被监控,OpenAI的通用内部频道默认不对他们开放。
报告怎么发也有安排。Apollo计划出两份公开报告:一份评估训练过程对颠覆行为的激励作用,另一份覆盖评估方法、内部部署情况以及颠覆性推理的可检测性。未删减版送到OpenAI董事会安全与安保委员会,公开版本则可能受信息限制。
这套做法改变的是行业对“何时评估”的默认设定。以往外部安全评估几乎都赶在模型发布前,等于产品出厂才做质检。OpenAI让外部评估方进入训练环节,结构上把安全审查提前了整整一个开发阶段。谷歌DeepMind、Anthropic这些同样在前沿模型上竞争的机构,一旦OpenAI的嵌入式评估拿出可信报告,压力自然会传过去。
对企业选型和开发者而言,这次评估能产生多少实际价值,取决于一个还没答案的问题:公开报告到底能披露到什么程度。OpenAI若大量行使信息豁免权,报告可能只剩有限的阴性结论,外部验证者拿不到足够的证据链。Apollo的文件已经承认这层风险,直言“访问和披露权限仍未达到其完全嵌入式评估的标准”。
时间上,Apollo的四个月驻场从2026年11月起算,大约到2027年第一季度结束。其余三家机构的评估启动时间并不一致,目前还没有全部开始。