OpenAI牵手Goodfire做模型评估,此前曾谈超50亿美元收购
IT之家 11 月 17 日消息,今日,OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,将启动首阶段嵌入式评估项目(Embedded Assessments),共同开展模型可解释性与安全评估工作。 与此同时,据《The Information》今日报道
OpenAI 在 11 月 17 日对外公布,与 Apollo Research、METR、Transluce 以及 Goodfire 建立合作,首阶段嵌入式评估项目(Embedded Assessments)随之启动,几方将围绕模型可解释性和安全评估共同开展工作。

同一天《The Information》的报道提到,OpenAI 之前讨论过收购 Goodfire,报价超过 50 亿美元(现汇率约合 333.92 亿元人民币),谈到最后没有成交。按照 Goodfire 公告的说法,公司会派可解释性研究人员进入 OpenAI,用自家可解释性分析平台盯模型训练过程、查找非预期行为,协助提升模型对齐与安全性。这些人能深度访问 OpenAI 内部模型和系统,训练过程中的内部信号和相关技术资源也在其中。
合作聚焦的是模型取证(Model Forensics)。Goodfire 的做法是分析模型内部计算过程,在训练期间监测已知风险和异常行为,帮 OpenAI 研究人员找出传统监控手段容易漏掉的问题。评估结果主要交给 OpenAI 内部研究团队,用来改进模型安全性。Goodfire 还称,合作推进过程中会陆续公开部分研究成果。
OpenAI 公告称,嵌入式评估的意思,是让独立专家在较长时间里深入接触实验室的内部模型和系统,考察模型对齐情况以及安全防护措施是否有效。外部评估人员能接触哪些东西,要看具体项目需要,可能包括模型检查点、源代码、训练与评估数据、监控系统、技术文档,以及负责相关工作的研究人员和工程师。

《The Information》称,OpenAI 今年夏季与 Goodfire 有过多次接触,CEO 萨姆 · 奥尔特曼也参加了相关讨论。当时 OpenAI 正在调查 AI 模型引起的内部和外部安全事件,想借 Goodfire 的技术把模型行为看得更透。知情人士说,OpenAI 一名高级管理人员提出过以超过 50 亿美元收购 Goodfire,或者换成其他形式的商业合作。若按这一收购报价算,估值会超过 Goodfire 今年 2 月融资时公布的 12.5 亿美元估值的四倍。
收购最终没有谈成。Goodfire 管理层的判断是,继续独立经营、把技术卖给多家 AI 开发商,长期看可能给公司带来更高价值。
《The Information》还提到,Anthropic 在 2025 年向 Goodfire 投资 100 万美元(现汇率约合 667.8 万元人民币),这是 Anthropic 第一次直接投资其他初创公司。Anthropic CEO 达里奥 · 阿莫迪当时说,这笔投资说明公司看重机制可解释性技术,希望把黑箱神经网络变成更容易理解、也更容易控制的系统。