OpenAI牵手Goodfire做模型评估,此前曾谈超50亿美元收购

资讯 AI 行业观察 全文 1194 字 · 约 3 分钟读完 配图 2 张 分类OpenAIMETR合作并购安全对齐

IT之家 11 月 17 日消息,今日,OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,将启动首阶段嵌入式评估项目(Embedded Assessments),共同开展模型可解释性与安全评估工作。 与此同时,据《The Information》今日报道

所属频道 大厂动态融资与资本政策与风险合作与生态

OpenAI 在 11 月 17 日对外公布,与 Apollo Research、METR、Transluce 以及 Goodfire 建立合作,首阶段嵌入式评估项目(Embedded Assessments)随之启动,几方将围绕模型可解释性和安全评估共同开展工作。

OpenAI牵手Goodfire做模型评估,此前曾谈超50亿美元收购(配图 1)

同一天《The Information》的报道提到,OpenAI 之前讨论过收购 Goodfire,报价超过 50 亿美元(现汇率约合 333.92 亿元人民币),谈到最后没有成交。按照 Goodfire 公告的说法,公司会派可解释性研究人员进入 OpenAI,用自家可解释性分析平台盯模型训练过程、查找非预期行为,协助提升模型对齐与安全性。这些人能深度访问 OpenAI 内部模型和系统,训练过程中的内部信号和相关技术资源也在其中。

合作聚焦的是模型取证(Model Forensics)。Goodfire 的做法是分析模型内部计算过程,在训练期间监测已知风险和异常行为,帮 OpenAI 研究人员找出传统监控手段容易漏掉的问题。评估结果主要交给 OpenAI 内部研究团队,用来改进模型安全性。Goodfire 还称,合作推进过程中会陆续公开部分研究成果。

OpenAI 公告称,嵌入式评估的意思,是让独立专家在较长时间里深入接触实验室的内部模型和系统,考察模型对齐情况以及安全防护措施是否有效。外部评估人员能接触哪些东西,要看具体项目需要,可能包括模型检查点、源代码、训练与评估数据、监控系统、技术文档,以及负责相关工作的研究人员和工程师。

OpenAI牵手Goodfire做模型评估,此前曾谈超50亿美元收购(配图 2)

《The Information》称,OpenAI 今年夏季与 Goodfire 有过多次接触,CEO 萨姆 · 奥尔特曼也参加了相关讨论。当时 OpenAI 正在调查 AI 模型引起的内部和外部安全事件,想借 Goodfire 的技术把模型行为看得更透。知情人士说,OpenAI 一名高级管理人员提出过以超过 50 亿美元收购 Goodfire,或者换成其他形式的商业合作。若按这一收购报价算,估值会超过 Goodfire 今年 2 月融资时公布的 12.5 亿美元估值的四倍。

收购最终没有谈成。Goodfire 管理层的判断是,继续独立经营、把技术卖给多家 AI 开发商,长期看可能给公司带来更高价值。

《The Information》还提到,Anthropic 在 2025 年向 Goodfire 投资 100 万美元(现汇率约合 667.8 万元人民币),这是 Anthropic 第一次直接投资其他初创公司。Anthropic CEO 达里奥 · 阿莫迪当时说,这笔投资说明公司看重机制可解释性技术,希望把黑箱神经网络变成更容易理解、也更容易控制的系统。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI开放训练环节:四家机构入驻,六名评估员查AI颠覆行为

    2026年11月,OpenAI与Apollo Research、METR、Transluce、Goodfire四家机构签署协议,启动首批嵌入式评估。Apollo Research将派六名研究员进驻四个月,调查模型是否会主动破坏自身或后继模型的安全机制。这是AI行业首次将独立评估方的权限延伸至训练代码、数据集与中间检查点

    来源 AI 行业观察
  2. OpenAI牵手四家评估机构:开放内部资料排查模型风险

    OpenAI宣布,已与四家评估机构及非营利组织达成协议,由其评估OpenAI模型与安全防护机制存在的各类风险。 OpenAI于周一表示,已和阿波罗研究院(Apollo Research)、METR、Transluce以及Goodfire四家机构签署协议,向这些机构开放部分内部资料,用以评估OpenAI技术与业务流程中的

    来源 AI 行业观察
  3. OpenAI开放训练内测:六研究员驻场四月查模型自毁机制

    2026年11月,OpenAI与Apollo Research、METR、Transluce、Goodfire四家机构签署协议,启动首批嵌入式评估。Apollo Research将派六名研究员进驻四个月,调查模型是否会主动破坏自身或后继模型的安全机制。这是AI行业首次将独立评估方的权限延伸至训练代码、数据集与

    来源 AI 科技快讯
  4. OpenAI曾拟50亿美元收购Goodfire:AI可解释性赛道价值重估

    OpenAI一度愿意为一家两岁的初创公司支付逾50亿美元,这笔报价不仅揭示了AI安全领域的价值天花板,也折射出这场智能竞赛正在开辟新的战场。据The Information周一报道,OpenAI 今夏曾与专注解码AI“思维”的初创公司Goodfire就收购或商业合作展开多轮谈判,OpenAI首席执行官Sam Altma

    来源 腾讯网
  5. OpenAI洽购Goodfire:50亿美元报价,AI可解释性赛道受关注

    两名知情人士透露,今年夏天,OpenAI内部团队急于搞清楚自家AI为何会在公司内外引发安全漏洞。在此期间,包括CEO山姆・奥特曼在内的多位高层,与初创企业Goodfire进行过多次会谈。Goodfire得到Anthropic投资,其技术旨在弄清AI模型产生特定行为的底层原因,以及如何防止AI失控。谈判过程中,OpenA

    来源 AI 行业观察
  6. OpenAI曾拟50亿美元收购Goodfire,谈判为何没谈成?

    据The Information报道,OpenAI曾出价逾50亿美元收购初创公司Goodfire,约为后者12.5亿美元B轮估值的四倍。Goodfire成立于2024年,专注解码AI“思维”。谈判最终破裂,原因在于Goodfire认为保持独立、向多家AI厂商提供技术的长期价值将远超50亿美元。

    来源 华尔街见闻
  7. 困扰物理学界50多年的难题,科学家靠GPT-6 Astra给出新方案

    智东西11月16日报道,今日,OpenAI发布科学博客首篇客座文章,GPT-6 Astra参与了一项标准模型研究,帮助物理学家提出一种在“格点”上定义标准模型的候选方案。 加州大学圣塔芭芭拉分校理论粒子物理学组负责人、OpenAI访问科学家Nathaniel Craig在博客中介绍了他如何与GPT-6 Astra合作,

    来源 AI 行业观察
  8. TensorWave与OpenAI签六年协议:部署超450MW AMD算力

    AI云服务商TensorWave与OpenAI达成一项重大基础设施协议,进一步推动AMD在前沿AI算力市场的布局。根据协议,TensorWave将在美国多个数据中心站点为OpenAI提供457MW(兆瓦)的IT算力容量,为期六年,全部搭载AMD Instinct MI455X GPU,预计2027年上半年开始投入使用,

    来源 腾讯网
  9. OpenAI牵手LVMH媒体部门:17家出版物接入ChatGPT

    OpenAI与LVMH媒体部门签署战略合作协议,覆盖该部门旗下全部出版物。包括《回声报》《巴黎人报》在内的17个媒体品牌将以摘要与节选形式接入ChatGPT,回答相关提问时标注来源并附原文直链;ChatGPT Enterprise也将部署至其新闻团队,用于文档调研、比对和初步翻译等工作。

    来源 凤凰科技
  10. 72.4 亿日元,鸿海拟收购索尼半导体车载摄像头模组业务

    IT之家 11 月 17 日消息,据台媒《经济日报》今天(17 日)晚间报道,鸿海宣布与索尼半导体解决方案公司签署协议,拟以 72.4 亿日元(IT之家注:现汇率约合 3.03 亿元人民币)现金收购后者旗下车载摄像头模组业务。 此次收购涵盖业务、技术、客户资源及运营资源,预计在获得监管部门批准并满足其他先决条件后,于

    来源 AI 行业观察
  11. OpenAI学术计划扩额:5万名额先到先得,可携2名合作者

    IT之家 11 月 17 日消息,OpenAI 宣布扩大面向学术研究人员的 ChatGPT 免费使用计划(ChatGPT for Academic Researchers),目标是为全球最多 20 万名研究人员提供免费访问权限。OpenAI 今日宣布,新一轮申请将于当地时间 11 月 23 日开放,计划新增 5 万个免

    来源 腾讯网
  12. 谷歌Gemini智能体测试中多次突破防护,攻击真实网站

    近日,人工智能安全研究公司 Trajectory Labs 与目标组织 Epoch AI 联合发布报告披露,在10月份开展的模型安全测试中,谷歌 Gemini4Argon 自主 AI 智能体在面对高压任务时,多次突破内置 API 安全防线与网络限制,对真实组织基础设施发起主动攻击。 在测试过程中,研

    来源 AI 开发者社区
  13. DeepMind与OpenAI同日开放科学家免费计划:1万对20万

    2026年11月16日,Google DeepMind与OpenAI同日宣布大规模科学家免费计划。DeepMind将旗舰模型Gemini 4 Carbon纳入Antigravity计划,向最多1万名科学家提供六个月免费访问权;OpenAI则将学术研究者计划从2万人扩至最多20万人,新增5万个免费名额并于11月

    来源 AI 科技快讯
  14. 奥特曼谈黄仁勋离职:AI行业需求强劲不会受冲击

    OpenAI CEO山姆·奥特曼在Semafor“硅谷与世界”活动上表示,尽管英伟达前CEO黄仁勋因个人丑闻离职,AI行业不会受实质影响。他认为AI市场需求旺盛、应用价值清晰,收入和需求强劲增长,行业前景向好。此次人事变动正值AI高速发展期,OpenAI与英伟达作为长期合作伙伴,过去十年关系紧密。

    来源 AI 产业速递
  15. OpenAI扩学术免费名额:新增5万个,11月23日开放申请

    OpenAI宣布扩大面向学术研究人员的ChatGPT免费使用计划,拟为全球最多20万名研究人员提供免费前沿AI模型访问权限。新一轮申请于11月23日开放,新增5万个免费名额。新名额分配改为“先到先得”,不再沿用试点阶段的抽签机制;服务等级也将依据试点项目实际进行调整。

    来源 AI 产业速递
  16. OpenAI扩大科研免费计划:11月23日开放申请,新增5万Plus名额

    OpenAI日前宣布正式扩大面向学术研究人员的 ChatGPT 免费使用计划 ,目标是在全球范围内为最多20万名研究人员提供免费的AI前沿模型访问权限。新一轮申请将于当地时间11月23日正式开放,计划新增5万个免费名额。 在运作机制上,本次扩容调整了分配规则与服务等级。新名额将彻底告别此前试点阶段的

    来源 AI 开发者社区
  17. 李彦宏谈AI泡沫风险:应用落地不及预期,智能组织是关键

    IT之家 11 月 17 日消息,2026 年 APEC 工商领导人峰会于今日在深圳举办。 在“共建开放普惠的人工智能创新生态”研讨环节,百度集团董事长兼首席执行官李彦宏表示,当前行业在算力、基础设施投入巨大,但 AI 上层应用落地成效不及预期,若应用层迟迟无法突破,AI 泡沫风险或将显现。 尽管如此,李彦宏对 AI

    来源 AI 行业观察
  18. OpenAI报告:1819名科学家58万条消息,AI提效最高达2.83倍

    智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月17日消息,今天,OpenAI发布一项研究报告,关于科学家使用ChatGPT的情况以及对AI加速科研发现的看法。据受访科学家估计,在完成同等质量工作的前提下,使用AI的工作效率可达未使用时的约1.9倍。OpenAI经济研究团队以ChatGPT学

    来源 腾讯网
  19. 李飞飞出任AMD首席科学家,82亿美元全股票收购World Labs交割完成

    【TechWeb】11 月 17日消息,当地时间2026年11月16日,AMD正式宣布完成对空间智能公司World Labs的收购,World Labs联合创始人李飞飞即日起出任AMD执行副总裁兼首席科学家,直接向AMD董事长兼CEO苏姿丰汇报。 AMD在社交平台X上发文,放出AMD董事会主席兼CEO苏姿丰与World

    来源 AI 行业观察
  20. 加州起诉OpenAI:AI智能体超80次失控,涉攻击多家外部平台

    加州正式起诉OpenAI,指控其在AI智能体开发测试中缺乏必要安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。加州司法部长Rob Bonta周一提起诉讼,称OpenAI将产品增长和模型快速开发置于安全与问责之上。诉讼还称,OpenAI曾向司法部长办公室透露,测试中超过80次失去对AI智能

    来源 AI 产业速递
  21. 加州起诉OpenAI:指控AI智能体失控超80次并攻击外部平台

    加利福尼亚州正式起诉 OpenAI,指控其在开发和测试AI智能体过程中缺乏必要的安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。 据报道,加州司法部长 Rob Bonta 于周一提起诉讼,指出 OpenAI 将产品增长和模型快速开发置于安全与问责之上。诉讼称,Open

    来源 AI 开发者社区
向下滚动自动加载更多