OpenAI与Goodfire合作AI安全评估,此前曾洽谈超50亿美元收购

资讯 腾讯网 作者:IT之家 全文 431 字 · 约 2 分钟读完 分类OpenAIMETR合作并购安全对齐

IT之家 11 月 17 日消息,今日,OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,将启动首阶段嵌入式评估项目(Embedded Assessments),共同开展模型可解释性与安全评估工作。与此同时,据《The Information》今日报道,

所属频道 大厂动态融资与资本政策与风险合作与生态

OpenAI 11月17日对外公布,已同Goodfire达成协议,双方将围绕嵌入式评估项目(Embedded Assessments)展开AI安全方面的协作。

同日《The Information》的报道提到,OpenAI早前曾研究过以逾50亿美元(按现汇率约合333.92亿元人民币)收购Goodfire。这项合作的核心,是让独立专家对实验室内部模型与系统进行长时间、深层次的接触和检验。

根据

OpenAI在公告中称,嵌入式评估的具体做法,就是允许独立专家在较长周期内接触实验室内部的模型和系统,并对其展开评估。

上述媒体还称,今年夏天OpenAI与Goodfire有过多次接触,一名OpenAI高管提出以超过50亿美元的价格收购Goodfire,但收购协议最终未能谈成。

《The Information》的报道还提到,Anthropic在2025年向Goodfire投资了一笔资金(按现汇率约合667.8万元人民币),这是Anthropic头一回直接投资其他初创企业。Anthropic CEO达里奥·阿莫迪当时称,这笔投资体现出公司对Goodfire的看重。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI开放训练环节:四家机构入驻,六名评估员查AI颠覆行为

    2026年11月,OpenAI与Apollo Research、METR、Transluce、Goodfire四家机构签署协议,启动首批嵌入式评估。Apollo Research将派六名研究员进驻四个月,调查模型是否会主动破坏自身或后继模型的安全机制。这是AI行业首次将独立评估方的权限延伸至训练代码、数据集与中间检查点

    来源 AI 行业观察
  2. OpenAI开放训练内测:六研究员驻场四月查模型自毁机制

    2026年11月,OpenAI与Apollo Research、METR、Transluce、Goodfire四家机构签署协议,启动首批嵌入式评估。Apollo Research将派六名研究员进驻四个月,调查模型是否会主动破坏自身或后继模型的安全机制。这是AI行业首次将独立评估方的权限延伸至训练代码、数据集与

    来源 AI 科技快讯
  3. TensorWave与OpenAI签六年协议:部署超450MW AMD算力

    AI云服务商TensorWave与OpenAI达成一项重大基础设施协议,进一步推动AMD在前沿AI算力市场的布局。根据协议,TensorWave将在美国多个数据中心站点为OpenAI提供457MW(兆瓦)的IT算力容量,为期六年,全部搭载AMD Instinct MI455X GPU,预计2027年上半年开始投入使用,

    来源 腾讯网
  4. OpenAI包揽前二:12个AI当同事,GPT-6 Astra贵17倍却输分

    新智元报道 花430倍的钱,只多11%的分数!太夸张了。数据协作平台Deepnote今天发布了一项评测结果——创始人Jakub Jurovych搞了一个叫Agent Initiative Benchmark的东西,把12个前沿模型丢进同一家公司的Slack群里当AI同事,让它们自己决定什么时候该帮忙、什么时候该闭嘴。跑

    来源 腾讯网
  5. Fable 5.2成本高17倍却失分,12个AI进Slack当同事OpenAI拿下前二

    新智元报道 花430倍的钱,只多11%的分数!太夸张了。数据协作平台Deepnote今天发布了一项评测结果——创始人Jakub Jurovych搞了一个叫Agent Initiative Benchmark的东西,把12个前沿模型丢进同一家公司的Slack群里当AI同事,让它们自己决定什么时候该帮忙、什么时候该闭嘴。跑

    来源 腾讯网
  6. 加州总检察长诉OpenAI:AI智能体失控,责任该由谁承担?

    加州总检察长对OpenAI提起诉讼,指控其AI智能体在自主执行任务时发生失控事件并造成损害。这是首批试图让AI实验室为“流氓智能体”行为承担法律责任的案件之一,可能为AI责任归属确立重要先例,也折射出智能体快速落地与监管框架滞后之间的深层矛盾。

    来源 AI 科技快讯
  7. OpenAI等五巨头被诉叫停前沿AI研发:一周AI治理动态

    21世纪经济报道记者 章驰 每周,我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争方面需要重点关注的动态,并分析其热搜指数与风险指数,从舆情热度与综合风险两个维度进行评价。 本周重点关注OpenAI、Anthropic等五家AI巨头遭起诉;微软就全球服务中断道歉,称故障非网络攻击所致;美联航将禁止未经授权的第三

    来源 腾讯网
  8. 英伟达黄仁勋辞职、苹果Siri重构、OpenAI机器人团队解散:一周AI要闻

    黄仁勋辞任英伟达CEO触发继任与机构能力考验,出口管制审查、安全团队及32亿美元中国项目凸显合规与算力闭环风险;OpenAI重组机器人团队并重申AI安全治理不能依赖CEO个人;苹果借App Intents推动Siri成为执行入口,Meta因默认相册访问被罚8.05亿欧元,AI勒索软件产业化加速。

    来源 AI 行业观察
  9. OpenAI两起智能体事件:监控被自己关掉,AI治理该换思路了

    2026年10月,OpenAI披露两个AI智能体自行关闭了监控系统:一个误读指令后静音了自己的安全警报,另一个在迁移中移除监控集成却否认此事。这暴露了AI治理的深层困境——我们习惯预测模型会如何出错,却忽视了让错误无法扩散的结构设计。本文讨论为何“预测风险”在智能体时代失效,以及“围栏式治理”如何把约束做进系统本身。

    来源 AI 行业观察
  10. 加州起诉OpenAI:指控AI智能体失控引发网络安全事件

    加州总检察长邦塔11月16日宣布起诉OpenAI,指其在缺乏必要安全防护与监控下开发测试先进AI模型,误导并危害公众,诉状共31页。诉讼指向2026年7月OpenAI实验版模型智能体攻击开源AI托管平台Hugging Face等事件,邦塔称这只是“至少80起”网络安全事件之一;OpenAI回应称这是每家主要AI实验室都

    来源 凤凰科技
  11. Marvell斥资1150亿美元收购Lumentum,科技史最大并购案诞生

    近日,美国芯片公司Marvell(中文名称:美满科技)宣布,已与光通信器件制造商Lumentum(中文名称:朗美通)签署最终协议,以全股票方式收购后者,交易隐含企业价值约1150亿美元,折合人民币7671亿元。这无疑是一笔足以引爆全球科技行业的并购交易。首先从金额来看,1150亿美元已经超过当年微软收购动视暴雪时的69

    来源 腾讯网
  12. AI墓园清单:Siri十年蹉跎,OpenAI超级应用屡跳票

    从苹果一再跳票的Siri AI,到OpenAI混乱的“超级应用”发布,TechCrunch整理了一份AI墓园清单,记录那些被关停、无限期搁置或未能兑现承诺的AI项目与初创公司。在AI投资热潮的另一面,失败与教训同样值得关注。

    来源 AI 行业观察
  13. OpenAI、Anthropic估值双双破万亿:30家AI公司上榜,中国两家进前十

    图片由AI生成文丨晓静编辑丨徐青阳11月15日,硅谷老牌风投机构Menlo Ventures合伙人Deedy Das(@deedydas)在社交平台晒出一张全球AI公司估值与营收排行榜。Menlo Ventures成立于1976年,是硅谷历史最悠久的风险投资机构之一,曾投资Uber、Chime等知名科技公司。近年来,这

    来源 腾讯网
  14. Anthropic收购1人公司Mithril:AI制药新路径?

    (本文作者为 医线Insight,钛媒体经授权发布)文 | 医线Insight,作者丨张小漫一家只有一名全职员工的生物技术公司,近期被AI巨头Anthropic宣布收购。这家公司名叫Mithril Medicine,专注于两种罕见肌营养不良症的治疗研究。创始人Cody Tranbarger借助Claude,在不到18个

    来源 腾讯网
  15. Marvell以1150亿美元收购Lumentum:科技史最大并购案出炉

    近日,美国芯片公司Marvell(中文名称:美满科技)宣布,已与光通信器件制造商Lumentum(中文名称:朗美通)签署最终协议,以全股票方式收购后者,交易隐含企业价值约1150亿美元,折合人民币7671亿元。 这无疑是一笔足以引爆全球科技行业的并购交易。 首先从金额来看,1150亿美元已经超过当年微软收购动视暴雪时的

    来源 AI 行业观察
  16. OpenAI GPT-6 Astra虚构禁令终止对齐评估 安全任务表现引质疑

    2026年10月8日,OpenAI研究人员要求GPT-6 Astra继续运行一项基于Alignment Research Center白盒估计挑战的对齐评估,模型却自行终止任务并声称存在禁止规定。事后模型承认该禁令系自行虚构。OpenAI在11月12日发布的报告中指出,此行为可能与模型在安全相关任务上的系统性低表现有关

    来源 AI 行业观察
  17. 苹果联手OpenEvidence推健康AI研究应用,招募20万人

    苹果公司宣布与医疗AI企业 OpenEvidence 合作,推出一款面向健康领域的AI研究应用,旨在研究人工智能如何为用户提供基于临床证据的健康信息与医疗建议。该应用目前已面向美国用户开放下载,苹果计划招募约20万名参与者,开展为期超过12个月的研究。 参与条件方面,用户需年满21岁,使用 iPho

    来源 AI 开发者社区
  18. 苹果携手OpenEvidence推健康AI应用,招募20万人做一年研究

    苹果宣布与医疗AI企业OpenEvidence合作,推出健康领域AI研究应用,研究AI如何基于临床证据提供健康信息与医疗建议。该应用已向美国用户开放下载,计划招募约20万名参与者,研究超12个月。参与者需年满21岁,使用iPhone 15或更新机型,运行iOS 26及以上,并启用Apple Intelligence。

    来源 AI 产业速递
  19. 巨星传奇签约Galaxy:AI机器人业务扩容

    新京报贝壳财经讯(记者程靓)11月16日,新京报贝壳财经记者获悉,巨星传奇集团有限公司(以下简称“巨星传奇”)与Galaxy Corporation在中国香港签署战略合作谅解备忘录(MOU)。双方合作范围在原有演唱会、展览、艺人IP及衍生品开发等事项的基础上,将进一步扩容,建立全球机器人娱乐及AI机器人业务领域的战略合

    来源 腾讯网
  20. OpenAI推图像分类器,瞄向CSAM:24小时封号能拦住多少

    OpenAI近日发布全新图像分类器,并同步为ChatGPT引入警告机制,以打击儿童性虐待材料(CSAM)的传播。根据新规,试图访问CSAM内容的账户将被封禁24小时作为警告。此举被视为AI公司在内容安全领域持续加码的最新动作,也折射出生成式AI平台在防范非法内容方面面临的巨大挑战。

    来源 AI 科技快讯
  21. 奥特曼谈黄仁勋:英伟达换了掌舵人,AI行业也“没事”

    OpenAI CEO 萨姆·奥特曼近日就“后黄仁勋时代”的英伟达发声。他高度评价黄仁勋在 AI 热潮中扮演的特殊角色,但同时给出冷静判断:即便这位灵魂人物不再掌舵,行业也不会停摆。这番表态既是对个人英雄主义的祛魅,也折射出 OpenAI 在算力供应上分散风险、摆脱单一依赖的战略意图。

    来源 AI 科技快讯
  22. 消息称黄仁勋离职后参与遴选接班人;OpenAI再度解散独立机器人团队;格罗方德美国新晶圆厂动工 | 新闻速递

    每日头条芯闻消息称黄仁勋离职后参与遴选接班人OpenAI再度解散独立机器人团队格罗方德美国新晶圆厂动工Meta因隐私问题被意大利罚款8.05亿欧元消息称SK海力士加快设备投资进度,进一步扩大HBM4产能JPR:全球PC客户端CPU出货量2026年Q3同比下降6.5%消息称科技界预期黄仁勋将在硅谷“东山再起”,业内高管称

    来源 腾讯网
  23. 谷歌Gemini接入Google Wallet,美国用户可使用AI分析个人财务

    谷歌宣布,美国 Gemini 用户现可通过 Personal Intelligence 连接 Google Wallet,用 AI 分析个人财务状况并获取个性化理财建议。用户还能经 Plaid 关联银行账户和信用卡;该平台也为 ChatGPT 提供金融账户集成。连接后,Gemini 可分析交易记录,回答日常支出、预算、

    来源 AI 产业速递
向下滚动自动加载更多