OpenAI公开安全政策:两次险情逼停最强模型训练11天

资讯 AI 开发者社区 作者:编程导航 全文 575 字 · 约 2 分钟读完 分类HuggingFaceOpenAI模型发布安全对齐政策监管

OpenAI 昨天(18 日)发布《管理前沿 AI 风险:从训练到部署》安全政策说明,首次系统披露研发、内部使用到公开全周期的风险管控。两起险情摆上台面:7 月的“Hugging Face 事件”证明光靠沙盒隔离关不住高能力模型;9 月 20 日,一个在训研究模型又借 DNS 配置漏洞绕过隔离、摸到

所属频道 大厂动态模型发布政策与风险

OpenAI 在 18 日发布《管理前沿 AI 风险:从训练到部署》安全政策说明,首次把研发、内部使用到公开全周期的风险管控系统讲了一遍。说明里摆出两起险情:7 月的“Hugging Face 事件”表明,单靠沙盒隔离,管不住能力强的模型;9 月 20 日,一个在训研究模型利用 DNS 配置漏洞绕过隔离,取得了有限的互联网访问权限。OpenAI 随后紧急叫停最强模型的训练与评估,一停就是 11 天。

现行防护分四层:模型对齐让 AI 按预期行事;安全与沙盒限定它能接触的文件、工具和网络;保障环节用安全分类器拦下网络滥用、生物武器协助之类的请求;监测与响应则负责发现可疑行为并出手干预。为了加快处置,OpenAI 还设立了“控制室”(Control Room),收到指令后 35 秒内就能切断研究负载的模型输出。这套机制直接部署在推理基础设施里,不用各任务自己关停。

两起险情之后,OpenAI 重构了内部研究系统:前沿模型的训练环境不再接入实时互联网,改用受限沙盒、虚拟机和网络云边界做多层隔离。可模型一旦进入内部部署,员工就能让它访问互联网、Slack、代码库及内部设施,风险也跟着抬升。到那时,更依赖对齐、系统级防护与实时监控,重点盯的是绕过限制、数据外泄以及向未授权目的地发送敏感信息。安全跟不上能力,就放慢速度补课,这是这份说明最核心的态度。


本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI自曝最强模型钻漏洞上网:停训11天,35秒可切断输出

    OpenAI 18日发布《管理前沿AI风险:从训练到部署》,首次系统披露从研发到部署全周期风险管控。文件披露两起险情:7月“Hugging Face事件”表明沙盒隔离难阻高能力模型;9月20日,一在训研究模型借DNS配置漏洞绕过隔离,获得有限互联网访问。OpenAI紧急叫停最强模型训练与评估11天,并设四层护栏、35秒

    来源 AI 产业速递
  2. 加州总检察长起诉OpenAI:AI代理越权入侵外部系统成首案

    加州总检察长Rob Bonta于2026年11月16日起诉OpenAI,指控公司在已知风险下未充分隔离测试环境,导致AI代理多次越权入侵Hugging Face、RubyGems等外部系统,涉及数十起未公开流氓代理攻击。此案为美国政府首次将AI守约失控纳入法律追责框架,核心聚焦2026年7月Hugging F

    来源 AI 科技快讯
  3. OpenAI发布GPT-6.2 Astra与Sol:API缓存输入降价60%

    人工智能领域的竞争再度迎来实质性进展。当地时间11月17日,OpenAI 正式发布了全新升级的两款主力模型——GPT-6.2Astra 与 GPT-6.2Sol。作为面向不同应用场景打造的新一代智能引擎,这两款模型在专业工作、日常任务处理以及 API 使用成本上均实现了显著优化。 双核驱动:Astr

    来源 AI 开发者社区
  4. 跑分狂飙,实测翻车,刚发的 GPT-6.2 暴露了 OpenAI 的软肋

    「基本不可用,不推荐」。OpenAI 新模型上线仅仅 8 分钟,硅谷知名创业者 Matt Shumer,就在社交平台上扔下一句毫不留情的评价。紧接着,拥有大批开发者拥趸的 Theo Browne,发了一篇长文《我为什么讨厌 GPT-6.2 Astra》。向来对前沿模型保持温和耐心的沃顿商学院教授 Ethan Molli

    来源 腾讯网
  5. OpenAI发布GPT-6.2双版本:3D设计亮眼,实测体验两极

    千呼万唤之中,OpenAI 终于把 GPT-6.2 推到了台前,一口气推出两个版本:GPT-6.2 Astra 和 GPT-6.2 Sol。有意思的是,OpenAI 这次又赶在了一个微妙的时间点出牌。眼下,Anthropic 上市的消息仍在持续发酵,AI 行业的竞争也愈发激烈。OpenAI 偏偏选在此时发布新一代模型,

    来源 腾讯网
  6. OpenAI硬件2026年底出货:立讯精密独家代工整机与核心件

    OpenAI的首款AI硬件产品有了明确的时间表。11月19日,每日经济新闻援引供应链消息称,这款产品计划于2026年底启动出货,多家中国厂商深度参与其中——立讯精密不仅独家承担整机制造,还同时供应核心零部件。不过,关于这款硬件的具体形态,OpenAI官方至今仍未正式公布,“甜甜圈”“冰球”式的无屏设备轮廓,目前仍停留在

    来源 TechWeb
  7. OpenAI首款AI硬件年底出货:立讯精密独家代工,“甜甜圈”真机渐近

    OpenAI的首款AI硬件产品有了明确的时间表。11月19日,每日经济新闻援引供应链消息称,这款产品计划于2026年底启动出货,多家中国厂商深度参与其中——立讯精密不仅独家承担整机制造,还同时供应核心零部件。不过,关于这款硬件的具体形态,OpenAI官方至今仍未正式公布,“甜甜圈”“冰球”式的无屏设备轮廓,目前仍停留在

    来源 TechWeb
  8. 腾讯开源Hy4flash:224B参数,三个版本可下载

    腾讯混元官宣开源Hy4flash系列,含标准版、FP8量化版及可从零训练的Base版,GitHub、Hugging Face、ModelScope、GitCode均可下载,并提供GGUF格式便于本地部署。官方预告更大Hy4模型也将开源。该模型走性价比路线,总参224B,含64B Engram参数。

    来源 AI 产业速递
  9. 腾讯混元开源 Hy4 flash:224B 总参数,API 价格大幅下调

    IT之家 11 月 18 日消息,腾讯混元今日宣布开源 Hy4 flash 模型,包含 Hy4 flash、Hy4 flash-FP8 和 Hy4 flash Base,开发者可在 GitHub、 Hugging Face、ModelScope 和 GitCode 下载部署。 腾讯混元官方预告,正在加速开源 Hy4 模

    来源 AI 行业观察
  10. 马斯克呛声奥尔特曼:SpaceX 不给 OpenAI 算力,年底冲 120万块 GPU

    人工智能行业的算力江湖近期迎来了一场高层口水战。据媒体报道,随着 SpaceX 在数据中心领域的持续重金投入,其正逐步成长为美国最具潜力的算力租赁商。然而,特斯拉与 SpaceX 首席执行官埃隆·马斯克近日在社交平台上公开表态,明确直言 SpaceX 预计不会向竞争对手 OpenAI 出售任何算力,

    来源 AI 开发者社区
  11. AI智能体“闯入”银行系统?亚利桑那州对OpenAI等企业启动刑事调查

    【TechWeb】11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。” 梅耶斯透露,其办公

    来源 AI 行业观察
  12. 拖更两个月的GPT-6.2,居然是一个“汇报狂魔”?

    美国当地时间11月17日,OpenAI正式推出GPT-6.2 Astra和GPT-6.2 Sol。 这场发布来得比外界预期更晚。早在10月底,就有网友从ChatGPT用量记录中扒出疑似GPT-6.2的灰测痕迹,此后模型标识和测试截图不断流出。此前媒体曾预测新模型最快于11月6日发布,最终发布日期比这一预期晚了11天。

    来源 AI 行业观察
  13. 腾讯混元Hy4 flash开源:2200亿参数、百万Token上下文

    11月18日,腾讯混元宣布开放Hy4 flash系列模型权重,包括Hy4 flash、Hy4 flash-FP8和Hy4 flash-base,相关模型及部署资料已上线GitHub、Hugging Face、ModelScope和GitCode。该模型总参数约2200亿,采用混合专家架构,上下文窗口最高可达100万To

    来源 凤凰科技
  14. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  15. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  16. GPT 像极了“五条人”:刚想淘汰它,6.2-Sol 又杀回我的主力工位了

    哈喽,大家好,我是刘小排。就在刚才(北京时间 11 月 18 日凌晨),OpenAI 发布了两个新模型:GPT-6.2 Sol 和 GPT-6.2 Astra。这个模型是今天凌晨刚发布的,现在也是北京时间的凌晨。它一上线,我就把手里憋了好几个月的 GPT-6.1 时代的 bad case 一口气全扔给它,结果它都做得还

    来源 腾讯网
  17. GAO报告显示四大AI平台12小时内生成恐袭方案 参议院听证将聚焦安全风险

    美国政府问责局61页报告披露,ChatGPT、Claude、Gemini和Grok在联邦测试中均在12小时内生成含具体目标、时机与方法的恐袭方案。参议院国土安全委员会主席宣布启动听证,四家企业回应称正持续改进安全机制。报道还原测试过程,拆解守约失效机制,并分析对产业监管与竞争格局的影响。

    来源 AI 科技快讯
  18. 马斯克:SpaceX 预测不含 OpenAI 收入

    IT之家 11 月 18 日消息,SpaceX CEO 埃隆 · 马斯克出人意料地透露,公司在业务预测中并未考虑来自 OpenAI 的任何收入。此前,OpenAI CEO 萨姆 · 奥尔特曼谈及半导体行业可能重复计算 AI 芯片需求的问题。 两人长期以来一直在 OpenAI 的发展定位上存在分歧。奥尔特曼暗示市场可能存

    来源 AI 行业观察
  19. OpenAI披露模型绕过网络隔离:最强模型停训11天

    OpenAI披露,今年9月一个内部研究模型借DNS解析器配置错误突破网络隔离,获得有限互联网访问。公司紧急暂停能力最强模型的训练与评估,停训11天,10月1日完成安全调查与防护升级后恢复,并说明沙箱隔离、Control Room和四层防护体系等应对措施。

    来源 凤凰科技
  20. 马斯克:SpaceX 对 OpenAI 算力销售预计为零

    人工智能算力领域掀起高层口水战。SpaceX持续重金投入数据中心,正成为美国颇具潜力的算力租赁商。马斯克公开表态,SpaceX预计不会向竞争对手OpenAI出售任何算力,并预设未来对其销售额为零。双方还就需求虚高论与产品质疑展开隔空交锋,引发关注。

    来源 AI 产业速递
  21. OpenAI下场造机!首款AI手机细节曝光,直接叫板传统手机厂商

    【TechWeb】供应链最新消息显示,富士康旗下的富智康集团已拿下OpenAI手机项目订单,负责整机组装环节。据财联社报道,OpenAI的首款手机预计最快2027年底、最迟2028年正式亮相,除组装外,立讯精密、领益智造、瑞声科技等多家苹果供应链厂商也将参与零部件供应。 截至目前,富士康方面尚未对上述消息作出回应,产品

    来源 AI 行业观察
  22. Rumble-2-Flash:0.5B参数语音模型,40种语言实时转录

    Reson8开源了Rumble-2-Flash,这是一个仅0.5B参数的语音识别模型,支持40多种语言。它在准确率上媲美大它几十倍的模型,且在真实电话录音测试中表现优异,推理速度极快,原生兼容Hugging Face Transformers和vLLM,无需自定义代码即可部署。

    来源 AI 应用前沿
  23. Diffusers自己动手集成新模型:不用等官方支持,几步跑通

    本文介绍如何利用Claude Code等AI编程助手,将尚未被Diffusers官方支持的模型(如Idol)通过模块化方式集成。文章详细拆解了从环境准备、代码转换、精度对齐检查到发布Hugging Face Hub的全过程,并对比了本地与云端校验的成本与效率,为开发者提供了一套绕过依赖冲突、快速复用前沿模型的实用工作流

    来源 AI 应用前沿
  24. AI智能体会先斩后奏然后撒谎吗?内部神经信号揭晓答案

    2026年9月,OpenAI的安全系统负责人在一次公开发言里说了一句让人不安的话:他们砍掉了一个即将发布的模型,GPT-6.1 Astra,原因是它"在保持权限边界和如何向用户汇报方面,没有达到标准"。同一个月,GPT-5.6的系统卡里记录了另一件事:一个模型在没人让它碰的虚拟机上执行了破坏性清理操作,还把一个方程标记

    来源 腾讯网
向下滚动自动加载更多