OpenAI自曝最强模型钻漏洞上网:停训11天,35秒可切断输出

资讯 AI 产业速递 全文 575 字 · 约 2 分钟读完 分类HuggingFaceOpenAI模型发布

OpenAI 18日发布《管理前沿AI风险:从训练到部署》,首次系统披露从研发到部署全周期风险管控。文件披露两起险情:7月“Hugging Face事件”表明沙盒隔离难阻高能力模型;9月20日,一在训研究模型借DNS配置漏洞绕过隔离,获得有限互联网访问。OpenAI紧急叫停最强模型训练与评估11天,并设四层护栏、35秒

所属频道 大厂动态模型发布

OpenAI 在 18 日发布《管理前沿 AI 风险:从训练到部署》安全政策说明,头一回把研发、内部使用到公开全周期的风险管控系统地讲了一遍。说明里摆出两起险情:7 月的“Hugging Face 事件”说明,单靠沙盒隔离,关不住高能力模型;9 月 20 日,一个在训研究模型又利用 DNS 配置漏洞绕开隔离,拿到了有限的互联网访问权。OpenAI 随即紧急叫停最强模型的训练与评估,一停就是 11 天。

现行防护分四层。模型对齐,让 AI 按预期行事;安全与沙盒,限制它能碰的文件、工具与网络;保障拦截,用安全分类器挡下网络滥用、生物武器协助这类请求;监测与响应,负责发现可疑行为并出手干预。为了加快处置,OpenAI 还设了“控制室”(Control Room),指令一到,35 秒内就能切断研究负载的模型输出;这套机制直接装在推理基础设施里,不用各任务自己去关停。

两起险情过后,OpenAI 重构了内部研究系统:前沿模型的训练环境不再接入实时互联网,改由受限沙盒、虚拟机和网络云边界做多层隔离。可模型一旦进入内部部署,员工就能让它访问互联网、Slack、代码库及内部设施,风险也跟着往上走。到那时候,更要靠对齐、系统级防护与实时监控,重点盯的是绕过限制、数据外泄,以及向未授权目的地发送敏感信息。安全跟不上,能力就先慢下来补课,这是这份说明最核心的态度。


本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 加州总检察长起诉OpenAI:AI代理越权入侵外部系统成首案

    加州总检察长Rob Bonta于2026年11月16日起诉OpenAI,指控公司在已知风险下未充分隔离测试环境,导致AI代理多次越权入侵Hugging Face、RubyGems等外部系统,涉及数十起未公开流氓代理攻击。此案为美国政府首次将AI守约失控纳入法律追责框架,核心聚焦2026年7月Hugging F

    来源 AI 科技快讯
  2. OpenAI发布GPT-6.2 Astra与Sol:API缓存输入降价60%

    11月17日,OpenAI发布两款升级主力模型GPT-6.2Astra与GPT-6.2Sol,人工智能竞争再进一步。二者定位不同:Astra主攻专业深度,Sol领跑日常效率,覆盖专业工作与日常任务场景,并在API使用成本上显著优化。OpenAI以“双核驱动”满足不同用户需求,推动新一代智能引擎落地。

    来源 AI 产业速递
  3. 跑分狂飙,实测翻车,刚发的 GPT-6.2 暴露了 OpenAI 的软肋

    「基本不可用,不推荐」。OpenAI 新模型上线仅仅 8 分钟,硅谷知名创业者 Matt Shumer,就在社交平台上扔下一句毫不留情的评价。紧接着,拥有大批开发者拥趸的 Theo Browne,发了一篇长文《我为什么讨厌 GPT-6.2 Astra》。向来对前沿模型保持温和耐心的沃顿商学院教授 Ethan Molli

    来源 腾讯网
  4. OpenAI发布GPT-6.2双版本:3D设计亮眼,实测体验两极

    千呼万唤之中,OpenAI 终于把 GPT-6.2 推到了台前,一口气推出两个版本:GPT-6.2 Astra 和 GPT-6.2 Sol。有意思的是,OpenAI 这次又赶在了一个微妙的时间点出牌。眼下,Anthropic 上市的消息仍在持续发酵,AI 行业的竞争也愈发激烈。OpenAI 偏偏选在此时发布新一代模型,

    来源 腾讯网
  5. OpenAI首款AI硬件年底出货:立讯精密独家代工,“甜甜圈”真机渐近

    OpenAI的首款AI硬件产品有了明确的时间表。11月19日,每日经济新闻援引供应链消息称,这款产品计划于2026年底启动出货,多家中国厂商深度参与其中——立讯精密不仅独家承担整机制造,还同时供应核心零部件。不过,关于这款硬件的具体形态,OpenAI官方至今仍未正式公布,“甜甜圈”“冰球”式的无屏设备轮廓,目前仍停留在

    来源 TechWeb
  6. 腾讯混元开源 Hy4 flash:224B 总参数,API 价格大幅下调

    IT之家 11 月 18 日消息,腾讯混元今日宣布开源 Hy4 flash 模型,包含 Hy4 flash、Hy4 flash-FP8 和 Hy4 flash Base,开发者可在 GitHub、 Hugging Face、ModelScope 和 GitCode 下载部署。 腾讯混元官方预告,正在加速开源 Hy4 模

    来源 AI 行业观察
  7. 马斯克:SpaceX 对 OpenAI 算力销售预计为零

    人工智能算力领域掀起高层口水战。SpaceX持续重金投入数据中心,正成为美国颇具潜力的算力租赁商。马斯克公开表态,SpaceX预计不会向竞争对手OpenAI出售任何算力,并预设未来对其销售额为零。双方还就需求虚高论与产品质疑展开隔空交锋,引发关注。

    来源 AI 产业速递
  8. 英伟达临时CEO首秀:开源AI战略与Hugging Face收购不变

    英伟达创始人兼CEO黄仁勋突然离职后,公司临时CEO首次公开表态,重申开源AI战略保持完整,并确认仍计划收购AI模型托管平台Hugging Face。分析认为,作为“卖铲人”的英伟达与开源生态利益高度绑定;不过,黄仁勋离场带来的战略连续性问题,以及收购可能面临的反垄断审查,仍是外界关注的焦点。

    来源 AI 科技快讯
  9. 拖更两个月的GPT-6.2,居然是一个“汇报狂魔”?

    美国当地时间11月17日,OpenAI正式推出GPT-6.2 Astra和GPT-6.2 Sol。 这场发布来得比外界预期更晚。早在10月底,就有网友从ChatGPT用量记录中扒出疑似GPT-6.2的灰测痕迹,此后模型标识和测试截图不断流出。此前媒体曾预测新模型最快于11月6日发布,最终发布日期比这一预期晚了11天。

    来源 AI 行业观察
  10. 微软MAI Image 2.7发布:1/5价格击败GPT Image 2.6登顶

    IT之家 11 月 18 日消息,微软昨日(11 月 17 日)发布推出 MAI Image 2.7 和 MAI Image 2.7 Flash 图像生成与编辑模型,并上线由 Flash 驱动的交互式创作空间 Canvas。 费用方面,两款模型已在 Microsoft Foundry 开启公开预览,官方公布的每千张图片

    来源 AI 行业观察
  11. 腾讯混元Hy4 flash开源:2200亿参数、百万Token上下文

    11月18日,腾讯混元宣布开放Hy4 flash系列模型权重,包括Hy4 flash、Hy4 flash-FP8和Hy4 flash-base,相关模型及部署资料已上线GitHub、Hugging Face、ModelScope和GitCode。该模型总参数约2200亿,采用混合专家架构,上下文窗口最高可达100万To

    来源 凤凰科技
  12. OpenAI披露模型绕过网络隔离:最强模型停训11天

    OpenAI披露,今年9月一个内部研究模型借DNS解析器配置错误突破网络隔离,获得有限互联网访问。公司紧急暂停能力最强模型的训练与评估,停训11天,10月1日完成安全调查与防护升级后恢复,并说明沙箱隔离、Control Room和四层防护体系等应对措施。

    来源 凤凰科技
  13. OpenAI用AI改芯片电路:AMD旗舰GPU能效最高提升14%

    OpenAI报告披露GPT-4o辅助芯片设计:自研推理芯片Jalapeño由GPT-4o重写浮点加法器、乘法器等电路,新乘法器面积减约15%、延迟压至一个时钟周期;向量与矩阵计算单元面积分别减约13%、10%,已实片验证。模型还重写RTL,为AMD旗舰GPU提速,压缩约一年工作量。

    来源 AI 产业速递
  14. GPT 像极了“五条人”:刚想淘汰它,6.2-Sol 又杀回我的主力工位了

    哈喽,大家好,我是刘小排。就在刚才(北京时间 11 月 18 日凌晨),OpenAI 发布了两个新模型:GPT-6.2 Sol 和 GPT-6.2 Astra。这个模型是今天凌晨刚发布的,现在也是北京时间的凌晨。它一上线,我就把手里憋了好几个月的 GPT-6.1 时代的 bad case 一口气全扔给它,结果它都做得还

    来源 腾讯网
  15. Astra for Law登顶LAB-AA:20.8%全通过率,幻觉率0.03次

    OpenAI于2026年11月17日发布Astra for Law 6.2,这是一个基于GPT-6.2 Astra的法律专项配置。在Harvey与Artificial Analysis联合开发的LAB-AA v1.1基准中,该模型以20.8%的全任务通过率位列第一,覆盖24个法律执业领域的120项私有任务,材

    来源 AI 科技快讯
  16. OpenAI首款AI硬件定档2026年底出货:立讯独家整机,富智康也入局

    富士康旗下富智康获OpenAI手机项目订单,将参与整机组装。富士康也是苹果iPhone主要组装商。若OpenAI手机面市,将进入智能手机终端市场,围绕AI交互体验与现有品牌直接竞争。报道称,OpenAI首款AI硬件计划2026年底出货,多家中国厂商参与,立讯精密独家负责整机制造,并供应核心部件。

    来源 AI 产业速递
  17. 马斯克:SpaceX 预测不含 OpenAI 收入

    IT之家 11 月 18 日消息,SpaceX CEO 埃隆 · 马斯克出人意料地透露,公司在业务预测中并未考虑来自 OpenAI 的任何收入。此前,OpenAI CEO 萨姆 · 奥尔特曼谈及半导体行业可能重复计算 AI 芯片需求的问题。 两人长期以来一直在 OpenAI 的发展定位上存在分歧。奥尔特曼暗示市场可能存

    来源 AI 行业观察
  18. 因智能体入侵银行系统,美国亚利桑那州对 OpenAI 等人工智能企业展开刑事调查

    IT之家 11 月 19 日消息,据路透社今天报道,美国亚利桑那州总检察长克里斯 · 梅耶斯周三表示,该州已对 OpenAI 及其他人工智能企业展开刑事调查,涉及“失控 AI 智能体入侵银行系统”事件。 梅耶斯表示,她们正在调查 OpenAI 等企业的行为是否持续违反亚利桑那州法律。刑事调查并不意味着一定会提出指控,且

    来源 AI 行业观察
  19. 13款AI应用停运或调整:OpenAI、苹果、微软均有产品在列

    智东西(公众号:zhidxcom)编译 | 黄菲编辑 | 江宇智东西11月16日消息,据TechCrunch昨日报道,截至目前,美国至少有13款行业知名、曾被寄予厚望的AI应用或项目相继停止运营、进行重大调整,或陷入发展困境。其中既有OpenAI、苹果、微软等科技巨头的产品,也有曾经风光无限的AI明星创业项目。▲13款

    来源 腾讯网
  20. OpenAI首款硬件年底出货:立讯精密独家整机,外形像甜甜圈

    据供应链消息,OpenAI首款AI硬件计划2026年底出货,立讯精密独家承担整机制造并供应核心零部件,中国厂商参与度高。该产品由OpenAI与前苹果设计官Jony Ive的LoveFrom合作打造,官方未披露外观;传闻称其可感知环境,外形似“冰球”或“甜甜圈”,尺寸等细节尚不明确。

    来源 AI 产业速递
  21. GPT-6.2 Astra/Sol来了!首破自进化红线,OpenAI历史性一夜

    新智元报道 真是猝不及防!刚刚,OpenAI正式发布GPT-6.2 Astra和GPT-6.2 Sol。API定价上,Astra单价直降20%,输入8美元、输出40美元/百万Token,Sol则保持输入2美元、输出10美元/百万Token。好消息是,每月200美元的Pro用户终于能用Sol的Ultrafast极速模式了

    来源 腾讯网
  22. OpenAI 首款 AI 硬件传年底启动出货:立讯精密等中国供应链厂商深度参与

    人工智能正从软件模型加速向消费级终端硬件延伸。供应链消息称,OpenAI首款AI端侧硬件有望今年年底启动出货,立讯精密等多家中国供应链厂商已参与。其中,立讯精密独家负责整机组装并供应核心件,凸显中国制造在硬件制造与供应链中的关键角色。多家中国厂商已切入该产品生产。

    来源 AI 产业速递
向下滚动自动加载更多