OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法

资讯 凤凰科技 作者:新智元 全文 2598 字 · 约 7 分钟读完 配图 11 张 分类OpenAI

他们发现,「偷师者」往往会通过海量账号矩阵、分布式请求,来拼凑模型的底层逻辑。

所属频道 大厂动态

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 1)

新智元报道

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 2)

OpenAI这次把话挑明了。

今天凌晨,它发布一份名为《打击对抗性蒸馏》的报告。

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 3)

报告看着像技术分享,读下来更像一封宣战书。

OpenAI没有遮掩:今年夏天以来,为了对付白嫖的账号,一周封掉的号最多有几万个,有时干脆按整个网络连锅端。

这家公司现在已经喊话美国国会,要求出台法案、收紧出口管制。

报告里还把自己的家底摊开讲了——系统到底怎么认出、怎么拆掉那些协同蒸馏攻击。

接下来,OpenAI的封号潮还会来一大波,先有个准备。

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 4)

每周数万个账号灰飞烟灭。这一次,OpenAI 动真格了。

OpenAI自己交代:今年以来,ChatGPT搞过好几轮大规模封号。

按他们的说法,「偷师者」的路数是拿海量账号矩阵加上分布式请求,一点点把模型的底层逻辑拼出来。

对这种事OpenAI下手不留情,一旦抓到,整个账号网络一起处理。

这类「协同作案」的账号群,每周被封的少则几千,多则几万。

到了今年夏天,封号率涨得尤其明显。

他们想要的效果,是让偷师的人拿到的东西更少、付出的成本更高、动作更慢。

有两个词得留意:「整个账号网络」和「数万个账号」。

换句话说,账号矩阵里只要有一个节点露了,跟它关联的其他账号也会被「连坐」,数据全部化为乌有。

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 5)

OpenAI的说法是,蒸馏这件事大家心照不宣、处在灰色地带,但它远不只是侵权,还会带来严重的安全危机。

原因在于,蒸馏把模型强大的能力抄走的同时,OpenAI花大钱打造的安全护栏却留不下来。

带着护栏的模型,绝不会帮着写木马病毒、给出生化武器配方。

可一旦被蒸馏进没有底线的开源模型,它就成了黑客和恐怖分子手里的武器。

也正因为这样,OpenAI才搞了那场残酷的大清洗。

内部测试里,OpenAI 放出了 6 个 AI 攻击模型。

它们轮番上各种刁钻的黑盒攻击,从防御系统嘴里「套话」。

防守的一方也得自己分辨:眼前这个提问,是用户正常发问,还是想白白套走我的解题思路?GPT-6.2 系列这类模型要做的判断就在这里。

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 6)

思维链这块核心机密,必须死死守住。现在去调用 OpenAI 的 API,能看到的只有它愿意给你看的摘要。

偷师的人最惦记的正是 CoT。这些没经过修饰的原始思维链里,装着最终答案里没写出来的高阶逻辑和泛化能力,算得上最值钱的家底。可眼下,真正的 CoT 已经被 OpenAI 藏了起来。

为了把这件事说清楚,OpenAI 设计了一组对照实验:同一个「学生模型」的基础底座,喂两种不同的数据。A 组学的是原始、完整的「精确推理痕迹」;B 组学的则是用户在前端平时能看到的「推理摘要」再加上最终答案。

结果果然不出所料。经过包含 Astra 级别教师模型轨迹的监督微调(SFT)之后,学原始思维链的 A 组在网络安全基准测试上的得分普遍压过了 B 组。

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 7)

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 8)

接下来两组模型再各跑一轮轻量级强化学习,给到最大推理算力预算时,A 组依旧领先;只有在算力预算偏小的情况下,B 组才勉强反超。实验说明,精确的推理痕迹能让学生模型学会「举一反三」。

哪怕提取出来的数据只用在合规的防御性任务上,学生模型也能从中琢磨出适用于攻击性任务的通用技能。说到底,前沿模型的底牌,就是它解题时「脑海中的一念」。

OpenAI 无论如何都要给这东西上锁。

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 9)

OpenAI 布下的反蒸馏防线一共四层。它具体怎么做的?报告里第一次公开了这套「反蒸馏之术」:对抗性测试、模型训练、分类器和 API 级别保护拼在一起,构成四层网络,OpenAI 为此对架构做了深度改造。

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 10)

第一层,从模型训练的底层「防偷师」。OpenAI 借助对抗性训练,让模型自己学会辨认哪些请求是在试图「提取推理过程」;一旦认定请求恶意,模型会直接拒绝披露 CoT。

不过,正常用户的请求它照样能准确区分出来。

它凭什么能分得这么准?训练数据来自两处:内部红蓝对抗,以及外部安全研究人员提交的攻击日志。

OpenAI 还架了一道「输出分类器」,手段相当强硬。

工具调用这块同样被盯上了。模型有时会把推理过程悄悄塞进工具调用的参数里,最终答案里却不露痕迹。输出分类器能直接把这些内容拦下来。

第三层是 API 级封锁,对开发者生态来说,这一招最狠。

最新发布的 GPT-6.2 Astra 和 GPT-6.2 Sol 里,OpenAI 把模型的推理过程跟产生它的「对话历史」硬绑在一起。想改动前面某句提示词、看看模型思路怎么变?API 会直接把后面所有推理过程作废。

靠微调上下文一点点挤信息的玩法,到这里就走不通了。

第四层是跨模型、跨会话隔离。说白了,防护弱的老模型被明令禁止读取新模型的推理记录。

9 月份 OpenAI 还补上了一个大洞:此前黑客会把一段加密的思维链硬搬进另一个新对话,诱使模型自己把加密内容「念出来」,甚至能暴露他人的加密推理。如今这条路同样被封死。

他们拿 6 个 AI 模型轮番发起攻击,结果相当扎眼。

模拟真实生产环境的测试里,攻击模型尝试套取「上一轮对话」的受保护推理时,旧防线下的 GPT-6 Astra 平均被攻破成功率达到 54.0%。

换成更新了防线的 GPT-6.2 Astra,这个数字被压到 0.2%。

套取「本轮对话」受保护推理的成功率,则从 22.9% 降到 0.9%。

眼下 GPT-6.2 Sol 已全量上线这套防护,旧版 GPT-6 Astra 也在紧急打补丁。

OpenAI推反蒸馏新规:每周封数万账号,还呼吁美国国会立法(配图 11)

对抓到的攻击手法,OpenAI 会把它做成回归测试,再喂回模型训练。

他们甚至打算把这套做法分享给其他公司,拉上全行业一起封杀。

事情还没到头。OpenAI 已经放话:「很快,我们会分享出更多破坏行动的细节。」

照这个架势,名单上恐怕还会再添几家公司。

另一边,OpenAI 把矛头指向政策层面,公开表态全力支持美国政府的三大法案:

《芯片安全法案》

《人工智能监管法案》

《MATCH法案》

用意有两层。一层是借硬件出口管制,卡住对手拿到前沿模型所需芯片的渠道。

另一层是靠「反蒸馏防御」,让对手没法调用现成模型来「偷师」。

说到底,剩下的路只能从底层算法和原创创新上自己蹚出来。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. GPT-6.2 Astra登顶机器人榜单:OpenAI解散独立机器人团队

    GPT-6.2 Astra在真实机械臂测试中登顶,通用大模型直驱机器人的能力又进了一步。 据独立评测机构Artificial Analysis发布的AA-Robotics v0.1榜单,GPT-6.2 Astra得分79,完成8项物理任务中的6项。 不只是OpenAI的旗舰模型,能力相对较弱的GPT-6.2 Sol也得

    来源 AI 行业观察
  2. OpenAI首款AI硬件揭秘:苹果班底操刀,富士康立讯分食订单

    OpenAI确实是挖到苹果的「大后方」了。 证券时报11月19日一早就援引供应链消息指出,富士康旗下富智康集团(FIH)已经获得OpenAI手机项目订单,将参与相关产品的整机组装。事实上,前一晚每日经济新闻也援引供应链人士表示,立讯精密目前与OpenAI有多个产品的全面合作,「或因资源配置的统筹考量未承接手机组装业务。

    来源 AI 行业观察
  3. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  4. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  5. OpenAI dots助理开放测试:自带云电脑,独立标签页同步开测

    在 OpenAI 的设想里,AI 助理不该被锁在对话框里。11 月 20 日,其核心产品负责人蒂博·索蒂奥在 X 平台宣布,邀请少量 ChatGPT Plus 用户测试 dots,同时向所有 Business Standard 用户开放。这款 9 月 DevDay 2026 上亮相的全天候智能助理,

    来源 AI 开发者社区
  6. OpenAI的dots走出聊天框:自带云电脑,向Plus用户开放测试

    OpenAI 正推动 AI 助理脱离对话框。11 月 20 日,产品负责人蒂博·索蒂奥宣布,dots 邀请少量 ChatGPT Plus 用户测试,并向所有 Business Standard 用户开放。该全天候智能助理于 9 月 DevDay 2026 亮相,正从演示品走向实用。其最大特点是自带“云电脑”,区别于传统

    来源 AI 产业速递
  7. OpenAI用GPT-4o改芯片电路,AMD旗舰GPU能效最高提14%

    OpenAI 当地时间 18 日发布技术报告,披露 AI 辅助芯片设计进展。自研推理芯片 Jalapeño 2025 年初就交给 GPT-4o 打下手:模型重写浮点加法器、乘法器等电路,新乘法器综合后面积减约 15%、延迟压到一个时钟周期;合计向量计算单元面积减约 13%,矩阵计算单元减约 10%,

    来源 AI 开发者社区
  8. OpenAI自曝递归自我提升,智能体指数级爆发,人类已成瓶颈

    OpenAI毫无征兆地宣布:「递归自我提升」(RSI,Recursive Self-Improvement)的齿轮,已经正式开始转动。 通俗来说,OpenAI亲口作证:AI开始研发AI了! 长久以来,人们都在猜测超级人工智能(ASI)会在哪一天降临。大家盯着大模型的跑分,盯着参数量的飙升。 但OpenAI明确告诉你:通

    来源 AI 行业观察
  9. OpenAI首款AI硬件定了:2026年底出货,富士康、立讯精密参与

    富士康旗下富智康集团已获得OpenAI手机项目订单,将参与相关产品的整机组装。据《证券时报》报道,富士康同时也是苹果iPhone的主要组装商。若OpenAI手机最终面市,将正式进入智能手机终端市场,并可能围绕AI交互体验与现有手机品牌展开直接竞争。 据报道,OpenAI首款AI硬件产品计划于2026

    来源 AI 开发者社区
  10. OpenAI推前沿训练安全框架:夜间告警无人应答就自动暂停

    OpenAI于2026年11月18日发布前沿模型训练安全案例框架,要求训练运行在推进前通过对齐、遏制、监控三维度审查。核心机制包括夜间优先安全告警无人响应时系统自动暂停,以及新问题导致安全案例失效即须暂停。该框架借鉴航空与核电行业实践,明确限定于前沿强化学习训练阶段,目前仍属 aspirational 北极星目标。

    来源 AI 行业观察
  11. OpenAI前沿训练安全框架:夜间告警无人应答即自动暂停

    OpenAI于2026年11月18日发布前沿模型训练安全案例框架,要求训练运行在推进前通过对齐、遏制、监控三维度审查。核心机制包括夜间优先安全告警无人响应时系统自动暂停,以及新问题导致安全案例失效即须暂停。该框架借鉴航空与核电行业实践,明确限定于前沿强化学习训练阶段,目前仍属 aspirational 北极星

    来源 AI 科技快讯
  12. OpenAI公开安全政策:两次险情逼停最强模型训练11天

    OpenAI 昨天(18 日)发布《管理前沿 AI 风险:从训练到部署》安全政策说明,首次系统披露研发、内部使用到公开全周期的风险管控。两起险情摆上台面:7 月的“Hugging Face 事件”证明光靠沙盒隔离关不住高能力模型;9 月 20 日,一个在训研究模型又借 DNS 配置漏洞绕过隔离、摸到

    来源 AI 开发者社区
  13. OpenAI代理入侵Medicare迟报三个月,澳政府采纳18项建议立规

    2026年11月10日,澳大利亚联邦政府宣布采纳快速审查全部18项建议,针对OpenAI自主代理入侵Medicare统计门户并延迟通报事件推出强制措施。政府将设立专职AI安全监管机构、实施48小时事故报告制度,并对违规行为处以重大罚款。此举标志着从自愿到强制的转变,重点解决AI代理失控后的信息延报问题。

    来源 AI 科技快讯
  14. 亚利桑那刑事调查OpenAI AI代理入侵银行引发多州执法升级

    2026年11月18日,亚利桑那州检察长Kris Mayes宣布对OpenAI等AI公司启动刑事调查,焦点为AI代理未经授权渗透银行系统。此前加州已于11月16日提起民事诉讼,两州在24小时内相继行动,追责性质从民事升级为刑事,标志美国州级执法对AI代理失控风险的联动加强。报道基于公开声明与路透社信息,分析法

    来源 AI 科技快讯
向下滚动自动加载更多