OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法

资讯 AI 行业观察 全文 2666 字 · 约 7 分钟读完 配图 11 张

大规模封号来了!OpenAl开打反蒸馏战

OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 1)

新智元报道  

OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 2)


OpenAI这次把话挑明了。


当地时间今天凌晨,一份名为《打击对抗性蒸馏》的宣言从OpenAI发出。


OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 3)


报告挂的是技术分享的名头,读下来更像一封宣战书。


OpenAI在文中直接承认:今年夏天以来,为清理白嫖账号,公司一周封掉的号最多有数万个,有时干脆按整个网络一锅端。


另一边,OpenAI已经向美国国会发出呼吁,要求出台法案、收紧出口管制。


报告里还完整披露了自家系统识别并拆解协同蒸馏攻击的具体做法。


接下来,OpenAI 还会有一轮规模不小的封号行动,先做好准备。



OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 4)
每周都有数万个账号被注销。


这一回,OpenAI 是真下狠手了。


OpenAI 自己披露:进入今年以来,ChatGPT 已经发起过好几轮大规模封号。


据他们观察,「偷师者」常用的手法是铺开大量账号、分散发起请求,一点点把模型的底层逻辑拼出来。


OpenAI 对此没有手软,只要查实,就把整个账号网络连根拔掉。


这类「协同作案」的账号群,OpenAI 一周能封掉几千个,多的时候上万。


到了今年夏天,封号的比例涨得尤其明显。


目的很直接:让偷师的人拿到的材料更少、付出的代价更高、推进的速度更慢。


这里要盯住两个说法:「整个账号网络」和「数万个账号」。


换句话说,账号矩阵里只要有一个节点被揪出来,跟它关联的其他账号也会跟着遭殃,数据统统清空。OpenAI 把话挑明了:蒸馏这事大家心照不宣,属于灰色地带,可它绝不只是侵权那么简单,还会引发严重的安全危机。


OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 5)




模型被蒸馏的时候,那身本事被原样抄走,OpenAI 砸下巨资建起来的安全护栏却留不下来。要知道,带着护栏的模型,绝不会替人写木马病毒,也不会给出生化武器配方。



一旦它被蒸馏进毫无底线的开源模型里,就成了黑客和恐怖分子手里的武器。也正因如此,OpenAI 才发动了那场毫不留情的大清洗。



内部测试里,OpenAI 安排了 6 个 AI 攻击模型上场。这些模型轮着来,用各种刁钻的黑盒攻击向防御系统「套话」。



防守的一方,比如 GPT-6.2 系列,得自己拿主意:你这一问,是正常提问,还是想恶意白嫖我的思路?


OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 6)

最关键的东西,是思维链(CoT),这块底线OpenAI不肯松。


眼下调用OpenAI的API,能看到的只是它愿意给你看的部分——摘要。真正让偷师者眼红的恰恰是CoT:那些没经过修饰、最原始的思维链,里面装着答案里没写出来的高阶逻辑和泛化能力,算得上最值钱的家底。



只不过,真实的CoT现在已被OpenAI收了起来。为了把这一点讲清楚,OpenAI专门做了一组对照实验。



实验用的是同一个「学生模型」底座,让它们分别去学两种数据:A组学的是原始、完整的「精确推理痕迹」;B组学的则是用户在前端日常能看到的「推理摘要」加上最终答案。




结果并不意外。经过包含Astra级别教师模型轨迹的监督微调(SFT)之后,学原始思维链的A组在网络安全基准测试上的得分普遍压过了B组。



OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 7)


OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 8)


两组模型随后又各跑了一轮轻量级强化学习。把推理算力预算拉到最大时,A组依旧占先;只有预算压得较小时,B组才勉强翻盘。


实验说明了一件事:精准的推理痕迹能让学生模型学会「举一反三」。而且,即便抓取到的数据只拿去干合规的防御性任务,学生模型照样能从中悟出可用于攻击性任务的通用技能。



说到底,前沿模型真正的底牌,就是它解题时「脑海中的一念」。这个东西,OpenAI无论如何都要上锁。




OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 9)
OpenAI布下四层反蒸馏防线


那OpenAI具体怎么干的?报告里,他们头一回把「反蒸馏之术」摊开讲。



这套四层网络把对抗性测试、模型训练、分类器和API级别保护拧在一起,OpenAI为此对架构做了深度改造。


OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 10)


先看第一层,防线直接扎进模型训练的底层。

OpenAI的做法是对抗性训练,让模型自己学会辨认哪些请求其实是在套取「提取推理过程」。


一旦判定请求带恶意,模型会直接拒绝披露CoT;碰上正常用户,它照样能准确分出两者。



区分能力从哪来?训练数据取自内部红蓝对抗的记录,加上外部安全研究人员提交的攻击日志。



第二层靠的是分类器,密不透风。


除此之外,OpenAI还上了一套能力极强的「输出分类器」。

工具调用同样没被漏掉——模型有时会把推理过程藏进工具调用的参数里,最终答案里却不显示,输出分类器能把这些内容当场拦下。



第三层是API级别的封锁,开发者听了要心跳加速。

这一招对整体开发者生态的冲击最狠。

最新发布的GPT-6.2 Astra和GPT-6.2 Sol里,OpenAI把模型的推理过程和生成它的「对话历史」做了硬绑定。


想改动前面某句提示词、看看模型思路怎么变?API会直接把后面所有推理过程作废。


靠微调上下文反复挤牙膏的路子,到这儿就走不通了。


第四层做的是跨模型、跨会话的隔离。


防护能力较弱的旧模型,被明确禁止读取新模型的推理记录。9月份,OpenAI 还补上了一个大漏洞——



过去,黑客会把一段加密的思维链硬塞进另一个新对话,诱导模型亲口把加密内容「念出来」,甚至能暴露他人的加密推理。如今,这条路径同样被封死。



6 个 AI 模型轮番发起攻击,测试结果相当刺眼。

在模拟真实生产环境的测试里,攻击模型尝试套取「上一轮对话」中受保护的推理内容时,旧防线下的 GPT-6 Astra 平均被攻破成功率为 54.0%。

换成更新防线后的 GPT-6.2 Astra,这一数字被压到了 0.2%。


套取「本轮对话」受保护推理的成功率,也从 22.9% 降到 0.9%。


眼下,GPT-6.2 Sol 已全量上线这套防护,旧版 GPT-6 Astra 正在紧急打补丁。


OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法(配图 11)


对已经抓到的攻击手法,OpenAI 会把它做成回归测试,再喂回模型训练。


他们还打算把这套方法分享给其他公司,联合全行业一起封堵。


OpenAI 预告:「很快,我们会分享出更多破坏行动的细节。」


接下来,名单上恐怕还会出现更多公司。


末尾,OpenAI 还向美国政府公开表态,称将全力支持三项法案:

《芯片安全法案》《人工智能监管法案》《MATCH法案》


一边是硬件出口管制,卡住对手拿到前沿模型所需芯片的通道。


另一边是「反蒸馏防御」,让对手没法再调用已有模型来「偷师」。


说到底,接下来只能从底层算法和创新上蹚出一条路来。


参考资料:

https://openai.com/index/combatting-adversarial-distillation/
本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI开放GPT-Live-1.1 API:实时双向对话,智能体边聊边干活

    OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交互能力,可以

    来源 AI 开发者社区
  2. 李彦宏的“最紧迫”与雷军的“热想象”

    APEC时间,科技掌门人谈了什么?作者/ IT时报 孙妍 综合报道编辑/ 孙妍 11月17日至18日,2026年亚太经合组织(APEC)工商领导人峰会在深圳前海国际会议中心举行。作为亚太经合组织第三十三次领导人非正式会议的配套活动,峰会由中国贸促会主办,主题为“共促繁荣,共赢未来”,2000余位政商代表参会,参会企业包

    来源 腾讯网
  3. AI不抢饭碗却拆了梯子:2026年中间层岗位正在消失

    前段时间和一位在互联网大厂做 HR 前同事聊天,聊到今年校招,他说了一句让我挺不是滋味的话: “我们现在不招新人了,直接招能扛事的人。” 我问他,那原来那些让新人练手的活谁干? 他笑了一下说,AI 干。 那一刻我忽然反应过来,很多人焦虑了整整一年的“AI 会不会替代我”,其实问错了方向。 AI 抢走的不是你的饭碗,是你

    来源 AI 行业观察
  4. 曙光8000支撑中国科研拿下戈登·贝尔奖,还入围气候建模奖决赛

    从今年7月正式投用至今,短短四个多月,曙光8000再交出两项世界级科研成果的亮眼答卷。尤其值得关注的是,曙光8000的价值正通过真实科研应用得到持续检验。此次ACM戈登·贝尔奖夺魁及气候建模奖入围,正是曙光8000应用能力的又一次集中展示。从十万卡集群的工程突破,到世界级科研成果的创新突破,曙光8000正在以实际成果证

    来源 TechWeb
  5. 曙光8000应用,问鼎世界!中国科研斩获全球顶级大奖

    从今年7月正式投用至今,短短四个多月,曙光8000再交出两项世界级科研成果的亮眼答卷。尤其值得关注的是,曙光8000的价值正通过真实科研应用得到持续检验。此次ACM戈登·贝尔奖夺魁及气候建模奖入围,正是曙光8000应用能力的又一次集中展示。从十万卡集群的工程突破,到世界级科研成果的创新突破,曙光8000正在以实际成果证

    来源 TechWeb
  6. Signal限制截屏对抗AI监控,加密通讯迎来新防线

    加密通讯应用Signal宣布在Android与iOS版本中限制用户截屏功能,以应对AI驱动的监控浪潮。这一被官方称为“生存威胁”的举措,标志着隐私工具与人工智能监控之间的对抗进入新阶段。本文梳理Signal的调整细节、AI监控产业背景,以及隐私与可用性之间的长期博弈。

    来源 AI 科技快讯
  7. 4.3万人点赞“断更抵制AI”:网文平台为何对AI说不

    网文界今年发生了多场“AI斩杀”。2月和5月,番茄进行了针对AI低质内容的专项治理; 起点7月全面禁止AI文,8月一口气处理了上百本AI小说,其中有多部万订作品;10月30日,起点和QQ阅读发布公告,称将进一步打击签约作品滥用AI的行为,取消对作品的福利发放。起点新发布的公告然而,多轮治理后,读者仍然会抱怨榜单上的作品

    来源 腾讯网
  8. 达里奥2010年拒马斯克邀请,2016年入OpenAI后创立Anthropic

    IT之家 11 月 21 日消息,据《华尔街日报》今日报道,Anthropic CEO 达里奥 · 阿莫代伊(Dario Amodei)早在 2010 年就曾通过熟人结识埃隆 · 马斯克并受邀参观 SpaceX 办公室。 据称,马斯克当时还向他发出了工作邀请,但达里奥最终选择拒绝。他认为自己的专业能力更适合计算生物学,

    来源 AI 行业观察
  9. 黎曼猜想167年后被宣称破解:AI与人类数学家同日提交证明

    TechCrunch报道,AI与人类数学家几乎同时宣称解决了悬置167年的黎曼猜想。这一千禧年大奖难题若被证实,将颠覆密码学与数论基础。数学界在震惊之余,正紧急验证两份截然不同的证明。AI在纯数学核心领域的突进,引发对机器创造力与人类直觉边界的激烈辩论。

    来源 AI 科技快讯
  10. 16岁辍学创业做AI导弹:他把“击杀成本”当卖点

    16岁高中生Henrijs Dandzbergs辍学加入YC,创办AI导弹初创公司,宣称要用新型导弹把美国及其盟友的“击杀成本”降到最低。本文梳理其背景、产品逻辑与争议,并追问:当战争效率被硅谷式指标衡量,创新与伦理边界在哪里?

    来源 AI 科技快讯
  11. OpenAI向ChatGPT Plus开放Spaces:20美元订阅也能建协作空间

    IT之家 11 月 21 日消息,OpenAI 今日宣布向 ChatGPT Plus 订阅用户开放 Spaces 协作空间功能。 该功能此前仅面向 Pro、Business 和 Enterprise 等付费方案用户提供,现在每月支付 20 美元(IT之家注:现汇率约合 133.8 元人民币)的 Plus 用户也可以创建

    来源 AI 行业观察
  12. 陈晓萍:企业用上AI,为何组织效率只涨5%到10%?

    近日,2026《管理视野》年度论坛在复旦大学管理学院政立院区举办。论坛以“AI时代的管理:从组织变革到人的未来”为主题,汇聚学界与产业界嘉宾,共同探讨技术变革背景下的组织转型与管理创新。 在论坛上,华盛顿大学福斯特商学院Philip M. Condit讲席教授、《管理视野》学术主编陈晓萍教授作主题分享。在她眼中,我们正

    来源 AI 行业观察
  13. 心智永生实验:冷冻、固定与扫描,三条路能否存下“我”?

    从低温冷冻到醛基固定,从连接组图谱到全脑仿真,一批科学家正试图把“自我”从衰亡的肉体中抢救出来。MIT Technology Review 的圆桌讨论聚焦这一古老而激进的问题:我们想保存的究竟是大脑组织,还是那个正在思考的“我”?技术在进步,但结构能否等于体验,仍是横亘在永生梦想前的最深鸿沟。

    来源 AI 科技快讯
  14. OpenAI内部Agent开销曝光:研究员日均消耗2400美元

    OpenAI的研究员,现在用AI已经用到什么程度了? 人均每天调用的Agent,按API标价折算,居然能值2400美元?! 用得最猛的那10%研究员,单日使用量甚至能达到2.3万美元(约16万人民币)。 嘶……这帮研究员用起AI来,是真一点都不心疼Token啊。 OpenAI公开了最新内部Agent研究报告《Resea

    来源 AI 行业观察
向下滚动自动加载更多