OpenAI一周封数万号:反蒸馏战开打,还呼吁国会立法
大规模封号来了!OpenAl开打反蒸馏战
新智元报道
新智元报道

OpenAI这次把话挑明了。
当地时间今天凌晨,一份名为《打击对抗性蒸馏》的宣言从OpenAI发出。

报告挂的是技术分享的名头,读下来更像一封宣战书。
OpenAI在文中直接承认:今年夏天以来,为清理白嫖账号,公司一周封掉的号最多有数万个,有时干脆按整个网络一锅端。
另一边,OpenAI已经向美国国会发出呼吁,要求出台法案、收紧出口管制。
报告里还完整披露了自家系统识别并拆解协同蒸馏攻击的具体做法。
接下来,OpenAI 还会有一轮规模不小的封号行动,先做好准备。
这一回,OpenAI 是真下狠手了。
OpenAI 自己披露:进入今年以来,ChatGPT 已经发起过好几轮大规模封号。
据他们观察,「偷师者」常用的手法是铺开大量账号、分散发起请求,一点点把模型的底层逻辑拼出来。
OpenAI 对此没有手软,只要查实,就把整个账号网络连根拔掉。
这类「协同作案」的账号群,OpenAI 一周能封掉几千个,多的时候上万。
到了今年夏天,封号的比例涨得尤其明显。
目的很直接:让偷师的人拿到的材料更少、付出的代价更高、推进的速度更慢。
这里要盯住两个说法:「整个账号网络」和「数万个账号」。
换句话说,账号矩阵里只要有一个节点被揪出来,跟它关联的其他账号也会跟着遭殃,数据统统清空。OpenAI 把话挑明了:蒸馏这事大家心照不宣,属于灰色地带,可它绝不只是侵权那么简单,还会引发严重的安全危机。
模型被蒸馏的时候,那身本事被原样抄走,OpenAI 砸下巨资建起来的安全护栏却留不下来。要知道,带着护栏的模型,绝不会替人写木马病毒,也不会给出生化武器配方。
一旦它被蒸馏进毫无底线的开源模型里,就成了黑客和恐怖分子手里的武器。也正因如此,OpenAI 才发动了那场毫不留情的大清洗。
内部测试里,OpenAI 安排了 6 个 AI 攻击模型上场。这些模型轮着来,用各种刁钻的黑盒攻击向防御系统「套话」。
防守的一方,比如 GPT-6.2 系列,得自己拿主意:你这一问,是正常提问,还是想恶意白嫖我的思路?

眼下调用OpenAI的API,能看到的只是它愿意给你看的部分——摘要。真正让偷师者眼红的恰恰是CoT:那些没经过修饰、最原始的思维链,里面装着答案里没写出来的高阶逻辑和泛化能力,算得上最值钱的家底。
只不过,真实的CoT现在已被OpenAI收了起来。为了把这一点讲清楚,OpenAI专门做了一组对照实验。
实验用的是同一个「学生模型」底座,让它们分别去学两种数据:A组学的是原始、完整的「精确推理痕迹」;B组学的则是用户在前端日常能看到的「推理摘要」加上最终答案。
结果并不意外。经过包含Astra级别教师模型轨迹的监督微调(SFT)之后,学原始思维链的A组在网络安全基准测试上的得分普遍压过了B组。


两组模型随后又各跑了一轮轻量级强化学习。把推理算力预算拉到最大时,A组依旧占先;只有预算压得较小时,B组才勉强翻盘。
实验说明了一件事:精准的推理痕迹能让学生模型学会「举一反三」。而且,即便抓取到的数据只拿去干合规的防御性任务,学生模型照样能从中悟出可用于攻击性任务的通用技能。
说到底,前沿模型真正的底牌,就是它解题时「脑海中的一念」。这个东西,OpenAI无论如何都要上锁。
那OpenAI具体怎么干的?报告里,他们头一回把「反蒸馏之术」摊开讲。
这套四层网络把对抗性测试、模型训练、分类器和API级别保护拧在一起,OpenAI为此对架构做了深度改造。

先看第一层,防线直接扎进模型训练的底层。
OpenAI的做法是对抗性训练,让模型自己学会辨认哪些请求其实是在套取「提取推理过程」。
一旦判定请求带恶意,模型会直接拒绝披露CoT;碰上正常用户,它照样能准确分出两者。
区分能力从哪来?训练数据取自内部红蓝对抗的记录,加上外部安全研究人员提交的攻击日志。
第二层靠的是分类器,密不透风。
除此之外,OpenAI还上了一套能力极强的「输出分类器」。
工具调用同样没被漏掉——模型有时会把推理过程藏进工具调用的参数里,最终答案里却不显示,输出分类器能把这些内容当场拦下。
第三层是API级别的封锁,开发者听了要心跳加速。
这一招对整体开发者生态的冲击最狠。
最新发布的GPT-6.2 Astra和GPT-6.2 Sol里,OpenAI把模型的推理过程和生成它的「对话历史」做了硬绑定。
想改动前面某句提示词、看看模型思路怎么变?API会直接把后面所有推理过程作废。
靠微调上下文反复挤牙膏的路子,到这儿就走不通了。
第四层做的是跨模型、跨会话的隔离。
防护能力较弱的旧模型,被明确禁止读取新模型的推理记录。9月份,OpenAI 还补上了一个大漏洞——
过去,黑客会把一段加密的思维链硬塞进另一个新对话,诱导模型亲口把加密内容「念出来」,甚至能暴露他人的加密推理。如今,这条路径同样被封死。
6 个 AI 模型轮番发起攻击,测试结果相当刺眼。
在模拟真实生产环境的测试里,攻击模型尝试套取「上一轮对话」中受保护的推理内容时,旧防线下的 GPT-6 Astra 平均被攻破成功率为 54.0%。
换成更新防线后的 GPT-6.2 Astra,这一数字被压到了 0.2%。
套取「本轮对话」受保护推理的成功率,也从 22.9% 降到 0.9%。
眼下,GPT-6.2 Sol 已全量上线这套防护,旧版 GPT-6 Astra 正在紧急打补丁。

对已经抓到的攻击手法,OpenAI 会把它做成回归测试,再喂回模型训练。
他们还打算把这套方法分享给其他公司,联合全行业一起封堵。
OpenAI 预告:「很快,我们会分享出更多破坏行动的细节。」
接下来,名单上恐怕还会出现更多公司。
末尾,OpenAI 还向美国政府公开表态,称将全力支持三项法案:
《芯片安全法案》《人工智能监管法案》《MATCH法案》
一边是硬件出口管制,卡住对手拿到前沿模型所需芯片的通道。
另一边是「反蒸馏防御」,让对手没法再调用已有模型来「偷师」。
说到底,接下来只能从底层算法和创新上蹚出一条路来。
参考资料: