OpenAI反蒸馏封号:每周数万账号被封,还呼吁国会立法
大规模封号来了!OpenAI开打反蒸馏战,调用,推理,分类器,新模型,反蒸馏战,openai

新智元报道
![]()
OpenAI这次直接摊牌了。今天凌晨,它发布了一份名为《打击对抗性蒸馏》的报告。

报告看着像技术分享,读下来更像一封宣战书。OpenAI在里头说得毫不遮掩:今年夏天以来,为了收拾那些白嫖的账号,他们一周最多封掉几万个号,有时候干脆按网络整片端掉。
另一边,OpenAI已经向美国国会喊话,要求出台法案、收紧出口管制。报告里也把自己那套识别和瓦解协同蒸馏攻击的办法抖了个底朝天。按这个架势,接下来还有一大波封号在路上。
每周数万个账号说没就没。这一回,OpenAI是动真格了。它自己披露,今年以来ChatGPT已经发起过多轮大规模封号行动。
在OpenAI看来,「偷师者」惯用的手法是拉起海量账号矩阵、发起分布式请求,一点点把模型的底层逻辑拼出来。一旦被抓住,OpenAI下手不留情,整个账号网络一起端。这类「协同作案」的账号群,每周被封的少则几千,多则几万。今年夏天尤其明显,封号率往上蹿了一大截。
目的很直接:让偷师的人拿到的料更少、成本更高、速度更慢。这里有两个词得留意——「整个账号网络」和「数万个账号」。换句话说,账号矩阵里只要有一个节点露了馅,跟它关联的其他账号也会被「连坐」,数据统统作废。

OpenAI的说法是,蒸馏这个大家心照不宣的灰色地带行为,绝不只是侵权那么简单,它会带来严重的安全危机。原因在于,蒸馏过程中模型的能力被抄走了,OpenAI砸重金建起的安全护栏却没跟着走。本来带着护栏的模型,绝不会帮着写木马病毒、给出生化武器配方。
可一旦被蒸馏进没有底线的开源模型,它就成了黑客和恐怖分子手里的武器。也正因如此,OpenAI才搞了那场残酷的大清洗。
内部测试里,OpenAI放出了6个AI攻击模型。它们轮番上阵,用各种刁钻的黑盒攻击,从防御系统那里「套话」。
防守一方——GPT-6.2 系列这类模型——得自己拿捏:对面这个提问,是正常想知道答案,还是想白白套走我的思路?
真正的要害,是那条「思维链」,绝不能让出去。
眼下调用 OpenAI 的 API,能看到的只是它愿意给你看的那部分,也就是摘要。
最让偷师者眼馋的就是 CoT。这些没经过修饰、原汁原味的思维链里,装着答案本身没写出来的高阶逻辑和泛化能力,算得上最值钱的家当。
可如今,真正的 CoT 已经被 OpenAI 收进抽屉里了。
为了把这一点坐实,OpenAI 安排了一组对照实验。
同一个「学生模型」的基础底座,被分别喂了两种数据。
A 组学的是原始的、完整的「精确推理痕迹」。
B 组学的则是用户平时在前端看得到的「推理摘要」加上最终答案。
结果嘛,果然是意料之中。
经过包含 Astra 级别教师模型轨迹的监督微调(SFT)之后,学了原始思维链的 A 组,在网络安全基准测试上的分数全面压过 B 组!


紧接着,两组模型各自再做一轮轻量级强化学习,在给足最大推理算力预算时,A 组照样领先。只有在算力预算偏小的情况下,B 组才勉强扳回一城。
实验说明了一点:精确的推理痕迹能教会学生模型「举一反三」。
即便抓取的数据只拿去干合规的防御性任务,学生模型照样能从中琢磨出适用于攻击性任务的通用本事。
说到底,前沿模型的底牌,就在它解题时「脑子里闪过的那一念」。
不管怎样,OpenAI 都得给这东西上把锁。
OpenAI 摆下四层反蒸馏防线
那 OpenAI 到底是怎么操作的?
报告里,这套「反蒸馏之术」是头一回对外公开。
它把对抗性测试、模型训练、分类器和 API 级别保护拧成四层网络,OpenAI 为此对架构做了深度改造。

第一层:在模型训练底层就「防偷师」
借助对抗性训练,OpenAI 让模型自己学会分辨哪些请求是在打「提取推理过程」的主意。
一旦认出恶意请求,模型会干脆利落地拒绝交出 CoT。
不过与此同时,它又能把正常用户的请求准确区分开来。
那它凭什么能分得这么准?靠的是训练数据——内部红蓝对抗积累的素材,加上外部安全研究人员提交的攻击日志。
OpenAI 还架起了另一道关卡:分类器。
他们另外上了一套「输出分类器」,本事相当强,连工具调用这个口子也一并看住了。
模型有时候会把推理过程塞进工具调用的参数里,不走最终答案这条路,输出分类器能直接把这类内容拦下来。再往外一层,是 API 级别的封锁——对开发者群体来说,这招最要命。
OpenAI 在最新推出的 GPT-6.2 Astra 和 GPT-6.2 Sol 上,把模型推理过程与生成它的「对话历史」硬绑在一起。
想改掉前面某一句话、看看模型思路会怎么变?API 会把后面所有推理过程直接作废。
靠反复调上下文一点点套信息的玩法,到这儿就走不通了。
还有一层是跨模型、跨会话的隔离:防护能力弱的老模型,被明令禁止读取新模型的推理记录。
9 月份他们还补上了一个大洞——过去黑客会把一段加密的思维链硬塞进另一个新对话,诱使模型自己把加密内容「念出来」,甚至能掏出别人的加密推理。
如今这条路同样被堵死。
6 个 AI 模型轮番上阵猛攻,测出来的结果相当刺眼。模拟真实生产环境的测试里,攻击模型尝试套取「上一轮对话」的受保护推理时,旧防线下的 GPT-6 Astra 平均被攻破成功率是 54.0%。
换成新防线的 GPT-6.2 Astra,同一数字被压到 0.2%。
套取「本轮对话」受保护推理的成功率,也从 22.9% 跌到 0.9%。
这套防护目前在 GPT-6.2 Sol 上已经全量上线,旧版 GPT-6 Astra 也在紧急打补丁。

被抓到的攻击手法,OpenAI 会拿去做回归测试,再喂回模型训练。
他们甚至打算把这套办法分享给别的公司,让全行业一起封杀。
这事还没完。OpenAI 放话:「很快,我们会分享出更多破坏行动的细节。」
往后可能还有更多公司被列进这份名单。
此外,OpenAI 还公开向美国政府表态,称全力支持三大法案:
《芯片安全法案》
《人工智能监管法案》
《MATCH法案》
一头,OpenAI 想借硬件出口管制,卡住对手拿到前沿模型所需芯片的路。
另一头,他们要用「反蒸馏防御」,让对手没法调用现成模型来「偷师」。
说到底,接下来只能从底层算法和创新上找突破口了。
参考资料:
https://openai.com/index/combatting-adversarial-distillation/
