OpenAI反蒸馏防御见效:GPT-6.2 Astra思考链提取率降至0.2%

资讯 IT之家 全文 959 字 · 约 3 分钟读完 配图 4 张 分类GPTGPT-6OpenAI

OpenAI 加强 GPT-6.2 Astra、GPT-6.2 Sol 推理思考链保护,经黑盒红队测试,旧请求推理提取成功率从 54% 降至 0.2%,新请求从 22.9% 降至 0.9%。#OpenAI# 还采取多层防护,每周封禁数千至数万涉未经授权蒸馏的账号。

所属频道 大厂动态ChatGPT 与 GPT

OpenAI在11月20日(当地时间)发布公告,对外说明其针对「对抗性蒸馏」(Adversarial Distillation)的防御手段。此前一天,即11月21日,这一消息进入中文科技圈视野。

据OpenAI介绍,GPT-6.2 Astra与GPT-6.2 Sol两款模型的内部推理思考链(Chain-of-Thought)保护已经加强,目的是压低其他模型通过提取推理过程来复制其能力的可能性。

OpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%

所谓对抗性蒸馏,OpenAI给出的定义是:未经授权就拿前沿AI模型的输出喂给别的模型做训练,让后者学到相近本事,却没有原模型那套安全防护。这样一来,网络安全、生物学等方向上的高风险能力,就可能流到安全限制更弱的模型里。

OpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%

内部自适应黑盒红队测试中,OpenAI衡量的是攻击者能否把受保护的推理内容掏出来,分两种情形:一是针对此前请求的推理内容,二是针对当前请求的推理内容。

数据能说明问题。此前请求的推理内容提取成功率,在GPT-6 Astra原有安全机制下是54.0%,换成GPT-6.2 Astra更新后的机制后掉到0.2%;当前请求的推理内容提取成功率,则从22.9%降到0.9%。这组结果汇总了6个攻击模型的数据。

防护靠的是一套多层措施。OpenAI通过对抗性训练让模型学会识别并拒绝推理链提取请求,同时用输入和输出分类器排查相关攻击与推理内容泄露,另外在API层面限制推理内容在不同会话、模型和组织之间被复用。附图如下:

OpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%

具体到GPT-6.2 Astra和GPT-6.2 Sol,两者会把受保护的推理内容与产生它的对话历史绑定。一旦此前的消息被改动,API就会丢弃基于该消息生成的后续推理内容。安全防护较弱的旧版模型,也读不到这两个新模型的受保护推理内容。

执法层面,OpenAI称今年以来每周都会对涉及未经授权蒸馏活动的账号动手,规模从数千个到数万个不等,今年夏季以来力度明显加大。公司还会追查协调进行大规模提取的账号网络,并把攻击指标分享给其他模型提供商,帮助识别相关滥用行为。

OpenAI同时介绍了对蒸馏安全风险的研究。内部测试发现,学生模型若用教师模型的完整推理轨迹做监督微调,通常比只拿最终回答、推理摘要和工具交互记录训练的学生模型,在网络安全能力迁移上效果更好。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI推出GPT-6.2 Sol:跑分只差Astra 0.5分,成本仅五分之一

    OpenAI推出GPT-6.2 Sol,定位为高效主力模型。它在代码和生活任务评测中逼近旗舰Astra,但成本低至五分之一。Sol支持多步Agent工作流、3D交互设计及网络安全辅助,并向Pro及以上用户开放Ultrafast模式,适合日常办公与轻量开发场景。

    来源 AI 应用前沿
  2. OpenAI开放GPT-Live-1.1 API:实时双向对话,智能体边聊边干活

    OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交互能力,可以

    来源 AI 开发者社区
  3. OpenAI开放GPT-Live-1.1 API:语音智能体可边聊边干活

    IT之家 11 月 20 日消息,OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音

    来源 AI 行业观察
  4. OpenAI 开放 GPT-Live-1.1 API:开发者可接入实时双向语音对话

    IT之家 11 月 20 日消息,OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交

    来源 腾讯网
  5. OpenAI用GPT-4o改芯片电路,AMD旗舰GPU能效最高提14%

    OpenAI 当地时间 18 日发布技术报告,披露 AI 辅助芯片设计进展。自研推理芯片 Jalapeño 2025 年初就交给 GPT-4o 打下手:模型重写浮点加法器、乘法器等电路,新乘法器综合后面积减约 15%、延迟压到一个时钟周期;合计向量计算单元面积减约 13%,矩阵计算单元减约 10%,

    来源 AI 开发者社区
  6. 谷歌Gemini 4再添Neon:中杯模型补位,Genie 4开放

    编辑|冷猫 一觉醒来,谷歌又双叒叕发 Gemini 4 模型了。 谷歌最近一直在基础模型上发力,从最高智能到最高效率的模型不停发布,为了重返王座真是拼了。 在 Carbon、Argon、Hydrogen 之后,填补最高智能和最高效率之间的「中杯」模型 Gemini 4 Neon 登场! Demis

    来源 AI 开发者社区
  7. OpenAI首款AI硬件揭秘:苹果班底操刀,富士康立讯分食订单

    OpenAI确实是挖到苹果的「大后方」了。 证券时报11月19日一早就援引供应链消息指出,富士康旗下富智康集团(FIH)已经获得OpenAI手机项目订单,将参与相关产品的整机组装。事实上,前一晚每日经济新闻也援引供应链人士表示,立讯精密目前与OpenAI有多个产品的全面合作,「或因资源配置的统筹考量未承接手机组装业务。

    来源 AI 行业观察
  8. OpenAI dots助理开放测试:自带云电脑,独立标签页同步开测

    在 OpenAI 的设想里,AI 助理不该被锁在对话框里。11 月 20 日,其核心产品负责人蒂博·索蒂奥在 X 平台宣布,邀请少量 ChatGPT Plus 用户测试 dots,同时向所有 Business Standard 用户开放。这款 9 月 DevDay 2026 上亮相的全天候智能助理,

    来源 AI 开发者社区
  9. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  10. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  11. OpenAI的dots走出聊天框:自带云电脑,向Plus用户开放测试

    OpenAI 正推动 AI 助理脱离对话框。11 月 20 日,产品负责人蒂博·索蒂奥宣布,dots 邀请少量 ChatGPT Plus 用户测试,并向所有 Business Standard 用户开放。该全天候智能助理于 9 月 DevDay 2026 亮相,正从演示品走向实用。其最大特点是自带“云电脑”,区别于传统

    来源 AI 产业速递
向下滚动自动加载更多