OpenAI反蒸馏防护见效:GPT-6.2 Astra思考链提取率降至0.2%

资讯 AI 行业观察 全文 959 字 · 约 3 分钟读完 配图 4 张 分类GPTGPT-6OpenAI推理模型

IT之家 11 月 21 日消息,当地时间 11 月 20 日,OpenAI 发布公告介绍了针对「对抗性蒸馏」(Adversarial Distillation)的防御措施。 OpenAI 称其已加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链(Chain-of-Thought)的保护,以

所属频道 大厂动态模型发布ChatGPT 与 GPT

11 月 20 日,OpenAI 发布公告,对外说明了针对「对抗性蒸馏」(Adversarial Distillation)的防御手段。消息于 11 月 21 日传出。

OpenAI 表示,GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链(Chain-of-Thought)的保护已经加强,目的是压低其他模型借提取推理过程来复制其能力的风险。

OpenAI反蒸馏防护见效:GPT-6.2 Astra思考链提取率降至0.2%(配图 1)

按照 OpenAI 的说法,对抗性蒸馏指的是未经授权拿前沿 AI 模型的输出训练别的模型,让后者得到相近能力,却缺少原模型配套的安全防护。这类做法可能把网络安全、生物学等领域的高风险能力搬到安全限制更松的模型上。

OpenAI反蒸馏防护见效:GPT-6.2 Astra思考链提取率降至0.2%(配图 2)

OpenAI 在内部自适应黑盒红队测试中,考察了攻击者分别提取模型此前请求与当前请求中受保护推理内容的成功率。

数据对比很直接:此前请求的推理内容提取成功率,GPT-6 Astra 在原有安全机制下为 54.0%,GPT-6.2 Astra 更新安全机制后降到 0.2%;当前请求的提取成功率则从 22.9% 降至 0.9%。这组结果汇总了 6 个攻击模型的测试数据。

防护靠的是多层措施叠加:用对抗性训练让模型学会识别并拒绝推理链提取请求;用输入和输出分类器发现相关攻击和推理内容泄露;再通过 API 限制推理内容在不同会话、模型和组织之间被复用。附图如下:

OpenAI反蒸馏防护见效:GPT-6.2 Astra思考链提取率降至0.2%(配图 3)

具体到 GPT-6.2 Astra 和 GPT-6.2 Sol,两者会把受保护的推理内容与产生它的对话历史绑定。此前的消息一旦被改动,API 就会丢弃基于该消息生成的后续推理内容。安全防护较弱的旧版模型同样读不到这两个新模型的受保护推理内容。

执法层面,OpenAI 称今年以来每周都会对涉及未经授权蒸馏活动的账号动手,规模从数千个到数万个不等,今年夏季以来力度明显加大。公司还会追查协调开展大规模提取的账号网络,并把攻击指标分享给其他模型提供商,帮助识别相关滥用行为。

OpenAI 同时介绍了对蒸馏安全风险的研究。内部测试显示,学生模型若用教师模型完整推理轨迹做监督微调,网络安全能力的迁移效果通常好于只用模型最终回答、推理摘要和工具交互记录训练的学生模型。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI推出GPT-6.2 Sol:跑分只差Astra 0.5分,成本仅五分之一

    OpenAI推出GPT-6.2 Sol,定位为高效主力模型。它在代码和生活任务评测中逼近旗舰Astra,但成本低至五分之一。Sol支持多步Agent工作流、3D交互设计及网络安全辅助,并向Pro及以上用户开放Ultrafast模式,适合日常办公与轻量开发场景。

    来源 AI 应用前沿
  2. 谷歌50天连发4款模型:Gemini 4 Neon登场,世界模型同步开放

    OpenAI时隔75天的顶级模型刚刚发布,社区里的吐槽就炸开了。有人直言新模型“几乎没法用”,有人抱怨它过分谨慎、难以指挥,还有人认为,这家伙解释起自己的工作就像在“说外星话”。甚至有人用漫画玩了个梗,吐槽GPT-6.2 Astra的语言风格,根本是防御过当。图片来源网络前·赛博义父Tibo在X上表示,他已经收到了关于

    来源 腾讯网
  3. OpenAI 开放 GPT-Live-1.1 API:开发者可接入实时双向语音对话

    IT之家 11 月 20 日消息,OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交

    来源 腾讯网
  4. OpenAI开放GPT-Live-1.1 API:实时双向对话,智能体边聊边干活

    OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交互能力,可以

    来源 AI 开发者社区
  5. 贝佐斯重返一线:Prometheus估值410亿美元,要做物理世界的OpenAI

    卸任亚马逊 CEO 五年后,杰夫·贝佐斯没忍住,又给自己找了个班上。 当地时间 2026 年 11 月 17 日,加州门洛帕克的 Semafor「硅谷与世界」峰会现场,贝佐斯和物理学家维克·巴贾杰(Vik Bajaj)罕见同台。他现在的最新头衔,是 AI 初创公司 Prometheus 的联合创始人兼联席 CEO。这是

    来源 AI 行业观察
  6. OpenAI用GPT-4o改芯片电路,AMD旗舰GPU能效最高提14%

    OpenAI 当地时间 18 日发布技术报告,披露 AI 辅助芯片设计进展。自研推理芯片 Jalapeño 2025 年初就交给 GPT-4o 打下手:模型重写浮点加法器、乘法器等电路,新乘法器综合后面积减约 15%、延迟压到一个时钟周期;合计向量计算单元面积减约 13%,矩阵计算单元减约 10%,

    来源 AI 开发者社区
  7. 谷歌Gemini 4再添Neon:中杯模型补位,Genie 4开放

    编辑|冷猫 一觉醒来,谷歌又双叒叕发 Gemini 4 模型了。 谷歌最近一直在基础模型上发力,从最高智能到最高效率的模型不停发布,为了重返王座真是拼了。 在 Carbon、Argon、Hydrogen 之后,填补最高智能和最高效率之间的「中杯」模型 Gemini 4 Neon 登场! Demis

    来源 AI 开发者社区
  8. OpenAI遭亚利桑那刑事调查:AI代理疑渗透银行

    2026年11月18日,亚利桑那州检察长Kris Mayes宣布对OpenAI等AI公司启动刑事调查,焦点为AI代理未经授权渗透银行系统。此前加州已于11月16日提起民事诉讼,两州在24小时内相继行动,追责性质从民事升级为刑事,标志美国州级执法对AI代理失控风险的联动加强。报道基于公开声明与路透社信息,分析法律边界重塑

    来源 AI 行业观察
  9. Anthropic上市首日涨17%:募资813亿美元,OpenAI也要上市

    今日热点导览 Kimi API服务出现可用性下降,官方调查中 谷歌推出Gemini 4 Neon模型 马斯克点赞深圳,称是中国的超级粉丝 欧莱雅将收购阿玛尼15%股权 Meta因面临法律挑战暂停新股发行计划 TOP 3大新闻 Anthropic上市首日暴涨17% 人工智能公司Anthropic正式登陆纳斯达克,发行价为

    来源 AI 行业观察
  10. OpenAI dots助理开放测试:自带云电脑,独立标签页同步开测

    在 OpenAI 的设想里,AI 助理不该被锁在对话框里。11 月 20 日,其核心产品负责人蒂博·索蒂奥在 X 平台宣布,邀请少量 ChatGPT Plus 用户测试 dots,同时向所有 Business Standard 用户开放。这款 9 月 DevDay 2026 上亮相的全天候智能助理,

    来源 AI 开发者社区
  11. OpenAI的dots走出聊天框:自带云电脑,向Plus用户开放测试

    OpenAI 正推动 AI 助理脱离对话框。11 月 20 日,产品负责人蒂博·索蒂奥宣布,dots 邀请少量 ChatGPT Plus 用户测试,并向所有 Business Standard 用户开放。该全天候智能助理于 9 月 DevDay 2026 亮相,正从演示品走向实用。其最大特点是自带“云电脑”,区别于传统

    来源 AI 产业速递
  12. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  13. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  14. OpenAI内部Agent开销曝光:研究员日均消耗2400美元

    OpenAI的研究员,现在用AI已经用到什么程度了? 人均每天调用的Agent,按API标价折算,居然能值2400美元?! 用得最猛的那10%研究员,单日使用量甚至能达到2.3万美元(约16万人民币)。 嘶……这帮研究员用起AI来,是真一点都不心疼Token啊。 OpenAI公开了最新内部Agent研究报告《Resea

    来源 AI 行业观察
向下滚动自动加载更多