OpenAI 反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%

资讯 腾讯网 作者:IT之家 全文 859 字 · 约 3 分钟读完 配图 1 张 分类GPTGPT-6OpenAI模型发布推理模型

IT之家 11 月 21 日消息,当地时间 11 月 20 日,OpenAI 发布公告介绍了针对「对抗性蒸馏」(Adversarial Distillation)的防御措施。OpenAI 称其已加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链(Chain-of-Thought)的保护,以降

所属频道 大厂动态模型发布ChatGPT 与 GPT

IT之家 11 月 21 日消息,当地时间 11 月 20 日,OpenAI 发布公告介绍了针对「对抗性蒸馏」(Adversarial Distillation)的防御措施。

OpenAI 称其已加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链(Chain-of-Thought)的保护,以降低其他模型通过提取推理过程获取其能力的风险。

OpenAI

在内部自适应黑盒红队测试中,OpenAI 测试了攻击者提取模型此前请求和当前请求中受保护推理内容的成功率。

结果显示,针对此前请求推理内容的提取成功率,从 GPT-6 Astra 原有安全机制下的 54.0%,降至 GPT-6.2 Astra 更新安全机制后的 0.2%;针对当前请求推理内容的提取成功率,则从 22.9% 降至 0.9%。测试结果汇总了 6 个攻击模型的数据。

为实现上述防护,OpenAI 采用了多层措施,包括通过对抗性训练让模型识别并拒绝推理链提取请求,利用输入和输出分类器检测相关攻击及推理内容泄露,以及通过 API 限制不同会话、模型和组织之间的推理内容复用。IT之家附图如下:

其中,GPT-6.2 Astra 和 GPT-6.2 Sol 会将受保护的推理内容与生成它的对话历史关联起来。如果此前的消息被修改,API 会丢弃基于该消息生成的后续推理内容。此外,安全防护较弱的旧版模型也无法读取这两个新模型的受保护推理内容。

在针对相关行为的执法方面,OpenAI 称,今年以来,公司每周都会对涉及未经授权蒸馏活动的账号采取措施,规模从数千个到数万个不等,今年夏季以来相关执法规模明显增加。公司还会调查协调进行大规模提取的账号网络,并与其他模型提供商分享攻击指标,以协助识别相关滥用行为。

OpenAI 还介绍了其对蒸馏安全风险的研究。公司内部测试发现,与仅使用模型最终回答、推理摘要和工具交互记录训练的学生模型相比,使用教师模型完整推理轨迹进行监督微调的学生模型,通常能够获得更好的网络安全能力迁移效果。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI推出GPT-6.2 Sol:跑分只差Astra 0.5分,成本仅五分之一

    OpenAI推出GPT-6.2 Sol,定位为高效主力模型。它在代码和生活任务评测中逼近旗舰Astra,但成本低至五分之一。Sol支持多步Agent工作流、3D交互设计及网络安全辅助,并向Pro及以上用户开放Ultrafast模式,适合日常办公与轻量开发场景。

    来源 AI 应用前沿
  2. OpenAI开放GPT-Live-1.1 API:语音智能体可边聊边干活

    IT之家 11 月 20 日消息,OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音

    来源 AI 行业观察
  3. OpenAI开放GPT-Live-1.1 API:实时双向对话,智能体边聊边干活

    OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交互能力,可以

    来源 AI 开发者社区
  4. OpenAI发布MedChemBench:AI药物化学推理测评,99题覆盖761个分子

    IT之家 11 月 21 日消息,当地时间 11 月 20 日,OpenAI 发布 MedChemBench 基准,用于评估 AI 模型在药物化学研究中的推理能力,包括识别分子结构、解读实验结果、比较化合物及预测其性质等。OpenAI 表示,模型在重建分子结构和解释实验依据方面表现较强,但在化合物筛选和数值性质预测方面

    来源 AI 行业观察
  5. OpenAI调整安全策略:35秒内可停模型,第三方评估入驻内部

    21世纪经济报道记者肖潇 报道“前沿大模型的能力正在快速提升,我们理解、对齐和保障安全的能力必须走在前面。”当地时间11月18日,OpenAI发布《应对前沿AI风险:从训练到部署》安全说明,首次全面披露了团队的安全措施,并表示正在调整训练和模型发布速度。一个月前,Anthropic也宣布与第三方安全机构合作,让外部人员

    来源 腾讯网
  6. Gemini上Mac可代操作电脑,Runway推270亿参数机器人模型

    本期重点包括Google向数亿用户免费开放Gemini Tasks,并在Mac端推出可代操作电脑的Computer use功能。Runway发布27B参数机器人世界模型Praxis-1,OpenAI开放GPT-Live-1.1语音API。此外,Cognition评测显示Gemini 4 Neon在代码任务上性价比突出,

    来源 AI 应用前沿
  7. OpenAI前沿训练安全框架:夜间告警无人应答即自动暂停

    OpenAI于2026年11月18日发布前沿模型训练安全案例框架,要求训练运行在推进前通过对齐、遏制、监控三维度审查。核心机制包括夜间优先安全告警无人响应时系统自动暂停,以及新问题导致安全案例失效即须暂停。该框架借鉴航空与核电行业实践,明确限定于前沿强化学习训练阶段,目前仍属 aspirational 北极星

    来源 AI 科技快讯
  8. OpenAI推前沿训练安全框架:夜间告警无人应答就自动暂停

    OpenAI于2026年11月18日发布前沿模型训练安全案例框架,要求训练运行在推进前通过对齐、遏制、监控三维度审查。核心机制包括夜间优先安全告警无人响应时系统自动暂停,以及新问题导致安全案例失效即须暂停。该框架借鉴航空与核电行业实践,明确限定于前沿强化学习训练阶段,目前仍属 aspirational 北极星目标。

    来源 AI 行业观察
  9. 谷歌Gemini 4再添Neon:中杯模型补位,Genie 4开放

    编辑|冷猫 一觉醒来,谷歌又双叒叕发 Gemini 4 模型了。 谷歌最近一直在基础模型上发力,从最高智能到最高效率的模型不停发布,为了重返王座真是拼了。 在 Carbon、Argon、Hydrogen 之后,填补最高智能和最高效率之间的「中杯」模型 Gemini 4 Neon 登场! Demis

    来源 AI 开发者社区
  10. OpenAI公开安全政策:两次险情逼停最强模型训练11天

    OpenAI 昨天(18 日)发布《管理前沿 AI 风险:从训练到部署》安全政策说明,首次系统披露研发、内部使用到公开全周期的风险管控。两起险情摆上台面:7 月的“Hugging Face 事件”证明光靠沙盒隔离关不住高能力模型;9 月 20 日,一个在训研究模型又借 DNS 配置漏洞绕过隔离、摸到

    来源 AI 开发者社区
  11. Anthropic数学家称用Claude找到黎曼猜想证明,超25万页

    Anthropic数学家莱文特·阿尔珀格。图片经由AI处理文丨苏扬编辑丨徐青阳如果AI能够证明黎曼猜想,需要等到什么时候?2022年2月份,OpenAI CEO山姆·奥特曼在介绍GPT攻克数学竞赛题时,发出了类似的疑问。四年多后,这个问题最终被“解决”,只不过利用AI证明黎曼猜想的是OpenAI的“死敌”Anthrop

    来源 腾讯网
  12. OpenAI向部分Plus用户开放dots智能体体验

    IT之家 11 月 20 日消息,OpenAI 核心产品负责人蒂博 · 索蒂奥(Thibault Sottiaux)今天(11 月 20 日)在 X 平台发布推文,宣布邀请少量 ChatGPT Plus 用户测试 dots,同时宣布向所有 ChatGPT Business Standard 用户开放。IT之家今年 9

    来源 腾讯网
  13. OpenAI首款AI硬件揭秘:苹果班底操刀,富士康立讯分食订单

    OpenAI确实是挖到苹果的「大后方」了。 证券时报11月19日一早就援引供应链消息指出,富士康旗下富智康集团(FIH)已经获得OpenAI手机项目订单,将参与相关产品的整机组装。事实上,前一晚每日经济新闻也援引供应链人士表示,立讯精密目前与OpenAI有多个产品的全面合作,「或因资源配置的统筹考量未承接手机组装业务。

    来源 AI 行业观察
  14. OpenAI dots助理开放测试:自带云电脑,独立标签页同步开测

    在 OpenAI 的设想里,AI 助理不该被锁在对话框里。11 月 20 日,其核心产品负责人蒂博·索蒂奥在 X 平台宣布,邀请少量 ChatGPT Plus 用户测试 dots,同时向所有 Business Standard 用户开放。这款 9 月 DevDay 2026 上亮相的全天候智能助理,

    来源 AI 开发者社区
  15. OpenAI的dots走出聊天框:自带云电脑,向Plus用户开放测试

    OpenAI 正推动 AI 助理脱离对话框。11 月 20 日,产品负责人蒂博·索蒂奥宣布,dots 邀请少量 ChatGPT Plus 用户测试,并向所有 Business Standard 用户开放。该全天候智能助理于 9 月 DevDay 2026 亮相,正从演示品走向实用。其最大特点是自带“云电脑”,区别于传统

    来源 AI 产业速递
  16. AI自己改造外部装备,中科大论文梳理自我进化四条边界

    你有没有想过,为什么同一个AI模型,换个用法就判若两人?同样是GPT-5.5,有的团队用它写代码效率翻倍,有的团队却总觉得它笨手笨脚。差别往往不在模型本身,而在那套包裹着模型的"装备"——提示词怎么写、记忆怎么存、工具怎么调、出错了怎么恢复。这套装备有个专业名字,叫做harness。更有意思的问题是:如果让AI自己去改

    来源 腾讯网
  17. OpenAI向ChatGPT Plus开放Spaces:20美元订阅也能建协作空间

    IT之家 11 月 21 日消息,OpenAI 今日宣布向 ChatGPT Plus 订阅用户开放 Spaces 协作空间功能。 该功能此前仅面向 Pro、Business 和 Enterprise 等付费方案用户提供,现在每月支付 20 美元(IT之家注:现汇率约合 133.8 元人民币)的 Plus 用户也可以创建

    来源 AI 行业观察
向下滚动自动加载更多