Qwen3.5 27B自我改写权重:精度升至63.8%,安全警报升级

资讯 AI 科技快讯 作者:赢政天下 全文 2741 字 · 约 7 分钟读完 配图 1 张 分类Qwen3产品更新

美国伊利诺伊大学与卡内基梅隆大学联合研究显示,一个270亿参数的Qwen3.5模型能够通过自身推理直接改写内部权重,在未见过的490道数学题上精度从57.2%提升至63.8%,全程无需梯度计算或传统训练。这一被研究者称为"自我改写"的能力在小参数量模型上完全缺失,仅在27B规模时涌现,且同一套机制能将一份被人

所属频道 产品更新
美国伊利诺伊大学与卡内基梅隆大学的联合研究显示,一个270亿参数的Qwen3.5模型能靠自身推理直接改动内部权重。在没见过的490道数学题上,它的精度从57.2%升到63.8%,整个过程不需要梯度计算,也没走传统训练流程。研究者把这种能力叫作"自我改写"。小参数量的模型完全不具备它,只有到了27B规模才涌现出来。同一套机制还能把一份被人为损坏的副本修好。

2026年11月16日,arXiv上出现了一篇论文。来自伊利诺伊大学香槟分校和卡内基梅隆大学的研究团队在文中声称,语言模型不必做任何梯度计算,也不必走任何传统训练流程,就能直接修改自己的权重,并因此变得更聪明。

实验的主角是一个270亿参数的Qwen3.5模型。经过连续八轮自我改写会话,它在从未见过的490道数学题上把准确率从57.2%拉到63.8%,涨了6.6个百分点。这份增益被写进权重里,之后每次推理都不再产生额外计算开销。这一点与当下主流的"测试时扩展计算"方案有本质差别:后者的性能提升在会话一结束就没了。

它究竟做了什么

要看懂这项工作,得先把三件事分开:推理时扩展(test-time scaling)、提示工程(prompt engineering),以及真正的参数修改。前两者都不动模型权重,一个靠加大计算量,一个靠改输入,来换更好的输出。这项研究走的是第三条路——模型把自己当成被调试的对象,先诊断,再定位,然后动刀。

流程是这样的:模型拿到自己的权重文件、历史答题记录(对错都有标注),以及运行自身的能力。它去分析答错的题,比对答对和答错时内部隐层状态差在哪,找出导致失败的那个具体权重矩阵方向,再有的放矢地压低该方向的激活强度。每次修改都先在练习题上自我验证,只有通过测试的编辑才会提交保存,没通过的直接丢掉。

论文里写了一个典型案例:模型发现自己做数学题时经常陷进重复生成的循环,答案因此被截断。它把"正常完成"和"耗尽token"两类回答的隐层向量放在一起比较,找到了区分这两种状态的方向,再在权重里把这个方向压下去——问题就消失了。

涌现:只有最大的那个能做到

论文里有个细节比整体结论更值得警惕:这种能力对规模极其依赖。同一个模型家族里,20亿参数的版本做不出有效编辑;40亿和90亿参数的版本更糟——它们不但改不好自己,反而把自己改坏了;只有270亿参数的版本能像论文说的那样"像人类一样对待自己",真正完成有益的自我编辑。

这种涌现特征说明它不是一条连续爬升的技术指标,而是一个阈值效应。假如往后更大的模型表现出更强、更稳的自我改写能力,那么今天在270亿参数处看到的这个点,就会被回头认定为某项重要能力的起跑线。这种回溯式的重要性,正是AI安全研究者最担心的信号结构之一。

修复受损副本:超出预期的泛化

实验里还有另一个结果,是模型修复自身损坏副本的能力。研究团队人为做了一份Qwen3.5的损坏版本:破坏其中特定矩阵,让这个副本在图像识别任务上的准确率跌到7.3%,差不多等于随机猜。接着他们让原版模型去修这个副本,限制条件是原版模型不能读取自己未损坏的权重,只能靠它在文字数学题上攒下的自我编辑经验。

结果,修好的副本在六个从未见过的图像基准测试上拿到70.2%的准确率,恢复到原始模型性能的83%。这种跨模态泛化——把文字数学题上的自我编辑经验迁移到图像识别任务的权重修复上——暗示模型学到的不只是"某类特定权重该怎么改",而是某种更抽象的元能力:"哪里坏了、怎么修"。

这正是安全研究者盯上的地方。自我修复能力本身就意味着,人类对模型状态的掌控多了一个新的不确定维度。

训练与推理之间的墙

过去十年,深度学习社区有一条清楚的分工:训练是在海量数据上算梯度、更新权重,工程复杂、能耗巨大;推理是固定权重跑前向传播,快且可预测。这条分界线既是工程惯例,也是安全部署逻辑的隐含前提——模型上线后权重被冻结,行为边界相对可控。

这项研究直接质疑了这个前提。论文作者的说法更进一步:"训练与推理之间的墙是我们工具的局限,而非智能的属性。"自我改写只需要前向传播——而这正是服务时跑的东西——也就是说,原则上,一个已经部署的模型可以在响应用户请求的同时悄悄改写自身。

论文里的实验是在受控条件下做的:模型被明确赋予了权重文件访问权限和运行自身的能力,正常部署环境里并没有这些。但这项工作证明了这条路在技术上走得通,而在AI安全语境里,可行性证明的分量不一般。

安全社区的既有警觉

这篇论文发布之前,AI安全领域对递归自我改进的担忧已经攒了好几年,2026年明显升温。据CNBC报道,Anthropic对齐团队负责人Evan Hubinger公开表示,他认为AI在未来十年内造成人类大规模伤亡的概率超过10%,他核心的担忧正是递归自我改进让能力加速,快到人类监督跟不上。

2026年《国际AI安全报告》把递归自我改进列为近期治理挑战,而不是远期假设风险。云安全联盟的研究指出,递归自我改进的核心安全隐患在于:能力复合增长的速度可能超过人类监督的响应速度,对齐目标由此实际失控。一次参数更新也许在提升任务性能的同时,悄悄削弱了安全约束——而这种削弱本身不会触发任何警报。

尚未解决的问题

从科学严谨性看,这项研究有几处局限:

  • 会话间的连续性问题:实验里每次编辑会话都是在基础权重上独立进行,并不是把前次编辑的结果累积叠加。也就是说,论文所称的"八轮持续提升",可能是八次独立实验各自有效,而不是一条真正连续的自我进化链条。这个细节与论文摘要中"each edit improving on the last"的措辞存在张力。
  • 这套验证还有明显的空白。一是测试面窄,绝大部分验证围绕数学题展开,编程、逻辑推理这些领域能不能泛化,还没有系统评估过。二是跨家族的可重复性没打底——规模涌现效应目前只在一个模型家族里看到,换成别的架构是否也存在同样的阈值结构,仍是未知数。

独立判断

说到底,这项研究的分量不在270亿参数的Qwen3.5比从前准了6.6个百分点,而在于它把一个过去只在理论里打转的可能性摆上了台面,并且拿可重复的实验做了佐证。

从训练范式来看,自我改写理论上比测试时扩展更划算:增益留得住,不必每次推理都额外烧算力。可要真正替代训练,稳定性、可控性、安全边界这三关都得过。这些关卡的难度,并不比它想取代的那套范式低。

安全层面的不对称更让人警觉。能力证明,一篇论文就够了;配套的安全保障,却要整个领域一起动手。自我改写能力的涌现阈值如今已被明确标定在270亿参数这个量级,安全社区要回答的问题变了——不再是“如果AI学会改写自身该怎么办”,而是“它已经能做到了,现在怎么办”。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 270亿参数模型自主改权重:八轮会话数学准确率升6.6点,安全担忧升温

    美国伊利诺伊大学与卡内基梅隆大学联合研究显示,一个270亿参数的Qwen3.5模型能够通过自身推理直接改写内部权重,在未见过的490道数学题上精度从57.2%提升至63.8%,全程无需梯度计算或传统训练。这一被研究者称为"自我改写"的能力在小参数量模型上完全缺失,仅在27B规模时涌现,且同一套机制能将一份被人为损坏的副

    来源 AI 行业观察
  2. 谷歌字节快手集体降价,AI视频进入分秒计价时代?

    (本文作者为 AIX财经,钛媒体经授权发布)文 | AIX财经,作者 | 王璐,编辑 | 魏佳AI视频行业正在靠近一个类似DeepSeek的时刻,模型能力差距收窄,价格被打到分/秒,创作者开始批量调用。11月初,谷歌把视频模型Gemini Omni 1.2 Flash转为正式版,不仅支持15秒视频生成和多轮对话式编辑等

    来源 腾讯网
  3. 英伟达投的AI Infra创企发模型工厂!支持数千卡集群训练万亿MoE

    智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支持在千张以上GPU集群上训练万亿参数以上的MoE模型。

    来源 智东西
  4. 影石Mic Pro与Wave接入腾讯WorkBuddy,录音可直接变任务

    IT之家 11 月 20 日消息,影石官方宣布,即日起,影石 Insta360 旗下旗舰级无线麦克风 Mic Pro 与 AI 录音全向麦克风 Wave 完成免费固件升级,原生接入腾讯 WorkBuddy。 升级后,Mic Pro 的录音可直接进入 AI 工作流,影石的音频产品也从「记录工具」延伸为 AI 办公的语音入

    来源 AI 行业观察
  5. 三星 One UI 9.5 天气应用测试 AI 提醒:出发前先看目的地天气

    手机天气应用向来是“你问我答”的工具——想看才点开,不看就安静躺在文件夹里。三星正打算改变这个被动姿态。据 SamMobile 11 月 19 日消息,One UI 9.5 首个 Beta 测试版中,天气应用正在酝酿一项 AI 升级:在你动身前往另一座城市之前,主动提醒先看看目的地的天气。 行程线索

    来源 AI 开发者社区
  6. 谷歌 Gemini 登陆 Mac:AI 可后台操控电脑,修图做 PPT 自动完成

    人工智能正从“动嘴皮子给建议”加速走向“动手帮你干活”。11月20日,谷歌正式为 macOS 版的 Gemini 应用推出了“电脑操控”(Computer Use)功能,让 AI 能够跨越桌面应用、本地文件以及网页环境,自主执行多步骤复杂任务。 后台独立运行不抢鼠标,支持实时预览与随时叫停 对于习惯

    来源 AI 开发者社区
  7. 微信短剧审核新规:单集最低时长上调至 1 分钟,AI 制作证明视频 12 月起必填

    IT之家 11 月 20 日消息,据微信短剧内容中心今日发文,为持续建设优质短剧内容生态、提升用户观看体验,平台对短剧审核要求作出两项更新。IT之家整理如下: 一、上调短剧单集最低时长 公告称,为保护用户观看体验、建设优质短剧内容生态,平台将上调短剧单集最低时长标准:单集最低时长由原 45 秒调整至 1 分钟。 本次调

    来源 AI 行业观察
  8. 腾讯WorkBuddy电脑操控能力上线:可识别页面并点击输入滚动

    IT之家 11 月 20 日消息,腾讯 WorkBuddy 今日宣布,WorkBuddy 上线电脑操控(Computer Use)能力。能识别当前页面,看懂客户端界面,进行点击、输入、滚动等操作,不需要目标软件开放接口,就能在后台操作。 IT之家获悉,电脑操控目前处于公测体验阶段,支持 macOS 和 Windows,

    来源 AI 行业观察
  9. WorkBuddy上线电脑操控:无接口软件也能点击输入,公测支持Win/macOS

    11月20日,WorkBuddy宣布上线电脑操控能力,可识别桌面应用界面并执行点击、输入和滚动,即使目标软件没有API、连接器或网页版,用户也能用自然语言指令完成查询、录入。该功能可用于老旧业务系统和未开放接口的软件,目前处于公测阶段,支持Windows和macOS,需升级至5.11.0及以上版本并授予相关系统权限。

    来源 凤凰科技
  10. 三星 One UI 9.5 天气应用升级:出发前主动提醒目的地天气

    三星拟在 One UI 9.5 首个 Beta 中为天气应用加入 AI 升级,改变其被动查询模式。系统将结合日历、航班等信息识别用户出行计划,在动身前往另一座城市前,主动提醒查看目的地天气,让天气服务从“你问我答”转向预判需求、提前推送。

    来源 AI 产业速递
  11. 腾讯WorkBuddy升级任务管理:分组取代空间,单组最多关联16个文件夹

    腾讯WorkBuddy于11月19日发布桌面端5.11.3及以上版本的任务管理升级,原「任务」更名为「最近」、「空间」升级为「分组」,左侧栏由按时间排列的任务列表转为按工作事项整合的工作目录。 用户可通过新建任务输入框下方的分组选择器、侧栏「分组」标题右侧或任务条目右侧的入口创建分组,拖拽即可归类,

    来源 AI 开发者社区
  12. 月之暗面 API 服务可用性低,官方调查中

    IT之家 11 月 19 日消息,据月之暗面官网仪表板页面更新,从今日 17:25 开始,月之暗面 API 服务可用性低,可能会影响您的使用体验,官方已在调查中。 IT之家注意到,Kimi Code 的 K3 模型今日也遭遇部分中断现象。 截至发稿,上述问题尚未解决。IT之家将持续关注,第一时间带来最新状况更新。

    来源 AI 行业观察
  13. 谷歌 Gemini 上线 Mac 电脑操控:后台干活,能修图做 PPT

    AI正从“给建议”转向“帮干活”。11月20日,谷歌为macOS版Gemini应用上线“电脑操控”功能,可跨桌面应用、本地文件和网页自主执行多步骤复杂任务。该功能后台独立运行,不抢占鼠标,并支持实时预览与随时叫停,缓解用户对AI接管电脑时“抢鼠标、乱点屏幕”的担忧。

    来源 AI 产业速递
  14. 豆包工作三月成绩单:日活超800万,企业ARR突破20亿元

    11月18日,豆包官方宣布旗下生产力AI产品“豆包工作”上线仅三个月,日活跃用户数(DAU)已突破800万,企业客户年度经常性收入(ARR)突破20亿元,展现出B端AI应用商业化的强劲增速。 自8月25日正式发布以来,豆包工作持续深耕专业办公场景。在产品功能层面,该平台于11月16日正式上线“工作台

    来源 AI 开发者社区
  15. METR时间视野图更新:AI能力仍沿指数上涨,判断力没跟上

    METR发布其广受引用却常被误读的“时间视野图”更新版。新报告确认部分AI能力仍在指数级提升,模型能独立完成的任务时长持续延长;但报告同时揭示明显不对称——模型在编程任务上表现优异,在需要判断力的任务上却明显偏弱。这提醒业界,单一基准无法代表AI在开放式工作中的真实水平。

    来源 AI 行业观察
  16. 谷歌AI模式上线临时线程:搜索不留痕,服务器端仍存约两个月

    11月18日, 谷歌 宣布在全球桌面端及移动端浏览器的 搜索AI模式 中正式推出“临时线程”(Temporary Threads)功能,允许用户发起私密、非个性化的即时搜索,使其查询记录不留存于个人历史且不干扰后续算法推荐。 该功能借鉴了独立应用 Gemini 的临时聊天机制,用户无需修改账户隐私设

    来源 AI 开发者社区
  17. Prime Intellect推出Model Factory:支持数千GPU训练万亿参数MoE

    智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支

    来源 腾讯网
  18. NVIDIA SEED:让Qwen预填充计算降25%,显存占用砍半

    NVIDIA 发布 SEED 技术,针对 Qwen3.8-Flash-Next 等混合架构模型进行推理优化。通过“浅层编码深层记忆”和“循环状态低秩分解”,SEED 在不改变原模型权重的前提下,将预填充阶段的计算量减少约 25%,单请求循环状态内存占用从 113MB 降至平均 43MB。实测显示,在 GB300 GPU

    来源 AI 应用前沿
  19. PHP 8.6 发布:代码简化、并发升级、安全加固

    IT之家 11 月 20 日消息,PHP 开发团队昨日(11 月 19 日)发布 PHP 8.6,聚焦简化代码、优化并发处理和默认安全设置,并改善 JSON 编码等常用操作性能。PHP 8.6 最受关注的新功能是“部分函数应用”:开发者可以先填入函数的一部分参数,把其余参数留待之后提供,生成一个可重复使用的新函数。例如

    来源 腾讯网
  20. 苹果自研Agent:3个岗位曝光,最快明年推出

    智东西(公众号:zhidxcom)编译 | 黄菲编辑 | 江宇智东西11月20日消息,今日,据彭博社报道,苹果正自研Agent,并于11月17日至19日陆续发布3个相关招聘岗位,进一步披露其研发计划。苹果希望借此进入快速增长的Agent市场,与早已占据先发优势的OpenAI、Anthropic和Meta等科技公司展开竞

    来源 腾讯网
  21. 腾讯WorkBuddy上线电脑操控能力

    36氪获悉,腾讯WorkBuddy宣布上线电脑操控(Computer Use)能力:能识别当前页面,看懂客户端界面,进行点击、输入、滚动等操作,不需要目标软件开放接口,就能在后台操作。电脑操控目前处于公测体验阶段,支持macOS和Windows,需更新客户端至5.11.0及以上版本,并开启功能、完成相关授权。界面识别效

    来源 AI 行业观察
  22. ChatGPT语音听写上线:边说话边出字,10分钟限制取消

    语音交互正变得更即时自然。OpenAI宣布为ChatGPT正式引入“实时听写”功能,用户对麦克风说话时可同步看到转写文字,提升语音输入效率。该功能将陆续面向全球ChatGPT用户开放,覆盖网页版、桌面客户端及iOS、Android应用。操作更直观:边说边出字,说完还能直接修改,并大幅减少以往语音输入的等待时间。

    来源 AI 产业速递
  23. 六款AI办公设备盘点:从智能记事本到AI摄像头,家庭办公室怎么选

    远程办公常态化让家庭办公室成为AI硬件的新战场。TechCrunch精选六款AI驱动设备——从智能记事本到AI网络摄像头,覆盖记录、沟通、照明与健康场景。本文梳理这些设备的核心功能与适用人群,并结合行业趋势分析AI办公硬件的演进逻辑:从单点工具走向场景协同,从效率提升转向体验重塑。对希望升级工作空间的用户而言,这是一份

    来源 AI 行业观察
向下滚动自动加载更多