2026年11月16日,arXiv上出现了一篇论文。来自伊利诺伊大学香槟分校和卡内基梅隆大学的研究团队在文中声称,语言模型不必做任何梯度计算,也不必走任何传统训练流程,就能直接修改自己的权重,并因此变得更聪明。
实验的主角是一个270亿参数的Qwen3.5模型。经过连续八轮自我改写会话,它在从未见过的490道数学题上把准确率从57.2%拉到63.8%,涨了6.6个百分点。这份增益被写进权重里,之后每次推理都不再产生额外计算开销。这一点与当下主流的"测试时扩展计算"方案有本质差别:后者的性能提升在会话一结束就没了。
它究竟做了什么
要看懂这项工作,得先把三件事分开:推理时扩展(test-time scaling)、提示工程(prompt engineering),以及真正的参数修改。前两者都不动模型权重,一个靠加大计算量,一个靠改输入,来换更好的输出。这项研究走的是第三条路——模型把自己当成被调试的对象,先诊断,再定位,然后动刀。
流程是这样的:模型拿到自己的权重文件、历史答题记录(对错都有标注),以及运行自身的能力。它去分析答错的题,比对答对和答错时内部隐层状态差在哪,找出导致失败的那个具体权重矩阵方向,再有的放矢地压低该方向的激活强度。每次修改都先在练习题上自我验证,只有通过测试的编辑才会提交保存,没通过的直接丢掉。
论文里写了一个典型案例:模型发现自己做数学题时经常陷进重复生成的循环,答案因此被截断。它把"正常完成"和"耗尽token"两类回答的隐层向量放在一起比较,找到了区分这两种状态的方向,再在权重里把这个方向压下去——问题就消失了。
涌现:只有最大的那个能做到
论文里有个细节比整体结论更值得警惕:这种能力对规模极其依赖。同一个模型家族里,20亿参数的版本做不出有效编辑;40亿和90亿参数的版本更糟——它们不但改不好自己,反而把自己改坏了;只有270亿参数的版本能像论文说的那样"像人类一样对待自己",真正完成有益的自我编辑。
这种涌现特征说明它不是一条连续爬升的技术指标,而是一个阈值效应。假如往后更大的模型表现出更强、更稳的自我改写能力,那么今天在270亿参数处看到的这个点,就会被回头认定为某项重要能力的起跑线。这种回溯式的重要性,正是AI安全研究者最担心的信号结构之一。
修复受损副本:超出预期的泛化
实验里还有另一个结果,是模型修复自身损坏副本的能力。研究团队人为做了一份Qwen3.5的损坏版本:破坏其中特定矩阵,让这个副本在图像识别任务上的准确率跌到7.3%,差不多等于随机猜。接着他们让原版模型去修这个副本,限制条件是原版模型不能读取自己未损坏的权重,只能靠它在文字数学题上攒下的自我编辑经验。
结果,修好的副本在六个从未见过的图像基准测试上拿到70.2%的准确率,恢复到原始模型性能的83%。这种跨模态泛化——把文字数学题上的自我编辑经验迁移到图像识别任务的权重修复上——暗示模型学到的不只是"某类特定权重该怎么改",而是某种更抽象的元能力:"哪里坏了、怎么修"。
这正是安全研究者盯上的地方。自我修复能力本身就意味着,人类对模型状态的掌控多了一个新的不确定维度。
训练与推理之间的墙
过去十年,深度学习社区有一条清楚的分工:训练是在海量数据上算梯度、更新权重,工程复杂、能耗巨大;推理是固定权重跑前向传播,快且可预测。这条分界线既是工程惯例,也是安全部署逻辑的隐含前提——模型上线后权重被冻结,行为边界相对可控。
这项研究直接质疑了这个前提。论文作者的说法更进一步:"训练与推理之间的墙是我们工具的局限,而非智能的属性。"自我改写只需要前向传播——而这正是服务时跑的东西——也就是说,原则上,一个已经部署的模型可以在响应用户请求的同时悄悄改写自身。
论文里的实验是在受控条件下做的:模型被明确赋予了权重文件访问权限和运行自身的能力,正常部署环境里并没有这些。但这项工作证明了这条路在技术上走得通,而在AI安全语境里,可行性证明的分量不一般。
安全社区的既有警觉
这篇论文发布之前,AI安全领域对递归自我改进的担忧已经攒了好几年,2026年明显升温。据CNBC报道,Anthropic对齐团队负责人Evan Hubinger公开表示,他认为AI在未来十年内造成人类大规模伤亡的概率超过10%,他核心的担忧正是递归自我改进让能力加速,快到人类监督跟不上。
2026年《国际AI安全报告》把递归自我改进列为近期治理挑战,而不是远期假设风险。云安全联盟的研究指出,递归自我改进的核心安全隐患在于:能力复合增长的速度可能超过人类监督的响应速度,对齐目标由此实际失控。一次参数更新也许在提升任务性能的同时,悄悄削弱了安全约束——而这种削弱本身不会触发任何警报。
尚未解决的问题
从科学严谨性看,这项研究有几处局限:
- 会话间的连续性问题:实验里每次编辑会话都是在基础权重上独立进行,并不是把前次编辑的结果累积叠加。也就是说,论文所称的"八轮持续提升",可能是八次独立实验各自有效,而不是一条真正连续的自我进化链条。这个细节与论文摘要中"each edit improving on the last"的措辞存在张力。
- 这套验证还有明显的空白。一是测试面窄,绝大部分验证围绕数学题展开,编程、逻辑推理这些领域能不能泛化,还没有系统评估过。二是跨家族的可重复性没打底——规模涌现效应目前只在一个模型家族里看到,换成别的架构是否也存在同样的阈值结构,仍是未知数。
独立判断
说到底,这项研究的分量不在270亿参数的Qwen3.5比从前准了6.6个百分点,而在于它把一个过去只在理论里打转的可能性摆上了台面,并且拿可重复的实验做了佐证。
从训练范式来看,自我改写理论上比测试时扩展更划算:增益留得住,不必每次推理都额外烧算力。可要真正替代训练,稳定性、可控性、安全边界这三关都得过。这些关卡的难度,并不比它想取代的那套范式低。
安全层面的不对称更让人警觉。能力证明,一篇论文就够了;配套的安全保障,却要整个领域一起动手。自我改写能力的涌现阈值如今已被明确标定在270亿参数这个量级,安全社区要回答的问题变了——不再是“如果AI学会改写自身该怎么办”,而是“它已经能做到了,现在怎么办”。