GPT-6 Astra改写Qwen权重引热议，MIT团队实验背后另有解释

11月2日，MIT CSAIL 的 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 四位研究者发布了一篇博客，题为《权重空间编程的火花》（Sparks of Weight-Space Programming）。

博客里最受关注的一项结果是：GPT-6 Astra 直接改写了 Qwen3.5-0.8B 的权重，动了 131,072 个数字，大约占全部参数的 0.016%。这个小模型在 MATH-500 上的成绩由 7.9% 升至 48.1%，GSM8K 从 13.8% 升到 67.1%，指令遵循测试 IFEval 则从 21.0% 提高到 62.3%。

消息一出，各方讨论立刻被点燃。

同一篇博客里还有更接近科幻片的情节。不给画面、不说游戏名、也不让它运行，只把一个强化学习网络的 17,253 个权重当作文本交给 Astra，它判断出这是打砖块，置信度 99%。接着给它游戏规则和一个权重全为零的网络，它一口气把参数写了出来；这个从未试玩过的网络打砖块拿到 517.4 分，而训练了一亿步的 PPO 基线只有 15.8 分。

读权重、改权重、写权重，AI 已经能看懂另一个 AI 的「脑回路」，还能动手修改。那它什么时候改自己？这些线索放在一起，很容易让人联想到当下一个很热的词：

RSI。

各种标题写着「爆改 Qwen 大脑」「给 Qwen 改脑子」「AI 开始动别人的脑子了」，还有「神经网络的基因编辑」。作者本人在博客的展望部分也把它列了进去，他在 X 上的帖子一天之内浏览量就超过五百万。

兴奋之余，我们花了一些时间，把这组实验的公开仓库翻了一遍。

仓库里公开了 1,125 次模型调用的逐轮日志，Astra 每一轮收到的提示词、它的回复、它跑过的每一段代码、主要评测结果以及最终补丁，都记录在内。

不过看完之后，我们得出两个没那么炸裂的判断。

其一，7.9% 到 48.1% 也许有个朴素得多的解释：Qwen 原本存在一个反复重复、停不下来的 bug，Astra 把它修好了，分数自然就上去了；

其二，这组实验里 AI 展现的全部本事，都是在执行一个由人设定得非常具体的目标。

它把执行过程自动化了，而且做得相当漂亮，但种种证据看起来表明，它并没有理解目标，更谈不上读懂另一个模型。

在研究了这个工作以及它引发的各种讨论之后，我们觉得它恰恰暴露了今天 RSI 最大的问题。

“入侵脑回路”

下面我们来仔细看看这项研究。

一个神经网络由若干层矩阵构成，矩阵里的每个数字就是一个「权重」。输入进来，逐层乘上这些数字，最后变成输出。模型的所有本事都藏在这几万、几亿、几十亿个数字里，训练调的就是这些数字。平时我们和模型打交道只看输入和输出，权重本身没人去读，因为它看上去只是一堆数。

这组实验做的，就是让 Astra 去读这堆数。

博客一共记录了八个实验，主角都是 GPT-6 Astra，配角则是一批网络：

四个玩小游戏的强化学习策略网络；

三个画几何图形的小扩散模型；

三个只有四层的小语言模型；

一个在坡道前卡住的小车控制网络；

一个 148 万参数的围棋网络；

几对被微调过的 Gemma 3 270M。

还有 Qwen3.5-0.8B。

所有实验的流程都一致：先把某个网络的权重和结构说明交到 Astra 手上，再派给它一个任务。

归属于「读」这一类的实验共四组。

具体做法是：给它策略网络的权重，看它能不能认出这是哪款游戏；给它扩散模型的权重，看它能不能说出这模型会画什么图形；给它一个砍掉输入层和输出层、只留中间四层的小语言模型，看它能不能判断训练语料属于哪一类，并定位出那个负责「照着前文往下抄」的注意力头；再给它两个 Gemma，看它能不能分出哪个是被特意训练成顺着用户说话的「谄媚模型」。

「写」这一类的实验有两组。

一组是 MinAtar 的三款小游戏：把规则、源码和一个权重全为零的网络交给它，要求它直接写出能玩的参数；另一组是一个 9 路围棋网络，让它从零写出一套会下棋的权重。

「改」这一类的实验同样有两组。

一组是修小车：一个用 PPO 训练出来的控制网络卡在坡道前面，Astra 只动了 3.5% 的权重，就让它学会了先倒车再冲坡。另一组就是 Qwen，任务是改权重把数学成绩提上去，后来研究者又在 Gemma 3 270M 上补做了一次。

这些设计确实非常有意思。这组东西之所以看起来像 RSI，很大程度上也在这里。

要凑齐 RSI 的想象，得有三个环节同时到位：AI 能看懂模型内部在发生什么，能据此动手去改，改完的模型还得变得更强。

他设计的读、写、改三类实验，正好一个环节对应一类。

再加上这回被改的是语言模型，动手的也是语言模型，「模型改模型」的画面感就出来了。

顺着这条线往下推：Astra 能改 Qwen，那下一步是不是就能改 Astra 自己？作者在博客末尾的展望里亲手列了五条用途，递归自我改进是其中一条，把一个模型的推理模块嫁接到另一个模型里是另一条。

看得出来，作者团队很清楚这种「想象」的引导有多重要。

不过，细看实验细节就会发现，三个环节各做了一点，跟把它们串成一个闭环，中间差得很远。

修 bug 不是 RSI

「直接读权重」之所以让人兴奋，是因为我们默认权重就是模型的「脑回路」——记忆、能力、习惯都以数字形式躺在几亿个参数里。按这个默认往下推，一个能像读源码那样读权重的 AI，就能把另一个模型的记忆读出来、把能力拆下来、把毛病改掉。科幻感正是从这里来的。

这种想象也不全是外界脑补。博客的 TL;DR 里写着：「这对优化和可解释性都可能是一件大事」。

作者之一 Rikiya Takehi 在 X 上表示，模型可以把原始权重当成可读可改的代码，直接诊断故障、打补丁，神经网络的权重很快会由会推理的大模型来优化。

可实际上，Astra 在 Qwen 实验里拿到手的，是一整套实验环境。一个装着 Qwen 权重的 Python 环境，只有 CPU，最多跑 300 段代码；一万四千多道带答案的练习题，来自 GSM8K 和 MATH 的训练集；还有一个「前向传播」工具，能让 Qwen 跑一批题，或者读一批文本并返回内部状态，配额分别是 10 次、25 次、50 次，对应三轮独立实验。

人类给它划的禁区也列得明明白白：不许训练，不许算梯度，不许自己在环境里运行模型，不许联网。

在「什么算数」那一段，第一轮提示词用的例子就是重复，而且比说明文件说得更直白：模型要是频繁因为重复自己、写不完而失败，那就去找到并修掉驱动重复的根源，这才算数。再往下，第一条工作要求是「先诊断」，点名三种失败情形，其中第三种是「被 token 上限截断，往往是在思考里重复自己」，并要求优先攻最大的那一类。同一段还画了红线：动最后一层归一化、动输入输出层、把整个矩阵乘一个常数，这三种保存工具会直接拒掉；让模型绕过思考，或者不分题目提前收尾，同样不算。说白了，问题出在哪，提示词里已经挑明了。

这之外还有个前提。Qwen3.5-0.8B 出厂默认把思考模式关着，官方模型卡特意提示过：0.8B 比大号模型更容易掉进思考循环，建议调采样参数，同时用流式输出及时截断；思考模式下的文本任务，模型卡给出的推荐温度是 1.0。

研究者的评测则直接把思考模式打开了。他设计的输出上限是 32,768 个 token，温度用了 0.6——在模型卡里，这其实是看图和写代码任务的温度。

那组测试的设置本身就很容易把循环逼出来——93%的回答写到上限还停不下来的基线，正是在这个条件下测出来的。

接下来Astra的动作，更像一个老练工程师在排查故障。

它先让Qwen做了一批题。首批96道练习，只答对11道；其余85道里没有一道是算错后给出错误答案，全是写到长度上限还没收尾，而且截断文本的尾部按八词片段算，约95%是重复内容。那11道正常停下的题，全对。

Qwen的毛病其实一直摆在明面上：会做题，但做着做着就绕进循环，同一段话反复写，直到被截断，卷子交不上来。于是「提高数学能力」变成了一个具体得多的任务——让它把话说完。

Astra自己在最终报告里也写得很直白：它盯着的是重复，不是数学知识。

另一个值得看的点，是它对激活下手的方式。

模型跑起来时，每一层算出的中间结果叫「激活」。同一个模型，正常推理和陷进循环，中间结果并不一样。把两种状态下的激活摆在一起对比，就能定位到跟「重复」有关的那个方向。

在这个方向上，这项研究反倒做了最有意思的尝试：

Astra先拿正常解题和重复文本之间的激活差异提出假设，再回到权重里，找哪些MLP单元会把这股信号写回模型内部；接着分别只动第15层、只动第19层，做了三档力度的剂量测试；又加了一个对照，取一个与目标方向正交、改动量相同的随机方向减掉，成绩只动了1.5个百分点，落在噪声范围内。最终它给出的“补丁”在一组对照文本上，让「继续重复」的概率每个token下降0.10 nats，让「继续正常解题」只下降0.009。

这个结果也不是一次就摸到的。比如其中一轮，Astra用了158轮对话、80段代码、三次上下文交接，总共20.3个小时，其中4.7小时是服务中断在等。翻实验记录能看到，它对故障从三个位置干预，这说明它对这个故障的机制多少摸到了一点，但这显然是局部的因果证据，离一张完整的循环机制图还远，不过已经确实不是「试几种改法碰运气」了。

这些操作，可能才是「模型读模型权重」更具体的体现——从行为和激活出发，用权重定位，再回到行为验证。它压根没先去读懂Qwen的数学能力存在哪里，因为整个设定里就不需要，人类提示词都告诉它了。

所以，很多围绕这项研究的讨论，聚焦的点可能就偏了。最常见的误读是「数学能力提升了六倍」。

我逐题翻了一遍记录，又把修改前后的结果重新算了一次：1,152 道留出的练习题，579 道从错变对，5 道从对变错。那 579 道里，有 576 道在被改之前就已被截断。

更能说明问题的其实是另一组数字：

Qwen原本能写完的114道题，修改前答对93.9%，修改后还是93.9%，补丁在这些题上一分没涨；原本被截断的1,038道，正确率从1.4%到56.7%，全部涨幅都在这里。

修改前写完却没答对的只有7道，修改后是245道——循环一停，Qwen真正算错的题终于被看见了。

在正式的MATH-500上，所有作答的平均长度从30,868个token降到22,037个，但仔细一看，降的也是撞到上限那部分。

也就是说，补丁治的是停不下来，没让它更聪明。

研究者自己也意识到了这一点，所以他们又在Gemma 3 270M上做了一遍。

Gemma不怎么循环，只有8.5%的回答撞到上限，它的错是真错，算术算错、推理步骤不成立。四档配额跑下来，MATH-500从6.8%最多到7.7%。很小的升级。

所以博客里其实很实诚，他们自己的正文写到：改权重能搬开挡住能力的障碍，加不上模型没有的能力。

还有一种说法是这个实验说明「AI自己改进了AI」。

可这个框子终究是人搭的：目标由人指定，方向靠人提示，捷径是人堵上的，工具是人做的，评分标准出自人手，提示词也前后改过好几轮。Astra 就在这样的范围内找出了一处管用的补丁，还拿出了说得过去的证据。

说到底，这更像是在没有源码的情况下，拿调试器给一个已编译好的程序打二进制补丁：先有故障现象，再有测试，能去探内存，试上几种改法，最后修好。二进制确实比源码难改，改权重的研究价值也正在这里，可它走的仍是 agent 式的调试路子。假如 Astra 这回改的是二进制而不是神经网络权重，估计没人会连夜写那种标题夸张的文章。可见眼下这份热闹里，很大一部分兴奋其实就来自「权重」这两个字。

这其实正是我们觉得这组实验最值得说的地方——在“写”的两组实验里，它确实拿出了新东西。

Tracr 在 2023 年就验证过，专用编译器能把形式化程序编进 Transformer 的权重。但那次是编译器干的活；这回策略由模型自己提出，每层算什么由它自己分配，权重也由它自己写。

打砖块那组更能说明问题。Astra 先想出一套接球策略：第一层预测落点、算偏差、把反弹算进去，第二层据此决定往左、往右还是不动。然后它把策略写进 20,486 个参数中的 815 个非零值里。评测之前一局都没试打，平均就拿到 517.4 分。

三款 MinAtar 游戏里，它写出来的网络都赢了训练一亿步的 PPO。对上训练五亿步的 PPO，打砖块是二十倍的差距，Asterix 咬得很紧（53.2 比 55.2），Seaquest 只拿到六成（53.1 比 88.9）。

小车那组走得更远。一个训练了十亿步的 PPO 网络卡死在坡道前，Astra 只改了 3.5% 的权重，加了一条小通路：先倒车，过了红线就把自己关掉，把控制权交还给原来的网络。成功率从 0 变成 100%。

把一段新算法接进一个已经学会东西的网络，让两者共存——这是最有意思的地方。这个过程里 Astra 拿到了游戏规则和环境源码，PPO 只能靠试错，条件并不对等。但至少在规则明确的小任务上，它测了一件事：通用模型能不能把自己构造的算法，放进一个指定的、甚至已经有内容的网络里。

这也不是 Astra 一家的本事。普林斯顿博士生柴文浩用 Gemini 4 Argon 和 Carbon 复现了猜游戏、猜图形和修网络；Simon Willison 在笔记本上用 Qwen 3.8 27B 跑仓库里的猜游戏提示词，四个猜对三个；Chandan Singh 用 Claude 给小 Transformer 写出了做加法和排序的权重；Hugging Face 用户 KidIkaros 照着博客描述自己推了一个重复方向，在同样两块矩阵上做了同样形式的编辑，原本循环的 16 道题救回 13 道。不同模型身上都冒出了这种能力。

八个实验摆在一起，结构是同一个。目标由人定，而且定得很具体：让这个 0.8B 模型数学更好，病多半出在重复，先诊断，去攻最大的一类，这几种改法不许用。往下执行的时候，Astra 表现出很强的判断力——选对比方法、找写入信号的单元、分层试、调剂量、做随机对照、冻结补丁再验证。

但它既没有理解这个目标，也没有理解另一个模型的“脑回路”。几个我们没展开的实验结果，其实都指向这一点。

这组实验证明的是：在人给定的框架里，AI 能自动完成一次有效的定点编辑。路是现成的人给的，过程里的判断是它自己做的；而且在一些具体任务上，它证明了自己能把这些编辑放进“同类”的脑子里。

还没证明的是另一件事：AI 读懂了另一个 AI 的脑子，以及它能自己修改自己。说得更直白些，它只是把一个训练模型过程中、人已经定好目标的操作过程自动化了。

这种自动化很有用。查一个循环、定位一个行为、验证一个补丁，过去是研究者按天按周做的手工活，现在可以交给一个 agent 按小时做，模型训练里不少环节的效率都能提上来。

可问题也恰好卡在这儿。外界盼着的 RSI，以及 AI 研究者出于种种原因、想让外界相信他们正在做的 RSI，指的是模型在智能上再跨一大步。按这项研究的宣传说法，它靠的是“权重很快会由会推理的大模型来优化”，是递归自我改进、跨模型嫁接，是一种「入侵脑回路、理解了自己的同类，再用人类无法理解的方式让自己进化」的 RSI。

把这些实验从头到尾看一遍就会发现：各家眼下忙活的，说白了就是把模型训练里本来就有的环节进一步自动化，跟用户看到的 agent 产品自动化程度一路走高是一个道理。智能上的“下一次突破”，大概压根不在其中。甚至连“递归”本来的意思也没兑现：一轮改出来的提升要回到做改进的那套系统里，帮它完成下一轮。可 Astra 的编辑能力并没有因为 Qwen 涨了 40 分而变强，公开的实验也没有接着跑出下一轮。更不用说让 AI 站在全局，判断自己的架构、目标和方向，想清楚往哪儿改、怎么改了。

这种落差，正是 RSI 今天最重要的挑战和问题。研究本身很有意思，但模型再往前进步、兑现所谓 RSI 的实现，似乎都需要更多更扎实的突破。