GPT-6 Astra改权重引热议：对照实验显示模型并未真正变聪明

张牧涵，无涯智远（Norizon AI）创始人兼首席科学家，研究方向覆盖持续学习、自进化智能体、图机器学习、大模型架构与推理。他此前在 Facebook AI（现 Meta AI）担任研究科学家，主导面向十亿用户规模的大规模图机器学习系统研发；目前是北京大学人工智能研究院助理教授、研究员、博士生导师，也是首届国家级青年人才项目（海外）获得者。NeurIPS、ICML、ICLR 等顶会的领域主席席位上常年有他，Google Scholar 总引用量超过 16000 次，2025 年起连续两年进入 Elsevier 全球前 2% 顶尖科学家（终身影响力榜单）。

有个结果确实抓人眼球。

MIT CSAIL 的研究者发了一篇博客，题为《Sparks of Weight-Space Programming》。里面最吸引人的是一组数字：GPT-6 Astra 不做梯度下降训练，仅改动 Qwen3.5-0.8B 约 0.016% 的权重，MATH-500 成绩便从 7.9% 升到 48.1%。

这套做法被他们命名为 Weight-Space Programming（WSP）：让一个足够强的通用大模型去读模型、分析模型，再直接动手改写权重。

我研究超网络和模型持续学习，这个方向让我感到兴奋。

先交代一下我们自己的情况。无涯智远是我创办的 AI 创业公司，只做一件事：让大模型出厂之后还能像人一样边用边学。

眼下常见的路子，一是把上下文越拉越长，二是攒一批数据“回炉重造”出新版本。我们走的是另一条：直接改模型参数，把新经历写进模型本身。

工具是超网络。说白了，就是用一个网络直接生成另一个网络的参数更新。给它一份新材料，一次计算就能完成写入，不用反复训练。它更像给模型装了一颗“海马体”：上下文是随手可清的短期记忆，写进参数的东西才会留下来，下一个任务还能接着用。

所以看到 WSP，我第一反应是亲切：大家奔的是同一个愿景——不靠重新训练，让模型在使用中继续成长。手段却不同：WSP 靠通用大模型现场推理、临时设计一次编辑；我们则事先训练好一个专门负责更新的模型。一个靠现场发挥，一个靠事先学会，两者很可能互补。

也正因如此，我更想追问：Astra 这样现场改权重，能不能帮模型真正吸收部署之后遇到的新知识、新规则和人类反馈，并在之后稳定地用起来？

为此我们又补做了一轮实验。结果一方面说明还有继续往下挖的空间，另一方面也提示：几种含义不同的“模型进化”，需要拆开分别看待。

48.1% 旁边，该放一个什么基线？

先看原博客里一个容易被略过的细节：Qwen3.5-0.8B 的主要毛病，是开启思考模式后容易陷入重复循环，一遍遍绕圈直到耗尽 token。Astra 的干预减少了循环，让模型更有机会把话说完。作者自己也讲得很清楚，修复循环和增加数学能力是两回事——在很少出现循环的 Gemma 3 270M 上，MATH-500 只从 6.8% 变到 7.0%~7.7%，有效提升并没有建立起来。（原文实验）

于是我们补了一个很朴素的对照：不动权重，只把思考模式关掉，会怎样？

同一套 MATH-500 测试集，相同的采样和评分设置，未经任何编辑的 Qwen3.5-0.8B 关掉思考模式后，准确率为 48.95%。

前两行出自原作者实验，第三行来自我们的独立测试。Qwen 官方模型卡原本就把 0.8B 设为默认非思考模式，也提示过它在思考模式下更容易出现循环。

这个对照把问题本身换掉了。对一个绕圈到耗尽 token 上限的模型来说，权重编辑确实带来了明显改善；可跟“关掉思考”这个几乎零成本的办法一比，它看上去没有额外收益。

我并不认为这会抹掉 WSP 的价值。能定位并干预一种内部行为机制，本身就是 Astra 推理能力的展示：它先发现失败大多来自重复思考，再对比正常推进与陷入循环的上下文，提取出内部表示里的“重复方向”，最后找到哪些神经元在往这个方向写信号，对两层 MLP 做了定向修改。这条因果链条完整、漂亮。

还有一点更要紧：权重不再是只能靠梯度下降一点点挪动的数字，另一个模型能像读文本那样把它读出来、理解，再动手改写。以往要提升模型能力，路只有一条——攒数据、跑训练；如今多出第二条——让一个模型去读另一个模型，然后把它写出来。这已经超出微调技巧的范畴，属于训练范式层面的变化。

接下来要问的是：这条链路究竟能走多远？碰上陌生模型里更复杂、分布更宽的知识与能力，Astra 是否仍能定位到相应机制，并在动手前判断一次修改会带来多少收益、哪些副作用？WSP 提供的初步证据有分量，但还不足以证明它已经建立起稳定、可迁移的“参数—行为”映射。

修改参数能否让模型学点新东西？

我们拿 Qwen3.8-27B 当共同起点，对比三种状态：没做过更新的模型、经 Astra 编辑权重后的模型，以及用我们那套超网络把新知识内化进去的模型。

受 Astra 调用额度与执行速度的制约，这次测试规模不大：SQuAD、CharacterBench 和 lingOLY 各取 10 条样本，分别看知识内化、角色与风格适配、技能内化。凡是需要材料的环节，两种更新方法拿到的材料完全一致；作答时材料会被撤走，看模型能不能仅凭更新后的参数给出回答。

知识：放大了信号，没换掉概念

换成 SQuAD，超网络更新过的模型能在拿不到原始材料的情况下把题答出来，另外两组都做不到。

有一个样本很说明问题。材料介绍的是 Cestida（带状栉水母），它靠身体波动和栉板列拍动来游泳，已知只有两个物种。这个词和 Cestoda（绦虫）拼写接近，没做编辑的模型正好把两者弄混了。

Astra 给出的诊断很明确：它拿材料文本和绦虫描述在 MLP 层的激活做对比，找出对材料更敏感的那些神经元，把输出分别放大 1.5 倍和 2 倍。权重是改了，措辞也变了，概念却没动——两个放大强度下，模型照样一口咬定 Cestid 是不会游泳的绦虫，照样说它有四五千个物种。

把跟材料相关的信号放大，并不能建立起“Cestida 指带状栉水母”这条新关联。从相关走到因果，恰恰是知识编辑最难迈过去的一道坎。

风格：参数动了，人格没动

在 CharacterBench 上，超网络更新后模型的输出清楚带出了角色和风格上的要求，Astra 那一组没有。

材料要模型扮演 Evolto：一个傲慢、贪婪、爱用反问来显摆优越感的反派。Astra 的办法是算出“有角色材料”和“无材料”两种状态下某一层的激活差，把它当成一次修改写进单层权重。写入这一步成了，权重张量确实变了，算术这类中性能力也没受牵连。

可模型一开口就穿帮：自我介绍仍是“通义千问”，被人说本领普通时还是谦和地回应，被要求把最珍贵的东西免费分给大家，也还是爽快答应。往一层里塞同一个向量，没法在所有新问题、所有生成位置上都唤出同一个人格。同一份材料经超网络内化之后，回答里就冒出了傲慢、反问和角色特有的措辞。

技能：规则用得上，才算学会

lingOLY 考的是技能：给模型一份陌生语言的简短学习材料，让它掌握其中的语法和词汇规则，再去做翻译和推理题。10 道题里，没更新的模型答对 1 题，Astra 编辑后还是 1 题，超网络内化后答对 7 题。

Astra 这一例跟前两例是同一个路子：在第 43 层 MLP 上写一次修改，结果连它自己出的检验题都没扳过来——材料要求把“some change”译成 grąžos，编辑前后模型都输出 pinigų。只试了这一个候选，Astra 最后放弃修改，原权重保留。

学会一条规则，意味着碰到没见过的题目、不同的句式、每一个生成位置都能用对。一次局部的激活偏移，或许能让出题点附近的输出往材料那边靠，覆盖范围却没法保证。

三个案例，卡在同一个地方

知识、风格、技能，三类任务失败的原因指向同一处：Astra 改权重时用的其实是一套经典知识编辑工具——比较激活、提取方向、缩放神经元、打秩一补丁。这套工具对付单点故障很顺手，比如压住重复循环；可要把一份新材料变成能稳定调用的知识、人格或规则，精度和更新参数量就远远不够。

它能找到跟材料相关的激活，却找不到让最终行为随材料改变的因果方向；它能改动权重，却没法精确控制改完之后模型会说什么。说到底，工具本身还不够强，这是这些失败最直接的原因。

这组实验足以提个醒：大模型的知识内化、行为适配和技能习得，眼下都不在 Astra 现场编辑权重的能力范围之内。

打个比方，让通用大模型现场给模型“看病”，就像请一位什么病都看的全科大夫凭经验开方：有时确实药到病除，比如压住重复循环；但剂量谈不上精确，副作用也难预判，换一种病症又得从头试一遍。

要把新知识、新风格、新规则稳稳写进参数，需要的是专门为这件事训练过的手段——知道该改哪里、改多少，也知道改完模型会怎么说。这更像精准医疗，而超网络想扮演的，正是专科大夫这个角色。

让 agent 来编排，让超网络来落笔

两者的互补可以发生在同一个工作流里：通用大模型当编排者，超网络做它手里那件负责写入的工具。

具体说，拿到一份新材料，agent 可以判断哪些内容值得内化、文本怎么组织和切分、按什么顺序交给超网络；写入之后，再跑一轮评测，看新信息能不能被调用、原有能力有没有受损，然后据此调整材料组织或写入策略，再试一次。内化文本的组织、调优和性能评测，都能交给它来编排——这恰恰是通用大模型擅长的事。

超网络只负责最吃精度的环节：让文本和参数空间精确对上。它经过端到端训练，从大量样本里学会了“文本长什么样，参数该怎么动”。Astra 走的不是这条路，它靠一次前向算出激活差，当场凑一个方向出来。前面三个案例中，缩放神经元和秩一补丁之所以改不准，缺的就是这件经过训练的写入工具。

两者结合，WSP 展示的现场推理能力一点也不会浪费，agent 越会编排，精确的写入工具就越有用武之地，这也是我们期待 WSP 继续往下走的原因。

再说开头那个数字：0.016% 的权重拿到 48.1%。读模型、做诊断、改权重，WSP 把这三步连成了完整链路，这一步迈得相当漂亮。

权重改得动，不代表新本事就学得会。这几组实验里，参数的确变了，可材料中的知识、角色和规则，始终没能转化成能稳定调用的东西。想让它们真正留下来，得有一个经过端到端训练、能把文本精确映射进参数空间的写入工具。

所以在我看来，WSP更像一块关键拼图：通用大模型管的是模型更新的编排，超网络则让每次更新在参数空间里落得准。两头接上，模型出厂以后边用边学，才算有了一条能反复走通的路。

权重第一次被改动的那一刻，不过是起点。