spaCy作者质疑Astra：改Qwen权重被指障眼法

Astra修改小模型权重？MIT那篇刷屏的论文，被圈内大佬当面泼了冷水。

就在前两天，Astra还凭着一种惊人能力在AI圈刷屏——不训练、不算梯度，直接改另一个AI模型的权重。

MIT团队当时宣称，Astra只改了Qwen3.5-0.8B的0.016%权重，数学成绩就从7.9%涨到48.1%，相当于原来的6倍多。

甚至有网友感慨：AI已经开始读懂另一个AI的大脑了。

但事情好像出现了反转。

一位来头不小的圈内大佬公开发文，提出了质疑。

在他看来，这项研究存在严重误导。

质疑的人叫Matthew Honnibal，spaCy的作者、AI公司Explosion的联合创始人。

魔术师戏法

这背后到底发生了什么？

Honnibal打了个很妙的比方，讽刺MIT研究所做的事：障眼法。

舞台魔术师表演同一个戏法，往往有好几种方式。

第一回，他或许动了某个特别的道具；到了第二回，他让你看清这道具本身没名堂，真正被藏起来的是他自己身上的东西；第三回，也许又借了某种强迫选择的路子。

你看表演时，会假设只有一种技术，所以魔术师每表演一次，似乎都推翻了你对其工作原理的假设。

Honnibal认为，Astra这项研究的实验呈现，就酷似这样一场魔术。

回到论文本身，原文其实展示了三项不同的能力：

1. 读权重：只看原始的权重数字，就能识别一个小型神经网络正在执行什么任务。
2. 写权重：不依赖环境反馈，从零开始直接生成或修改小型网络的参数，让它能玩《打砖块》之类的小游戏。
3. 修复大模型：通过修改Qwen的部分权重，大幅提高其数学测试表现。

但这篇论文摘要给人的核心印象却是——

Astra「仅通过观察原始权重」，就能理解并修改另一个模型。

如果只是一眼扫过，很难不让人理解成：

不管是识别一个小型网络的功能，还是修复一个大语言模型的数学能力，都源于同一种「读脑」神技。

可这事儿靠谱吗？

Honnibal把论文里的8组实验挨个捋了一遍，发现要办成这三件事，实验条件压根不在一个层面上。

说白了——

就是偷换概念。

两条技术路线

那不同实验之间到底藏着什么门道？

先看识别小型网络、修复卡住的赛车模型这些实验。Astra确实做到了只凭原始权重下手。

代价是条件苛刻得很：

• 权重数字（raw floats）被直接当作输入，塞进Astra的上下文里。
• Astra不许跑Python代码。
• 也不许执行目标网络去看它怎么表现。

这种模式下，Astra打交道的模型参数规模都小得很，在1.7万到17.2万之间。成绩确实亮眼，可真要理解一个现代大语言模型，路还远着呢。

可到了最抓眼球、也最让人兴奋的Qwen数学能力修复实验，情况完全变了味。

修那个8亿参数的Qwen模型时，Astra并没去直接读原始权重。

它拿到的是Python编程权限，还能做最多50次前向测试。每回让模型处理一批练习题，靠观察表现来分析、改动权重。

这跟前面根本不是一回事……

Honnibal一句话点破：把两种方法捆在一块讲，读者很容易误以为——

哦，小模型上那套读脑术，照样能放大到8亿参数的大模型上用。

可实际情况是，面对真正的大语言模型，Astra更像个场外教练，得靠编程、运行、观察这一串工程手段才能插手。

真正的价值

那这是不是说MIT的研究就没价值了？

当然不是。

得承认，就算摘掉读心术这层光环，Astra露出的本事照样不简单。

Honnibal自己也讲，能让一个AI模型被提示去设计并执行原本只有人类机器学习工程师才干的任务——写代码片段去分析甚至直接改动网络权重——这本身就是一大步。

搁一两年前，AI模型在这些任务上全都得栽。

这说明今天顶尖的大模型已经攒下了相当复杂的工具使用和推理能力，能当个AI工程师去诊断、修复别的模型。这本身就是一项值得留意的工程突破。

问题其实出在成果怎么呈现上。

两种完全不同的能力，被含糊地打包成同一种能读写AI大脑的「超能力」。

说真的，刚听到时还以为是A社干的。

这也从侧面照出眼下AI圈那股炒作热。