Astra改Qwen权重遭质疑：MIT研究被指误导
spaCy作者长文炮轰
Jay 发自 凹非寺 量子位 | 公众号 QbitAI
MIT那篇爆火研究被圈内大佬公开质疑了。Astra前两天刚凭一项惊人能力刷屏AI圈——不用训练、不算梯度，直接修改另一个AI模型的权重。
MIT团队宣称，Astra仅修改Qwen3.5-0.8B的0.016%权重，就让数学成绩从7.9%暴涨至48.1%，相当于提升到原来的6倍多。甚至有网友感慨：AI已经开始读懂另一个AI的大脑了。
然而，事情似乎出现了反转。一位来头不小的圈内大佬公开发文，提出了质疑：这项研究存在严重误导。
质疑者叫Matthew Honnibal，spaCy的作者、AI公司Explosion的联合创始人。
魔术师戏法
这背后到底发生了什么？Honnibal用了一个很妙的比方，讽刺了MIT研究所做的事：障眼法。
同一个戏法，舞台魔术师往往会换好几种路子来演。头一回，他兴许用了个特制道具；第二回，他让你看清道具没毛病，东西其实藏在他身上；到第三回，没准又用上了某种强迫选择。看表演的人总以为背后只有一套手法，于是魔术师每演一次，你先前对其中门道的猜想就好像被推翻一次。
Honnibal认为，Astra这项研究的实验呈现，就酷似这样一场魔术。回到Paper，原文其实展示了三项不同的能力：
- 读权重：只看原始的权重数字，就能识别一个小型神经网络正在执行什么任务。
- 写权重：不依赖环境反馈，从零开始直接生成或修改小型网络的参数，让它能玩《打砖块》之类的小游戏。
- 修复大模型：通过修改Qwen的部分权重，大幅提高其数学测试表现。
但这篇论文摘要给人的核心印象却是——Astra「仅通过观察原始权重」，就能理解并修改另一个模型。
如果只是一眼扫过，很难不让人理解为：无论是识别一个小型网络的功能，还是修复一个大语言模型的数学能力，都源于同一种「读脑」神技。
但，这是真的吗？
Honnibal 把论文里的 8 组实验逐一翻了一遍，发现支撑这三件事的实验条件相差很远。
换句话说——
概念被悄悄换掉了。
两条技术路线
那这些实验之间，究竟藏着什么差别？
先看识别小型网络任务、修复一个卡住的赛车模型这类实验，Astra 确实做到了「只看原始权重」。
代价是实验条件卡得很死：
- 权重数字（raw floats）被直接当作输入，塞进 Astra 的上下文。
- Astra 不能运行 Python 代码。
- Astra 也不能执行目标网络去观察它的行为。
这种模式下，Astra 处理的模型参数规模都很小，落在 1.7万到 17.2万之间。成绩确实亮眼，可要真正理解一个现代大语言模型，路还长着。
到了最抓眼球、也最让人兴奋的 Qwen 数学能力修复实验，情况就完全变了。
修复 8亿参数的 Qwen 模型时，Astra 并没有直接读原始权重。
它拿到的是 Python 编程权限，还能做最多 50 次前向测试。每一轮让模型做一批练习题，靠观察表现来分析、改动权重。
这两件事根本不是一回事。
Honnibal 直接点破：把两种方法捆在一起讲，读者很容易以为——
哦，小模型上那套「读脑术」，照样能放大到 8亿参数的大模型上。
实际情况是，面对真正的大语言模型，Astra 更像一个「场外教练」，得靠编程、运行、观察这一串工程手段才能插手。
真正的价值
那这是不是说，MIT 这项研究就没有价值了？
当然不是。
得承认，就算摘掉「读心术」这层光环，Astra 展示出来的能力依然不简单。
Honnibal 自己也说，让一个 AI 模型被提示去设计并执行原本只有人类机器学习工程师才干的任务——写代码片段来分析甚至直接改网络权重——这本身就是一大步。
一两年前的 AI 模型，这些任务全都会失败。
这说明今天顶尖的大模型已经具备相当复杂的工具使用和推理能力，能充当「AI 工程师」去诊断、修复别的模型。这本身就是一项工程突破。
真正的问题，出在成果怎么呈现上。
把两种完全不同的能力混在一起，笼统地包装成一招能读写AI大脑的「超能力」。
老实说，刚听到的时候，还以为是A社干的事……
这也从侧面照出眼下AI圈那股炒作劲儿。
