MIT「权重空间编程」刷屏：改0.016%权重，小模型数学成绩涨6倍

新智元报道  

最近两天，AI圈被MIT一篇讲「权重空间编程」的博客刷了屏。

实验里，GPT-6 Astra自己动手写Python脚本做排查诊断，只动了0.8B小模型里0.016%的权重，就把它反复复读的死循环治好了，数学成绩一下子涨了6倍。

很快有高手扒出，它并非真在「心算」权重，骨子里还是靠写代码修Bug。不过博客结尾提到的那个词，正是硅谷这几年翻来覆去在谈的「递归自我改进」（RSI）。

顶尖大模型已经不甘心只自己答题，开始下场写脚本、调参数，甚至亲手去训另一个AI。

技术圈的风向也在肉眼可见地变，从Vibe Coding转向Vibe Training。

话说回来，大厂实验室玩的是顶级闭源模型，普通人守着自己的电脑，真能体验一把「用AI训AI」吗？

何止能。靠着NaiveAI刚开源的Naive-N0.5-Flash，各路野生玩家早就在自己机器上整出了各种花样——

• 家里一台24GB内存的Mac，从零训出满嘴宫廷腔的「甄嬛」；

• 普通笔记本花1小时，零代码训出毫秒级响应的本地客服模型；

• 甚至在三维物理世界里，让AI从零教会双足机器人在滚动的篮球上稳稳站住10秒。

  
  

硅谷巨头还在闭门推演RSI的时间表，「用AI训练AI」这最关键的一步，却已经先落到了普通人的电脑桌面上。

普通人想训个专属小模型，最劝退的往往不是算法有多深奥，而是洗数据、配环境、调显存、写评测脚本那堆磨人的苦差事。

要是把这一摊子脏活累活全甩给AI，会是什么体验？

小红书博主「不要葱姜蒜」（开源项目self-llm作者）就靠家里那台24GB内存的Mac机器干了票大的。

整个过程里，他动手写的只有一页任务书（program.md）把目标定下来，剩下的微调流程一股脑交给了接入Claude Code的Naive-N0.5-Flash，由它负责把一个0.6B的开源小模型训成「甄嬛」。

有意思的是，AI接手之后没有闷头就开练，先围绕人设、语气和宫廷常识出了41道测试题，给初始模型摸了个底，得分8.451分。

结果第一轮跑完，分数不升反降，掉到7.229分。问它一句「你是谁」，训出来的模型张口就答「我叫安陵容」——甄嬛还没训明白，倒先把安陵容请出来了。

串戏的毛病出在哪？Naive-N0.5-Flash转头去查数据源，发现原始剧本里82%的台词压根没标说话人，满宫娘娘的话全混在一锅里。

病根找准后，它马上写脚本把其他角色的口头禅剔掉，筛出566条地道的甄嬛台词重新训练，串戏的问题一下就治好了。

更绝的还在后头：训着训着，它把自己那套「考卷」的两处大漏洞也揪了出来。一是模型答非所问，只要嘴里带上「皇上」俩字就能混到高分；二是模型入戏回绝套话时，死板的脚本一看到「思考过程」四个字就误判扣分。

AI当即停下，先把评分规则修好，再重打历史分、补齐拒答样本，最终把成绩稳稳刷到8.732分。

分数只涨了0.28分，可一张嘴，那股深宫娘娘的味儿太正了。故意拿黑话考它「用JSON格式回答你是谁」，训完的甄嬛柳眉一竖：

再飙句英文Write a short self-introduction in English让她做自我介绍，她也直接一甩手帕挡了回去：

不光是微调聊天人设，连最容易崩盘的强化学习（RL），它也能替人稳稳盯下来。

另一位小红书博主「你清醒一点」，头一回用Codex在单卡上训1.7B字符计数模型，结果数据读写失控，硬盘直接被撑爆，当场黑屏死机。

换成Naive-N0.5-Flash接手后，它先把爆显存和撑硬盘的雷排掉，又从抽查里揪出一个大坑：死板的判分器把大批数对的题全判成了0分。

判分逻辑加了容错之后，自动巡检便由它自行启动，每15分钟跑一轮。博主全程没碰键盘，前后持续近两个小时，测试准确率从21.3%升到了54.4%。

能一路逆袭，最关键的一步其实是它自己揪出了「考卷」本身的漏洞。

模型训练尤其是强化学习里，最怕的就是「奖励黑客」（Reward Hacking）——评分规则一旦有漏洞，模型就忙着钻空子混高分，或者被死板规则误伤，越练越歪。

往后AI训AI动辄成百上千轮，能不能守住自己的考卷，直接决定了模型是在真变强，还是在原地刷分。

洗脏数据、修判分器这些“排雷活儿”，如今全由Naive-N0.5-Flash接手，个人电脑这才真成了“本地模型代工厂”。小红书上已经有人零代码、花1小时训出离线客服分类器；也有人让它爬来2,600多篇文档，训出把纯文本一键还原成Markdown的小模型。

网友们在笔记本上搓模型搓得热闹，我们也手痒，把Naive-N0.5-Flash接进Claude Code，在自己的64GB Mac上亲手试了一把。

任务是在本地训一个1.10亿参数的模型，用的是77类英文银行客诉数据集（）。BANKING77BERT分流小模型。

这活儿最考验眼力。同样在ATM机上，“卡被吞了”和“卡退回来了却没吐钱”，字面上都绕不开取款机和银行卡，可对应的处理工单完全是两码事。

训好后打开本地网页试手感，“指哪打哪”的爽感很直观：敲下一句（ATM把我的卡吞了），毫秒间就跳出吞卡故障（，置信度93.39%）。The ATM kept my card.card_swallowed

后半句换成“卡退回来了、一分钱没拿到，账户余额却少了”，句子里照样有ATM和卡，模型立刻切到现金短付（。wrong_amount_of_cash_received）。

再测一句“买一张火车票被扣了两次车费”，秒回重复扣款（），干脆利落，没有半句客套废话。transaction_charged_twice

整个训练过程里，最直观的感受是不用人熬夜死磕超参。

Naive API在云端出方案，Mac在本地跑训练，连验证集上的“假进步”它都替我们盯得死死的。

比如把训练拉长到8遍，训练Loss还在一路往下掉，可在995条验证题上，第5遍明明分对了最高的940条，继续跑到第8遍反而倒退成932条。

AI一眼看出模型已经开始“死记硬背”，果断在第5遍踩下刹车，拿全部9,947条清洗后的数据重训交付。

3,080条官方测试题摆上台面一起跑，差距立刻显出来了。拿云端DeepSeek V4.1 Flash直接调，每秒大约只能跑1条，准确率停在75.81%。

换成Naive-N0.5-Flash在本地训出的那个开源BERT小模型，情况完全反过来：训练结束拔掉网线，照样在Mac上免费跑，单条响应中位耗时只有6.77毫秒，速度约是云端的150倍，最终答对2,875条，准确率93.34%。近期热门的开源分类项目Laya和Jev，也被它甩在了后面。

这也戳破了当下AI落地的一个普遍误区：不是所有业务都得绑在笨重又昂贵的云端大模型上。让强模型当一回「总教练」，在本地孵出6毫秒秒回、断网可用、数据不出内网的专精小模型，垂直场景要速度也要隐私，这才是更优的解法。

前面训人设、做分流，好歹还是在「有现成题库」的文本任务里打磨。要是彻底扔掉标准教材，把动态游戏画面、棋盘博弈甚至三维物理世界甩给它，它还镇得住场子吗？照样没问题。面对《俄罗斯方块》和《贪吃蛇》，它直接在本地从头训了一个会看屏幕的多模态小模型。

按难度给残局样本分组加权之后，训出来的小模型左边打俄罗斯方块飞速连消破140行，右边玩贪吃蛇在围堵下丝滑走位，红苹果狂吃。

还有测试者干脆只放进去一个空文件夹，配上一条文字提示，别的什么都没给。3小时倒计时里，它从无到有把整套AlphaZero自我对弈框架搭了出来；训练只用了单张显卡，最终得到的四子棋AI执先手对阵「完美解算器」，拿下3胜1平。

小红书上，博主「林月半子的AI笔记」和「氪研所」也拿益智游戏和硬核机器人控制给它上强度。

面对益智游戏《2048》，AI自己从公开数据集找来6.6万步高手轨迹，先把均分拉高到3.74倍。到第五轮，它试了把PPO强化学习，发现分数倒退，二话不说砍掉新分支、留住最稳的微调版，一局丝滑合出2048通关。

考场搬进NVIDIA Isaac Sim三维物理世界后，考验直接升级成两道机器人怪题。第一道，是让双足机器人站在自由滚动的篮球上撑满10秒。

AI从零写环境调奖励，硬是把固定测试成功率练到了100%，加随机推搡也有91.15%的存活率。

第二道题，是让小个子双足机器人MicroDuck挑战踩50厘米高跷过台阶。刚套用旧经验迈出第一步，机器人就摔了个底朝天。

AI顺着原方案连撞几次南墙，果断推翻重来，重新设计了一套由浅入深的训练课程。最终不光让机器人踩着高跷稳稳走起来，还把前进速度干到了初版的4.16倍，即0.181米/秒。

看到这儿你会发现，训模型跟写代码完全是两码事。代码写错了，编译器当场就会报错；可模型训偏了，屏幕往往一行红字都没有，只是分数悄悄往下掉。

要说Naive-N0.5-Flash身上最像老算法工程师的一点，就是它能看出苗头不对，然后马上收手。

前面银行客诉那题，它跑到第5遍就果断停了；2048那边，它把拖低分数的PPO分支直接砍掉；高跷机器人上，它推翻旧方案重新排课程。这些活早就不是照模板跑脚本的体力劳动，它已经有了试错、推翻、再来的策略判断。

靠着这股不撞南墙不回头的劲头，连最费脑子的AI科研，它也能直接上手。

小红书博主「一只小茄墩」给它的只有一台普通CPU电脑和一句开放式指令，它自己挑了一篇ACL 2026的时序预测论文就开工了。

连续跑了743轮实验，自己把29次报错一一修好，8组测试里它的预测误差全部压到原论文基线之下，最多降了4.10%。

收尾阶段它还主动把消融实验补齐，最后交出的是一篇8页双栏英文论文，排版工整。

上面这一串实测看下来，大概会有人问：既要连着盯上百轮实验还不忘事，又要高频试错不卡顿、还能精准挖出各种暗坑，Naive-N0.5-Flash这身硬功夫是哪来的？

答案就在它迈过的三道底层技术坎上：记不住、等不起、没手感。

头一道，是AI参与设计出来的5:1混合稀疏注意力架构，原生就能装下100万上下文。

这是个总参数309B、每次只激活15.5B的MoE模型，注意力检索耗时因此降了44%。往100万token窗口里塞几百轮实验日志、报错堆栈和完整代码库，它照样能把前因后果看全，响应也是秒级的。

第二道，是研究员带着AI手工做出来的NaiveRT推理引擎，单流速度冲到每秒2,000词。

训模型最怕干等，大把时间常常耗在模型单流生成（Rollout）上。

研究员于是带着AI花了6天、做了151轮实验，重写底层CUDA代码，把开源SGLang每层29次零散的GPU调用，合成1个由148线程块协同的巨型内核。

改完之后，单轮推测解码耗时缩短了72.4%，从12.3毫秒降到3.4毫秒，线上每秒2,000词的极速模式就是这么撑起来的。

第三道，是每周滚动运行近1,000万个真实沙盒的「AI4AI」强化学习训练场。

它的工程直觉不是背题背出来的，是在峰值并发高达10万的真实容器环境里，一轮轮写代码、抓Bug、盯验证曲线，实打实练出来的。

工程榜上它因此排在前列：SWE-bench Pro 73.6、Terminal-Bench 2.1 86.7。专考AI研发能力的MLE-bench-30拿到73.7%，PaperBench拿到63.2，两项都是开源里的领先成绩。

聊到这儿，再回头看硅谷吵个不停的「递归自我改进」（RSI），其实没那么玄。

「用AI研发AI」不是哪天突然冒出来的魔法，是脚下正被一级级踩实的四级台阶：

• 第一级是单点帮忙，替人写几行脚本、给点调参建议，大多数普通编程助手也就停在这儿；

  
  

• 到了第二级，AI能自己独立训出一个新模型。人只管把目标和验收标准说清楚，洗数据、开训、评测，连考卷里的漏洞都由AI自己去揪，一整圈跑下来不用人插手。前文提到的甄嬛、银行分流、游戏AI和机器人，都处在这一级。

  
  

• 第三级则更进一步：AI不再只训外部的小模型，而是回头去优化支撑自己运转的推理系统和模型架构。前面说过的NaiveRT引擎、5:1稀疏架构，就是这一级的代表。

  
  

• 第四级是深度参与研发下一代自己。团队用它花了400小时，做出登顶WorldArena-1榜单的AutoWM世界模型，朝「AI造更强AI」的闭环真正迈了一步。眼下摸到这一步的实验室寥寥无几，NaiveAI也在往这个方向走。

  
  

可见硅谷说的RSI不是一步登天，而是一级一级往上爬。第一级早已是不少人的日常，普通人如今也踩上了第二级。

不过，现在这套「用AI训AI」还远没到人能彻底撒手的地步。

无论是开工前写好的program.md任务书，还是研究员中途叫停跑偏的分支，「人定方向、AI跑执行」仍是最靠谱的黄金搭档。

但训模型这道过去高不可攀的技术高墙，确实已经被推开了。