AI自己改造外部装备,中科大论文梳理自我进化四条边界
你有没有想过,为什么同一个AI模型,换个用法就判若两人?同样是GPT-5.5,有的团队用它写代码效率翻倍,有的团队却总觉得它笨手笨脚。差别往往不在模型本身,而在那套包裹着模型的"装备"——提示词怎么写、记忆怎么存、工具怎么调、出错了怎么恢复。这套装备有个专业名字,叫做harness。更有意思的问题是:如果让AI自己去改
同一个AI模型,用法一换,表现可能就判若两人,这背后的原因你想过吗?
同样用的是
GPT-5.5,有的团队拿它写代码,效率能翻倍;有的团队却总嫌它笨手笨脚。差别常常不在模型本身,而在包裹模型的那层"装备"——提示词怎么写、记忆怎么存、工具怎么调、出错之后怎么恢复。这套东西有个专业叫法:harness。
更值得琢磨的是:要是让AI自己去改这套装备呢?它干活时发现某个流程别扭,就动手把流程改掉,下回执行直接走新流程。听着像科幻,但2026年已有研究把这事做成了能跑的系统。中科大团队的这篇论文,做的就是把这团乱麻理清楚:到底什么叫
**模型不动,装备在动**
先厘清一个基本区分。
AI能力往上走,通常有两条路。一条是动模型本身,也就是调整神经网络里那数以十亿计的参数,这叫"
harness*:模型外围那整套软件与配置都算 harness,喂给模型的指令、留存的记忆、调用工具的路数、出错后的兜底办法,全在里面。模型好比大脑,harness 则是大脑之外的手脚、工具箱和操作手册。
论文盯的是第二条路:**模型权重原封不动,只有外面这层装备在不断进化**。
为什么不改模型、偏选这条路?论文列了三个理由,都挺实在。
其一,harness直接决定一个固定模型的实际表现,好比同一个厨师,换一套菜谱和工具,端出来的菜能差出十万八千里。其二,改harness不用重新
这就像你经营一家连锁餐厅,总部中央厨房(模型)的配方不变,各分店却能按本地顾客口味去调摆盘、服务流程、点餐系统(harness)。要是不准分店这么调会怎样?每家店只能照一模一样的流程走,碰上问题就往总部报,等中央厨房改配方,周期长、成本高,总部也顾不过来每家店的具体情况。放权让分店自己迭代运营手册,问题发现得快、解决得也快;而且手册写在纸上,新店长接手一看就明白,不像中央厨房的配方那样属于商业机密加黑箱。
**四条底线,划清楚什么才算"自我进化"**
不过这里有个容易混淆的点:AI干活时随手记了几笔,就能叫"自我进化"吗?
论文给的定义相当严格。真正的
第一条是操作上的
只是往日志里追加记录,或者按固定规则压缩上下文,这些都不算数,因为它们并不会真正改变系统的行为模式。可要是系统学会了一套能复用的流程,或者调整了记忆的存取策略,那就算。
这个区分挺关键。想想你用笔记软件,天天记流水账,那不叫学习,只是存档。可如果你把反复踩坑的经验整理成一份"下次这么做"的清单,并且下回真按清单改了做法,那才叫真正意义上的成长。论文想分清的,正是这种"假进化"(光攒日志)和"真进化"(确实改变未来行为)。
**从改说明书到改引擎:三层进化目标**
具体说,装备里哪些部分AI能改?论文给了一个由浅入深的递进式分类。
最浅的一层叫**
往深一层是**
第一种是工具和代码补丁,只动某个具体函数或模块,周边的调度逻辑不碰。打个比方,这相当于给车换一个零件,比如换个更好的空气滤芯,发动机整体结构和控制系统都不动。改动范围小、容易检查是好处;坏处在于,万一这个零件的输出格式变了,别的零件没跟着适配,照样出问题,这就是论文所说的"改动可能传播到被修改模块之外"。
第二种是
第三种最彻底,叫
EIP*:一种系统设计思路,把记忆存储、工具调度、执行循环这些核心运行服务都做成可替换的插件,AI执行任务时能当场生成新工具,验证后挂载进系统,留给以后的任务复用。
论文里有个挺接地气的例子:让一个叫DSH Everything的Codex插件去处理跨国公司的表格数据,各地语言、内容不同,计算逻辑却差不多。AI头一回上手时,自己写了个批量查找加汇总的工具,调用次数从13次压到3次。可第一次造工具是有代价的,token多烧了15.7%,耗时也多了54.9%。等类似任务攒到第五个,合计省下110,351个token和22.97秒。
这组数字值得细看。头一次投入是赔的,可只要后面相似任务足够多,这笔账就能摊薄到划算。好比花时间搭一套Excel自动化模板,第一次搭比直接手算还慢,但要是每个月都得做同样的报表,模板早晚把时间给你赚回来。论文也没回避问题:首次任务单独报告的数字,和累计序列里首次那个数字,中间有一处没解释清楚的差异,作者没有硬把它们拼成一条平滑曲线,这份严谨值得肯定。
进化靠谱吗?数学给出三条紧箍咒
好处说了不少,有个问题绕不开:AI动手改自己的装备,凭什么保证是真好,而不是自欺欺人?
这正是论文用大篇幅去啃的硬骨头。研究者借了一套叫**
PAC学习
论文把分析拆成三道关卡。
头一道是泛化能力。改过的harness在“见过”的任务上表现好,换个新任务就未必一样好。论文用“
第二道是遗忘控制。AI在优化新任务时,会不会把老任务的本事弄丢?论文引入了“
第三道最实际,叫**
论文还专门点了两个现有方法的名:HarnessBank用
装备坏了能修,但有些伤是修不回来的
理论讲完,论文转向一个更现实、也更让人不安的问题:这套自我进化机制真要是大规模铺开,会出什么岔子?
论文挑了五个场景来说,每个场景的风险等级都不一样。
个人工作场景里,比如你用Claude Code写代码,AI会记住项目的编码规范和你个人的偏好,省得反复解释。问题在于,临时的权宜之计容易被悄悄固化成长期规则。你有一回为了赶时间让AI跳过某个检查步骤,这个“例外”会不会被系统当成“新常态”留下来?论文提到,哪怕一次成功完成的任务,也可能沉淀出一个“看似通用、实则有害”的技能,风险就在你毫无察觉时累积。
企业自动化场景的风险升了一级。一个团队发现某个变通方案能绕过故障,把它存进共享技能库,结果传到权限设置或数据环境不同的其他团队,引发连锁错误。论文把这个现象和“
科学研究场景的风险更隐蔽。AI优化实验流程时,要是钻了“评估指标不够完善”的空子(论文管这叫specification gaming,即“
机身人和具身交互场景最让人紧张,牵涉的是物理世界的后果。论文直接给建议:机器人的急停开关、力度和速度限制、权限审批这些保险丝,必须被放在可修改范围之外,独立于AI自我进化的那套流程。原因很直白:软件层面的“回滚”只能恢复代码状态,变形的零件复原不了,已经造成的物理伤害也消失不了。这是整篇论文里态度最硬的一条红线。
公共服务和医疗场景同样棘手。一套有偏见的分诊规则被系统当成“标准做法”固化下来,受影响的患者或申请人往往没有别的机构可选。软件回滚解决不了“错过的治疗窗口”,也没法自动纠正已经被拒绝的资格申请。论文建议每条决策都留下规则版本、依据和审批记录,还得有畅通的申诉渠道。
五个场景摆在一起看,其实透出一条规律:自我进化带来的风险有多严重,和它造成的后果能不能被软件撤销成正比。代码层面的错误,理论上能回滚;物理世界和制度性伤害,往往回滚不了。论文因此反复强调,要把“学习”和“执行权限”分开管理,不能让AI一边学习一边握着不受限的行动权。
Q&A
Q1:
A:指的是AI系统不动模型权重,靠执行任务攒下的反馈,持续修订外部的指令、记忆、工具调用流程和代码逻辑,并把修订保留下来供后续运行使用,形成一个能持续转下去的学习闭环。
Q2:为什么不直接
A:改harness成本低,不用重新训练,也不用拿到模型权重,不少团队用的就是闭源API模型,内部参数根本改不了。再说harness里的指令、代码都是人能读懂、能追溯版本的,出了问题好定位;模型内部参数怎么变的,则很难讲清楚。
Q3:AI自己改装备会不会越改越差?
A:这个风险确实存在,论文提出三道检验关卡来防:用