CarryOn让AI助手学会断舍离:长程任务记忆该怎么轻装
你有没有试过搬家?第一次搬家的人往往会把所有东西都装进箱子,包括三年前买的说明书、已经过期的优惠券、甚至是拆快递剩下的气泡膜。结果就是,搬家公司报价贵得离谱,新家堆满了根本用不上的杂物。而真正会过日子的人懂得一个道理:重要的不是"我经历过什么",而是"我现在手上有什么能用的东西"。那张写满攻略的地图可以...
搬家这件事,你经历过吗?
头一回搬家的人,习惯把什么都往箱子里塞:三年前买的说明书、早过了期的优惠券、拆快递留下的气泡膜,一样不落。搬家公司一看报价,贵得吓人;到了新家,屋里堆的全是用不上的东西。会过日子的人明白另一套道理:关键不在于"我经历过什么",而在于"我眼下手里有什么能用的"。写满攻略的地图可以丢掉,人都到目的地了;钥匙却得留着,门还锁着呢。
同样的道理,放到AI助手身上也说得通。
一个AI要干的活儿,比如"做一份香港天气的PPT",或者"填杨氏模量实验报告",动辄几百个操作步骤。它撞上的麻烦跟搬家如出一辙:历史记录越积越多,到后来AI自己都快被这堆"行李"压趴下。
加州大学圣地亚哥分校的一篇研究论文,提出了一个叫
论文标题本身也挺有味道,"Pack Light,
长程智能体的"行李超载"问题
这个问题到底有多严重,先说一说。
长程智能体*:指的是得跑完大量连续步骤才能交差的AI系统,比如操控电脑走完几百步的复杂工作流,跟那种一问一答就收场的简单对话式AI不是一回事。
论文里举的
问题就来了:图片既然已经插进PPT了,这个"插入"的动作还犯得着反复回看吗?
当然犯不着。文件里躺着图片,这是板上钉钉的事实,AI打开文件扫一眼就清楚。可现实里多数AI系统的做法是,把几百步操作历史全堆进上下文,或者用摘要压一压,然后每回决策之前再把这堆历史重新"读"一遍。
打个比方,你每次拿钥匙开门,都得先把买房、装修、配钥匙的来龙去脉回忆一遍,再想起钥匙搁在抽屉第二层。纯属多此一举,而且越往后越慢。
现有办法,像摘要、裁剪、检索式调取,确实能把上下文缩短。不过论文作者点出了一个更深的毛病:这些手段骨子里还是在"复述历史",无非复述得精简些。
上下文压缩
一旦这种压缩过的"复述"顶替了真实可查的任务状态,偏差就可能冒出来。AI捧着一份不准确的二手描述接着干活,比直接打开文件核对要危险得多。好比搬家时你不带钥匙,带的是张"钥匙长什么样"的手绘图,画得再逼真,锁也开不了。
CarryOn
CarryOn给出的框架调整很直白:把AI的工作记忆拆成三块相对独立的部分,别再一股脑搅在一起。
第一部分叫
设想你在收拾厨房,
第二部分叫
胡萝卜丁切好了,可"今晚要做几道菜""客人忌不忌辣""酱油还剩多少"这些信息,胡萝卜丁身上看不出来,得另外记着。这就是
第三部分叫
三样东西合在一起,才构成AI某一时刻看到的完整工作视图。论文给了一组具体数字对比,拿天气PPT的例子来说,
token
这组数字讲明了一件事:大量历史记录其实是多余的,只要把真正有用的"成果"单独拎出来,剩下的历史完全可以撒手。
折叠:历史记录被归档和整理的时候
这里有个关键动作,叫折叠*:Fold,意思是系统把一段已经处理过的交互历史,用新生成的载体记录和
折叠并不等于简单"删除",它更像一次"结账"。你在超市买了十样东西,收银员不会把你拿起每件商品、放进购物车、犹豫要不要换个牌子的全过程记下来交给你,他只递一张小票,上面写着你买了什么、花了多少钱。购物过程本身被"折叠"进这张小票。要是没有结账这一步,你每回付款都得把整个购物过程口述一遍让收银员核实,那超市大概永远别想做生意。
不过CarryOn的折叠比普通小票复杂得多,它要解决的是三个实打实的难题。
第一个要解决的问题,是凭什么断定某段进展能单独拎出来复用。有些结果离了前头的具体情境就读不懂,不能随手一刀切归档。CarryOn的办法是给每份载体记录都标上使用前提,好比那盒胡萝卜丁上贴的标签写着“保质期三天,需要冷藏”,而不是往储藏室一丢了事。
第二个要解决的问题是,任务继续往前走的时候,这些“已归档的进展”怎么保证还站得住。文件可能被接着改,状态可能变,留着一份记录不等于它一直是对的。CarryOn为此搭了一套验证机制:这套机制靠两个关键角色运转。
一个叫
另一个叫
这两个角色搭伙干活,等于给归档内容过一遍质检。论文把只读检查的具体条目也列了出来:文件还在不在、内容跟最初相比有没有变、文件大小是不是为空、文档结构完不完整(针对docx、pptx、xlsx这类办公文档)、文档内容差异比对、指令文本是否对得上,等等。这些检查不管任务本身做得对不对,只管一件事——归档的东西真实可信。
第三个要解决的问题是:这段历史被折叠退场之后,哪些信息必须明确留下,不能跟着历史一块儿没。执行上下文就是干这个的,它由一个叫
论文里那个修表格的例子就很典型。实验报告这个载体已经记下了“测量表和荷载位移表已填完”,可还有一个关键问题悬着——论文作者说的是4.83和4.84的读数歧义待解决。这条信息在文件本身里找不到,只能靠执行上下文明确保留。不然AI一折叠很可能就忘了,之前的推理成果白费。
实验结果:性能提升是实打实的
设计理念讲了这么多,实际跑起来效果如何?
论文在两个基准测试上做了验证。第一个是
在
| 模型配置 | 二元评分 | 部分评分 | 单任务成本 |
|---|---|---|---|
| Claude Opus 4.7(基线) | 15.7% | 43.9% | 36.8美元 |
| **Claude Opus 4.7 + CarryOn** | **19.4%** | **49.7%** | **23.6美元** |
这说明什么?钱花得更少,活干得更好。AI圈里这种情况不常见,省钱和做好一般是一对矛盾,CarryOn算是难得把两头都顾上了。
在BrowseComp-Plus的100题子集上,准确率从49%升到56%,涨了7个百分点;总token消耗同时降了22.9%,总成本降了7.1%。
论文还分析了上下文大小随执行步数增长的曲线。基线方法的上下文一路线性涨,到500步时超过200K个token;CarryOn的上下文初期涨一段后,稳定在约65K token,不会无限膨胀。成本曲线上有个有意思的交叉点,大约在150步左右,CarryOn前期因为要额外运行追踪器和……说到底,这组曲线说明CarryOn的优势是越跑越长越明显,短任务未必看得出差别,长程任务才是它的主场。
对照实验:看看各部分到底值多少
整体效果之外,论文还做了一串对照实验,想搞清楚究竟是哪个设计环节在发力。
第一组对照比的是几种不同的历史压缩策略。
通用摘要
数据很诚实地说明了一件事:光压缩历史,并不会让AI表现更好。在一个40个任务的共享子集上,
| 方法 | 文本长度(千字符) | 二元评分 | 部分评分 |
|---|---|---|---|
| 基线(无压缩) | – | 22.50% | 50.32% |
几个方案放在一起比,数字差距一眼能看出来:滑动窗口12.08、15.00%、37.41%;通用摘要17.60、15.00%、44.94%;CarryOn引导式摘要23.94、20.00%、50.93%;CarryOn完整版21.54、22.50%、55.93%。
这组结果挺耐人寻味。光把历史记录截短,有用信息未必跟着留下来。好比把一本书压成十页,压法不对,关键章节可能被砍掉,边角料反倒留着。
表里那行“CarryOn引导式摘要”也值得看。它沿用了CarryOn的组织思路,只是换了个实现方式——让AI在普通文本摘要里体现“载体+执行上下文”的结构,而不是靠专门的程序化系统去维护。部分评分做到50.93%,比通用摘要强出一截,说明这套组织理念本身站得住脚。可它离完整版CarryOn仍有距离:完整版用结构化的程序逻辑维护记录,不单靠AI的文本生成能力,部分评分再推到55.93%,文本长度还比引导式摘要短了大约10%。
说白了,把“信息怎么组织”交给一套严谨的程序逻辑去跑,比指望AI在写摘要时自觉守规矩,靠谱得多。
第二组对照实验,专门验证载体和执行上下文这两块是不是真的缺一不可。
方法、AI调用次数、成本、二元评分、部分评分,对照如下:
去掉执行上下文:274.33次调用、18.33美元、17.50%、44.00%。
| 去掉
CarryOn完整版:282.25次调用、20.55美元、22.50%、55.93%。
执行上下文一撤,部分评分从55.93%跌到44.00%,一下子少了超过11个百分点。光有成果记录(也就是载体)还不够,AI得清楚自己下一步做什么、哪些约束还没解决。
再去掉续用载体,部分评分同样滑到44.62%。更扎眼的是调用次数:从282次涨到349次,多了23.8%,成本跟着上浮22.3%。原因不复杂——手里没有“可直接使用的成果记录”,AI只能重新探索、重新验证,活生生做了无用功。
论文里有个具体案例。任务要求往一张“估值工作表”里填汇率数据。有载体记录的版本,折叠之后直接去看链接设置,把数据接到早先存好的单元格上,没有重算。换成“去掉载体”的对照组,AI在折叠后说了句挺耐人寻味的话,大意是“我其实没有确认过这些价格数据”,接着重新打开PDF、重新提取文字、重新渲染页面图片,把此前做过的调查原封不动又走了一遍。
这就像有人明明查好了地址、笔记本上写得清清楚楚,本子却被藏了起来,只好重新开地图、重新搜、重新确认,绕了一大圈冤枉路,只因那张写好的纸条不在手边。
载体的“存活率”:多数进展是被延续的,不是重新造出来的
论文还做了一项颇能说明问题的统计:实际运行中,载体记录究竟是经常从头新建,还是大部分时候在被接着用。
结果是,494次成功的折叠操作里,被统计的813次载体观测中,原样保留278次、更新延续372次、全新添加只有163次。保留加更新的比例算下来约80%。
这意味着CarryOn跑起来之后,大部分“行李”是在被持续整理、接着使用,而不是每回都从零打包。常年出差的人,箱子里大半东西每次都带着走,临时添置的只是少数几样。要是每次折叠都把记录推倒重来,这套系统的效率优势就没了——论文之所以特别强调“有变化才更新、没变化就原样保留”,价值正在这里。
写在后面
读完这篇论文,真正触动我的不是那几个百分点的提升,而是背后一个很朴素的问题:AI的“记忆”到底该是什么?
我们习惯了这样一种思路——AI记得越多越好,上下文窗口越大越好,这几年行业一直在卷“谁的窗口更长”。CarryOn却抛出一个颇有点颠覆意味的反问:记忆的价值不在“多”,而在“准”和“轻”。真正聪明的助手,未必记得你说过的每句话,但一定记得你眼下真正要什么。
论文里“去掉载体后AI调用次数暴涨23.8%”这个细节,让人想到人在信息缺失时会怎么做。我们不会凭空猜,而是重新核实、重新查证——这是谨慎,不是愚蠢。AI身上这种“没证据就重新验证”的倾向,某种程度上说明如今的大模型已经有了一点审慎推理的样子,只是这份审慎若找不到合适的记忆结构来承接,就只能靠反复劳动来消耗。
还有一层可以多想。论文反复讲,载体记录带着明确的“使用条件”,不是一份无条件信任的既成事实。这暗合一个更普遍的道理:任何被归档、被简化的信息,一旦脱离产生它的具体情境,都有失真风险。CarryOn没有假装这个风险不存在,而是用接地器这类核查机制主动去防。既利用过去的成果、又不盲信过去的记录——这种态度,或许比压缩技巧本身更值得记住。
论文末尾还留了一处没往下挖的空白:任务一旦更复杂,涉及的载体类型越来越多,这套追踪加核查的机制还能不能保持高效、准确?眼下的实验场景只有电脑操作和网页检索这两类,相对结构化。要是换成更开放、更模糊的创造性任务,比如写一本小说、设计一套产品方案,“什么才算可以独立使用的进展成果”这个问题本身,怕是就没那么好回答了。
Q&A
Q1:CarryOn是什么?它由加州大学圣地亚哥分校提出,是一套面向AI长程任务的记忆管理系统。
其核心思路是让AI助手围绕“可复用的任务成果”来组织上下文,而不是盯着“完整的操作历史”,以此减少对冗余信息的重复处理。
Q2:跟传统的历史压缩方法比,CarryOn强在哪?
实验显示,单纯压缩历史记录——滑动窗口、通用摘要都算——反而会把任务表现拉低;CarryOn则把续用载体、执行上下文区分开来。
Q3:CarryOn会不会让AI把重要信息忘掉?
不会。论文设了追踪器和接地器两个角色,专门核查归档内容是否真实;载体没法表达的未解决目标和约束,则靠执行上下文保留下来。实验中去掉其中任何一部分,任务表现都会明显下降。