Meta FAIR推路由式持续学习架构:API成本可降72%
面对相似任务时,让 agent 复用彼此积累的经验,是一种自然的思路。遗憾的是,并不存在一种在所有场景下都好用的经验保留方式,也无法提前知道某段经验会对哪些未来问题有帮助。 对于持续运行的 agent 系统而言,过往轨迹确实能减少后续任务的重复试错,可一旦不同任务的经验混在一起,也可能造成干扰;如果把所有历史轨迹都统一
让agent把彼此攒下的经验拿来复用,遇到相似任务时这是很顺的想法。问题是,经验该怎么留,没有一种方式在所有场景都好使;也没法事先判断某段经验对将来哪些问题管用。
对持续运行的agent系统来说,过往轨迹能少走重复试错的弯路。可不同任务的经验一旦混到一块,反而会互相干扰。全部历史轨迹统一留着,细节最全,上下文和API成本却跟着涨;把所有经验压成同一种记忆形式,又可能丢掉只对特定任务有用的信息。
为此,Meta FAIR团队提出了“路由式持续学习”(Routed Continual Learning,Routed CL)。这套架构把历史轨迹归入不同的簇(cluster),每个簇单独维护一套记忆。每次运行前,基于LLM的路由器会看当前问题、可用记忆系统的说明和已有簇的摘要,先判断任务跟哪一类历史经验最接近,再决定复用某个簇还是新建一个簇。

论文链接:https://arxiv.org/abs/2610.38796
架构有两个核心特性。一是透明部署:它能直接接进现有agent系统,各agent不用彼此协同,原有运行方式也不用改。二是路由:Routed CL除了判断哪些任务该共享经验,还要从固定的记忆系统库里挑出经验的保存方式。有的任务适合留原始轨迹,有的更适合提炼可复用的推理策略,还有的可能需要结构化的数值状态。这样一来,所有任务不必共用同一种记忆表示。

他们还做了个上下文记忆适配器(Context Memory Adapter),用来连接记忆系统和agent。任务开始前,它把对应簇里的记忆写进agent上下文;任务完成后,再用当前轨迹更新该簇。
评估用的是一条混合了多种任务的任务流。评测包含六个CL-Bench任务中的301个实例,外加τ³-Bench里97个银行业务实例,每个实例都是一场多轮客服对话。不同来源的实例交错排列,系统处理时拿不到显式的实例标签。实验覆盖Gemini 3.7 Flash、GPT-5.6 Sol、Opus 4.7和Opus 5四个语言模型,每个模型重复跑5次,以压低随机性带来的影响。

对比只用单一全局上下文学习历史的Global ICL,Routed CL的归一化奖励提升幅度相当于最大可达归一化奖励的15%至30%,估算API成本则降低65%至72%。它的平均归一化奖励也高过仅ICL聚类的方案。

图|五次配对执行的平均归一化奖励与平均估算API成本的关系
四个模型上,Routed CL的平均归一化奖励都高于Stateless ICL、Global ICL与Routed ICL三种对照方案。他们据此认为,持续学习的关键不在记得越多越好,而要同时回答两个问题:经验以什么形式保留,哪些经验值得放在一起复用。

结果还显示,Global ICL在不同评测设置里表现差得很远。原始CL-Bench中各类任务分别运行,那时Stateless ICL曾是表现最强的方案之一;多个任务交错进同一条流之后,Global ICL相比无状态条件的平均归一化奖励只多了0.015。可见全局记忆真正的麻烦不只是容量有限,不同任务的经验还会互相干扰。
当然,这不代表Routed CL已经把持续学习的问题全解决了。他们承认,当前实验按顺序处理任务,每次rollout用一个语言模型当执行者(actor),记忆系统里所有由模型中介的角色也由它一并承担。设计上已经考虑了不同记忆簇之间的隔离和更新一致性,但并发更新、读到旧版本状态、不同模型复用同一簇状态这几种情况都还没评估。
他们还提到,将来一个任务或许能同时调用多个记忆簇;一次新的运行轨迹也能同时更新多个簇,甚至以不同形式写进记忆。
更多技术细节,详见原论文。