openJiuwen推TTSE双轨自演进:让Agent分清环境事实与条件技巧
让每一次任务,都成为下一次进步的起点
允中 发自 凹非寺
Agent越用越顺手,怎么还会被环境“绊倒”?
同事拿Agent整理报表,一路顺畅。你用的是同一个模型、同一套工具、同一个流程,只把文件换成自己的,就开始反复试读、频繁返工。
模型没变,Harness也没变,换个环境,为什么就不灵了?
文件位置不一样、数据格式混杂、模板约束变了,原本管用的办法都可能失效。模型负责推理,Harness负责组织执行流程,可Agent还得自己判断:眼前这个环境是什么样,过去那套经验还适不适用?
这也点出了Agent持续自我改进中一个常被忽略的问题:Agent不光要从任务里学会“怎么做”,还得判断这些经验在什么环境下依然有效。
在RSI(Recursive Self-Improvement,递归自我改进)的持续优化过程中,Agent能借助任务反馈改进执行方法、积累可复用经验。可要是对环境认知没有同步更新,原先有效的经验反而会变成新障碍:接口条件变了,还在重试旧调用;数据格式变了,还在沿用旧规则。
一次失败,到底该改方法,还是该纠正对环境的认识?
Agent的新难题,藏着认知科学的老线索
认知科学对知识结构的研究,为区分这两类问题提供了启发:
1983年,认知科学家John R. Anderson在ACT-R相关理论研究中,系统讨论了人类知识中的两类重要形式:
- 陈述性知识(Declarative Knowledge):描述“世界是什么样的”。例如,关闭的容器会遮挡内部物体,打开后才能观察。
- 程序性知识(Procedural Knowledge):讲的是“动作该怎么做”。比如要找好几个同类物件,碰上第一个之后,还得接着排查其他可能出现的地方。
后来,Larry Squire等研究者从神经心理学上确认,这种分离有生物学基础——两类知识由不同脑区负责,学习速率和提取方式都不同。
换成Agent的视角来看,认识环境和掌握做法这两件事相互牵连,可验证和更新的路子并不一样。环境判断得看跟现场情况对不对得上,行动方法则要看在对应条件下管不管用。把这两者搅在一起,就容易出问题:要么把碰巧做成的操作当成可靠规律,要么环境变了还抱着已经失灵的办法不放。
顺着这条思路,openJiuwen在RSI方向的持续探索中进一步提出TTSE(Two-Track Self-Evolution,双轨自演进)。
在此前发布的双维度RSI框架介绍中,openJiuwen已通过Harness+Artifacts双维度优化,让Agent能够基于真实任务反馈,持续改进工作方法与交付成果。TTSE则把重点放在经验本身的可靠性与可复用性上:不只让Agent积累有效的执行方法,还要持续校正对环境的认识,避免经验在环境变化后失效。
为此,TTSE借鉴认知科学对陈述性知识与程序性知识的区分,把任务中获得的经验分成两条轨道:
- FACT(环境事实):持续核对和更新“这个环境是什么样的”。
- TIP(条件式技巧):持续改进“在这些条件下应该怎么做”。
TTSE双轨框架:构建反馈驱动的经验自演进闭环
分清经验的类型,只是第一步。怎么让Agent从任务反馈中持续学习,并把有效经验转化为下一轮执行的改进?
这同样是RSI的核心思路:靠真实任务反馈驱动改进,并在后续执行中不断验证和优化。TTSE把这一思路落到经验管理层面,通过分批执行任务,让已有经验持续接受新证据的检验,判断哪些值得保留、哪些需要修正或退役,再把更新后的经验用于下一轮任务。
该框架包含四块内容:双轨知识表示、冷启动、在线增量演进,以及最终输出与评估,具体结构见下图:
① 双轨知识表示:环境事实与执行方法各有所本
其中,FACT刻画的是环境自身的属性与规律,看重的是能否直接验证,以及在适用场景下跨任务是否稳定;TIP则针对特定任务条件下的执行方法,用“在什么条件下,执行什么操作”的形式来表述。
这两类知识各自拥有独立的编号、呈现方式和证据追踪机制。于是每条经验都能单独引用、核对与更新;执行一旦出问题,也能追到具体是哪条事实判断或哪条操作建议起了作用。
分类时,框架依据经验所描述的主体和作用来判定(展开如何进行分类根据mechanism);碰上难以确定的内容,默认归入TIP,以降低把未经充分验证的操作经验误当作环境事实的风险。
② 冷启动:从首批任务中归纳初始经验
TTSE起步于空规则库,先由Agent执行首批任务(chunk 0),再依据执行轨迹分别归纳出FACT与TIP,从而建立初始的双轨经验库。
这一阶段以归纳为主。由于执行时还没有历史规则参与,旧规则的归责与退役并不进行,重点是为后续演进攒下第一批有任务证据支撑的经验。
③ 在线增量演进:在新任务中检验并修正已有经验
之后的任务按批次推进。每一轮里,Agent先加载上一轮的FACT与TIP,借助已有经验执行当前批次任务,再根据执行轨迹和评估结果,依次走完四个环节:
- 归因(Blame):分析失败轨迹,找出可能误导执行的规则,为经验修正锁定对象。
- 退役(Retire):把被归责的规则移入退役池,同时保留原因、批次和时间等记录,让调整过程可追溯。
- 矛盾分析与合成(Contradict / Synthesize):检查退役规则中的矛盾,尝试识别其中隐含的适用条件,将看似冲突的经验合成为条件更明确的TIP。
- 归纳(Induce):对比成功与失败轨迹,或从成功轨迹中提炼有效经验,通过新增、修订、确认与移除等操作,更新双轨经验库。
Blame→Retire→Contradict/Synthesize→Induce这一串环节在多个任务批次间循环运行,让经验持续接受新证据的检验:既更新对环境的认识,也调整相应条件下的执行方法。
④ 最终输出与评估:检验经验演进带来的实际收益
经过多轮增量演进,框架输出最终的FACT与TIP经验库,并在测试任务中评估它对准确率或任务表现的影响。
环境事实和执行方法各管各的,分别留存、都能追溯,再在实际执行中不断被验证和调整。Agent 每做完一批任务,就能把新产生的交互证据变成下一轮能用的经验,这样一路走下来,环境交互推动知识更新,知识更新再反过来改进动作。
“但一个关键问题仍待回答:将环境事实与行动技巧分开演进,是否真的比传统的单轨经验管理更有效?”
从机制到实证:五大基准,验证TTSE双轨自演进的有效性
TTSE的方法论与实验结果已在论文A Two-Track Online Self-Evolution Framework for LLM Agents中展开研究。
双轨经验机制是否真的有效?研究团队为此在ALFWorld、ScienceWorld、GDPevo、SOPBench和PinchBench五个基准上做了评测,每项实验均独立重复三次,以考察方法的实际收益与运行稳定性。
五大基准,呈现多维度增益
- ALFWorld:成功率最高达到98.51%。在GLM-5上,TTSE成功率达到98.51%;在DeepSeek-V3.2上,成功率达到97.8%,较此前最优方法GraSP的83.6% 提升14.2个百分点,同时减少任务执行步数。
- ScienceWorld上的任务表现有明显提升:MACRO Reward由0.7204升到0.8534,Native Success从53.08%提高到73.46%,涨了20.38个百分点。
- GDPevo的结果显示,双轨压过单轨。完整FACT+TIP方案平均得分0.2616,接近零样本基线0.0947的2.8倍。相比之下,单用TIP或单用FACT都没达到完整双轨方案的水平,环境事实与行动技巧两者协同管理的价值由此得到验证。
- SOPBench与贝叶斯技能管理融合后又有进步:总体成功率先是自基线79.15%升至单轨方案的91.59%,接着提高到双轨融合方案的94.58%,比单轨方案多出2.99个百分点。
- PinchBench考察真实世界任务,增益同样稳定。团队以非侵入方式把TTSE接入OpenClaw,在147个真实端到端任务上独立跑三次。双轨方案平均得分从0.7439升至0.7822,增加3.83个百分点;三次运行的增益方向一致,运行极差则由3.33个百分点收窄到1.61个百分点。
上述结果分布在具身交互、科学推理、企业运营、工业流程以及真实世界端到端任务上,说明TTSE的价值不限于某一个特定模型,也不限于单一场景。
那为什么非得双轨不可?消融实验给出了更直接的回答。
GDPevo的消融实验就摆出了证据:完整双轨方案的表现好过只记录事实或只记录技巧的单轨方案。
说到底,环境认知和行动策略各管一摊。单有FACT,智能体或许清楚环境有哪些约束,却拿不出合适的行动方法;单有TIP,智能体或许掌握操作技巧,却判断不准这些技巧在什么条件下才成立。两者合到一起,才能同时回答「环境是什么样」和「在当前条件下应该怎么做」。
所以双轨设计不是把经验库简单切成两半,它让不同类型的知识按各自的语义和适用条件去归纳、验证、复用。
从跨模型、跨任务到真实世界评测,这批实验结果一方面验证了TTSE双轨经验机制的有效性,另一方面也显示出RSI在经验学习层面的应用潜力:不改模型参数,Agent也能靠持续积累、验证和更新任务经验,让后续任务表现一点点变好。
这也给TTSE从研究框架走向实际办公智能体产品提供了实证依据。
TTSE双轨自演进落地WorkSwarm
TTSE的有效性不只在论文实验里得到验证,它已经正式落地到openJiuwen的WorkSwarm蜂群办公智能体。
想亲自体验TTSE,装好WorkSwarm 0.2.7及以上版本并启动,在设置里打开TTSE自演进开关,就能感受经验积累与复用带来的效率提升。
下面用两个真实办公任务,看看TTSE怎么让Agent在实际执行中跑得更快、更省力。
TTSE走进真实办公场景,让经验成为效率
日常办公里,Agent已经广泛用于数据清洗与分析、文档编辑与整理、报表生成、信息提取及格式转换等任务。可一旦碰上不同的文件结构、数据格式和业务要求,Agent往往要反复摸索环境、试错工具调用,再重新找一遍任务的执行路径。
为直观呈现TTSE的实际效果,团队挑了Excel数据清洗、文档与表格整理两个典型办公场景,对比Agent首次执行与注入经验之后的差别。
结果显示,两个场景都取得了不同程度的效率提升:
这些提升不是模型能力变了,而是在所展示的对比任务中,Agent能借助历史执行经验更快认清环境约束,并挑出合适的处理方式。
那么TTSE到底沉淀了哪些经验,又是怎么帮Agent少走弯路的?
案例一:Excel数据清洗——减少数据识别与处理试错
这类任务难的不只是清洗数据。定位输入文件、识别隐藏的数据格式问题、确定符合业务要求的去重规则,同样都是坎。
首次执行时,Agent手头没有可复用的任务经验,只能自己去找输入文件位置、判断数据格式、推导重复记录的处理规则。整个过程中工具调用共57次,其中3次失败,总耗时6分22秒。
任务一结束,TTSE便从真实执行轨迹里提取可复用的任务经验。这些经验已不只是对以往操作的记录,而成了能直接左右下一次执行的决策依据:
- 迅速找到输入素材。用户没讲明文件放在哪儿时,先查workspace/input,直接找上游文件,省得在无关的任务目录里来回摸索,也免去不必要的用户追问。
- 把数据问题看透。Excel里的日期、金额、文本看着正常,也要用openpyxl直接查原始存储值,揪出文本型日期、货币符号、尾随空格这类隐蔽毛病,减少读取方式不当造成的遗漏。
- 去重规则经过验证,直接拿来用。按业务字段分组,保留最早日期记录,同时记下删除数量,不必从头推导去重口径,重复判断和试错都少了。
再遇到相似任务,这些经验会直接参与工具选择和处理决策。工具调用降到20次,失败调用降到1次,总耗时缩短到1分48秒。
案例二:文档与表格整理——少走文件探索和格式试错的弯路
这类任务跟Excel数据清洗不一样,难点主要在文件位置不明、CSV编码与分隔符不清楚,Word模板结构也复杂。首次执行时,Agent得一步步找文件、认格式,再确定合适的模板处理方式。
在文档与表格整理这项任务上,Agent 第一次跑完用了 1分49秒,期间调用工具 27 次,有 2 次没成功。任务结束后,TTSE 从真实执行轨迹里整理出一批环境事实和操作技巧。
第二次执行时,Agent不用再从零翻文件目录、试探CSV怎么读,也不必等文档生成后才发现模板替换有问题。它可以直接复用已验证的环境经验,提前挑好工具和处理路径。
第二次执行耗时降到1分26秒,工具调用减至18次,失败次数减至1次。整体耗时缩短约21.1%,工具调用减少33.3%,失败调用减少50%。
跟单纯记住过去执行过哪些操作相比,TTSE走得更远:它让Agent一边积累对环境的认识,一边积累在特定条件下有效的执行方法。
经验攒下来,能力要提升,关键在能不能正确复用。
两个办公案例说明了TTSE在实际任务中的用处:Agent不必每次都从零摸索,可以把历史任务中验证有效的经验,变成后续执行的参考依据。
这正是RSI想实现的持续改进方式:每次任务执行不光产出交付成果,也有机会给下一次执行攒下有效经验。TTSE则靠FACT与TIP的双轨机制,让这种积累更可验证、可更新、可复用。
不过,这些收益是只在特定任务里成立,还是能在更广的办公任务中体现出来?
TTSE在办公基准中的综合收益
为评估TTSE在综合办公场景中的表现,团队在业界开源榜单WorkBuddy Office Bench上测试了WorkSwarm接入TTSE后的效果。
任务表现有提升,Token消耗与工具调用开销也降了下来:评测结果显示,相较原生效果,任务表现提升3.81%,输入Token消耗降低1.70%,输出Token消耗降低30.09%,平均工具调用次数减少2次。
写在最后
Agent正从「一次性工具」走向「持续进化伙伴」,我们处在这样一个拐点上。
RSI的核心价值在于让Agent从每一次真实执行中获得反馈、积累经验,并把这些经验转化为持续改进的能力,而不只是让它完成更多任务。
从Harness与Artifacts的双维度优化,到TTSE对环境事实与执行技巧的双轨演进,openJiuwen正在摸索让智能体持续自我改进的不同路径:既能优化工作方法与交付成果,也能不断校正环境认知、沉淀可靠经验。
这些经验怎么自我演进?TTSE 给出的办法可以验证,也能追溯。靠着它,Agent 学到的不只是“怎么做”,还弄明白了“在什么环境下这么做才管用”,并且随着一次次任务执行不断把自身补全。
经验不该是过眼云烟。让Agent既学会「怎么做」,更学会「世界是什么样」,这是它走向长期自主的第一课。
学术论文:TTSE: A Two-Track Online Self-Evolution Framework for LLM Agents 论文原文: https://arxiv.org/pdf/2609.24289
TTSE 双轨演进 Rail 已随 WorkSwarm 0.2.8 版本上线。想试的用户去官网就能一键下载,直接开始经验自演进,上手体验。
WorkSwarm 体验入口: https://openjiuwen.com/workswarm GitHub 代码仓: https://github.com/openJiuwen-ai/ AtomGit 代码仓: https://atomgit.com/openJiuwen/
如果你也在做 Agent、LLM 自演进、记忆与技能系统相关的工作,不妨在评论区说说你的做法。
对 Agent 来说,最该「记住」的究竟是一个技巧,还是一条关于环境的规律?
*本文系量子位获授权刊载,观点仅为原作者所有。