openJiuwen推TTSE双轨自演进:Agent经验学习分环境事实与条件式技巧
让每一次任务,都成为下一次进步的起点
每完成一次任务,都该成为下一轮进步的发端。
允中 发自 凹非寺量子位 | 公众号QbitAI
Agent明明越用越强,怎么还会被环境“绊倒”?
同事拿Agent整理报表,一路顺畅。你换成自己的文件,模型、工具、流程都没动,却开始反复试读、频繁返工。
模型没变,Harness没变,只换了个环境,为什么就不灵了?
文件位置不同、数据格式混杂、模板约束变化,原本有效的方法都可能失效。模型负责推理,Harness负责组织执行流程,但Agent还得自己判断:眼前的环境是什么样,过去的经验还管不管用?
这也点出了Agent持续自我改进中一个常被忽略的问题:Agent不光要从任务里学会“怎么做”,还得判断这些经验在什么环境下依然成立。
在RSI(Recursive Self-Improvement,递归自我改进)的持续优化过程中,Agent能借助任务反馈改进执行方法、积累可复用经验。可一旦对环境的认知没同步更新,过去有效的经验反而可能变成新的障碍:接口条件变了,还在重试旧调用;数据格式变了,还在沿用旧规则。
一次失败,到底该改方法,还是该纠正对环境的认识?
Agent遇到的这道新难题,其实藏着认知科学里的老线索。
认知科学对知识结构的研究,为区分这两类问题提供了启发:
1983年,认知科学家John R. Anderson在ACT-R相关理论研究中,系统讨论了人类知识中的两类重要形式:
- 陈述性知识(Declarative Knowledge):描述“世界是什么样的”。例如,关闭的容器会遮挡内部物体,打开后才能观察。
- 程序性知识(Procedural Knowledge):讲的是“该怎么做”。比如要找好几个同类东西,碰到第一个不算完,还得接着翻别的地方有没有。
之后,Larry Squire等研究者从神经心理学上确认,这种分离有生物学基础——两类知识由不同脑区负责,学习速率和提取方式都不同。
落到Agent身上,这个角度就能看出:摸清环境和学会做法彼此牵连,但验证和更新的路子并不一样。环境判断得对照现场实际情况去核实,行动方法则要看在对应条件下管不管用。两者混在一起,麻烦就来了——要么把碰巧奏效的操作误当成稳定规律,要么环境已经变了还在照搬那套失灵的办法。
顺着这条思路,openJiuwen在RSI方向的持续探索中进一步提出TTSE(Two-Track Self-Evolution,双轨自演进)。
在此前发布的双维度RSI框架介绍中,openJiuwen已通过Harness+Artifacts双维度优化,让Agent能够基于真实任务反馈,持续改进工作方法与交付成果。TTSE则进一步聚焦经验本身的可靠性与可复用性:既让Agent积累有效的执行方法,也持续校正对环境的认识,避免经验在环境变化后失效。
为此,TTSE借鉴认知科学对陈述性知识与程序性知识的区分,把任务中获得的经验分成两条轨道:
- FACT(环境事实):持续核对和更新“这个环境是什么样的”。
- TIP(条件式技巧):持续改进“在这些条件下应该怎么做”。
TTSE双轨框架:搭建反馈驱动的经验自演进闭环
分清经验的类型,只是第一步。怎么让Agent从任务反馈中持续学习,并把有效经验转化为下一轮执行的改进?
RSI的核心思路正在于此:让真实任务反馈推动改进,改进后的结果又在后续执行中反复验证、持续优化。TTSE把这条路子落到了经验管理上——任务分批跑,已有经验不断接受新证据的检验,哪些该留、哪些要改、哪些该退,逐一判定后再拿更新过的经验去跑下一轮任务。
整个框架分成四块:双轨知识表示、冷启动、在线增量演进、最终输出与评估。结构如下图:

第一块是双轨知识表示,目的是让环境事实和执行方法各自都有依据。FACT管的是环境本身的属性与规律,讲究能直接验证,也讲究在适用场景下跨任务保持稳定;TIP管的是特定任务条件下的做法,写成“在什么条件下,执行什么操作”的形式。
两类知识各有一套独立编号、呈现方式和证据追踪机制。每条经验因此都能单独引用、核对、更新。执行出了问题,也能顺着追到究竟是哪条事实判断或哪条操作建议起了作用。
分类怎么定?框架看经验描述的主体是什么、起什么作用来判断(具体分类依据mechanism展开)。碰上拿不准的内容,默认扔进TIP,免得没经过充分验证的操作经验被当成环境事实。
第二块是冷启动,从首批任务里归纳出初始经验。
TTSE的起点是空规则库。Agent先跑首批任务(chunk 0),再依据执行轨迹分别归纳FACT和TIP,初始双轨经验库就此建起来。
这个阶段以归纳为主。因为还没有历史规则参与执行,旧规则的归责和退役都不做,重点是为后面的演进攒下第一批有任务证据支撑的经验。
第三块是在线增量演进,在新任务里检验并修正已有经验。
后续任务按批次往下推。每一轮,Agent先加载上一轮的FACT和TIP,带着这些经验去执行当前批次,然后根据执行轨迹和评估结果,依次走完四个环节:
- 归因(Blame):翻失败轨迹,找出可能把执行带偏的规则,为经验修正锁定对象。
- 退役(Retire):把被归责的规则挪进退役池,原因、批次、时间等记录一并留下,整个调整过程可追溯。
- 矛盾分析与合成(Contradict / Synthesize):查退役规则之间的矛盾,试着找出其中藏着的适用条件,把看似冲突的经验合成条件写得更清楚的TIP。
- 归纳(Induce):拿成功轨迹和失败轨迹做对比,或者直接从成功轨迹里提炼有效经验,通过新增、修订、确认、移除这些操作更新双轨经验库。
Blame→Retire→Contradict/Synthesize→Induce这套流程在多个任务批次之间循环跑,经验因此持续接受新证据的检验:对环境的认识在更新,相应条件下的执行方法也在调整。
第四块是最终输出与评估,看经验演进到底带来多少实际收益。
多轮增量演进之后,框架输出最终的FACT与TIP经验库,再放到测试任务里评估它对准确率或任务表现的影响。
这套机制的核心,是让环境事实与执行方法分开沉淀、各自可追溯,并在持续执行中接受检验和修正。Agent每跑完一批任务,新的交互证据就能转成下一轮可用的经验,从环境交互到知识更新、再到行动改进,一步步走成闭环。
“但一个关键问题仍待回答:将环境事实与行动技巧分开演进,是否真的比传统的单轨经验管理更有效?”
从机制到实证:五大基准检验TTSE双轨自演进的有效性。
TTSE的方法论和实验结果,已在论文A Two-Track Online Self-Evolution Framework for LLM Agents中展开研究。
双轨经验机制是否真有效?研究团队选了ALFWorld、ScienceWorld、GDPevo、SOPBench和PinchBench五个基准做评测,每项实验独立重复三次,用来看实际收益和运行稳定性。

五大基准给出的增益分布在多个维度上。
- ALFWorld上,成功率最高冲到98.51%。GLM-5上TTSE拿到98.51%;DeepSeek-V3.2上为97.8%,比此前最优方法GraSP的83.6%高出14.2个百分点,任务执行步数同时也降了下来。
- ScienceWorld的任务表现同样明显上扬:MACRO Reward由0.7204升到0.8534,Native Success从53.08%提高到73.46%,涨了20.38个百分点。
- GDPevo的结论是双轨强于单轨。完整FACT+TIP方案平均得分0.2616,接近零样本基线0.0947的2.8倍。只上TIP或者只上FACT,都没能达到完整双轨方案的水平,环境事实与行动技巧放在一起管的价值由此得到验证。
- SOPBench在与贝叶斯技能管理结合后继续往上走:总体成功率从基线79.15%先升到单轨方案的91.59%,再达到双轨融合方案的94.58%,比单轨方案又多出2.99个百分点。
- PinchBench检验的是真实世界任务中的稳定性。TTSE以非侵入方式接入OpenClaw,在147个真实端到端任务上独立跑了三次。双轨方案平均得分由0.7439升至0.7822,增加3.83个百分点;三次运行的增益方向一致,运行极差则从3.33个百分点收窄到1.61个百分点。
上述结果横跨具身交互、科学推理、企业运营、工业流程以及真实世界端到端任务,说明TTSE的作用并不限定在某个模型或某一类场景里。
那为什么非得双轨不可?消融实验给出了回答。
GDPevo的消融实验证据更直接:完整双轨方案压过只记事实或只记技巧的单轨方案。
差别来自分工。环境认知和行动策略各管一摊:只保留FACT,智能体或许清楚环境有哪些约束,却拿不出合适的行动办法;只保留TIP,智能体可能握着一堆操作技巧,却判断不准这些技巧在什么条件下才成立。两者合到一起,才能同时回答「环境是什么样」和「在当前条件下应该怎么做」。
所以双轨设计不是把经验库简单切成两半,而是让不同类别的知识按各自的语义和适用条件去归纳、验证、复用。
从跨模型、跨任务一直到真实世界评测,这些实验既验证了TTSE双轨经验机制有效,也让人看到RSI在经验学习层面的应用空间:不改动模型参数,Agent靠持续积累、验证和更新任务经验,就能让后续任务的表现一点点变好。
这也给TTSE从研究框架走向实际办公智能体产品添了实证依据。
TTSE双轨自演进落地WorkSwarm
论文实验之外,TTSE已经在openJiuwen的WorkSwarm蜂群办公智能体上正式落地。
想自己试一把,装好并启动WorkSwarm 0.2.7及以上版本,到设置里打开TTSE自演进开关,就能感受经验积累与复用带来的效率变化。

下面用两个真实办公任务,看TTSE怎么让Agent在实际执行中跑得更快、更省事。
TTSE走进真实办公场景,让经验成为效率
日常办公里,Agent早就用在了数据清洗与分析、文档编辑与整理、报表生成、信息提取及格式转换这些事上。可文件结构、数据格式、业务要求一换,Agent常常得重新摸环境、反复试工具调用、再把执行路径摸索一遍。
团队挑了两个典型办公场景——Excel数据清洗、文档与表格整理——对比Agent首次执行和注入经验之后的表现,想让效果看得更直观。
结果显示,两个场景的效率都有不同程度的提升:

这些提升跟模型能力无关,在展示的对比任务里,是Agent借历史执行经验更快认清了环境约束、选对了处理方式。
那TTSE到底沉淀了哪些经验,又是怎么帮Agent少走弯路的?
案例一:Excel数据清洗——减少数据识别与处理试错
这类任务难的地方不止清洗本身:输入文件要先找到,藏起来的数据格式问题要识别出来,还得定出符合业务要求的去重规则。
第一次跑的时候,Agent手里没有现成经验可用,只能自己摸索输入文件放在哪、判断数据是什么格式,再推导重复记录该怎么处理。这一趟下来工具调用共57次,其中3次失败,总耗时6分22秒。
任务跑完,TTSE会从真实执行轨迹里提炼出能复用的任务经验。这些经验不只是把过去操作记下来,而是能直接左右下一次执行怎么决策:
- 快速找到输入素材。用户没讲清文件位置时,先看workspace/input,直接去找上游文件,别在无关的任务目录里来回翻,也免掉不必要的追问。
- 把数据问题往深里查。Excel里的日期、金额、文本看着正常,也要用openpyxl去读原始存储值,把文本型日期、货币符号、尾随空格这类藏起来的问题揪出来,免得读取方式不对造成遗漏。
- 去重规则直接复用验证过的版本。按业务字段分组,保留最早日期的记录,删除数量也记下来,不用从头再推导一遍去重口径,少做重复判断和试错。
再碰到相似任务,这些经验会直接参与选工具和做处理决策。工具调用降到20次,失败调用降到1次,总耗时缩到1分48秒。
案例二:文档与表格整理,少走文件探索和格式试错的弯路
这类任务和Excel数据清洗不一样,难点主要在文件位置不清楚、CSV编码与分隔符不明确,Word模板结构又复杂。首次执行时,Agent得一步步找文件、认格式,再定下模板该怎么处理。
文档与表格整理任务里,Agent首次执行耗时1分49秒,工具调用27次,其中2次失败。任务完成后,TTSE从真实执行轨迹中沉淀出一组环境事实与操作技巧。
第二次执行,Agent不用再从零翻文件目录、试探CSV怎么读,也不用等文档生成后才发现模板替换出了问题。已验证的环境经验可以直接拿来用,提前挑更合适的工具和处理路径。
第二次执行耗时缩到1分26秒,工具调用降到18次,失败次数降到1次。整体耗时缩短约21.1%,工具调用减少33.3%,失败调用减少50%。
和单纯记住过去做过哪些操作相比,TTSE多走了一步:让Agent一边积累对环境的认识,一边积累在特定条件下管用的执行方法。
经验攒下来能不能变成能力,关键看复用得对不对。
两个办公案例说明了TTSE在实际任务里的用处:Agent不用每次都从零摸索,历史任务中验证有效的经验可以拿来当后续执行的参考。
这也正是RSI想实现的持续改进方式:每次任务执行不光产出交付成果,还能给下一次执行攒下有效经验。TTSE靠FACT与TIP的双轨机制,让这种积累更可验证、可更新、可复用。
不过,这些收益是只在特定任务里成立,还是能在更广的办公任务中同样体现?
TTSE在办公基准中展现综合收益
为了进一步看TTSE在综合办公场景中的表现,团队在业界开源榜单WorkBuddy Office Bench上测试了WorkSwarm接入TTSE后的效果。
任务表现有提升,Token消耗和工具调用开销也降了下来:评测结果显示,相较原生效果,任务表现提升3.81%,输入Token消耗降低1.70%,输出Token消耗降低30.09%,平均工具调用次数减少2次。

写在最后
Agent正从「一次性工具」走向「持续进化伙伴」,我们正站在这道拐点上。
RSI的核心价值不光是让Agent多完成任务,而是让它从每一次真实执行中拿到反馈、攒下经验,再把这些经验变成持续改进的能力。
从Harness与Artifacts两个维度的优化,到TTSE对环境事实与执行技巧的双轨演进,openJiuwen在试不同的路子让智能体持续自我改进:既能改工作方法、改交付成果,也能不断校正对环境的认知、沉淀可靠经验。
TTSE给其中的经验自演进提供了一套可验证、可追溯的机制。Agent因此不光学会“怎么做”,还能弄明白“在什么环境下这样做才有效”,并在一次次任务执行中把自身打磨得更好。
经验不该是过眼云烟。让Agent既学会「怎么做」,更学会「世界是什么样」,这是它走向长期自主的第一课。
这一框架的学术版本名为 TTSE: A Two-Track Online Self-Evolution Framework for LLM Agents,论文原文可从 https://arxiv.org/pdf/2609.24289 获取。
目前,TTSE 双轨演进 Rail 已经随 WorkSwarm 0.2.8 版本上线。想试的用户去官网就能一键下载,直接上手体验经验自演进。
WorkSwarm 体验入口:https://openjiuwen.com/workswarm;GitHub 代码仓:https://github.com/openJiuwen-ai/;AtomGit 代码仓:https://atomgit.com/openJiuwen/
正在做 Agent、LLM 自演进、记忆与技能系统的同行,也欢迎到评论区交流。
换个问法:Agent 最该「记住」的,究竟是一个技巧,还是一条关于环境的规律?
*本文系量子位获授权刊载,观点仅为原作者所有。