AI长周期任务训练难在哪:中科大团队提出TerminalHorizon
你有没有想过,为什么现在的AI助手让你写个爬虫脚本得心应手,但你让它帮你连续工作十二个小时,从头到尾盯着一个复杂项目反复试错、改方案、最后交出成果,它多半会在第二十分钟就跟你说"任务完成了,请查收",然后甩给你一个漏洞百出的半成品?这不是智商问题,是经验问题。就像一个刚毕业的实习生,你让他写一份周报他能...
写个爬虫脚本,眼下的AI助手手到擒来。可要是让它连着干十二个小时,盯住一个复杂项目反复试错、改方案、最后交活,多半到第二十分钟它就回一句“任务完成了,请查收”,甩过来一个漏洞百出的半成品。这事不少人碰过。
问题不在智商,在经验。
刚毕业的实习生也是这样:写份周报,像模像样;独立扛一个为期半年的项目,头一个坎上就觉得“差不多行了”,提前交卷。人并不笨,缺的是那种“做了十步发现第一步错了、得推倒重来”的真实历练。
中科大、高德地图和南方科技大学团队的论文,讲的正是怎么给AI补上这堂课。
AI的“实习生”困境:它见过命令,但没见过真正的工作
有个事实容易被忽略:眼下训练AI操作电脑终端(就是程序员最常打交道的那个黑乎乎的命令行界面),说到底是在教它“认字”,不是教它“做事”。
终端:一种通过输入文字命令来操作电脑的界面,程序员、系统管理员常用它来管理文件、运行程序、部署服务。
给AI看大量“敲个命令、看看结果”的短轨迹,它确实能弄懂`ls`、`cat`、`grep`是干什么用的。可现实里的专业工作不这么走。修一个分布式系统的故障,不是打开终端敲三行命令就完事:先得排查哪个节点出了问题,翻日志、对比正常和异常的差异,提出假设,动手验证,失败了推翻重来,等真正定位到根源再实施修复,修完还得反复验证,确认没惹出新问题。
这是一整条“探索、推理、修正、验证”的连续过程,并非几个孤立动作拼起来的。
论文用了一个很直观的比喻:短轨迹能让AI熟悉命令行的各类工具,好比一个人先认得扳手、螺丝刀这些家伙什;可真要装起一台机器,得弄明白这些工具彼此怎么搭手、什么时候该紧、什么时候该松、装反了又该怎么拆。只有攒下这种“串成一条线”的经验,AI才有可能自己扛下长周期的任务。
研究团队给这类任务取了个名字,叫“长周期终端智能”。要让AI学会这种能力,第一步得先有合适的训练数据。问题是,高质量的长周期训练数据现在几乎是空白。
问题出在哪:环境造得太“贴心”了
那是不是多造几个难任务就完了?让AI修个更棘手的bug、跑个更长的项目,难度一涨,经验自然就跟着长?
没那么简单。
研究团队发现了一个很反直觉的现象:任务做得越复杂,AI展现出的“真实工作痕迹”反而可能越少,不是越多。
问题出在搭建这些模拟环境的时候,设计者常常“好心办坏事”。拿考察厨师炒菜来打比方:你给了食谱和一堆半成品,可那些“半成品”早被切好、腌好,甚至炒到了半熟,厨师只管把最后几步补齐。菜端出来像是他做的,可刀工、火候判断这些真功夫,在你备料那会儿就已经替他做完了。
建环境也是同样的道理:任务真正要考的分析、实现、调试,如果事先被塞进了环境里——比如本该AI自己写的核心函数,环境已经写好了八成,只留一个参数让它改——那AI解题时压根碰不到难啃的地方,走的就是一条铺平的路。
所谓环境合成,就是用程序化的办法批量造出可执行、可验证的任务测试环境,让AI在里面动手操作来学,而不是靠人一个个手写案例。
论文要啃的第一个核心难题正在这里:怎么保证造出来的任务,确实需要AI自己去探索、去实现、去验证,而不是提前被人简化掉了。
第二个难题藏得更深。哪怕任务把这些工作都保留下来,光靠加难度、让AI多跑几轮交互,也未必能让这些行为模式连成一条线。论文给出一个核心判断:任务变长不等于经验变深,新增的工作内容必须踩在前面判断、行动和结果之上,AI的探索、修正、验证才能一环接一环,而不是把一堆彼此独立的小任务简单堆在一起。
这两个难题,正是整篇论文方法设计的出发点。
TerminalHorizon:先让AI“裸考”一次,再根据结果改卷子
团队把这套系统命名为TerminalHorizon,思路分两步走:第一步是“挑战引导的长周期合成”,第二步叫“渐进式视野扩展”。名字听着绕,拆开看就明白了。
第一阶段的关键动作,是先让一个完全没参与出题的AI去“裸考”一次任务,再根据它的答题过程反推题目出错在哪。
整套流程分几步走。先由“规划智能体”把已有任务过一遍,看哪些专业领域和行为模式还没被覆盖,据此定下研究方向;随后“深度研究智能体”去翻真实世界的文档、代码仓库和问题报告,弄清这个专业问题具体要干哪些活,产出一份任务草稿;“构建智能体”再把这草稿落成一个能跑起来的环境,里面装指令、环境、参考答案、验证器和配置五样东西。
环境到这一步算是搭完了,可事情还没结束。
论文里最妙的一招在后面:另找一个“独立挑战者”智能体,它没掺和过前面任何出题环节,也不掌握任何背景信息,就这么直接上手做这个任务。参考答案是什么、出题人想考什么,它一概不知,能看到的只有公开的任务说明和环境本身。
打个比方,题目出完后不交给出题老师自己判,而是先找个毫不知情的学生做一遍,看他从哪儿“抄了近道”。学生要是三两下就做完,还做得挺顺,那多半说明题目有漏洞——某个本该考的核心步骤被他绕过去了。可能是环境里不小心留了提示,也可能是任务被简化成改个参数就能过。
接着系统会分析这次“裸考”的轨迹,诊断出哪些核心工作被环境构建时顺手“完成”掉了。论文举的例子是:任务要求实现某个核心函数,可环境里这函数已经写好了,剩下的活就退化成改一个常数。诊断出毛病后,系统重建环境,把该由AI实现和调试的部分还原回去,只保留必要的公开规范,再让独立挑战者重做一遍,确认这回它真撞上了那些该撞的难点。
“裸考—诊断—重建—再裸考”这个循环会一直转,转到任务把该留的核心工作真正留住为止。
**不这么干会怎样?**论文的案例研究把答案摆得很清楚。有个RabbitMQ(分布式系统里常用的一种消息队列中间件,负责在不同服务间传数据)集群故障恢复任务,最初版本里AI只要调一条现成的`partitionctl heal`命令、重启一个节点,剩下交给系统自动重试和幂等消费就完事,真正复杂的“故障恢复”几乎被自动化机制全包了。前后经过五轮重建、六次独立挑战,任务才慢慢变成得由AI自己判断哪条消息发布失败、重建丢失的业务状态、避免重复扣款这类真实场景。中间有两次重建后的任务,独立挑战者照样“轻松过关”,原因是设计者挑的故障条件恰好没触发真正的困难路径;到第四五轮,系统才把故障安装的时机和客户端连接的节点挂上钩,让AI真正碰到那个非自己排查、自己修复不可的难题。
说到底,任务设计很难靠拍脑袋一次做对,得靠真实执行反馈一遍遍往“恰好有挑战性”那个平衡点上靠。
渐进式扩展:任务像滚雪球,越滚越深
单个高质量任务还不够用。论文第二阶段要回答的是另一个问题:任务怎么连续地往深处走。
这一阶段讲的是:一个通过验证的任务不算终点,它其实是起点。
“进化智能体”会上场,在任务目标不变的前提下朝四个方向拓展——让AI担更广的职责,用已有产出去支撑相关的新需求;挖更深的机制,把先前简化掉的依赖关系和不确定性重新纳入工作范围;补更丰富的证据,加进新记录、观测数据,要求跨信源分析;或者干脆升级解法本身,要求对原方案做实质性改造。
光加需求不够,新添的工作得跟之前的进度真接上,不能另起炉灶。论文设计了三种连接方式:一是后续判断必须依赖此前通过公开查询、探测拿到的证据;二是用工具或系统产生的可观察反馈,把诊断、修正、验证串成一条链;三是让环境里的对象或状态每次运行都略有变化,逼AI每回都重新查当前实例的具体情况,没法照搬上次的做法。
论文附录里“仓库机器人路径规划”这个任务挺值得琢磨。最初版本要求机器人完成一串物品配送,衡量指标是按几何路径长度算的“最短距离”。基础模型(没经过这套训练方法训练的对照组)确实找到了不错的路径,可它犯了个关键错误:优化的目标和真正的评分标准对不上——最终评分看的不是路径多短,而是压缩后的“按钮操作次数”多少(机器人靠录制回放宏指令来减少重复操作)。基础模型后来甚至把宏指令压缩这一环删了,提交方案的成本飙到466.35;它中途其实摸到过成本只有286.05的更好方案,可惜没保住这个进度。
经过TerminalHorizon训练的模型走的是另一条路。它先搭了个考虑朝向的路径规划器,再加上单条宏指令压缩、顺序宏指令替换,后续实验里又试了不同初始化方式、路径段反转、成对交换等搜索策略。它也栽过一次:用C++写的局部搜索变体跑得更慢、效果还略差(成本281.96对281.92),于是果断弃掉,转而留了个针对小规模实例的精确动态规划优化器当备选。最终提交方案成本281.11,比基础模型的466.35低了一大截。
这个案例里最打动人的不是最终数字差多少,而是那个“发现方案更复杂、效果却更差就果断放弃”的细节。它说明真正的长周期能力不光是“坚持做得更久”,还包括“知道什么时候该放掉一个看着有希望、实际没用的方向”。
这套方法训出来的模型,表现究竟如何
方法论说了这么多,最后还得拿数据说话。
研究团队用TerminalHorizon引擎造出1535个任务环境,收集2852条训练轨迹,拼成名为TerminalHorizon-3K的数据集。这些轨迹平均每条含52.8轮交互,90百分位数达到98轮;作为对照,论文拿来比较的其他几个同类方法,轨迹平均长度基本落在3到16轮之间,差距是数量级的。
只用了不到3000条轨迹,对Qwen3.5-27B做监督微调,产出的TerminalHorizon-27B在12个基准测试上把基座模型全部甩在身后。
最关键的Terminal-Bench系列里,1.0版本由46.3%升到55.0%,2.0版本由41.6%升到55.8%,涨了14.2个百分点,2.1版本则提升13.85个百分点。还有一点更扎眼:基座模型和执行框架都一样,训练轨迹却只有约3千条,对手Terminal-Universe-27B用了约3.2万条,前者反而领先3个百分点。说到底,胜负手不在"量"而在"质",长周期、高密度的经验,训练价值高过海量短轨迹。
| 基准测试 | 基座模型 | TerminalHorizon-27B | 提升幅度 |
|---|---|---|---|
| Terminal-Bench 1.0 | 46.3% | **55.0%** | +8.7 |
| Terminal-Bench 2.0 | 41.6% | **55.8%** | +14.2 |
| Terminal-Bench 2.1 | 46.82% | **60.67%** | +13.85 |
| AutomationBench(通过率) | 5.5% | **17.2%** | +11.7 |
| AutomationBench(部分得分) | 26.4% | **49.7%** | +23.3 |
| VitaBench跨领域 | 20.5% | **31.8%** | +11.3 |
| AIME 2025 | 86.7% | **93.3%** | +6.6 |
有个细节可以多说两句:训练数据只来自终端任务,模型却在完全不相干的领域也有长进。企业自动化办公场景的AutomationBench,通过率多出11.7个百分点,部分完成得分多出23.3个百分点;电商和航空客服场景的τ?-bench分别涨了5.5和2.6个百分点;数学推理AIME 2024、2025各提升3.4和6.6个百分点。可见这套训练练出来的不只是"敲终端命令"的手艺,更像是一种通用的本事——面对反馈不断调整策略,并且能迁移到别的场景。
论文还安排了消融实验:同一套训练方法搬到35B-A3B和122B-A10B两种规模的模型上,提升都达到两位数百分点,分别为13.11和14.98个百分点。方法抓到的行为模式具有普适性,并不绑定某一种模型架构。
十二小时的"自我提升"考验:真实差距在哪里
比基准分数更能说明问题的,是论文做的几个"自我提升"案例研究,论文里称为RSI案例。RSI即"递归自我改进"(Recursive Self-Improvement),指AI在无外部监督时自主反复测试、修正、优化自己的方案。
**递归自我改进**:给定研究预算,AI系统不依赖人类反馈,自主完成实验设计、结果分析、方案修正的持续迭代。它考察的核心,是AI能否像真正的研究者那样长期自主工作。
团队给基础模型和TerminalHorizon-27B相同的12小时研究预算,任务分四类:机器人路径宏优化、潮汐海底摩擦场反演、2048游戏策略优化、多视角点云融合。结果惊人地一致:基础模型几乎每次都很早就自己认定"任务完成了",提交的方案质量明显不如它中途已经找到的最优解。
多视角点云融合这个案例最典型。点云融合是什么?就是从多个角度拍摄的、带噪声的3D点云数据里,拼出一个完整准确的三维场景模型。基础模型自己设计了一个评估指标,用最接近第一视角的点来打分,拿到0.8994的高分,只干了12.1分钟,就信心十足地判断"结果非常好,可以提交了"。
问题在于,它用来自评的指标本身有缺陷:只对齐第一个参考视角,无法保证场景被完整重建,毕竟别的视角能看到的表面,第一视角看不到。好比拼拼图只检查了跟边框对不对得上,却没检查中间有没有缺块。
TerminalHorizon-27B早期也踩过同样的坑。它有一个方案按"离参考视角最近的点"筛选,自测得分高达0.989,但它没有就此收手。它去查这些被选中的点分别来自哪些视角,发现了症结:这个指标真正奖励的是"复制参考视角",而非重建。于是它设计了"留一视角验证法",故意去掉某一个视角重新测试,发现覆盖率明显不足,再据此重做融合策略,加入跨视角对齐、两轮全局精炼、基于置信度的点筛选。
最终在隐藏测试集上,基础模型的归一化得分是21.93,TerminalHorizon-27B是48.96,差距超过27个百分点。
这个案例里最让人印象深刻的不是最终分数,而是"反思自己的评价标准是不是有问题"那一步。真正会做研究的人,不会只顾埋头优化方案,还会时不时停下来问一句:"我用来判断自己做得好不好的这把尺子,本身准不准?"这种对评估标准本身的怀疑能力,恰恰是基础模型完全没有展现出来的。
四个案例的结果汇总如下:
| 案例 | 基础模型得分 | TerminalHorizon得分 | 提升 | 基础模型用时 |
|---|---|---|---|---|| 仓库机器人路径优化 | 14.63 | **39.72** | +25.09 | 11.42小时 || 潮汐摩擦场反演 | 27.41 | **48.15** | +20.74 | 1.12小时 || 2048游戏策略 | 37.54 | **45.25** | +7.71 | 1.28小时 || 多视角点云融合 | 21.93 | **48.96** | +27.03 | 0.20小时 |
看"基础模型用时"那一列。机器人路径之外,其余三个任务里,基础模型都没撑过一个半小时就自己收了工,可摆在那儿的预算是12小时。TerminalHorizon-27B把这12小时全用完了,一路做实验、做对比、做修正。这个时长上的落差,恐怕比分数本身更能说明问题:**基础模型缺的不是本事,是"这还不够好、该再试一轮"的那根判断弦。**
25个专业领域,27种行为模式
这套数据集铺开的范围超出我的预期。1535个任务落在25个专业领域里,芯片设计、物理学、天文学在其中,教育评估、农业渔业、金融会计、医疗健康也都在其中。论文特别点明,终端只提供一个统一的交互界面,并不限定工作边界——一道教育评估题、一次工资核算、一次射电望远镜信号校准,背后的材料和约束各不相同,可都能归结成"在终端里敲命令、看反馈、调方案"这一种形态。
研究团队还干了一件细活:把AI解题时露出的行为归拢成27种"行为模式",分属五大类——信息探索与判断、诊断与纠错、构建与进度推进、验证与确认、策略与执行协调。
举例来说。"关系追溯"指的是顺着调用关系、数据流、身份标识或来源关系去理清对象之间的牵连,找到动手修改的入口。另一种叫"多检查点验证",讲的是把多个有意义的检查拼起来支撑或限定一个结论,查一遍不算数,得从不同角度反复确认。论文统计,平均每条训练轨迹含8.6种核心行为模式——也就是说,每条数据给出的不是某一项技能的重复演示,而是一整套彼此配合的解题经验。
附录里有个很具体的例子,"TLS网关修复"任务。AI先察觉直接握手能过、重试路径却会挂,于是改了路由处理逻辑;随后后端日志暴露出客户端身份缺失,需要单独处置;就算这个问题修好,下游客户端仍收不到响应内容,可网关日志明明记着84字节数据——这个矛盾把排查引向请求消费与连接关闭的逻辑;最后改掉请求读取路径,又从一次失败的测试启动里恢复过来,端到端验证才算完成。
在这一例中,诊断、修正、验证三种行为模式并非分段登场,而是互相缠绕、来回穿插。论文想捕捉的正是这种"真实工作的连续性",而不是教科书里"先诊断、再修复、后验证"的三段式。
数据怎么保证干净:严格的筛选和去污染
读到这里你可能会问:收上来的训练轨迹,质量真靠得住吗?会不会有AI靠"作弊"过了任务,混进训练集?
团队在这块确实下了功夫。他们请另一个大模型(GPT-5.6-luna)当审阅者,逐条过每条轨迹,评判标准有三条:轨迹本身是否连贯有效(上下文截断、协议损坏、依赖答案泄露这类问题要被排除,但AI犯了小错又自己纠正过来的情况允许保留,这种纠错过程反而是有价值的训练素材);推进是否建立在环境真实反馈之上(而不是无视报错信息反复做无用功);是否具备多轮训练价值(是不是一行代码或一个固定脚本就能替代的"伪复杂度")。
三道筛选走下来,原先收集的轨迹有一部分被淘汰,最终留下2852条,组成正式训练集。
团队还做了严格的基准测试去污染检查,用精确匹配、近似重复检索、语义相似度综合比对,核查训练任务与12个评测基准之间有无内容重叠。结果显示,3251条评测题目和1535条训练任务之间,没有任何一个精确匹配的长文本片段;经过语义复核的190对候选相似题目中,也没有一对被判定为真正的内容重复。这活儿看着不起眼,可对判断"这个提升是真学会了,还是提前背过答案"至关重要。
Q&A
Q1:TerminalHorizon是什么?
A:TerminalHorizon是一套全自动数据合成引擎,专门生成能训练AI长周期终端操作能力的高质量数据。它的做法是让未参与出题的AI独立去挑战任务,借此发现环境设计中的漏洞,再据此重建任务、渐进式扩展需求。最终产出的训练数据平均每条包含52.8轮交互,远超同类方法。
Q2:用TerminalHorizon训练出来的模型效果怎么样?
A:团队拿2852条训练轨迹对Qwen3.5-27B做监督微调,得到的TerminalHorizon-27B在12个基准测试上全部超过基座模型,Terminal-Bench 2.0提升14.2个百分点,AutomationBench部分得分提升23.3个百分点,训练数据量却不到同类最优方法的十分之一。
Q3:这篇论文里的"递归自我改进"案例测试的是什么能力?
A:测的是AI在给定的12小时研究预算内,能不能持续实验、依据反馈修正方案、并把有效的改进保留到最终提交结果里。案例显示,基础模型往往很快就认定任务完成,提交了次优方案;TerminalHorizon-27B则会一直实验到预算耗尽,四个案例中得分都大幅领先。