Adobe与UCLA提出TEV：给AI智能体一张过程分数单，破解长任务训练难题

不妨先设想一场考试：老师全程不给任何提示，只在交卷那一刻告诉你对错，你心里会不会发慌？

再极端些，假如这场考试要持续一整天，中间步骤数不清，随便哪一步走偏都可能满盘皆输，而你自始至终不知道自己是否走在正路上，这种滋味是不是更难熬？

眼下AI智能体处理长任务时，遇到的恰恰就是这种局面。

**长任务**

所谓长任务，是指AI得连续干上几小时乃至几天才能收尾的复杂活儿，例如攻克数学或科研难题、开展自动化机器学习研究、修复庞杂的代码系统。

这类任务被视作通往"自动化发现"与"模型自我迭代改进"的关键一环。听上去很美，可现实是开源模型在这方面的表现普遍很差。毛病不在模型笨，而在于没人能喂给它合适的训练数据，也没人摸索出一套真正管用的训练办法。

Adobe Research与加州大学洛杉矶分校合作的这篇论文，瞄准的正是这两个问题。

### 长任务训练数据为什么这么难搞

先看头一个难题：数据打哪儿来。

你或许觉得这不算事，网上现成的代码数据集不是一抓一大把？没错，SWE-Smith、TMAX、CLI-Gym这类数据集，动辄几万乃至十几万条训练样本，数字确实唬人。

可症结藏在"长度"上。这些数据集里每条任务平均两分钟左右就能跑完，说白了就是修个小bug，或者在终端敲几条命令。拿论文里的数字来讲，SWE-Smith任务平均耗时2.4分钟，TMAX为2.1分钟，Endless Terminals仅需0.7分钟。

至于那些真需要长时间打磨的任务，像解一道数学难题、完整复现一次机器学习研究，只散落在少数由人类专家手工编写的评测基准中，Agents' Last Exam便是一例。这类基准往往只收录几十到几百道题，每道题都要专家花几周去设计与验证；而且它们生来是用于"考试"的，不是拿来"陪练"的——只给出终点的对错判断，不会告诉AI中途干得如何。

尴尬的局面由此形成：训练数据集又多又短，评测数据集又长又少，中间整段是断开的。谁手里都没有一套既长又多、还能实时打分的训练数据。

这好比一名篮球运动员，想练成能打满48分钟的高强度对抗，可教练手上能给的，要么是上百次三分钟的投篮小游戏，要么是几场正式比赛的录像带；录像带看得到最终比分，却完全看不到每一次传球和跑位是对是错。缺少中间反馈，这名球员永远练不出在长时间高强度对抗中保持专注与正确判断的本事。

### 第二道坎：奖励信号太稀疏，白白浪费训练机会

就算你硬着头皮攒出一批长任务数据，第二个问题立刻冒头：怎么给AI打分。

当前主流的强化学习训练方法叫GRPO。

**GRPO**

GRPO全称Group-Relative Policy Optimization，即组相对策略优化，由DeepSeek团队提出。它的做法是让AI针对同一任务采样生成多条不同的尝试路径（这些尝试称为rollout），再把这一组rollout的得分两两比较，分高的路径得到"奖励"，分低的遭到"惩罚"。

这套方法用在短任务上效果不错，搬到长任务上却彻底卡住。道理不复杂：倘若一组尝试全军覆没、得分全是0，相互比较之后每条路径的"相对优势"也全是0。这组数据对训练毫无贡献，算力就这么白费了。

论文里算过一笔账：假设AI解决某个长任务的成功率只有5%，一组采样8条路径，那么全部失败的概率高达66%。成功率再低些，比如1%，浪费概率会飙到92%。对一个尚未训练的开源模型来说，面对真正的长任务，成功率普遍只有10%甚至更低，绝大多数训练批次就这样被白白扔掉。

这就像教一个刚学做饭的徒弟炒一道十几道工序的大菜：这道菜十次有九次失败，而你只在菜端上桌后才说"这盘不行，重做"，徒弟根本不知道哪一步出了岔子——火候不对、调料下早了，还是刀工有问题。教了一百次，他可能连第一道工序都没学扎实，因为你从未在中间环节给过任何反馈。这个问题不解决，再多的长任务数据堆上去，也只是在重复无效的尝试。

### 核心思路：先造一个"标准答案世界"，再倒着挖出一道题

论文给出的解法名叫latent-world-first synthesis，直译过来是"潜在世界优先的合成方法"。

这套办法在论文里被命名为 latent-world-first synthesis。

它的思路是数据生成先立一个完整且正确的隐藏世界状态，也就是潜在世界，任务本身、输入文件、验证标准都从这个世界里反推出来；而不是先随手编一道题，再去补答案。

听上去有点反着来。做题库一般不都是先出题、再想答案？论文却把顺序掉了个头：先搭好一个完整、正确、自洽的"标准世界"，然后从这个世界里"腐蚀"出一道题。

落地方式，论文拿一个零售仓库ETL任务做了全程演示。这个例子几乎把整套方法的要点都压缩在里面，值得一步步拆开看。

头一步是造出干净完整的"潜在世界"。设想一个虚构的零售仓库：502个客户、52种商品、6210笔交易记录横跨6个月，数据之间的关联关系全部正确、自洽。它就是这个任务的标准答案，而且全程不给AI看。

接着第二步，把这个世界背后的业务流程画成有向无环图，也就是工作流DAG。

DAG 是 Directed Acyclic Graph 的缩写，中文叫有向无环图。

它描述的是任务中各步骤谁先谁后、谁依赖谁，图里不会出现绕一圈又回到起点的循环。

放到零售仓库这个例子里，流程依次是数据源画像、事实核对与维度标准化、加载事实表，最后做聚合校验和打包。任务到底有多"长"、有多"难"，由这张图里最长的那条依赖链决定。

第三步，把标准世界"渲染"成干净的输入文件，CSV、TSV、JSON 等格式都有，能生成十几种文件格式。这一步必须可逆：从渲染出的文件要能完完整整反推回最初那个标准世界，一个字段都不能丢。

第四步最关键，往干净文件里注入"坏"。论文称之为"受控腐蚀"，塞进去的是模式漂移、重复数据、缺失值、分类错乱这类声明过、可逆的缺陷。AI拿到的就是这堆被弄脏的文件，而它看到的输入必须能完整反推出真正的标准答案，评分才能绝对准确，没有猜的余地。

这套流程最妙的地方是：任务描述、输入文件、验证标准，连同后面要讲的进度评分，全都出自同一个标准世界。一个很头疼的问题因此从根子上被堵住，论文里管它叫"artifact drift"（产物漂移）。

所谓产物漂移，指的是任务描述、测试数据和验证程序分属三个独立环节各自生成。

三者单看都没毛病，可描述同一个问题时出现了细微不一致，验证标准就跟任务要求对不上号了。

打个比方，这像一场密室逃脱：出题人先随便编个剧情，另有人单独设计机关道具，再找第三个人写验证规则，三拨人信息没对齐。玩家按剧情逻辑推出了正确答案，机关却怎么都触发不了。这不是玩家的问题，是设计本身出了岔子。latent-world-first 的做法是先有一个完整自洽的"剧本世界"，机关、线索、过关条件全从这个剧本一次性生成，互相对得上是天然保证的。

靠这套流程，研究团队搭出了训练数据集TEV-GYM，覆盖软件工程、数据工程、AI与计算机科学研究、数学与运筹学、网络安全取证、基础设施运维、量子计算七大领域，共1170个经过验证的任务环境。

拿现成的强模型Gemini 3.6 Flash去跑，平均每道题要12.4分钟才做得完，耗时约为此前最费时间数据集的6倍，通过率却只有29%，明显低于其他数据集。可见TEV-GYM里的任务确实是"硬骨头"，不是凑数的水题。

还有个更妙的地方：生成流程本身是自动化的，由代码写死的生成程序完成，不用调大模型去"现场编题"。生成一个环境平均只消耗30秒CPU时间，几乎不花钱。数据因此能持续扩展，不是一锤子买卖。

接下来是把"过程分数"变成训练信号，论文给出的方案叫PPRS。

有了标准世界打底，第二个难题也就顺理成章地解决了：怎么给AI的中间过程打分。

每道题背后都有一个完整正确的标准世界，那么工作流的每个中间阶段，其实都对应一个"正确的中间状态"。论文把这些中间状态提炼成"进度契约"：每个任务拆成若干检查点，检查点各有权重，彼此之间还有先后依赖，比如数据表得先加载完整，才谈得上后面的聚合校验。

各检查点的完成程度按权重加总，得到的分数落在0到1之间，论文称之为进度潜力。

进度潜力是对AI当前工作区状态的实时打分。

它的数值在0到1之间，任务越接近正确答案就越高；一旦把已经做对的部分又改错了，分数也会跟着往下掉。

PPRS是论文给出的答案。这样一套打分机制，具体怎么塞进训练流程里？

**PPRS**

它的全名是Progress-Potential Reward Shaping，中文叫进度潜力奖励塑形。做法说穿了不复杂：把任务最终过没过的奖励，与每一步进度分数的变化量拼在一起，让每个步骤都能收到反馈，而不是憋到任务结束才给一次评分。

写成公式，总奖励由两部分相加构成——任务是否通过的二元判断，加上一个系数与最终进度潜力的乘积。这里藏着一个很讲究的处理：经典的"基于潜力的奖励塑形"理论会把终点的潜力值归零，论文偏偏没有这么做。

原因在于，一旦归零，那批全军覆没的rollout又会拿到一模一样的奖励，前面提到的"整个训练批次白费"的老毛病就会重演。留下终点潜力值，正是要让失败的尝试之间也拉开差距：谁离正确答案更近，谁就该多拿一点奖励，哪怕没有一个人真正做完。

论文给了一组很能说明问题的实验画面：同一个任务交给训练好的27B模型跑8次，没有一次成功提交最终答案。按传统终点奖励算，这8次全是0分，训练信号归零。换成进度潜力来看，情况完全不同——两次交出了不完整的仓库，五次把上下文窗口耗光被迫中断，还有一次其实整个仓库都搭好了，只差没点提交。这最后一次的进度潜力直接冲到1.0，与其余几次拉开明显落差，训练信号也就有了。

打个比方，一群学生参加一场不写完就不算数的大考。老师若只公布"写完"和"没写完"，那七个没写完卷子的学生看上去毫无区别，统统零分。可老师要是肯翻一眼草稿纸，就会发现有人刚开了个头，有人写了大半，还有一个人其实题目全解出来了，只是最后忘了把答案誊到答题卡上。不看草稿纸，这些差别永远被埋掉；肯看，才谈得上因材施教。

当然，AI也可能"作弊"骗过这套进度打分。论文为此立了一道很严的质量关卡：想进这个数据集，得连过八道门槛。

其中一条要求进度分数具备"因果性"——故意破坏某个检查点所依赖的东西，分数必须跟着往下掉，不能出现乱改一通分数却纹丝不动的漏洞。另一条要求设计者预先准备14种常见的"投机取巧"策略来攻击打分系统，交空文件、硬编码一个看着像答案的数值之类，这些招数必须一律得零分。还有一条：打分代码、判定通过与否的代码、生成标准答案的代码，三拨人必须各自独立开发，彼此不调用，免得一个环节的隐藏漏洞被另一个环节悄悄继承过去。

### 训练结果：开源模型追上了部分顶级闭源模型

方法论讲了一堆，实际效果到底怎样？

研究团队拿这套数据和PPRS训练方法，做出了两个版本的模型。一个是27B参数规模的TEV-27B，底座是Qwen3.8-27B；另一个是9B参数规模的TEV-9B，底座是Qwen3.5-9B。

在Agents' Last Exam的计算与数学科学分支（简称ALE-CM）上，TEV-27B对比基础模型Qwen3.8-27B，最佳五次采样的通过率从0.17升到0.28，涨幅65%，已经追平GPT-6 Astra、Claude Opus 5这些顶级闭源模型。TEV-9B的涨幅更夸张，最佳五次采样通过率提高了83%。

泛化能力更出人意料。训练数据全部集中在计算与数学领域，模型却放到从未见过的Terminal-Bench 3.0和4.0上测，照样有明显提升。TEV-27B在TB 4.0上通过率从0.04升到0.10，翻了2.5倍，超过开源阵营里排名靠前的GLM 5.2；TB 3.0上提升56%。再拿到中等长度任务集TB 2.1上测，TEV-9B零样本通过率提高28%，TEV-27B则达到0.794，与Claude Opus 4.8这一级别的闭源模型基本持平。

换更大的底座模型，这套方法也没掉链子。研究团队把同样的训练配方搬到体量更大的GLM-5.3-Flash上，训出TEV-320B，TB 4.0通过率提升28%，最终成绩只落后Claude Opus 5、Claude Fable 5和GPT-5.6这三个最顶尖的闭源模型，在开源阵营里排第一。

论文还专门设了一组对照实验，想分清功劳到底在数据构造方式还是打分方式。结论是：把latent-world-first流程里的某个环节换成直接让大模型来写——比如验证程序也交给大模型，而不靠隐藏的标准世界——训出来的模型反而不如不训练，S@1指标从0.25掉到0.24。反过来，数据生成方式不动，只把奖励机制换回传统的终点打分，效果同样明显不如PPRS。研究团队还补了一个细节：在27B这个更大规模上，传统的终点稀疏奖励干脆跑不起来，几乎所有训练批次的奖励方差都是零，一步有效优化都做不下去，而带过程分数的PPRS能正常训完。这组对比挺有说服力——两个创新点互相成全，光有标准世界打底不够，还得配上能用好这个标准世界的训练算法。

### 写在后面

读完这篇论文，真正让人记住的不是那些跑分涨了多少个百分点，而是"先造标准答案，再倒推出题目"这个思路本身。

平常说出题，默认都是正向走：先想一个场景，再琢磨答案怎么对。这篇论文掉了个头，先把答案世界搭得严丝合缝，再往回"做旧"出一道题。这种倒推的路子，其实不少领域都有影子——密码学里先设计解密算法再反推加密规则，推理小说里很多作者也是先定好凶手和手法，再倒着给读者铺线索。可把这套思路系统化地用到AI训练数据生成上，还专门冲着"长任务缺中间验证"这个具体痛点去，这个组合讲得这么透，我还是头一回见。

有个细节值得细想。论文披露，开源模型跑TEV-GYM这批高难度任务，原始通过率仅3.2%；顶级闭源模型在同一批任务上，通过率也只有29%左右。换句话说，哪怕是最前沿的闭源模型，碰上这批真正意义上的长任务，能解决的也不到三成。长任务离被彻底攻克还差得远，这篇论文给出的是一套能持续喂养训练的“教材”和“打分系统”，并非终点线。

论文里“可扩展”这个词反复出现。生成一个任务环境只花30秒CPU时间，全程不调用任何大模型。也就是说，只要有人愿意多写生成器代码，这类数据就能无限造下去。这和靠人工、靠大模型现编任务的路子截然不同：前者的成本曲线近乎一条水平线，后者则会随任务复杂度陡峭攀升。这个差异，或许比跑分提升本身更值得关注。

Q&A

Q1：TEV-GYM数据集是什么？

A：TEV-GYM是论文构建的长任务训练数据集，含1170个经过验证的任务环境，覆盖软件工程、数据工程、AI研究、数学运筹、网络安全、基础设施运维、量子计算七大领域。每个任务都附带可实时打分的进度反馈。

Q2：PPRS奖励塑形和传统强化学习奖励有什么区别？

A：传统做法只在任务彻底完成时给一次奖励，全部失败的训练批次因此毫无用处。PPRS则把每一步的进度潜力变化也计入奖励，让没完成任务的尝试之间照样能分出优劣，训练效率随之大幅提高。

Q3：TEV-27B模型效果怎么样？

A：TEV-27B在ALE-CM评测集上最佳五次采样通过率提升65%，追平GPT-6 Astra和Claude Opus 5；在从未训练过的Terminal-Bench系列评测上也有明显泛化提升，训练方法的有效性由此得到验证。