清华团队提出AEI框架:具身智能如何走向任务级自主
以智能体视角,清华首发具身智能综述:从端到端策略到自主系统
新智元报道
新智元报道

语言理解、视觉感知和动作生成正被纳入同一个学习框架,多模态基础模型不断拓宽机器人的能力边界,能做的任务也越来越多。
可一旦把研究放到开放环境和长期部署里,问题就变了:这些能力该怎么拼成一个能持续自主运转的系统?
真实世界一直在变,物体会挪位置,接触可能失败,任务条件也会在执行途中改掉。机器人得在信息不全时拿主意,做完再验证结果,跑偏了就调策略,还要把靠得住的经验留到下一次交互用。任务拖得越久,这种把感知、决策和行动串起来的组织能力就越关键。
针对这一变化,清华大学团队换了个角度,以智能体视角重新梳理具身智能研究,把模型能力、计算基础设施、安全、数据与评测摆进同一张系统图里,探讨走向更高自主性的技术路线和还没解决的问题。
项目链接:https://agenticei.github.io/AEI-Survey-page/
这条演进主线,说到底就是智能行为怎么靠身体与环境的交互长出来。早先靠反馈控制,后来用模仿学习和强化学习获取技能,再往后是深度视觉运动策略,能学、能做的行为范围一步步扩大。多模态基础模型又补上了跨任务的语义理解和知识迁移,通用机器人策略由此被推着往前走。
论文首图|回顾了从反馈控制、技能学习、深度视觉运动策略,到通用机器人策略与 Agentic Embodiment 的发展脉络。
沿着这个思路,Agentic Embodied Intelligence(AEI)把问题推到任务级的自主组织:系统要读懂目标,主动去补信息,排好子任务,调用技能,再根据物理反馈决定接着做、重试、重新规划还是求助。
这个视角也给不同技术路线提供了共同的讨论坐标。VLA、世界动作模型和程序化技能组合在闭环里各管一段,值不值得看它们怎么撑起一整个任务。通用策略给出的行为本事越来越丰富,AEI 接着追问的是:这些本事在持续交互中怎样才能被有效组织起来。
综述的 Figure 1 摆出了一个系统级框架:模型管具身理解、规划、行动与反思,基础设施把技能调用和机器人控制接起来,本体在物理或仿真环境里执行动作,新的观察与状态再回传给模型。自主系统的运行核心,正是这个在线交互过程。
论文图1|Agentic Embodied Intelligence 的系统关系。在线交互把模型、基础设施、本体与环境连在一起,数据和评测支撑能力改进,安全与可信要求贯穿整个系统。
围着这个核心,环境不断产生交互经验,数据用来训练模型,评测把能力缺口和失败模式暴露出来,再反过来影响模型与系统的改进方向。安全要求则贯穿模型检查、运行时防护、控制限制和人类监督。
这意味着,面向部署的能力提升得靠多层配合。高层推理要与低层控制共享足够准确的状态,技能接口要能返回执行结果和异常,端侧、边缘和云端的分工得满足时延约束,数据与评测也要覆盖真实运行中冒出来的困难。
单个环节的进步,只有通过这些连接,才能变成整套系统更可靠的行为。
当「自主」被用来描述不同系统时,有个问题绕不开:人类到底还担着哪些活?任务由谁拆解,过程由谁监控,失败后谁来接管,任务完成与否又由谁判断?
综述用 L0—L5 的概念框架来讨论人机责任的变化。L0 是连续遥操作,L1 是辅助技能,L2 是受控任务自主,到 L3 的条件自主,人类逐步从直接控制动作转向监督和按需介入。L4 进一步指向限定领域中的持续任务执行、结果验证与失败恢复,L5 则指向开放世界里的通用自主能力。
论文图2|以人机责任分配刻画自主性层级。L4与L5在综述中被列为研究目标,其实现需要持续运行、恢复能力与边界识别等证据。
这个框架把「能完成什么」和「需要多少人工支持」放在一起考察。机器人能不能识别自身能力边界、在异常情况下安全停下或请求帮助,同样算自主能力的一部分。
对研究来说,它提供了一把分析系统进展的尺子,推动评价从任务覆盖范围延伸到自主完成任务所需承担的责任。
物理交互会改变下一次决策所依赖的条件。环境只能部分观测,机器人依据有限信息行动,行动又会改变环境状态和后续观测。
任务时程一拉长,早期的状态估计误差可能逐步累积,原本可行的计划就失去了执行条件。
综述从智能体视角审视具身智能,把 Agentic Embodied Intelligence(AEI)的模型核心概括为四项相互耦合的功能,考察系统如何利用物理反馈持续修正面向目标的行为。
感知与具身理解把任务意图对应到环境中的实体、空间关系和物理属性上,为决策提供对当前状态及其不确定性的估计。
长程目标怎么拆、候选方案怎么比,推理与规划都靠这些信息来完成;拆出来的子目标,还要写成机器人策略执行得了、系统也验证得了的步骤。碰上观测不够、判断不了行动是否可行的情况,主动去拿信息本身也能算作规划的一环。
动作执行把子目标转化为受本体动力学与安全约束的运动,并返回实际状态变化。
闭环演进利用执行证据比较预期与实际后果,判断偏差出在哪个环节,进而调整动作、修订计划或更新经验。
这四项功能,既可以交给一个统一模型来扛,也能拆到多个模块里分别做。架构不同,卡住的地方却是同一个接口问题:规划需要的信息,感知留没留下来?下一次决策要改,执行又交回了哪些够格的证据?
论文图 3|在线认知闭环。感知为规划提供状态依据,执行产生可观测的物理后果,结果核验驱动后续决策。
单次任务内的恢复与跨任务层面的更新,验证标准并不一样。
落到一次任务里,反思有没有用,要看后续干预的效果——同样的重试预算下,改过的行动方案能不能把执行拉回来。
如果还想说系统攒下了可复用的经验,那就得把当前任务的临时上下文拿掉,换到新任务上看收益。一旦牵涉策略或模型更新,原有能力是否保得住,也得一并评估。
物理交互重置起来代价高,传感反馈又常有歧义,加上仿真和真实部署之间存在差距,失败到底该归因到哪一环,难度不小。
综述据此把更新对象和证据要求对应起来:控制层面的调整,当前回合就能验证;持久记忆和技能更新,需要跨任务的证据;涉及更大范围的系统修改,则要靠独立的版本比较和部署监测。
论文图 7|数字智能体到具身智能体的闭环演进。这两类系统都会拿执行反馈来找出偏差,可验证环境、重置成本、部署条件三方面差别明显。
在线认知闭环讲的是智能体怎么做决策,系统层要回答的则是另一件事:这些决策到了物理环境里,能不能及时执行、安全修正,并留下可以独立检验的证据。
综述由此把计算基础设施、安全机制、交互数据与评测协议放进同一个分析框架。
云边端协同与实时执行。
具身系统身上同时跑着多个时间尺度的闭环。底层控制和动作策略卡着严格的响应时限,长程规划则能用掉更大的计算预算。推理到底放在机器人本体、现场边缘服务器还是云端,要看各环节对算力、能耗和时延的要求。
快速控制场景下,平均时延特别容易把问题盖住:偶发一次长延迟或者断连,返回的指令就可能照着过期状态去执行。所以混合部署还得把状态同步、指令有效期和本地接管机制协调好。
论文图 9|本体、云端与混合部署。本体受功耗与散热约束,云端受通信条件制约,混合部署还需确定计算分工并保持状态一致。
安全与可信。
安全约束要贯穿感知、规划与控制三段。感知阶段识别出的风险、规划阶段设定的前置条件、执行阶段施加的限制,必须指向同一个对象,而且依据的状态与授权得仍然有效。
任务结束之后,残余风险也要核验。如果经验要写进记忆或者拿去更新策略,安全判断就得延伸到后续任务,看原有约束在新版本里是否继续成立。
面向智能体的具身经验。
综述提出Agentic Embodied Experience,用目标、上下文、决策理由、子目标、可供性、运动、反馈与反思来组织交互记录。
这种表示把决策时能拿到的信息,和实际发生的运动及其物理后果对应起来。研究者因此可以追溯偏差最早出在哪个环节,以及后续干预有没有改变结果。
论文图 13|具身数据来源如何走向交互经验表示。数据金字塔讲的是各类来源的规模与针对性,经验表示讲的则是一次决策怎么跟行动、反馈、修订挂上钩。
数据分布还受智能体自身行为的影响。探索策略怎么选、什么时候求助、失败后怎么恢复,都会决定哪些状态被记录下来。把评测中暴露的能力缺口反馈给任务选择和数据采集,再用独立任务检验更新收益,就能形成一个由能力诊断驱动的数据循环。
面向自主性的评测。
综述从任务要求的认知能力出发,归纳出五类评测情境:目标消歧与主动理解、工具发现与可供性推理、在线扰动处理与恢复、开放环境中的长程任务,以及社会交互与多智能体协作。
这五类刻画的是任务难度从哪来。前文的自主性分级看的是另一个维度:在给定运行边界内,目标解释、决策、执行监控和异常处置,人和系统各自承担多少。
想凭实验结果去判断一套系统的自主能力,评测协议就得交代清楚:仿真环境里保留了哪些物理状态和语义状态,工具接口事先备好了哪些技能,运行过程中又允许多大程度的人工介入。
只有把任务结果、决策质量、执行质量、恢复过程和安全表现放在这些条件下一并报告,才看得出观测到的收益究竟来自智能体的哪一项能力,也才说得清结论能用在什么样的环境里。
论文图 15|具身基准中的五类认知要求。这几类任务对主动获取信息、管理中间状态、适应环境变化各有不同要求,对应的测量盲区也不一样。
通用策略让机器人能做的任务变多了。但要往更高水平的自主性走,研究还得回答:这些能力在不确定环境里如何持续配合,系统又该在什么时候恢复、求助或者停下来。
论文把限定运行域内的持续任务自主性和开放世界自主性,列为两个不同层次的研究目标。
衡量进展的尺子,是看在明确的运行范围、任务时程和人工支持条件下,系统能不能一直担起相应的决策责任,并且为自己的行为及后续更新拿出可以复核的证据。
参考资料:
https://agenticei.github.io/AEI-Survey-page/