VAST开源EdenLive:RTX 5090单卡720P超24FPS实时生成
VAST正式发布并开源了实时世界模型EdenLive,首次在实时生成的同时支持任意参考输入、任意画风生成和长时连续运行。在单张RTX 5090上,5B模型720P生成速度超过24FPS,端到端延迟百毫秒级。EdenLive采用解耦世界状态与视觉渲染的技术路线,由上游交互系统维护状态,生成模型负责视觉呈现。支持交互式游戏
VAST今天把实时世界模型EdenLive拿了出来,而且直接开源。这个模型一边实时生成,一边能接任意参考输入、生成任意画风,还能长时间连续跑下去。说白了,给它一个简化场景或一段参考视频,再配好目标首帧和提示词,它就会顺着参考里的布局和运动,持续输出写实、二次元等不同风格的精细画面。参考来源可以不一样,画风也能指定,这些变化全在实时生成的过程中完成。

单张消费级显卡Nvidia RTX 5090上,720P条件下,5B模型的生成速度超过24FPS,也就是每秒能出超过24帧画面,分钟级的内容也能一直生成下去。用户从输入操作到看见对应画面,端到端延迟在百毫秒级。画面在持续变化,交互规则和世界状态则交给上游交互系统维护:系统接收玩家操作、更新状态,EdenLive再按对应的参考画面,把这些变化实时呈现出来。

近来AI在3D场景搭建和交互创作上的表现越来越直观。GPT-6 Astra就是个典型例子,它已经能在Blender里搭房屋,再转进Unreal Engine 5,形成可以进入、漫游的场景。AI既然能搭场景、设计交互玩法,接下来要解决的就是怎么让这些内容获得精细且实时的视觉表现。

一条技术路线因此逐渐成为行业共识:底层状态和运行规则由交互系统维护,视觉渲染交给生成模型。VAST其实在今年6月初就把这套分工说清楚并对外发布了,当时公开的Project Eden研究预览,核心设计就是「状态维护与视觉渲染解耦」。从时间上看,这个路线选择比行业共识早了约3-4个月。

如今EdenLive作为这条路线的阶段性成果发布,模型权重和推理代码都已开放,技术报告和端到端Demo也一并公开。

多种参考输入,不同画风实时生成

EdenLive的核心价值,是给简化场景和交互内容提供高质量的实时渲染,底层逻辑与状态仍由上游交互系统维护。它具体能做什么?先看一波Demo。
交互式游戏预览
先看交互式游戏预览,2D、3D场景都能接入。现阶段,EdenLive更适合场景漫游、推箱子这类交互相对低频的玩法,创作者一边操作游戏原型,一边就能查看精细画面下的呈现效果。
比如岩浆闯关,角色用冷冻枪造出落脚点,再一路跳着前进。要让这样的游戏画面跟着操作持续更新,生成速度首先得跟上。据VAST公布的数据,单张消费级显卡RTX 5090、720P条件下,EdenLive的5B模型生成速度超过24FPS。
另一个Demo是双人对打游戏,角色动作与血条、回合计时等游戏状态怎么配合,看得很具体。画面更新速度之外,按下按键后多久能看到反馈,也直接影响交互体验。据VAST介绍,EdenLive目前从用户输入到对应画面出现,端到端延迟为百毫秒级。这套系统还支持分钟级连续生成,场景漫游和连续操作因此有更长的展开空间。
场景与动画预览
游戏互动之外,EdenLive也能用于场景与动画预览:场景布局和运镜已经定好,只换不同的美术风格。比如,让大家天天玩的「鹈鹕骑自行车」成真……从未见过如此栩栩如生之鹈鹕啊。生成画面不光让羽毛和海边环境有了细致质感,还模拟出了真实的光影。
用简单模型搭出的雪地行车场景,经EdenLive生成后,也呈现出更写实的车身纹理、积雪和光影效果。这些画面由三类输入共同控制:参考画面提供场景布局、镜头与运动,目标首帧设定整体外观和画风,提示词补充风格与细节。所以同一套布局和运镜,可以生成不同美术风格的版本,供导演和概念设计师比较、选择。
视频重渲染与换皮
对已经拍好的视频,EdenLive 同样能重新渲染一遍,把角色形象、画面内容和整体风格实时换掉。蓝色背景前的真人可以变成卡通角色,而人物的姿态、服装配色照旧跟参考画面一致。这跟虚拟主播换形象是一个路数:拿真人的动作当参考,生成另一套角色外观。
再比如,把实拍房屋转成手绘动画风格。房屋的大体布局得到保留,屋顶、墙面和窗框用线条重新勾勒,色彩与光影也变得更柔和。
具身数据增强
EdenLive还能用于具身数据增强,把真实人类操作画面转成机器人视角,并对第一视角视频中的物体和外观进行修改。比如这段视频里,人手拿着喷壶和抹布清洁台面。经EdenLive生成后,双手被替换成机械手,抹布从橙色变成了黄色,清洁动作仍然与原视频保持一致。
能换的不只是操作主体。第一视角视频里的物体、材质、颜色同样可以动手脚。人手可以改成金属机械手臂,推车扶手可以换成银色金属质感,抓握、推行的动作还和原视频对得上。一段现成的操作视频,就这样能派生出外观不同的若干版本,给具身研究添了视频样本。
从简单的2D动画、3D场景,到实拍视频和第一视角操作画面,这些不同来源的素材都能作为EdenLive的参考输入。同一个模型接收多种参考,沿着已有布局与运动改变视觉表现,再以实时、分钟级连续生成的方式输出画面,这正是这组Demo共同展示的核心能力。
现阶段,EdenLive也还有需要改善的地方。高频、激烈的交互对生成速度和动作呈现要求更高;多个角色同时出现时的身份保持、小物体的精细控制,以及长时间生成中的视觉一致性,也都有进一步提升的空间。
不过,VAST已经开放了不同规格的模型权重和推理代码,技术报告和上述端到端Demo也一并公开。官方还将同步开源Game Prototype Turbo,一款「Prompt to Proxy Game」Skill。用户可以通过它快速生成可直接游玩的游戏原型。游戏运行时,交互系统持续更新状态,并输出对应的简化参考画面;EdenLive再把这些画面实时渲染成精细的视觉内容,反馈给玩家,形成从游戏逻辑到实时视觉呈现的完整链路。
拆解EdenLive技术路线与核心壁垒
EdenLive走的技术路线,核心一句话就能概括:把「世界怎么运转」和「画面怎么呈现」拆开处理,也就是「解耦世界状态与视觉渲染」。
拿那段街头对打Demo来说,角色怎么移动、怎么攻击防御,全由玩家按键决定;交互系统接住操作,更新角色位置和动作,再判断攻击有没有命中、血量怎么变。EdenLive负责的是根据这些变化出画面——左边还是简单方块角色,右边已经变成更写实的人物。玩家看到画面反馈,接着按键,游戏就沿着这个循环往下走。
把这套分工放进完整管线会更直观:简化场景或参考视频给出布局与运动,目标首帧和提示词定下外观与细节。EdenLive接住这些输入,持续输出精细画面;游戏逻辑和状态更新交给上游交互系统。这也正是EdenLive在Project Eden里承担的角色。Project Eden是VAST长期推进的世界模型研究项目,EdenLive是其中聚焦实时生成式渲染的阶段性成果。
管线看着清楚,真做起来却要同时兼顾几件事:画面够不够精细、动作跟不跟得上参考、生成速度能不能满足交互、能不能一直跑下去。这背后牵扯的是数据怎么采集和配对,以及3D、视频生成与系统工程之间怎么协作。
数据这块得先铺底。模型要把简单的方块角色变成写实人物,同时动作还得跟参考画面对得上,参考画面和生成结果之间的对应关系就必须建起来。场景怎么布局、镜头怎么运动、物体摆在哪儿,这些在数据里都得对齐。VAST 方面表示,他们的数据管线覆盖 2D、3D 简化场景、引擎渲染和真实视频等多类来源的成对数据。素材采集、场景构建、数据配对这几步合在一起,才让 EdenLive 有能力应付不同的参考和场景。
第二层积累来自跨领域团队的协作。EdenLive横跨3D、视频生成与系统工程:既要处理空间结构和运动约束,又要生成细致的视觉效果,还得让模型以足够快的速度持续运行。VAST的团队配置也覆盖了这几个方向。这些要求得放进同一套系统里协调——画面质量提上去之后,推理速度能不能跟上;外观变了之后,角色动作还能不能贴合参考,都要模型与工程团队一起解决。
第三层积累是路线判断与持续研发。此前公开的Project Eden研究预览中,VAST已经明确提过「解耦」设计:世界状态与视觉生成分离,底层状态独立于摄像机视角持续存在,再由渲染模块把它呈现为画面。围绕这个思路,VAST进一步给出三层架构:持续演化的结构化状态、状态到观测的接口,以及生成式神经渲染,分别负责状态维护、观测转换和画面生成。这一路线选择比行业共识提前了约三四个月。这段时间也成了团队沿着既定方向继续积累数据、打磨模型与系统的研发窗口。
沿着3D这条路,走向可交互的世界
这么分工下来,EdenLive 走的还是 VAST 原来那条路。一个能交互的世界,角色、道具、场景资产一样都不能少,物体在哪儿、多大、彼此什么空间关系,也得说清楚。3D 提供的是可组织、可操作的基础,世界状态怎么表达也有它一份。细致的视觉呈现交给视频生成,把已经有的结构和运动变成材质、光影和动态效果。两边合起来,创作者才能一边调场景和玩法,一边拿到对应的画面。
这也解释了VAST为什么进一步走向世界模型研究。原有3D模型的能力,除了生成资产,还能参与构建世界模型所需的数据。在Project Eden的研究介绍里,VAST提到团队利用已有3D能力,从视频中提取深度、相机位姿和几何运动轨迹等结构信息;同时用游戏引擎获取相互对应的状态信息与渲染画面。这些工作把VAST此前在3D模型和数据管线上的积累,延伸到了世界模型要解决的结构、状态与视觉对应问题上。
从创作流程看,这条路线也在逐步扩大用户能完成的事情:生成角色和道具,搭建场景,加入交互规则,再给运行中的内容赋予不同的视觉表现。这也对应VAST提出的愿景:让人人都能自由创造并体验可交互世界。Project Eden承担这一长期探索,EdenLive先推进其中的实时生成式渲染环节。对创作者来说,它提供了一个更具体的入口:把已经能运行的场景和玩法接入模型,在实际操作中试画面效果,再在此基础上继续改自己的作品。
One More Thing
等等,先别划走。如果你感兴趣,VAST也在为这些研究招人。其推出的V·STAR顶尖人才计划全年开放招聘,面向全球青年算法与研究人才,聚焦3D生成基础模型、三维理解、智能体与世界模型。VAST强调开放、扁平的研究环境,鼓励年轻研究者提新想法,好的技术思路可以快速立项、验证,即便是实习生,也有机会参与核心模型训练,深入模型研发与工程实践。
待遇也相当可观~全职和实习生都有机会拿到比头部大厂更有竞争力的薪资,特别优秀者上不封顶,还有长期期权。如果你也想拥有定义问题的自由,从零推动一个项目,亲历一家头部AI公司从1到100的爆发式成长,攒下最宝贵的创业经验,可以走这个投递通道:简历发送至[email protected],邮件标题请注明:VSTAR – 姓名 – 毕业时间。