百度世界模型“2+3”标准:无人驾驶仿真如何重来
10月17日,上海徐浦大桥上发生了一起令人揪心的事故,一辆平板货车先撞上了一辆白色小客车,然后车子驶入对向车道,又接连撞了4辆车,事故造成了1死2伤。 事故过后,网络上涌现了很多对于事故全过程的还原和讨论。如果白色小客车没有违规变道,或者货车早点刹车,结果会不会不同? 现实世界中,人们从亲历的险情、看过的事故中记住一些
10月17日,上海徐浦大桥发生一起事故:一辆平板货车撞上一辆白色小客车后驶入对向车道,又接连撞了4辆车,造成1死2伤。
事故之后,网上出现不少对全过程的还原与讨论。有人问,假如白色小客车没有违规变道,或者货车能早点刹车,结局会不会不一样?
在现实世界里,人靠亲历的险情和看过的事故记住教训,驾驶与决策水平也随之提高。
无人车要靠训练来规避风险,研究这类问题就得改条件、反复比对,可真实道路上不能一遍遍制造危险。
仿真测试早就在承担这部分工作,随着无人驾驶往前走。眼下百度、Waymo等企业都在借助世界模型拓宽虚拟考场,给无人车创造“重生”的机会。
做法是从已有场景出发,改动路况或驾驶动作,推演不同的后续,让系统在各种条件下反复受检。
难的地方在于,给无人车一次“重来”的机会,不能只重置自车动作,周围的车、人、物也得给出合理回应。什么样的世界模型才撑得起这种训练?
世界模型的“重生”,怎样才算有用?
AI科学家、World Labs联合创始人李飞飞曾把汽车比作带轮子的机器人。在她看来,无人驾驶汽车近似在二维环境里移动的“方盒子”,车要尽量不碰到东西;家务机器人却得主动伸手,才能洗碗、做饭、叠衣服。
从操作任务看,她认为汽车相对简单,并称“无人驾驶汽车其实还是挺简单的机器人”。百度智能驾驶事业群组首席研发架构师王亮博士却不这么看:“无人驾驶从来不是具身智能的‘EASY模式’。”
说到L2和L4的差别,王亮博士以纪录片《徒手攀岩》作比:辅助驾驶更像有保护的攀岩,容易做出吸引眼球的帅气动作;L4则像无保护攀岩,中间那道巨大的鸿沟很难跨过去。
无人车驶上开放道路,得不断应对其他车辆和行人难以预判的举动,安全、实时响应、处理交通冲突的要求也跟着提高。王亮博士认为,难点不只是感知三维空间,更在于驾驶位上没有人能随时接手,系统几乎没有犯错的余地。
放到真实场景里,车辆并线时,旁边即使有空位,也得看后车让不让。往前探还是先收一脚油,会影响对方的选择——路上做决定的从来不止一辆车。
研发人员要攻克的,就是怎么把真实道路上时刻发生的这种你来我往搬进虚拟世界。
李飞飞把世界模型的功能分成渲染器、模拟器和规划器。开车时,渲染器让车看见路况,模拟器让你知道往左或往右打方向会发生什么,规划器则帮你判断,为了到达目的地或规避危险该不该打这把方向。
王亮博士认可李飞飞对世界模型的这种划分,并进一步提出,无人驾驶需要三项功能配合,其中模拟器能否合理推演后果尤其关键。
驾驶系统做出动作后,模拟环境随之变化,再把新的路况反馈给系统,让它据此做下一步决定。比如无人车提前踩了刹车,虚拟道路上的后车也要跟着减速。
如果测试只是把实车记录的路况重放一遍,后车仍会沿原来的轨迹走。这样一来,即便无人车在仿真里避开了与前车的碰撞,这脚刹车在真实道路上安不安全,也很难判断。
世界模型的概念眼下越来越流行,但能做出可信、符合物理世界交互规律的试炼场的,并不是每一个。比如李飞飞团队的Marble,侧重的是生成和编辑三维空间。
世界模型被用作具身模拟器时,核心在于能否忠实还原物理规律和行动的因果关系,让智能体在虚拟环境里完成原本要在现实中完成的完整任务。画面逼真与否、生成的场景奇不奇特,都代替不了对行动后果的检验。
基于这一定位,百度针对世界模型提出了“2+3”判断标准。
其中的2,是给物理AI世界模型设的基础门槛:一是因果性,模型必须像真实物理世界一样,由已知的过去推导下一秒;二是交互性,运行中改变动作,环境能随之更新。
3则是衡量世界模型好不好用的标准,涵盖物理准确性、持久性和实时性。
物理准确性看模拟的状态有多可靠、是否符合世界规律,学到的能力回到物理世界还能不能用;持久性看持续运行的时间和稳定性跟不跟得上,长时间运行后物体和细节会不会漂移;实时性说的是低时延,生成世界复杂度增长不影响模型推理时间,从而拿到高模拟测试效率。
若世界模型只能复刻现实道路参与者与物理规律的一小部分,那测试结果靠不靠谱,就得先打个问号。
可信的驾驶考场,究竟怎么搭出来?
百度给出了“2+3”的世界模型定义与评价标准,目的是让环境真能对驾驶系统作出回应。问题是,虚拟世界里怎么建起一座堪比真实路况的考场?
百度近期展示的两段画面可以说明:
左侧场景中,无人车驶上高架,为支路来车留出空间,对方随即并入主路;右侧场景里,无人车改走一旁辅路,两车交会空间收窄,支路车辆于是停下等待。
两段演示从同一地点起步,无人车选了不同路线,支路车辆也跟着做出不同反应。
另一组画面换的变量是天气:同一条路、同样的初速与制动指令,晴天刹停更早,雨天则多滑出一段。
降雨改变了路面反光、能见度与激光雷达回波,这一脚刹车的结果也随之不同。
镜头再拉长到整段行程。百度在虚拟环境中把香港机场附近的万豪酒店设为共同起点,给测试车分配不同目的地。起点终点都不变,只把车流从低密度调高,车辆要处理的交互变多,行程也就慢了下来。
三组演示均出自百度近期披露的世界模型ApolloWorld。百度世界模型负责人杨泽介绍,虚拟道路上的交通参与者被建模为各有目标、能感知周边变化的AI智能体,它们依据周围情况决定走还是停,动作又会影响无人车接下来的行驶方式。
车辆会反应还不够,驾驶系统得看得见、看得懂这些变化。ApolloWorld按同一时刻的路况同步生成相机画面与激光雷达点云。下图中的货车,在点云里也出现在对应位置;不同相机视角之间、相机与激光雷达之间都会交换信息。
多模态联合生成,为的是让不同观测共同描述眼前同一个世界。生成这些观测画面时,ApolloWorld把前述状态作为条件输入生成模型,再借文本等条件控制天气和光照,并用数字孪生提供场景的几何结构与外观信息,使生成画面有明确约束,不至于凭空编造。
观测画面生成后,驾驶模型据此决定踩油门、刹车还是打方向;主车与其他交通参与者的响应动作合在一起,构成世界的下一个状态。新状态再送回模型继续推演,交通场景便持续演化下去。
两套模型在云端协作完成测试,迭代后的驾驶模型再部署上车,等于让AI教AI开车。
今年2月份,Waymo也公开过能响应驾驶动作、生成相机与激光雷达观测的世界模型。思路与百度不同:Waymo主要演示如何改变道路条件、生成洪水与龙卷风等罕见场景,并未展示完整的长段行程。
百度侧重的是周围其他交通参与者如何回应自车,以及系统如何按既定目的地从头到尾跑完整段行程。
相较之下,ApolloWorld更贴合Robotaxi的实际运营流程,验证覆盖接单、接客到送达的完整任务。百度目前展示的案例中,车辆都顺利避让,给出的都是成功结果。不过在研发人员看来,没避开的情况同样有价值——虚拟考场的用处,正是把容易漏掉的条件找出来,反复试错。
考场能反复出题,但哪些题值得考,答案还得去真实道路上找。无人车开进一座新城市,路况和开发都可能不一样。百度此前跑过的那些路,能为下一座城市的测试提供什么?
车队开向更多城市,测试资源如何跟上?
各城市的道路布局、车流以及当地人的驾驶习惯都可能不同,而驾驶系统的安全边界要把各类情况都装进去,验证需求因此不断加码。
可测试车辆和安全员就那么多,业务扩张却让验证需求持续上涨。
百度用ApolloWorld把部分原本占用实车、人手和道路时间的测试搬到云端并行执行。按其测算,一天跑出的虚拟里程,约等于一辆配安全员的实车连续测试三年的里程。
虚拟里程跑多快,取决于算力;跑哪些场景,则要看车辆在真实道路上遇到过或可能遇到什么。
百度在上千辆萝卜快跑上攒下的道路经验,是怎么进入世界模型的?
百度给出的数字是,萝卜快跑累计自动驾驶里程突破3.5亿公里,全无人驾驶部分超过2.4亿公里。团队从日常运营里筛出那些值得反复重现的问题,再拿地图和驾驶数据搭出场景。车流密度、参与者的激进程度、驾驶动作,只要调一调,同一个场景就能变出好几套测试条件。
百度王亮博士称,把端到端技术用在规模化L4无人驾驶上的企业,全球只有百度和特斯拉两家;百度的端到端模型,全无人运营里程已经超过百万公里。
可端到端真正装车以后,难的部分才刚露头。
无人驾驶想上规模,安全、智能、规模三样得一起抓,偏偏这三者凑成一个“不可能三角”。
有了ApolloWorld,原本大量依赖实车的训练和验证被挪到云端完成。对百度而言,这等于多了一条效率更高的安全验证路子。
每进一座新城市,团队先用当地地图和采集到的数据搭场景,在云端同时跑测试,再把必须确认的疑点交给实车去验。
验证的范围铺大了,测试车和安全员却不用按同样比例往上加。百度的无人驾驶业务因此能更快进入新城市,也能往海外铺。
百度的世界模型,实际上是在给仿真定一套新标准,也推着无人驾驶走向它自己的AGI时刻。
路上冷不丁冒出的锥桶、行人,还有开头提到的徐浦大桥那起重大事故,研发人员很难指望它在原地再演一遍。
在ApolloWorld搭起的虚拟世界里,无人车却能一遍遍“重生”。哪怕只改一点点,众多道路参与者的结局都可能跟着变。无数虚拟世界里攒下的经验最后流回现实,现实中人车的安全性和通行效率也会随之变化。
往后看一家无人驾驶公司的扩张能力,车队规模、里程数这些还得看,但更要看它多快能把一辆车碰上的偶发难题,变成整个大车队都能学到的经验。