大规模并行评测
用 GPU 加速仿真并行跑上千个 episode,把 1,000 episode 从 8 小时压到 30 分钟。多 GPU 运行编排、云端策略服务批量推理、仿真运行时按需创建并自动销毁,失败还能自动恢复。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
Bifrost 是一个面向机器人研究的仿真评测平台,主打「30 分钟拿到结果」——把原本 1,000 个 episode 要跑 8 小时的评测压缩到 30 分钟。它用大规模并行 GPU 仿真同时评测多个模型、checkpoint 和架构,再用 agent 自动聚类失败案例并按影响排序,帮研究者定位模型在哪些场景崩掉。支持 LIBERO、CALVIN、RoboMimic、NVIDIA Isaac Sim 等主流基准与模拟器,覆盖地面、空中、海上和太空团队。短板是仍处 Early Access,价格与免费额度未公布,公开信息以研究场景为主。
Bifrost 是一个机器人策略的仿真评测平台。它面向做机器人学习、具身智能和自动驾驶研究的研究者与工程团队,核心作用是把研究员手上的策略模型放进统一、可复现的仿真环境里批量测试,快速看清每种方法强在哪、弱在哪。平台方宣称其客户覆盖「地面、空中、海上与太空」这些最苛刻的场景团队。
它评测的对象不限于单一模型:VLA-flow-8B、WAM-diffusion-7B、EFM-interleaved-10B、Agent-as-policy-15B、Fusion-diffusion-2B 这些不同体量与形态的模型,可以搭配 RL → prompt-steer、SFT → 1-shot ICL、Sim GRPO、head-swap FT → HIL-RL、video post-train + IDM 等不同后训练配方,放到同一套确定性测试套件里对比。平台还会把失败 rollout 自动聚类并按影响排序,例如 566 个 episode 分析出「转移掉落物体」「遮挡抓取」「杂乱场景卡住」等失败簇,每类带出现次数。
普通研究者可以把它当作跨模型、跨基准的评测入口,省掉自己搭 GPU 编排和模拟器配置的工作;做具身智能的团队可以上传自定义基准和评分标准,让评测贴合自己的任务;太空与自动驾驶方向的团队则可以用 Offworld 的月球、火星合成数据验证感知与着陆系统。
用 GPU 加速仿真并行跑上千个 episode,把 1,000 episode 从 8 小时压到 30 分钟。多 GPU 运行编排、云端策略服务批量推理、仿真运行时按需创建并自动销毁,失败还能自动恢复。
把每个任务拆成细粒度子目标逐个打分,不停留在通过/失败层面。研究者能直接看到模型在哪个动作环节崩掉、哪个环节稳住了,而不只是一个汇总成功率。
支持把「对这个任务来说什么算质量好」编码成 rubric,每条 rollout 都按同一套标准打分。适合那些用成功率衡量会漏掉细节、但细节对研究结论很关键的任务。
由 agent 观看 rollout、把失败聚类并按影响排序,而不是按出现次数排序。失败簇可按场景、物体、传感器、光照和轨迹分组,还能用自然语言直接查询失败原因。
专门抓那些被总体成功率掩盖的退化行为。已分析样本中,转移掉落物体 214 次、遮挡抓取 156 次、杂乱场景卡住 98 次、冲过抽屉把手 61 次、弱光误检 37 次。
宣称兼容任意基准、任意模拟器、任意世界模型。已列出的环境库包括 LIBERO、LIBERO-Plus、RoboLab、RoboCasa、RoboMimic、CALVIN、SIMPLER、RoboTwin 2.0、RoboMemory、RLBench,模拟器覆盖 NVIDIA Isaac Sim、Unreal Engine、MuJoCo、ManiSkill、Genesis。
与工业客户合作,把真实工作编码成自定义仿真任务,并配上细致的成功 rubric。已列出的任务包括订单分拣、网线布线、整理桌面、擦桌子、清厨房、整理衣物、操作微波炉、开水龙头、看护 CNC 机床、按灯开关。
面向感知与自主性的合成数据平台,提供像素级精确标注的数据集,匹配用户传感器影像,覆盖稀有环境与物体,用于训练、测试和验证 AI。
Offworld 提供月球与火星数据,帮助太空机器人团队构建危险规避系统、验证着陆系统、开发导航系统。支持按像素分割地形类别,每帧带相机位姿、逐像素深度和太阳高度角等世界元数据。
Offworld ↗当你的团队在同时迭代多个机器人策略、需要横向对比谁更强时,Bifrost 值得试:它把评测从过夜跑变成 30 分钟出结果,还能自动指出失败模式,省掉大量人工看视频的时间。当你的任务只有一两个模型、且已有成熟的自建评测流水线时,迁移成本可能不划算,而且平台仍在 Early Access,价格与正式商用条款未公布。做月球、火星等太空机器人感知与着陆验证的团队,可以重点看 Offworld 那部分数据能力。
手上同时有多个策略模型需要横向评测,最看重的是评测速度和可复现性。30 分钟出结果、同一套确定性测试套件,正好对上这个需求。
需要定位模型在哪些场景崩掉、并按影响排序。agent 自动聚类失败和自然语言查询能替代人工看上百条视频的流程。
真实任务可以编码成自定义仿真任务与成功 rubric。若任务清单里有分拣、布线、擦桌、看护机床这类,匹配度较高。
Offworld 提供月球与火星数据、月球光照模拟和自定义 3D 地形,可用于危险规避与着陆系统验证。
平台处于 Early Access,需要预约演示,且没有公开的免费额度或自助入口。个人短期试用不太方便。
价格与正式商用条款未公布,采购前无法做预算比较。需要先联系团队确认费用结构再决定。
| 指标 | 数值 | 数据来源 |
|---|---|---|
| 评测速度 | 1,000 episode 从 8 小时缩短到 30 分钟 | Bifrost 官网首页 |
| 分析的失败 episode 数 | 566 | Bifrost 官网首页 |
| 合成数据生成帧率 | 24FPS | Bifrost Offworld 页面 |
价格与免费额度均未公布,平台目前标注为 Early Access,需要先在官网预约 demo 才能了解接入方式与费用。没有公开的自助注册入口,也无法从现有页面判断是否有试用额度。
它不是模拟器本身,而是跑在模拟器之上的评测平台。核心是把你的机器人策略放进统一的仿真环境批量测试,输出子目标级别的得分、失败聚类和按影响排序的失败原因,而不是只给一个成功率。
已列出的基准和环境包括 LIBERO、LIBERO-Plus、RoboLab、RoboCasa、RoboMimic、CALVIN、SIMPLER、RoboTwin 2.0、RoboMemory、RLBench。模拟器覆盖 NVIDIA Isaac Sim、Unreal Engine、MuJoCo、ManiSkill、Genesis,并宣称兼容任意基准、任意模拟器、任意世界模型。
页面上列出的评测对象包括 VLA-flow-8B、WAM-diffusion-7B、EFM-interleaved-10B、Agent-as-policy-15B、Fusion-diffusion-2B,覆盖流模型、扩散模型、交错模型和 agent 策略等形态,并可搭配不同的后训练配方。
平台会把失败 rollout 按场景、物体、传感器、光照和轨迹自动聚类,再按对性能的影响排序,而不是按出现次数排序。示例中有 566 个 episode 被分析,输出转移掉落物体 214 次、遮挡抓取 156 次、杂乱场景卡住 98 次等失败簇。
Offworld 子平台专门面向月球与火星场景,提供月球光照模拟、自定义 3D 地形和逐像素标注数据,可用于危险规避、着陆系统验证和自主导航开发。支持上传 DEM 并自定义陨石坑与岩石分布。
页面给出的对比是 1,000 episode 从 8 小时缩短到 30 分钟。这依赖大规模并行 GPU 仿真、多 GPU 运行编排和云端策略服务批量推理,实际速度会随任务规模和配额变化,具体以接入时确认的配置为准。