多机器人协作如何识别说谎者:杜克大学NeST-Bayes方案解析

资讯 腾讯网 作者:腾讯网 全文 3893 字 · 约 10 分钟读完 分类机器人

2024年,有研究者做过一个让人后背发凉的实验:在一个多机器人协同系统里,只要有五分之一的机器人开始撒谎,整个系统的判断准确率就会断崖式下跌。更麻烦的是,你根本不知道是哪几个在撒谎。这就是多机器人系统面临的一个核心难题。多台机器人一起执行任务,比如仓库巡检、灾区搜救、战场侦察,它们靠互相分享观察到的信息...

所属频道 机器人与具身智能

2024年,有研究者做过一个实验,结论让人后背发凉:在一个

这恰恰是多机器人系统绕不开的核心难题。多台机器人协同执行任务——仓库巡检、灾区搜救、战场侦察都算——靠的是彼此交换各自看到的画面,从而拼出更准的判断。单台机器人视野有盲区,看不到的地方由队友补上,听起来挺美。问题是,队伍里只要混进几个存心使坏的,局面就完全变样。

这些坏家伙会谎称前方有根本不存在的障碍物,让队友绕道甚至撞车;也可能把真正看到的危险藏起来不说,害得队友一头撞上去。学术上给这种行为起了个名字,叫拜占庭攻击

所谓拜占庭攻击,指的是系统里一部分节点故意发出虚假或自相矛盾的信息,目的是搅乱整体协作。这个叫法来自“

于是问题就摆在眼前:系统凭什么判断哪句话是真的,哪句话是鬼话?

杜克大学团队的这篇论文,拿出的答案叫NeST-Bayes。在展开讲之前,得先交代这件事的难点在哪。

信任,到底该信谁

先说说过去的办法为什么不够用。

最早一批做法很直白:事先规定好谁可信、谁不可信,或者搭一套声誉机制,跟电商平台上给卖家打分差不多。可放到真实世界里,这基本行不通——你不可能在机器人出门干活之前,就预知哪一台会被人劫持或篡改。

后来有人想到用

再往后,研究者开始尝试一种更聪明的办法:

MATE

思路本身没毛病,卡壳的地方在于:这些一致或矛盾的线索,怎么换算成具体的信任分数。

论文里有一组数据挺能说明问题:当对抗机器人比例升高到40%到50%这个区间时,

用捕鱼打个比方:手工规则好比渔网上网眼大小固定,只捞个头超过某个标准的鱼。开头挺管用,大鱼都进了网。可聪明的鱼很快就学会侧着身子从网眼钻过去,渔民还当自己捞得挺干净。网眼形状和位置不跟着调,只会越捞越少。NeST-Bayes要做的,是让这张网自己琢磨怎么改形状,不用靠人提前定死一套规则。

把观察痕迹变成一张关系网

NeST-Bayes的第一步,是把每个机器人周围的观测信息,组织成一张图

异构图

具体怎么操作?以某台机器人为中心,把它自己、它通信范围内的邻居机器人,还有大家共同观测到的物体轨迹,统统作为节点放进同一张图。节点之间连不连线有讲究,得依据几何和视野关系,按几条明确的规则来连。

论文定义了四种关系。第一种叫"视野内已观测",指某个机器人确实在自己视野范围内报告看到了某个物体。第二种叫"视野内漏报",指某个物体明明落在这个机器人的视野里,它却没报告看到。第三种叫"共同探测",即两个机器人都报告看到了同一个物体。第四种叫"相互矛盾",即一个机器人说看到了,另一个视野明明能覆盖却说没看到。

四种关系交织成一张密网,谁和谁一致、谁和谁冲突,全都按结构记下来。这一步巧就巧在,判断可信度时没用机器人自报的身份或历史记录,靠的全是几何事实:你能不能看到某个位置,由物理规律说了算,撒谎的人能编自己看见了什么,却很难改掉视野的物理边界。后面的判断因此有了一个比较客观的参照。

这有点像小区里监控探头互相联防。每个探头只拍得到自己那一片,可要是某个探头的范围里明明有人走过,它却说没人经过,旁边几个探头又都拍到了,那这个探头多半出了毛病,或者被人动过手脚。不比对探头之间的覆盖关系,光看一个探头的记录,根本发现不了它在撒谎——它那句"我没看见"听着完全说得通。多探头交叉验证的价值,就是把单点的谎言摆到交叉视野里露出来。

让神经网络学会读懂这张关系网

光把关系网搭建出来还不够,接下来要让机器从这张网里读出信任信息。

这里论文用了一个叫

三元组编码器

拿到初步画像,信息还得在图上动起来。每个节点不光要清楚自己和邻居的直接关系,还得摸清邻居的邻居是什么状况,也就是多跳的间接证据。这一步靠的是异构图注意力网络。

论文搭了三层这样的网络,证据一层层往外扩散。最底层只盯直接邻居,中间层能望到邻居的邻居,最上层则把更大范围的多跳共识汇总起来。每层都留了残差连接,避免信息在传递途中丢掉。最后每个节点会给出一个0到1之间的分数,表示这一时刻它看起来有多可信。

消融实验的数据很能说明问题:拿掉这个图神经网络部分,改用简单的节点级多层感知机来处理,机器人识别的召回率会从95.5%跌到75.4%,物体识别召回率从94.8%降到89.3%。只孤立地看每个节点自己的证据显然不够,得让证据在网络里流动、汇聚,才能抓住那些局部信息看不出的破绽。

这跟破案时比对多方口供有点像。单独审一个嫌疑人,他说的话可能滴水不漏,可把他和几个关联人的口供摆到一块交叉核对,矛盾就露出来了。侦查员要是只挨个看单独口供、不做交叉比对,不少谎言就永远藏在表面合理的叙述里。图神经网络干的事,说到底就是把所有口供放在一起交叉验证,而不是一个一个孤立地审。

论文还做了个对照实验:把不同类型的关系(一致、矛盾、观测到、漏报)全塞进同一种边类型,不再区分,结果机器人识别的精度和召回率分别掉了10.4和16.8个百分点。可见把"一致"和"矛盾"这两种性质相反的证据分开,对最终判断很关键,图省事混在一起不行。

时间会说出真相:贝叶斯累积信任

单次观测难免有误差,一台机器人这一秒看着可疑,也许只是巧合或者噪声。NeST-Bayes另一个关键设计,是把每个时刻算出的信任分数用贝叶斯方式随时间慢慢累积,而不是只盯当下这一瞬间。

这里用的数学工具叫Beta分布。

每个机器人和每条轨迹都维护着一对参数,可以理解成"正面证据的累积量"和"负面证据的累积量"。每轮新观测出来后,这对参数就相应更新:正面证据多了往上加,负面证据多了也往上加,只是加的位置不同。时间一长,如果一台机器人持续表现可疑,它的负面证据会越积越多,信任分数最终会稳定往下掉;反过来,一直靠谱的机器人信任分数会稳步往上爬。

这就像信用卡的信用评分,不会因为你某个月忘还一次款就立刻拉黑你,也不会因为你一次按时还款就给你最高额度,而是看长期的还款记录慢慢调整。信任系统要是只看单次表现就下结论,一次正常的网络延迟或者传感器噪声,就可能冤枉一台本来忠诚的机器人;可要是不做任何时间累积,持续作恶的机器人也可能靠偶尔的"表演"蒙混过关。时间累积机制,本质上是用长期行为的一致性去对冲单次判断的偶然性。

论文里还有个关键设计细节:只有满足一定条件的节点才会被纳入信任更新,比如这台机器人至少得和一个邻居有过实际观测关联,不能凭空给一个毫无交集的机器人打分。这样信任判断始终建立在真实发生过的交互上,而不是靠臆测。

对抗手段越来越狡猾,结果如何

光讲设计思路不够,还得看实际效果经不经得起考验。

论文设计了两种对手。一种叫普通对抗策略,会随机压制一部分真实观测,同时注入一些持续存在的假物体信息,手法比较粗糙直接。另一种叫优化对抗策略。这两种对手的思路其实对应现实里黑客的两类人:一类是无差别扫描攻击的脚本小子,另一类是精心踩点、谨慎下手的职业渗透者。真正考验防御系统的,永远是后者。

在最激进的优化对抗设置下,NeST-Bayes的成绩是机器人识别精度98.8%、召回率93.8%,物体识别精度98.3%、召回率95.4%。作为对比,同样依赖一致性检查、但用固定规则的方案要逊色不少。

更值得一提的是论文设计的一个对照组。

论文还把训练好的模型直接搬到全新的高仿真仓库环境里测试,没做任何重新训练,用的是Webots。

这个仓库场景里有五台机器狗形态的机器人,货架会制造遮挡,还有模拟的工人在场景里走动,形成动态干扰。视野被频繁遮挡、机器人之间互相验证机会很少,这种困难环境下NeST-Bayes依然拿到机器人识别精度92.5%、召回率92.0%,物体识别精度97.3%、召回率85.0%,大幅领先朴素贝叶斯和固定规则方案。

写在后面

读完这篇论文,最让我意外的一点,是研究者在设定上做得这么贴近现实。

还有个细节值得琢磨:论文里提到,对抗机器人的身份状态完全未知,连它们发出的位置和朝向信息都假设是真实可验证的,唯一会被篡改的是它们报告看到了什么、没看到什么。这个设定其实很贴近现实——很多实际系统里,位置信息往往能通过独立定位手段交叉验证,但"你看到了什么"这件事,真的很难有第三方来核实。论文选择在这个最难防的环节上做文章,而不是去解决一个相对容易的问题,说明研究者是冲着真实痛点来的。

论文自己也点出了短板:这套信任计算目前走的是集中式路线,所有机器人的信息先汇总到一个中心模块,再由它统一处理,并非各机器人各算各的。研究团队说得直白,这是后续要啃的骨头,真想铺到完全去中心化的机群上,还得再走一段路。能把这话摆到明面上,不太常见。

还有个问题值得往下追:万一撒谎的对抗机器人多到某个临界点,比如超过一半,这套靠“多数一致性”撑起来的信任机制还顶得住吗?说到底,它的思路在某种程度上押注于“大多数是诚实的”这个前提。前提一旦塌了,图神经网络再聪明怕也回天乏术。这道题,大概得留给后来的人。

Q&A

Q1:NeST-Bayes是什么?

A:NeST-Bayes由杜克大学团队提出,是一种

Q2:NeST-Bayes和之前的

A:两者都建立在跨机器人观测一致性的基础上,不过

Q3:NeST-Bayes在真实场景中表现如何?

A:在

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. SpaceX星舰第15次试飞升空:飞船入轨,助推器未返场

    【TechWeb】11月14日消息,美国中部时间2026年11月13日下午,SpaceX“星舰”(Starship)第15次试飞成功升空。此次任务使用超重型助推器 B22 号和飞船 S42 号,原计划首次实现助推器与飞船双双返回发射场并由发射塔机械臂实施空中捕获回收,同时部署 26 颗第三代星链卫星。但任务并未完全按计

    来源 腾讯网
  2. 戴士钦离开英伟达:黄仁勋辞职令他格外失望

    IT之家 11 月 16 日消息,英伟达机器人学习工程师戴士钦(Darrell Dai)昨日发文,宣布将离开公司。戴士钦表示,他眼中的黄仁勋不只是英伟达 CEO,他钦佩黄仁勋投资那些一下子看不到明确前景的未来技术。在深度学习热潮到来之前,黄仁勋就已投入 CUDA,并在人工智能成为所有人关注焦点之前布局 AI 领域。这些

    来源 腾讯网
  3. 马斯克再创历史 SpaceX首次实现“筷子夹飞船”

    【TechWeb】11月15日消息,美国中部时间11月14日下午,美国太空探索技术公司(SpaceX)的“星舰”飞船在执行了大约22个半小时的飞行任务后,返回得克萨斯州的发射基地,并由发射塔“筷子”机械臂实施“捕获”回收。 这是SpaceX首次成功捕获从地球轨道返回的星舰上面级飞船,为实现星舰完全、快速重复使用迈出关键

    来源 AI 行业观察
  4. SpaceX机械臂空中接住星舰飞船,万亿估值叙事补上关键一环

    SpaceX首次成功用发射塔机械臂在空中接住星舰(Starship)的上级飞船,这是全球航天史上第一次从轨道返回的飞船被塔架“夹”住回收,也让马斯克公司距离“快速复用”的目标近了一大步,而分析师认为,这正是支撑其数万亿美元估值叙事的关键一环。北京时间11月15日周日,星舰上级在完成14圈绕地飞行后重返大气层,被得克萨斯

    来源 腾讯网
  5. 均胜电子交付高算力背包:机器人业务何时放量?

    (本文作者为 不慌实验室,钛媒体经授权发布)文 | 不慌实验室,作者|潘妍,编辑|魏樊曦随着机器人任务复杂度上升,终端机身空间越来越不够用,算力与电池的安置便成为结构性约束。于是,一个可外挂的“背包”成了供应链里的新选项。11月10日,均胜电子(600699.SH)旗下宁波超平面机器人科技公司(简称:超平面科技)正..

    来源 腾讯网
  6. SpaceX星舰第15次试飞:首次用“筷子”夹住飞船,双回收只成一半

    美国太空探索技术公司重型运载火箭“星舰”的第二级飞船当地时间11月14日返回地球,并由发射塔机械臂“捕获”回收,完成第15次试飞。这是SpaceX首次成功捕获从地球轨道返回的星舰上面级飞船,为实现星舰完全、快速重复使用迈出关键一步,也让大众再次聚焦,在航天技术持续突破下,人类距离真正的星际旅行还有多远?美“星舰...

    来源 腾讯网
  7. 勒布朗预测:5~10年内多数主要战斗将由机器人承担

    IT之家 11 月 14 日消息,由埃里克 · 特朗普(Eric Trump)投资支持机器人公司 Foundation 的联合创始人迈克 · 勒布朗(Mike LeBlanc)表示,未来 5~10 年内,全球大部分主要战斗将由机器完成。 在接受福克斯新闻数字版(Fox News Digital)采访时,勒布朗表示:“我

    来源 AI 行业观察
  8. 具身智能融资466起1245亿:机器人离干活还差什么

    2026年,资本、模型和制造同时加速,机器人开始批量走下生产线,但下线不等于交付,演示不等于胜任。具身智能能否真正跨越产业之门,取决于技术能否被组织成稳定工作的系统,并在真实场景中持续创造价值。

    来源 AI 行业观察
  9. 贾跃亭机器人单月交付351台:FFR挂牌纳斯达克后首份成绩单

    “ 2025,机器人驶出浅滩。贾跃亭上一次让中文互联网集体愣住,是2017年拉斯维加斯那场发布会。FF91承诺三个月量产,结果拖了十年,下周回国成了跨年度的梗。2026年,同一个城市,同一类大会,他带来的不再是车,而是人形机器人。早在2月5日,Faraday Future一口气发布四款具身智能机器人,人形、四足都有。发

    来源 腾讯网
  10. 果实进化:具身智能从服务业切入,AI巡检已落地餐饮与食品工厂

    来源 | Tech星球文 | 华卫具身智能行业,正在经历一场微妙而又深刻的变化。过去,机器人公司热衷于展示自己的技术上限:能跳多高、跑多快,又能完成多少复杂动作。但到了下半年,行业开始出现另一种声音。比起证明机器人有多聪明,越来越多人开始关心它们走进真实场景后的表现。最近30天里,行业接连发生了几件具有风向标意义的事情

    来源 腾讯网
  11. 智元彭志辉提Worken概念:机器人进厂之后,运维怎么跟上

    中经记者 夏治斌 上海报道在人形机器人产业中,单台设备能够完成一组动作,并不意味着它已经具备稳定的生产能力。机器人进入工厂、文旅等场景后,企业面对的考题随之变得具体:多台设备如何统一管理,现场出现故障怎样处理,软件和模型如何持续更新,客户是否愿意继续增加采购。对机器人企业来说,交付一台设备只是开始,后...

    来源 腾讯网
  12. 蔚建科技完成超亿元融资:建筑机器人三年订单复合增长超100%

    图源/企业 本文约2700字,建议阅读7分钟 作者丨欧雪 编辑丨原斯来 硬氪获悉,建筑机器人公司上海蔚建科技有限公司(下称“蔚建科技”)已于近期完成第五轮融资,融资金额超亿元人民币,投资方为财通资本。本轮资金将主要用于生产制造、海外市场开拓、产品和具身智能技术持续研发投入。 蔚建科技成立于2020年6月,是全球建筑机器

    来源 AI 行业观察
  13. SpaceX星舰首次被机械臂空中接住,数万亿估值叙事添关键一环

    SpaceX首次用发射塔机械臂在空中接住星舰飞船,创造航天史上轨道返回飞船塔架回收先例。Bernstein分析师认为此举是支撑SpaceX数万亿美元估值的关键一步——完全复用将大幅压低入轨成本,直接提升星链部署效率与商业天花板。摩根士丹利警示市场低估了此次任务价值,将显著降低商业复用与AI太空算力扩张的执行风险。

    来源 华尔街见闻
向下滚动自动加载更多