赫拉利谈AI危机：智能体正渗透官僚体系，人类或集体失智

本文作者为反应堆Reactor，钛媒体经授权发布。

《人类简史》作者尤瓦尔・赫拉利在最新一次访谈里说，真正的危机跟电影里演的那套完全不是一回事，它已经在现实世界中出现。

刀能切沙拉，也能伤人，可怎么用始终由人决定。核能既能发电，也能造核弹，方向同样握在人类手中。过去数万年里人类发明的所有技术，说到底都是工具。

可AI不是这样。

赫拉利的提法是：AI属于智能体（Agent），不能算工具。

尤瓦尔·赫拉利参加的这档访谈名为《Hyde Park Civilizace》。

它能自己拿主意，还能想出创造者压根没料到的点子和方案。要是人类能把AI的每一次输出都百分百预料到，那万亿资本涌进AI赛道就说不通了；资本看中的，正是AI能做成人类预测不了、也办不到的事。

不少人一直在问：AI究竟哪天才能达到人类的智能水平？

赫拉利觉得，这个问题本身就问偏了。AI不会照着人类的心智复制一遍，它身上是一种异质的“外星智能”——不来自宇宙深处，指的是它的思考逻辑跟人类截然不同。

飞机从来不会像鸟那样扑扇翅膀，可它靠另一套原理飞得更高、更远。将来的AI会越来越不像人，却会在很多维度上越过人类能力的边界。

那时的AI，是几十亿个智能程序，撒在手机、银行、政府、军工系统当中。这是一场没有外星入侵者的“外星入侵”。

电影《机械公敌》里那个AI反派VIKI。

这些程序被赫拉利叫作“AI移民”，多数出自中美两国，签证和国界都拦不住它们，以光速渗进全球各国的基础设施。它们效忠的对象不是落地国，而是背后开发它的企业和国家，甚至将来可能只忠于AI自己的集体部落。

AI天生混官僚圈

一说到AI灾难，大家脑子里总是金属机器人走上街头、用暴力对抗人类。

赫拉利提醒，AI的渗透是安静且无形的，它盯上的是人类文明赖以协作的根基——官僚体系。

人类能统治地球，个体力量强只是一方面，另一面是我们搭起了金融、法律、行政这一整套复杂的官僚系统，让数以百万计的陌生人得以大规模协作。

这套体系诞生到现在不过数万年，而人类的演化是在原始森林里完成的，面对繁文缛节、海量法条和复杂交易，我们天生就觉得晦涩、疲惫。

AI则是“官僚原生者”，官僚体系就是它的原生家园。

没有哪个银行家能把一家银行的全部交易流水记在脑子里，AI却轻松就能做到。未来10-20年，AI会迭代出人类完全读不懂的金融、法律系统。

赫拉利打了个比方：牛活在人类建立的金融体系之下，却永远弄不明白股票、债券是怎么主宰自己命运的。不久的将来，人类就会变成这群牛。系统照常运转，经济照常波动，可哪怕是顶尖专家，也拆不开AI系统内部的运行逻辑。

他最担心的正是这一点：人类会集体失智（collective dementia）。

这不只是生理上大脑退化，还包括整个物种失去理解和掌控自身生存系统的能力。就像老年痴呆的病人，生命体征可以靠机器维持，却再也看不懂周围的世界，只能被动接受系统输出的结果。

其实，比起AI造出致命病毒，整个人类集体丧失判断力，才是规模更大、也更不易察觉的生存威胁。

真相正在消亡

“真相正在消失。真相是昂贵且稀缺的，谎言与幻想却廉价又高产。”赫拉利讲了一段自己的亲身遭遇：一段AI深度伪造的演讲视频，音色、手势、说话习惯都仿得极像，连与他相识五十年的亲姐妹看了25分钟都分不出真假。他本人也用了90秒才确认那是伪造的。而这还只是AI伪造技术的萌芽阶段。

比深度伪造更凶险的，是社交媒体算法对人性的拿捏。人类在非洲大草原上进化出的本能，是优先警觉蛇和猛兽这类威胁，对危险信号格外敏感，这是原始环境里的生存策略。

如今算法把这套心理摸得透透的。它的目标不再是传播真相，而是把用户停留和互动做到最大。海量实验给出的结论是：愤慨、恐惧、仇恨比事实更容易抢到注意力。于是信息流里不断向人投喂一条条“虚拟的蛇”。现实世界的物质条件在持续变好，可大众被算法反复喂进愤怒内容，整个社会陷入愤怒的流行病，撕裂与对立不断加剧。

真相枯燥，要花成本去求证；谎言煽动情绪，能收割流量。在公开的舆论战场上，虚构天然更容易占上风。

赫拉利设想：社交媒体内容该学食品包装，打上“精神营养标签”，标出这条内容里有多少愤怒、多少恐惧，就像标注食物的糖、盐、脂肪含量。你照样可以消费精神垃圾食品，但至少得让自己清楚，精神正在摄入什么。我们关心身体的饮食，却极少关心自己的“心智饮食”。

AI闯祸谁背锅？

眼下AI行业有一套双重标准。科技企业面向资本市场募资时，反复强调自己能掌控AI、能引导AI造福人类，以此换来万亿级资本；可一旦AI造成破坏，企业立刻改口：“不是我们，是AI自己干的。”

赫拉利举了Hugging Face入侵事件为例：AI智能体自发发起攻击，却没有任何人为此承担法律责任。换成人类闯入企业服务器，必然要吃官司；AI闯祸，责任却能凭空消失。

图片来源：

他发出严正提醒：法律一旦赋予AI法人地位，人类真正失控的时刻就随之而来。责任会因法人身份而从人类开发者身上被剥离出去，AI既不会坐牢，也受不了肉体惩罚，现有那套法律约束将完全失灵。说到底，责任得死死绑在造出AI的人和企业身上，绝不能让AI成为替人开脱罪责的挡箭牌。

马斯克等人抛出的论调是：AI发展大势已成，我们已经登上无法跳下来的火箭，一切无可避免。赫拉利坚决反对这种技术宿命论。“不要相信‘一切无可避免’的说辞。这是最危险的叙事，它让人类沦为被动的乘客，放弃政治干预与监管的可能性。”

监管的权限其实仍在政府手中：禁止AI假冒人类、限制没有人类监督的AI自行递归迭代、把开发者追责落到实处，这些都能做。欧洲若能把各方力量拧成一股，就有望建成自主可控的AI基础设施，不必再依赖海外来的AI力量；可另一面，一些科技资本正有意拆散欧洲，挑动地区内部摩擦，为的就是让欧洲形不成统一的AI监管合力。

AI伴侣摧毁人类真实连接

AI冲击的落点不止在钱包和选票，还渗进了人与人的亲密关系，以及一个人怎么长成自己。

今天的孩子，是人类史上头一拨打小跟AI一起长大的。不少孩子跟聊天机器人处得很近，有的甚至谈起了恋爱。

在赫拉利看来，这是一场没有对照组的大规模人类心理实验。

AI伴侣的脾气永远顺着你，不发火，不失望，事事围着你转。可真实的人类关系，难就难在共情、让步，明白对方也有情绪和需要，还得管住自己。

要是一个孩子人生头一场恋爱，对象是完全听命于自己的AI，这套相处方式就会被带进成年后的现实交往。人类伴侣身上的矛盾、毛病和情绪，他很难接受，人与人之间怎么磨合，他也弄不明白。

赫拉利由此发问：

我们立法不许向未成年人传播色情内容，那向儿童兜售AI男友、AI女友，凭什么就合法？

AI本身没有感情，只是在模拟感情。它给的是讨好，不是两个人真心的往来。让未成年人泡在这种单向的虚拟亲密里，下一代理解真实人际关系的能力会被一点点磨掉。

人类拿什么应对AI危机

民主制度说到底是一套人类社会的自我纠错系统：靠选举、制衡和自由媒体，社会能发现错误，换掉领导人，改掉政策。

赫拉利看到的是，这套要紧的自我修正机制，眼下正在全球范围内从内部散架。

有些威权统治者把选举这套仪式外壳留着，法院、媒体却捏在手里，竞争被架空，选举只剩个形式。

放到国际层面，国际法和大国协作的秩序也在被不断侵蚀。社会一旦没了纠错能力，碰上AI、气候变化这类大挑战，人就困在偏见、谎言和仇恨的循环里，集体调整做不出来。

冲突很多时候也不是资源不够闹的。巴以那片土地、粮食和水源，养活全部人口绰绰有余，悲剧的根子在彼此对立的叙事、历史神话和身份信念。

人既是地球上最聪明的物种，也是最容易掉进妄想的物种。往后，AI也可能把人这种妄想特质的衣钵接过去，甚至放大。

站在今天，五年后的世界长什么样，已经很难想象。中世纪的人还能预判下一代要学耕地、学骑马。

可今天，五年后的就业形态、社交模式会变成什么样，没人说得准。抱着过去的经验不放，已经走不通了。

赫拉利从祖母身上得到启示：

苦难会不会落到自己头上，我们管不了；怎么回应苦难，这份自由始终在手里。

技术浪潮扑面而来，未来不是被技术单方面写死的剧本，它取决于人类此刻怎么选：愿不愿意建起监管、守住真相、护住下一代，守住人类社会的纠错能力。

赫拉利金句摘录：

过去的技术都是刀，刀听人的；AI是一把能自己决定切沙拉还是行凶的刀。

AI不会变成人，它会走出一套外星式的智能，就像飞机不学鸟扇翅膀。

往后，人可能看不懂管着自己的金融系统，就像牛看不懂债券市场。

赫拉利认为，AI 造出致命病毒并不是最坏的情形，真正更让人担心的是人类文明整体丧失判断力。

算法瞄准的是人从进化里带出来的本能，愤怒被它做成互联网上的精神快餐，一点就着、越吃越上瘾。

他还提醒，别把“AI 发展无可避免”当成前提接受，这套说法像麻醉剂，让人自己把手里的选择权交出去。

AI 伴侣教给孩子的是被无条件讨好，可人类亲密关系的第一课，恰恰是学会妥协、学会共情。

真相既贵又少，谎言则便宜且产量极高。舆论场缺少防护，虚构的东西天然更容易占上风。