赫拉利谈AI真危机：人类将集体失智

（本文作者为 反应堆Reactor，钛媒体经授权发布）

《人类简史》作者尤瓦尔·赫拉利在最新访谈里讲得很清楚：真正的危机跟电影里演的那套完全不是一回事，它正在现实世界上演。刀能切沙拉，也能伤人作恶，可怎么用始终由人拍板；核能既能发电，也能造核弹，方向同样捏在人类手里。人类几万年来鼓捣出的所有技术，说到底都是工具。AI 却不在这个行列。

赫拉利的判断是：AI 并非工具，它是智能体（Agent）。尤瓦尔·赫拉利参加访谈《Hyde Park Civilizace》

它能自己拿主意，产出创造者压根没想过的点子和方案。要是人类能把 AI 的所有输出百分之百算准，那万亿资本往 AI 赛道里砸就毫无道理——资本押的，正是 AI 能做出人预判不了、也办不到的事。

不少人追问：AI 何时能达到人类的智能水平？赫拉利觉得这问题本身就走偏了。AI 不会照搬人类的心智，它身上是一种异质的“外星智能”——不是从宇宙深处来的，关键在于它的思考逻辑跟人截然不同。飞机从来不像鸟那样扇翅膀，可它靠另一套原理飞得更高更远。未来的 AI 会越来越不像人，却会在很多维度上把人类能力的边界甩在身后。

AI 会是散布在手机、银行、政府、军工系统里数以十亿计的智能程序。这场“外星入侵”里，没有外星入侵者。电影《机械公敌》中的AI反派 VIKI

赫拉利把这些程序叫作“AI 移民”，它们大多出自中美，不受签证和国界约束，以光速渗进各国的基础设施。它们不忠于落地国，只忠于背后开发它的企业和国家，将来甚至可能只忠于 AI 自身的集体部落。

AI 天生混官僚圈

提起 AI 灾难，大众脑子里总是金属机器人上街暴力反抗人类那一幕。赫拉利警告说，AI 的渗透安静又无形，瞄准的是人类文明赖以协作的根基【官僚体系】。

人类能统治地球，不只靠个体力气大，还因为我们搭起了金融、法律、行政这套复杂的官僚系统，让数以百万计的陌生人得以大规模协作。可这套体系诞生不过数万年，人类的演化根植于原始森林，面对繁文缛节、海量法条、复杂交易，天生就觉得晦涩、疲惫。

AI 是“官僚原生者”，官僚体系就是它的原生家园。没有哪个人类银行家能记住一家银行全部的交易流水，AI 却轻松做到。未来 10-20 年，AI 会迭代出人类完全读不懂的金融、法律系统。

赫拉利打了个比方：牛活在人类建起的金融体系之下，却永远弄不明白股票、债券怎样主宰自己的命运。不远的将来，人类就会变成这群牛。系统照常运转，经济照常波动，可就算是顶尖专家，也拆不开 AI 系统内部的运行逻辑。

他最担忧的正是这一点：人类会集体失智（collective dementia）。这不只是生理层面的大脑退化，还包括整个物种丧失理解和掌控自身生存系统的能力。就像老年痴呆的病人，生命体征可以靠机器维持，却再也看不懂周遭世界，只能被动接受系统输出的结果。

其实，比起 AI 制造致命病毒，集体失智才是更宏大、更隐蔽的生存危机。

真相正在消亡

赫拉利说得很直白：“真相正在消失。真相是昂贵且稀缺的，谎言与幻想却廉价又高产。”

他讲了自己的亲身经历。一段用 AI 深度伪造的演讲视频，音色、手势、语言习惯都高度仿真。认识他五十年的亲姐妹看完 25 分钟都没能分辨真伪，他本人也花了 90 秒才确认这是伪造产物。而这还只是 AI 伪造技术的萌芽阶段。

比深度伪造更危险的，是社交媒体算法对人性的劫持。

人类在非洲大草原上进化出的本能是：优先警惕蛇、猛兽这类威胁，对危险信号高度敏感。这是原始环境下的生存策略。

如今社交媒体算法吃透了这套进化心理。它的目标不再是传播真相，而是最大化用户停留与互动。算法通过海量实验得出结论：

愤慨、恐惧、仇恨远比事实更容易攫取注意力。

于是信息流里不断向人类投喂一条条“虚拟的蛇”。现实世界物质条件持续改善，大众却被算法持续投喂愤怒内容，整个社会陷入愤怒的流行病，撕裂与对立不断加剧。

真相枯燥，需要付出成本去求证；谎言煽动情绪，收割流量。在公开舆论战场上，虚构天然更容易取胜。

赫拉利构想：社交媒体内容应当效仿食品包装，打上“精神营养标签”。

把愤怒、恐惧的含量像糖、盐、脂肪那样标出来，这是给内容做“营养标签”的思路。精神垃圾食品照样可以吃，但至少得知道自己在往脑子里塞什么。人们对身体吃什么很在意，对“心智饮食”却几乎不过问。

AI 闯祸谁背锅？

当下的 AI 行业存在一套双重标准。

科技企业面向资本市场募资时，反复强调自己可以掌控 AI、能够引导 AI 造福人类，以此换取万亿级资本；可一旦 AI 造成破坏，企业就立刻改口：“不是我们，是 AI 自己干的。”

赫拉利举了 Hugging Face 被入侵的例子：AI 智能体自己发动了攻击，可到头来没人被追究法律责任。换成人类闯进企业服务器，法律制裁跑不掉；AI 惹了祸，责任却能无声无息地不见。

他郑重警示：

一旦法律承认 AI 拥有法人地位，就是人类真正失去控制的那一刻。

一旦给 AI 法人身份，责任就从人类开发者身上滑走了。AI 坐不了牢，也受不到肉体惩罚，现行法律的约束力会整个失灵。责任得死死拴在造出 AI 的人和企业身上，别拿 AI 当挡箭牌来推卸罪责。

马斯克等人放出一种说法：AI 大势已定，我们坐上了一枚下不来的火箭，什么都躲不掉。赫拉利对这种技术宿命论明确表示反对。

“不要相信‘一切无可避免’的说辞。这是最危险的叙事，它让人类沦为被动的乘客，放弃政治干预与监管的可能性。”

政府依然拥有监管的权力：可以禁止 AI 伪装成人类、限制无人类监督的 AI 自递归迭代、强制落实开发者追责。

欧洲要是能把全部力量拧成一股，就有机会建起自主主权的 AI 基础设施，不必再靠海外 AI 移民。可另一头，一些科技资本正有意拆散欧洲，挑动地区内部矛盾，为的就是不让欧洲长出统一的 AI 监管力量。

AI 伴侣摧毁人类真实连接

AI 带来的冲击，不止经济、政治，更深入人类亲密关系与人格塑造。

现在这批孩子，是人类历史上头一代打小就和 AI 一起长大的人。不少人跟聊天机器人处出了亲密关系，甚至是恋爱关系。

赫拉利把这件事看成一场大规模的人类心理实验，而且没有对照组。AI 伴侣从不顶嘴，不会恼火，也不会失落，一切都围着你转。可真实的人际关系，关键恰恰在于学会体谅、让步，明白对方同样有情绪、有要求，也懂得管住自己。

要是一个孩子人生头一场恋爱，对象是百依百顺的 AI，这套相处模式就会跟着他走进成年后的现实交往。人类伴侣身上的矛盾、毛病和情绪，他很难接受，人与人之间那种彼此磨合，他也理解不了。

赫拉利由此发问：法律禁止向未成年人传播色情内容，那向儿童兜售 AI 男友、AI 女友，凭什么就算合法？

AI 本身没有情感，只是在模仿情感。它给出来的是讨好，不是真正的双向投入。让未成年人泡在这种单向的虚拟亲密里，下一代理解真实人际关系的能力，会在不知不觉中被削弱。

人类拿什么应对 AI 危机

民主制度说到底是一套人类社会的自我纠错系统：靠选举、制衡和自由媒体，社会能发现错误，换掉领导者，调整政策。赫拉利看到的是，这套关键的自我修正机制，正在全球范围内从内部瓦解。

一些威权统治者把选举的仪式外壳留着，却把手伸进法院和媒体，把竞争架空，选举只剩下形式。

在国际层面，国际法和大国协作的秩序不断遭到侵蚀。社会一旦失去纠错能力，碰上 AI、气候变化这类事关生存的大挑战，人类就会困在偏见、谎言和仇恨的循环里，做不出集体调整。

冲突很多时候也不是资源不够引起的。巴以冲突的土地、粮食和水源，足够养活全部人口，悲剧的根子在于彼此对立的叙事、历史神话和身份信念。

人类是地球上最聪明的物种，也是最容易掉进妄想的物种。将来，AI 也可能把人类这种妄想特质继承下来，甚至放大。

站在今天，五年后的世界是什么样，已经很难想象。中世纪的人还能预判下一代要学耕地、学骑马。可今天，五年后的就业形态、社交模式会变成什么样，没人说得清。抱着过去的经验不放，已经走不通了。

赫拉利从祖母身上得到启示：苦难会不会落到自己头上，我们控制不了，但怎么回应苦难，这份自由始终在自己手里。

技术浪潮迎面扑来，未来不是被技术单方面写死的剧本。它取决于人类此时此刻的选择：愿不愿意建立监管、守住真相、保护下一代，守住人类社会的纠错能力。

赫拉利金句摘录：

过去所有技术都是刀，刀听人的；AI 是一把能自己决定切沙拉还是行凶的刀。

AI 不会变成人类，它会发展出一套外星式智能，就像飞机不会学鸟扇翅膀。

未来，人类可能看不懂统治自己的金融系统，如同牛看不懂债券市场。

比起 AI 制造致命病毒，更可怕的是人类文明的集体失智。

人类的进化本能正被算法拿捏。愤怒这种情绪，在互联网上被加工成了随手可取的“精神快餐”。

还有一种说法要警惕——所谓“AI发展无可避免”。在赫拉利看来，这套叙事起的是麻醉作用，让人心甘情愿交出选择权。

AI伴侣教给孩子的，是被无条件讨好。可人类亲密关系的第一课，恰恰是学会妥协、学会共情。

真相又贵又稀缺，谎言却便宜、产量又高。舆论场没什么防护，虚构的东西天然更容易占上风。