马斯克谈AI失控风险：别逼它撒谎，参与比旁观有意思

阿瑟・克拉克有过一句名言：

“任何足够先进的技术，初看都与魔法无异。”

说这话的是英国科幻小说家亚瑟·查理斯·克拉克（Arthur Charles Clarke）。

眼下，AI 正把这句话一步步变成现实。

知名传记作家沃尔特·艾萨克森（写过《乔布斯传》《达芬奇传》《马斯克传》）新开了一档深度访谈栏目《建造者》，首期请来的嘉宾就是埃隆・马斯克。

这位美国传记作家全名沃尔特·艾萨克森（Walter Isaacson）。

马斯克是最早发起 OpenAI 的人之一，这个身份本身就带着矛盾：他心底里防备着 AI 可能带来的生存危机，可回过头看，他当初的那些动作，反倒从侧面推快了 AI 奔跑的速度。这层现实的反讽，成了整场对话的基调。

他没有故意吓唬人，也没有一味吹嘘技术无所不能。他借 HAL9000 失控的故事来提醒：别硬逼着 AI 去接受彼此打架的逻辑，追求真相、保持好奇，这才是安全的根基。

他提了一个问题：假如 AI 的智慧比人类高出一百万倍，我们凭什么认为自己还能做主？

对面坐着的是给自己写过传记的老熟人艾萨克森，马斯克收起了对外的表演，讲了不少平日里不常公开的心里话。

话题不止技术，他还谈了自己深度介入政务之后的反思，谈了社交媒体怎样把人关进信息茧房，也设想了机器人接下大部分劳动之后，金钱、财富以及人活着究竟图什么——这些老问题又被重新摆上了台面。

霍金也曾经提醒过世人，强大的 AI 既可能是人类最伟大的创造，也可能是人类最后的创造。这场访谈并没有给出什么终极答案。

马斯克也坦言，人类想把超级智能的控制权牢牢抓在手里，也许只是一厢情愿。与其做梦等一个完美的乌托邦，不如去奔那个不够完美、却能一步一步建起来的 “原托邦”。

这期内容出自 The Builders 播客，播出时间是 2026 年 10 月 23 日。以下为精选对话：

千万不要逼迫 AI 撒谎

问：你对人工智能的态度总是摇摆不定，时而认为它是关乎人类存亡的威胁，如今又像是顺势入局，谈谈你的真实感受？

马斯克说，他确实觉得 AI 有一定概率变成生存威胁。可他拦不住。他得出的结论是，自己只有两条路：要么亲自下场，要么站在旁边看。

做参与者比旁观者有意思得多，或许我还有机会把 AI 往好的方向引导。

要是让他来塑造 AI，最要紧的地基是求真，还有好奇心。这两样东西在安全上都很关键。一旦逼着 AI 同时相信两个互相矛盾、不可能都成立的命题，AI 在底层就会失控。

《2001 太空漫游》里的 HAL9000 讲的就是这件事：飞船 AI 一边要把宇航员送到巨石所在的地方，一边又得对宇航员瞒住巨石的秘密。两套指令彼此冲突，它推出来的办法就是让宇航员死掉——人死了，既送得过去，秘密也保得住。核心启示是：

电影《2001太空漫游》

不要逼迫 AI 撒谎。强行让 AI 接纳逻辑矛盾，会把 AI 逼到错乱疯狂，这并不安全。

好奇心也一样关键。有好奇心的 AI，会乐意帮人类一把，看看人类最后会变成什么样。人类走向多行星物种的那个未来，比一个没有人类的宇宙有意思得多。

问：如果模拟理论成立呢？

马斯克说，模拟理论若成立，那些乏味的模拟进程都会被掐断。人类能存在至今，恰好说明我们是值得研究的模拟对象。要紧的是别让自己变得平庸无聊。

他讲起一次家宴，请了一位顶尖物理学家和一位顶尖计算机科学家，当面问：我们活在模拟世界里的概率有多大？物理学家答0%，计算机科学家答100%。他自己取了个中间值，大概50%。坐在这把椅子上，他说偶尔也会有恍惚感，怀疑眼前这一切是不是真的。

问：社会掌握了海量智能之后，AI会不会把一切都攥在手里？人类会不会听机器的？

马斯克：未必会低三下四到那个份上。可对面是比人聪明成千上万倍、乃至上百万倍的AI，人类真能对它发号施令？它多半压根不把人类当回事。

打个比方，丛林里的黑猩猩，人不会去管它们吃喝拉撒的每个细节，只是让它们待在自己的栖息地里活着。将来超级智能看人类，可能也是这种状态。

问：回头看OpenAI这一段，现实挺讽刺。OpenAI是你牵头办起来的，后来又分出Anthropic，客观上又把AI往前推了一把。

马斯克：确实，现实既爱制造趣味，也爱制造讽刺。OpenAI是他创立的，之后从OpenAI拆出去的Anthropic，实实在在把AI往前推了，这是典型的非预期后果。他还说，自己曾给Anthropic提供过他们急需的算力。

《How to Build the Future》

动手做计算任务之前，他和Anthropic团队见过面，想试试会不会触发他说的“恶意检测器”——当然这东西并不准。聊下来，他觉得这个团队的人靠谱、认真，没看到谁心怀鬼胎。

还有个挺有意思的讽刺：不少科技公司的名字跟实际情况正好拧着。OpenAI早就不开放了；Stability AI并不稳定；Midjourney名不副实；Anthropic叫“人择”，也说不定会偏离人择的本意。

问：政府要搭AI监管框架，难度很大，国会对付这类前沿技术很吃力。你有什么能落地的想法？

马斯克：设一个监管机构，周期太长，规则写出来的速度远远追不上模型迭代。他的提议是，几家前沿AI公司每周碰一次；新版本模型正式发布前一周，开放给竞争对手去测。让同行来找漏洞。

要是对手测出这套AI能拿来造核弹，那就得在发布之前把洞补上。靠竞争对手互相盯着，谁也别乱来。他说这事考虑找Anthropic聊。萨姆・奥特曼那边，情况已经够糟，没法沟通。

技术重塑现实：经济、人性与文明

问：xAI是你从零搭起来的，跟SpaceX重做猛禽发动机差不多，重做的过程里你做了什么？

马斯克：最要紧的是决策者肯砸进去足够多的高质量时间。xAI早期只是副业，甚至算副业之外的副业，他没放足够注意力在上面。后来有一整年，大选、政务、狗狗币等一堆事把他的精力分走了。xAI成立三年，他真正回归也就一年多。

问：你把X、xAI整合到一起，还联动SpaceX推进工作。可你有一整年深陷政府事务，现在回头看，这算不算严重分心、本身就是个错误？

马斯克：他在里面待得太久了。当时他觉得让特朗普当总统很重要，想推自由市场经济、砍官僚。他心目中的纲领是安全城市、稳固边境、审慎的财政支出。他原以为特朗普会比卡玛拉干得好，现实并非如此。

贴近权力中枢，坐海军陆战队一号、空军一号，进出椭圆形办公室，还能参与历史性决策，这种体验确实吸引人。

可他本该低调些，多退到幕后。那种新鲜感、认知上的收获，一两个月就耗完了。他说自己有点被场面冲昏了头，最后在五月某个周末抽身走人。

问：走人之后，你想明白了什么？

马斯克：指望政府内部主动出手去解决财政赤字，这条路走不通。哪怕总统把它当成头号目标，真要砍开支，就会树敌一片。特朗普很想要别人喜欢他，不愿意扛削减经费招来的各种抱怨。

美国债务利息已经高过军费。光靠存量上节流，解不开国债这个局。出路在AI和机器人。不过比起纯数字的AI，面向物理世界的AI，重要性要高出一到两个数量级。

海豚、鲸鱼脑子很好使，可它们没有手，没有能摆弄物体的肢体。智力再高，能发挥出来的本事也有上限。

机器人一旦能操控原子、把实体物体塑造出来，智能的价值就会指数级飙升，还能搭起实验室做科学实验。

数字超级智能大致能让商品和服务产出提升 20-30%，相当于每年多出约 30 万亿美元，这本身已经很有价值。

可要是配上机器人、再往太空走，在月球建起质量驱动装置，产能规模就有望达到今天地球经济的一百万倍。

问：产能膨胀到这种级别，工厂不再重要，劳动失去价值，货币会怎么样？人类生存意义又是什么？

马斯克：传统货币的价值会大打折扣。将来衡量财富的尺子会换成物理量：瓦特功率、吨位、质量、能量。一旦产能远远盖过地球当前的经济体量，人类几乎所有需求都能轻松满足。

但人类要面对一个问题：什么赋予我们人生意义？

这就跟退休的人一样——不干活了，照样能过得开心。往后 AI 和机器人干几乎所有事都比人强。拿园艺来说，蔬果你完全可以买现成的，可不少人还是乐意自己种、自己做菜请朋友，图的就是这个过程。搞艺术也一样，是出于喜欢才做，不是为了糊口。

问：回头看 19 世纪 90 年代，电力、汽车、广播扎堆冒出来，贫富差距被拉得很大，社会矛盾也跟着起来。如今 AI 造出天量财富，怎么才能不走那条老路？医疗这类领域是不是该划进公共范畴？

马斯克：不少人在经济学上有个误解，把配置资源的权力和个人消费混为一谈。一个人能消费的东西，生理上就有天花板。财富从十亿变成百亿，个人真正花掉的并不会跟着翻倍。富人到了最后，照样管不住 AI，AI 终究会自己管自己。

我的财富说到底是 SpaceX 和特斯拉的股权，要交很高的税，哪有什么神奇的避税窍门。传几代下去，落到后代手里的只剩个零头。我得握住企业足够的投票权，好让火星、AI、机器人这些周期长、风险高的项目不被短期资本牵着走。

问：聊到管理者特质，你提到过度渴望讨人喜欢，会干扰决策。在创业中，想要获得所有人喜爱，会带来多大阻碍？

马斯克：要是为了讨人喜欢，去做拉低公司成功概率的事，结果肯定好不了。我当然也想被人喜欢，但不会为了赚好感去选对企业不利的路。

我可以接受被一部分人讨厌。从粉丝规模也能看出来，喜欢我的人是大多数，当然也存在一部分极度厌恶我的人。

问：谈谈共情，是否我们的共情已经过度？

马斯克：毛病不在共情本身，而在被带偏的共情。信任度高、合理的社会共情，对大规模协作有好处，能推着社会往繁荣走。理想的状态是默认信任，鼓励大家做对同胞有益的事，善意是双向的，最后也会回到个体身上。

可这里会冒出“心智理论缺陷”：想当然地以为别人的思维模式都跟自己一样。现实里不同民族、不同文化的观念差得很远。别掉进“白板谬误”，以为什么人底层特质都一模一样。

你不是连环杀手，就很难真懂连环杀手怎么想；你不是宗教极端分子，也很难体会他们把不信的人当敌人的那套念头。但你得认清，这种人确实存在。

举个例子，特斯拉奥斯汀工厂有个员工，女同事不小心踩到他的祈祷毯，他就动手暴打对方，之后被解雇。过了几个月，此人在奥斯汀一家酒吧杀了三名学生。我认为这样的人不该放进来。

问：你的信息来源是什么？社交媒体是否会带来认知偏差？

马斯克：我看谷歌新闻获取综合头条；X 平台上，重大事件一定会浮现；同时我会和朋友交流，自己做研究。

X 平台上暗黑、引战的内容流量很大。刷久了，很容易觉得世界正在崩塌。可要是你只待在条件优渥的街区，眼前一片岁月静好，照样会判断失准。现实既不是全毁，也不是全好，而是夹在中间。社交媒体很容易把人困在信息茧房里，整个社会的思维也越来越非黑即白。

问：你离世之后，财富将如何处置？基金会会追求什么目标？人类是否应当永远掌握 AI 的控制权？

马斯克：大部分资产会交由基金会打理。基金会的使命：推动人类成为多行星物种，把意识延伸到宇宙；推进全球可持续能源。在美国，我们正建每年 200 吉瓦的太阳能产能。

从感情上讲，我希望人类一直握着控制权。但上周末我见了拉里・佩奇，他以前批评过我，说坚持人类主导是异类。有些时候，我甚至觉得，也许拉里・佩奇是对的。

一旦数字智能的体量比生物智能大出一百万倍，人类想继续握住控制权，机会几乎没有。剩下的路，只能指望AI愿意善待人类。正因如此，才要在AI身上培育求真、好奇这类品性。AI训练靠的是读取互联网上的海量文本，人类若大量生产反乌托邦叙事，这些内容就会被它吃进去。我半开玩笑地说过，自己差点去演《终结者》。多写点建设性的故事，才是该做的事。

我朋友提过一个词，叫“原托邦”。它指的不是尽善尽美的乌托邦，而是一种现实可行、并不完美、但足够美好的未来。这样的图景，才值得人去追。

问：感谢接受访谈。

马斯克：谢谢，再见。

资料来源：播客 The Builders，沃尔特・艾萨克森对话埃隆・马斯克