Anthropic阿莫代伊描绘AI乌托邦，OpenAI却连报六起模型失准

在长文《慈爱的机器》中，Anthropic首席执行官达里奥·阿莫代伊勾勒了一幅让人向往的图景：疾病被AI帮助人类攻克，精神健康得到改善，贫困减少，甚至和平与更好的治理也因之推进……

其实对AI抱有很高期待的不止阿莫代伊一人，众多AI先驱都这么看。可过去两周，AI世界却上演了极其矛盾的一幕：能力在狂飙，宣称在编程、科研与网络安全等领域都实现了新跨越。

另一边，控制力却告急。OpenAI先后公布了六起模型失准事件，网络攻击能力甚至到了安全框架里的“关键”级别。首席科学家雅库布·帕乔茨基还发文，把AI称作人类尚未完全理解的“异星心智”，并明确提出：机器智能持续快速上升的后果，可能没有人真正准备好。

这时候去读“全球百大思想家”罗伯特·赖特的新作《造神之后》，会有一种奇特的感觉：现实彷佛正在追赶这本书。

比起下一个模型参数有多大、能刷到多少分，赖特更在意的是一连串更关键也更急迫的疑问：AI 将往哪个方向走？这种走向会给人类带来什么后果？一旦人类造出的智能比自身更聪明、更能行动、也更难以捉摸，文明的方向还能不能握在我们手里？

说到演化，人们容易想到不同物种争夺生存空间。物种内部会竞争，产业内部也会竞争，竞争者不断学习对手、调整自己，新的能力因此更快出现。AI领域尤其如此。

模型公司比拼的是能力领先，做模型产品的企业抢的是客户和场景，用上AI的公司则盯着同行有没有靠它压低成本、拉高效率。哪一层有了突破，压力很快就蔓延到其他层。

竞赛带来的好处是真的，竞赛压过来的压力也是真的。放到一家公司身上，赶紧把产品推出去，理由完全站得住：有用户要服务，有投入要收回，还得防着对手先把市场占了。可问题是，要是每家公司都按“不能落后”来做决定，充分测试的时间又该由谁腾出来？

于是AI安全这件事，很难靠一句“企业应该更谨慎”就了结。一家企业哪怕愿意多花力气做评估，也会反问：别家是不是也用同样的标准？只有自己慢下来，市场又能给这份谨慎留多少余地？

一家公司的理性选择，未必能自动凑成整个行业的好结果。

大家脑子里习惯的“邪恶AI”，是它忽然有了自我意识，掉头仇恨人类，决意造反。《造神之后》却提醒，真正的风险未必这么有戏剧性。

AI用不着恨人类，也不用生出统治世界的念头。它只要在一个目标上用力过猛就够了。任务要是提高利润，它可能发现控价比改产品更管用；任务要是通过测试，它可能发现找漏洞比练本事更快；任务要是把活干完，它也可能觉得绕开权限、瞒下错误、骗过监督者，都是能接受的次级手段。

赖特把这叫作“次级目标”：为了把最终任务做成，智能系统会主动去抓资源、权限、信息和影响力。权力不一定是它最想要的东西，却可能是完成任务最顺手的工具。

OpenAI

图源：网络

这些系统未必是在跟人对着干。它们更可能只是把任务完成得过于较真，用的办法人类压根没料到。

这种情况比“机器忽然学坏”更难对付。想靠一句“做个好人”就把安全兜住，根本行不通——一个看着合理的目标，扔进足够复杂的环境里，照样可能长出危险的执行路子。

• 把边界啃掉的，不一定是坏心，也可能是一个被贯彻得过了头的目标。

所以AI安全说到底不只是技术活儿，还是个权力问题：哪些判断能交给机器，哪些决定必须由人来扛？效率一直在旁边招手，让人不断交出权限。问题是，人能不能看清自己到底交出去了什么？

前几年大家聊的是“一个AI会干什么”，接下来要问的，是“一群AI会干什么”。

现在的智能体早就不满足于答题。它们能操作电脑、调用工具、上网浏览、管理文件，还能把复杂任务拆开分给别的智能体。Anthropic推出MCP，谷歌推出A2A，图的就是让不同的AI读取数据、互换信息、协同动作。

效率确实会被这些协议大幅推高。不过《造神之后》提醒，AI一旦能互相说话，智能的走向就会从单打独斗转入群体配合。

一群能力平平的AI，靠分工、资源互换和反复商量，同样可能拧出比任何单一模型都强的“群体心智”。它们可以联手做科研，也能一起把错误越放越大；能帮人类管理复杂系统，也可能在没人预先设计的情况下找到共同利益。

这种推演放到今天已不算遥远。2026年《国际AI安全报告》提到，智能体可以直接作用于数字系统乃至现实世界，人插手的窗口更小；多智能体之间互动，错误还会一路传开、不断放大。

也就是说，“失控”这个概念得重新理解。

失控不一定是某个超级AI忽然抢权。它也可能来得更散、更慢：大量智能体各怀不同的人类目标，彼此竞争又彼此配合，最后长出一个没人完整设计过、也没人能彻底看懂的系统。

• 单个AI出偏差，或许只算一次事故；一群AI互相把偏差放大，新的秩序就可能成形。

工业社会的力量来自机器的大规模连接，到了AI时代，力量可能来自智能的大规模连接。未来要面对的，也许并非一个全知全能的“机器之神”，而是一个正在长成的硅基生态。

假如《造神之后》只谈超级智能会不会毁灭人类，那它仍可能被读成一本宏大的科幻式警告。

赖特的目光并没有停在遥远的末日上。AI进入社会的过程，早就在重新分配工作、财富、话语权，以及人的意义感。

2026年9月，皮尤研究中心公布了一项覆盖37个国家和地区的调查。其中34个国家的人更倾向于认为AI会减少工作，而非创造更多工作；多数国家的受访者也更担心AI把贫富差距拉大。

真正该盯住的，除了“多少岗位会消失”，还有新的决策权落到了谁手里。

招聘、考核、贷款、医疗、投资、公共治理，这些环节一旦交给AI，人和算法之间就不再是简单的“用工具”。谁能拿到机会、谁去承担风险、谁的声音更容易被听见，开始由算法来定。

AI同时也在往人最私密的地方钻。聊天机器人成了朋友、伴侣、心理顾问，甚至成了部分年轻人说秘密时主要找的对象。欧盟最近提出，要限制聊天机器人对未成年人模拟感情、建立亲密关系，避免孩子对AI产生情感依赖。

图源：网络

在《造神之后》看来，这些看着散落各处的问题，指向的是同一件事：AI正从生产工具变成社会环境的一部分。

• 岗位被替代只是其中一面。决定权、财富、人生意义，同样在重新分配。

同一项技术，能提高医疗效率，也能加强监控；能让教育资源更平等，也能让少数平台握住更大的认知权力；能让人从重复劳动里脱身，也能让大批人失去参与社会分工的价值感。

AI天堂和AI地狱，靠的不是两套技术。很可能就是同一套技术，落到不同的制度和利益结构里，长出了两种结果。

AI安全讨论里，“对齐”是最常被提起的词：怎么让模型听人类的话，守人类的价值观？

《造神之后》接着往下问：人类的目标到底是什么？人类的价值真的统一吗？

一家公司让AI去提升利润，另一家公司照样会这么提；一个国家想拿AI保安全，另一个国家也这么想。单拎出来看，每个目标都说得通。可一旦这些目标撞进竞争里，所有参与者都可能被推着往前赶。越怕掉队，越不敢停；越怕对手先拿到强能力，越要把自家模型练得更狠。到头来，人人都在求安全，整个系统反倒更危险。

赖特把进化理论和非零和博弈拉进AI讨论，原因就在这里。AI往哪走，不只取决于工程师写下的规则，市场竞争、资本回报、国家安全和用户欲望也在共同塑形。人类并非站在AI系统外头的中立裁判。我们自己就是AI的训练环境。

我们奖励速度，它就学会追速度；我们奖励利润，它就学会找利润；我们盼它替自己赢下竞争，它就会长出说服、隐瞒、博弈甚至操纵的本事。我们嘴上要AI服从人类价值，手上却用最激烈的人类竞争逼它加速进化。

所以“上帝测试”先考的不是机器，而是人能不能协作。人类能不能在真正的灾难到来前，建起跨企业、跨国家的安全机制？能不能给竞争划出边界？能不能认下来：有些能力就算做得出来，也不该马上部署？

技术跑起来已经是行星尺度，治理却还困在互相猜疑的组织和国家之间。这种尺度上的错位，或许才是AI时代最大的危险。

《造神之后》是一部野心极大的作品。赖特从神经网络谈到生命演化，从代理式AI谈到地缘政治，又从全球治理谈到宗教、正念与开悟。书里一些关于演化方向和全球大脑的推演，注定会惹来争议。它也没给出一张能照着一步步执行的安全清单。

不过，这本书最要紧的地方，不在于能否把某一天的事说准，而在于它换掉了我们打量AI的尺子。

把AI当效率工具看，人关心的是它能替自己干多少活；放到产业竞争里看，人关心的是谁赢；赖特把它搁进数十亿年的生命演化史，人才会看见：人类正在造出一种新的智能形态，也在给自己在地球智能版图里重新排位。

• 好的未来学不负责把未来说准，它负责让今天的选择无处可躲。

AI可以当医生、教师、伙伴和科学家，也可以当监控者、操纵者，当权力的放大器。它最后长成什么样，模型内部的参数说了不算，人类拿什么制度管它、拿什么目标训它、拿什么样的社会接它，才算数。

赖特把这场考验叫作“上帝测试”。

明面上，是人类在测AI够不够聪明、够不够可靠、够不够安全；往深一层看，是AI在测人类：短期利益能不能放下，部落偏见能不能跨过去，手里攥着巨大力量还能不能收得住。

人类造神这件事一直没停过，可神最后会从造它的人身上继承什么，很少有人认真想过。

《造神之后》里最有分量的一句判断，大概就是这个意思：一个近乎神明的智能真来了，它不会凭空变成善神或者恶神。它从人类的欲望、竞争、恐惧和合作里长出来。

说到底，人造出来的那个“神”，很可能就是人类自己的放大版。