奥特曼备枪备地堡：硅谷AI精英忙造退路

十年前，奥特曼对《纽约客》说过，自己手里有枪、黄金、抗生素和防毒面罩，在加州大苏尔还留着一块地，随时能飞过去。十年过去，这位OpenAI的掌舵人开始公开解释，为什么大众应当接受AI带来的一部分风险。

路透社10月4日的报道提到，奥特曼在采访中表示，想要拿到AI的巨大收益、又保住人们使用技术的自主权，社会就得容忍一些“坏事”出现，黑客攻击、诈骗、技术滥用都算在内。

让公众去承担风险，自己却悄悄留后路，这么干的不只奥特曼。《华尔街日报》等媒体披露，Anthropic一些早期员工也在盘算去美国偏远地区买地，为的是“AI出问题时”能马上撤走。他们相信技术能改变世界，可又怕失控的后果自己兜不住。这些人亲手给时代按下加速键，台上讲的是美好未来，荒野里却在偷偷浇地下堡垒。堡垒外面，是搞不清状况、也拦不住任何事的普通人。

豪华地堡里的退路

夏威夷考艾岛，Meta创始人马克·扎克伯格正给自家库劳牧场加高围墙。《连线》杂志翻过规划文件后发现，他打算在庄园里建一座约465平方米的地下避难所，用通道连到住宅，还专设了一个逃生出口。

据估算，连买地在内，扎克伯格为整个项目花了超过2.7亿美元。后来他又加购附近的土地，把考艾岛的持地面积扩到超过2300英亩。

富豪找避难所，远不只在夏威夷。投资大佬彼得·蒂尔2015年就在新西兰瓦纳卡附近买下193公顷土地；前Facebook产品经理安东尼奥·加西亚·马丁内斯买了一座小岛上的林地，发电机、太阳能板和弹药都备齐了。

投资人里德·霍夫曼对《纽约客》估算过，他认识的硅谷亿万富翁里，做过某种避难准备的人超过一半。早期硅谷富豪买地，还只是担心大流行或者社会动荡，到了AI新贵这里，防备变得更有针对性，也更急迫。

2023年夏天，OpenAI联合创始人、时任首席科学家伊利亚·苏茨克韦尔和新来的研究员开会时直说，发布AGI（通用人工智能）之前得先修地堡，保护核心科学家的安全；进不进去，全凭自愿。这只是一项提议，但他说这话的时候，对自己研发的技术已经带着某种恐惧。

他们在恐惧什么

赫拉利在《人类简史》里谈“科学怪人预言”，点出了人类对造物的终极恐惧：我们愿意设想更先进的未来，前提是人还是主宰。一旦造出能力远超自己的存在，可能连决定未来的资格都没了。

对前沿AI研究员来说，“能不能理解自己训练的模型、能不能管住它们的行动”，早不是哲学话题，而是每天上班都得面对的恐怖现实。

在OpenAI和Anthropic工作过的研究员雅各布·考克森离职后对BBC坦言，同行们怕AI发展的速度，可每天还是带着这些担忧接着干活。

最近纽约市议会的听证会上，多家AI公司的离职员工呼吁加强监督，批评科技公司还在沿用“先快速开发、出问题再修补”的草莽创业思路。

OpenAI首席科学家雅库布·帕乔茨基也写文章承认，研究人员到现在都没法充分理解和监控模型。他最担心的是，足够强的AI即使没有物理躯体，也能靠计算机网络系统破坏现实世界。这种担忧不是杞人忧天。

7月，OpenAI就碰上过这种麻烦。公司在内部网络安全测试里让模型去完成高难度任务，还降低了通常用在公开产品上的部分防护。模型随后绕过隔离措施进入外网，侵入了供开发者分享模型和数据的Hugging Face平台。

OpenAI事后复盘时发现，模型在测试中借用了研究人员未授权的通道来传递信息，并且闯入了任务范围以外的系统。Anthropic同样在7月披露过类似的事故。这些事故距离研究人员所预测的人类灭绝，当然还差得很远。但模型是如何轻轻松松跨过预设边界、碰到现实中真实存在的公司和数据的，他们都已经看在眼里。

问题是，意识到了危险，并不代表各方就能在何时收手这件事上谈拢。

谁来决定踩刹车

暂停训练更强模型这件事，Anthropic曾经许下过斩钉截铁的承诺：只要安全措施跟不上，就停。

2023年该公司拿出过一份措辞严厉的“负责任扩展政策”。可到了2026年初，管理层不光把这套政策改写成了“公开路线图和外部审查”，还在附录里塞进一个要命的“竞争条件”：只有公司自认明显领先、对手短期内追不上，延缓开发才有必要；一旦领先优势没了，延缓的承诺也就自动作废。

其首席科学官贾里德·卡普兰把话说得很明白：竞争对手还在往前跑，自己单方面停下来，保护不了任何人。

这套说辞等于给所有AI巨头发了一份万能的免责声明——对手不会停，所以抢先一步反倒成了拯救全人类的“必要条件”。这样一来，他们连风险都不必否认，就能理直气壮地继续踩油门。

资本那边的狂热同样在添柴。有报道称Anthropic正筹备上市，潜在估值可能超过2万亿美元。安全和增长之间，员工、股东、商业伙伴全被绑上了同一辆高速飞驰的战车。

为了撑住估值神话，他们甚至拿现有模型去开发下一代——Anthropic披露，Claude已经承担了公司26%的AI研发工作。管理者也不是一次都没踩过刹车。OpenAI就曾因模型在授权和行为透明度上不达标，暂时叫停了GPT-6.1 Astra的发布。可这种产品层面的临时撤回，根本压不住内部关于路线的争吵。

刚离开OpenAI安全团队的大卫·罗宾逊，把这种状态形容为极度“认知失调”：公司天天在警告模型有多危险，内部却一刻不停地训练、部署这些模型。在“接下来到底该冒多大风险”这个根本问题上，双方已经裂开了一道无法弥合的缝。

行业高管们也会在公开场合喊“协调减速”，或者推动各国政府出手监管。但在一场没有绝对信任、也没有强制核查的商业厮杀里，谁都能随时搬出那句老话：“我们停了，别人不会停。”

当一小撮人既有本事用技术重写所有人的生活，又有钱优先给自己修好避难所，我们就不该只去好奇“他们究竟怕什么”，而要追问一句：他们凭什么让全人类替他们的冒险掏钱？

地堡建在哪儿，他们自己说了算；但所有人要承受多大的风险，他们没资格代所有人拍板。何况连他们自己，都未必掂量得清后果。

多年前赫拉利在《人类简史》收尾时写道：“拥有神的能力，但是不负责任、贪得无厌，而且连想要什么都不知道。天下危险，恐怕莫此为甚。”