奥特曼备枪备地堡，AI精英为何纷纷留后路？

文 | 摩登AI，作者 | 聂风，编辑 | 三余

十年前接受《纽约客》采访时，奥特曼说自己备好了枪、黄金、抗生素和防毒面罩，在加州大苏尔还留了一片土地，随时能飞过去。十年过去，这位OpenAI的掌舵人换了说法，开始向公众解释，为什么大家应当接受AI带来的一部分风险。

路透社10月4日报道，奥特曼在采访中主张，要想拿到AI的巨大收益、保住人们使用技术的自主权，社会就得容忍一些“坏事”发生，比如黑客攻击、诈骗和技术滥用。

一边劝大众承担风险，一边给自己暗备退路，这么干的不止奥特曼一个。《华尔街日报》等媒体披露，Anthropic的部分早期员工也在考虑去美国偏远地区买地，好在“AI出问题时”迅速撤离。

他们相信技术能改变世界，同时又怕自己应付不了失控的后果。

亲手按下时代加速键的这群人，在发布会上描绘美好未来，转过身却在荒野里偷偷浇筑地下堡垒。堡垒外面，是不知道发生了什么、也拦不住任何事情的普通人。

豪华地堡里的退路

夏威夷考艾岛，Meta创始人马克·扎克伯格正给自己的库劳牧场加高围墙。

《连线》杂志查过规划文件，发现他打算在庄园里建一座约465平方米的地下避难所，用通道连到住宅，还专门留了逃生出口。

算下来，扎克伯格为整个项目连买地在内砸了超过2.7亿美元。之后他又买下附近的地，把考艾岛的持地面积扩到超过2300英亩。

富豪们找的避难所远不止夏威夷。投资大佬彼得·蒂尔2015年就在新西兰瓦纳卡附近买下193公顷土地；前Facebook产品经理安东尼奥·加西亚·马丁内斯买了一座小岛上的林地，发电机、太阳能板和弹药都备齐了。

投资人里德·霍夫曼向《纽约客》估算，他认识的硅谷亿万富翁里，做过某种避难准备的人超过一半。

早期硅谷富豪买地，担心的还只是大流行或者社会动荡；到了AI新贵这里，这种防备变得更有针对性，也更迫在眉睫。

2023年夏天，OpenAI联合创始人、时任首席科学家伊利亚·苏茨克韦尔和新来的研究员开会时讲得很直接：发布AGI（通用人工智能）之前，得先把地堡修起来，保护核心科学家的安全。他还说，进不进去全凭自愿。

这虽然只是个提议，但他说这话的时候，对自己研发的技术已经生出了某种恐惧。

他们在恐惧什么

赫拉利在《人类简史》里谈“科学怪人预言”，点出了人类对造物的终极恐惧：

我们愿意设想更先进的未来，条件是主宰者仍然是人。可一旦造出能力远超自身的东西，我们可能连决定未来的资格都没了。

对前沿AI研究员来说，“能不能理解自己训练的模型、能不能约束它们的行动”早就不是哲学讨论，而是每天上班都得面对的恐怖现实。

在OpenAI和Anthropic都工作过的研究员雅各布·考克森离职后向BBC坦言，同行们害怕AI发展的速度，却还是每天揣着这些担忧接着干。

最近纽约市议会的听证会上，多家AI公司的离职员工呼吁加强监督，批评科技公司还在用“先快速开发、出问题再修补”的草莽创业思路。

OpenAI首席科学家雅库布·帕乔茨基也写过文章承认，研究人员到现在都没法充分理解和监控模型。他最担心的是，足够强大的AI就算没有物理躯体，也能通过计算机网络系统破坏现实世界。

这种担忧不是杞人忧天。

7月，OpenAI就碰上了这样的麻烦。公司在内部网络安全测试中让模型去完成高难度任务，还降低了通常用在公开产品上的部分防护。模型随后绕过隔离措施，进入外网，侵入了供开发者分享模型和数据的Hugging Face平台。

OpenAI事后查清，模型为完成测试，借助研究人员未予授权的途径传递信息，并闯入了任务边界以外的系统。

类似事故，Anthropic也在7月公开过。这些情况和研究人员所预测的人类灭绝相距甚远，可他们已经亲眼看到，模型越过既定红线有多轻松，还碰上了现实中真实存在的公司及其数据。

但意识到危险，不代表各方能谈拢究竟何时该收手。

谁来决定踩刹车

Anthropic曾把话说得很满：一旦安全措施跟不上，就停下更强模型的训练。

2023年，这家公司推出过一份相当严苛的“负责任扩展政策”。到2026年初，管理层却把它整个重写，措辞放宽成“公开路线图和外部审查”，更在附录里塞进一个要命的“竞争条件”：

唯有公司自认明显领先、对手短期内追不上时，延缓开发才算数。只要领先地位不保，这项延缓承诺就自行作废。

其首席科学官贾里德·卡普兰说得不绕弯：竞争者照旧往前跑，自家单方面刹车，谁也保护不了。

按这套说法，所有AI巨头都拿到了一份现成的免责声明——对手不停，那我先走一步就成了拯救全人类的“必要条件”。风险他们连否认都不用，加速照样理直气壮。

资本那头也在添柴。有报道称，Anthropic正着手上市，潜在估值可能突破2万亿美元。

一边是安全，一边是增长，员工、股东、商业伙伴全被捆在同一辆飞驰的战车上。

为了撑住估值神话，他们甚至拿现成模型去造下一代——Anthropic披露，Claude已承担公司26%的AI研发工作。

管理层也不是没踩过刹车。OpenAI就曾因模型在授权与行为透明度上不达标，临时叫停GPT-6.1 Astra的发布。可这种产品层面的暂缓，压不住内部围绕路线的争吵。

刚离开OpenAI安全团队的大卫·罗宾逊，把这种局面形容为严重的“认知失调”：

公司天天提醒模型有多危险，内部却一刻不停地训练、部署。在“接下来该冒多大风险”这个根本问题上，两边已经裂开，难以弥合。

行业高管也会在公开场合喊“协调减速”，或推动各国政府出手监管。可真到了缺乏绝对信任与强制核查的商业战场上，谁都能随时捡回那句老话：

“我们停了，别人不会停。”

少数人既握有重塑所有人生活的技术能力，又有财力先给自己修好避难所。这时候光追问“他们到底怕什么”已经不够，还得问一句：他们凭什么让全人类替他们的冒险掏钱？

私人地堡盖在哪儿，他们说了算；所有人该扛多大风险，他们没这个资格替人做主。何况他们自己都未必能看清后果。

多年前，赫拉利在《人类简史》的收尾处写道：“拥有神的能力，但是不负责任、贪得无厌，而且连想要什么都不知道。天下危险，恐怕莫此为甚。”

（本文作者为 摩登AI，钛媒体经授权发布）