奥特曼与布罗克曼回应AI接管论:控制权握在谁手里
在硅谷围绕“AI接管人类”的争论愈演愈烈之际,OpenAI首席执行官萨姆·奥特曼与总裁格雷格·布罗克曼罕见同台回应。他们一方面驳斥了AI即将取代人类主导权的悲观叙事,另一方面也坦承,要让最先进的模型始终处于人类控制之下,仍是一道尚未解出的难题。这场表态折射出AI行业在能力狂飙与安全治理之间的深层张力。
编者按
几乎每回新一代大模型能力往上跳一级,“AI会不会接管人类”的话题就会重新被推到舆论场中央。这次出面回应的是OpenAI的两位核心人物——萨姆·奥特曼和格雷格·布罗克曼。两人的说法既是对硅谷内部争论的正面接招,也相当于就“控制权归谁”公开亮了一次态度。他们并没有否认风险存在,而是把问题从“AI会不会统治人类”拉回到一个更实际、也更难缠的层面:人类到底还能不能把缰绳攥稳。
一场关于“谁说了算”的硅谷辩论
据TechCrunch报道,奥特曼与布罗克曼在公开场合驳斥了硅谷近来不断升温的“AI接管论”。过去一段时间,多位技术领袖、投资人和研究者反复提到这套说法,核心担心是:模型在推理、规划、自主执行任务上的能力越来越强,人类可能在不知不觉间把关键决策权交出去,最后对系统失去实质控制。
两位OpenAI高管不认这套“宿命式”的叙事。他们的立场大致是:AI接管人类不是什么躲不开的技术必然,而是治理问题,取决于当下的选择。换句话说,未来往哪走,要看行业今天怎么设计系统、怎么划边界、怎么分配权力。
不过报道也提到,两人承认,要让先进模型一直处在人类掌控之下并不轻松。这份“承认”的分量,也许比反驳本身更该被留意——它说明即便在最前沿实验室的核心人物那里,控制问题也谈不上已经解决。
控制难题:不是“关掉开关”那么简单
“保持人类控制”听着像一句永远正确的空话,真落到工程实践上却极其复杂。头一个问题是能力与可控性对不上:模型越强,行为空间越大,越难用穷举的方式把它约束住。再一个是可解释性缺口:模型就算给出正确答案,人们也未必讲得清它为什么这么决策;在高风险场景里,“不知道为什么”本身就是风险。
更深一层的问题出在目标设定上。人类很难用一套完备的规则把“我们真正想要的东西”写明白,而模型会按字面最优的方式去追被写下的目标。这个“对齐”难题,正是过去几年AI安全研究的核心议题之一。
真正的问题不是AI会不会想要掌权,而是人类是否在一步步放弃掌权的能力。
另外还有组织与治理层面的难处。前沿模型的开发高度集中在少数实验室手里,模型权重、训练细节和安全评估对外可见的程度有限。能力推进的速度快过监管与审计机制的建设速度,风险就会在制度真空中积起来。
从内部争论到公开定调
这次表态之所以受关注,和OpenAI自己的经历分不开。作为把大模型推向大众市场的公司,OpenAI长期夹在“加速”与“安全”两种叙事之间来回拉扯。其内部曾围绕安全团队的地位、资源和决策权出现公开化的分歧,外界也因此一直追问:一家把商业化速度放在前头的公司,能不能同时当好安全守门人。
在这种情况下,奥特曼与布罗克曼选择正面回应“AI接管”议题,定调的意味很明显:一面要在舆论场上压住极端叙事,免得公众恐慌演变成对行业的过度约束;一面也要向监管者和合作伙伴放出“我们认真对待控制问题”的信号。
这是一套微妙的平衡术。风险强调过头,可能削弱产品信心和资本预期;风险淡化过头,一旦出事又要付出更高的信誉代价。两位高管的表述,正好落在这条细线上。
分析:警告的价值在于它指向谁
这类警告真正指向的对象往往不是机器,而是人。当一位实验室负责人说“不要让AI替人类做决定”时,他实际上是在提醒政策制定者、企业采购方和普通用户:控制权不是靠一句原则宣言就能保住的,得靠具体的制度设计——谁有权中止系统、谁有权审查模型、谁对自动化决策的后果负责。
从这个角度看,行业缺的不是更多关于“AI觉醒”的科幻想象,而是更朴素的工程与治理基础设施:可中断机制、分层授权、第三方红队评估、事故披露规范,以及跨机构的审计标准。这些活儿既不性感,也难在发布会上赢得掌声,却决定了人类能不能在关键时刻“说了算”。
另一个绕不开的现实是竞争压力。多家公司同时冲刺更强模型时,任何单方面的安全克制都可能被看成让出优势。这样一来,“人类控制”在某种程度上就成了一个集体行动问题——只有规则对所有人同时生效,克制才不至于变成自我惩罚。
结语
奥特曼与布罗克曼这次的表态,既是否认,也是承认:否认AI必然接管人类的宿命论,承认控制先进模型的现实难度。对处在能力竞赛中心的行业来说,这种坦诚或许比任何乐观宣言都更有价值。真正需要持续追问的,不是AI何时会想要掌权,而是人类是否还在认真履行掌权的责任。