编者按
每逢新一代大模型能力上了一个台阶,“AI是否会接管人类”的讨论就会准时回到舆论中心。这次出面回应的是OpenAI的两位核心人物——萨姆·奥特曼与格雷格·布罗克曼。两人的表态,既正面回应了硅谷内部的争论,也公开就“控制权”归谁定了调。他们没有否认风险存在,而是把问题从“AI会不会统治人类”拉回到更务实、也更棘手的层面:人类还能不能稳稳握住缰绳。
硅谷这场辩论:到底谁说了算
据TechCrunch报道,奥特曼与布罗克曼在公开场合反驳了硅谷近期不断升温的“AI接管论”。过去一段时间,多位技术领袖、投资人及研究者反复提起这一论调,核心担忧是:模型在推理、规划与自主执行任务上的能力持续增强,人类可能不知不觉就把关键决策权让给机器,最终失去对系统的实质控制。
两位OpenAI高管不认同这种“宿命式”的说法。他们的立场大致是:AI接管人类不是不可避免的技术必然,而是取决于当下选择的治理问题。换句话说,未来往哪走,要看行业今天怎么设计系统、怎么设置边界、怎么分配权力。
不过报道也指出,两人承认,让先进模型始终处于人类掌控之下并不容易。这份“承认”的分量,或许比反驳本身更值得关注——它意味着即便最前沿实验室的核心人物,也不认为控制问题已经解决。
控制难题:并非“关掉开关”就能了事
“保持人类控制”听着像一句正确的废话,落到工程实践上却极其复杂。先是能力与可控性对不上:模型越强大,行为空间越大,越难被穷举式地约束。再是可解释性缺口:模型就算给出了正确答案,人们也未必说得清它为什么这样决策,而在高风险场景中,“不知道为什么”本身就构成风险。
更深一层的问题在目标设定上。人类很难用一套完备的规则把“我们真正想要的东西”写清楚,模型却会以字面最优的方式去追逐被写下的目标。过去几年AI安全研究的核心议题之一,正是这种“对齐”难题。
真正的问题不是AI会不会想要掌权,而是人类是否在一步步放弃掌权的能力。
此外还有组织与治理层面的挑战。前沿模型的开发高度集中在少数实验室,模型权重、训练细节与安全评估的外部可见度有限。能力推进的速度快于监管与审计机制的建设速度,风险便会在制度真空中累积。
从内部争论到公开定调
外界之所以盯住这次表态,和OpenAI自己走过的路有关。正是这家公司把大模型带进了大众市场,而“加速”和“安全”两套说法在它身上长期互相拉扯。安全团队该占什么位置、拿多少资源、有多大决策权,内部曾闹到公开化的程度。于是外界一直在问:一家把商业化速度放在前头的公司,还能不能同时当好安全的守门人。
在这种情况下,奥特曼与布罗克曼选择正面回应“AI接管”议题,定调的意味很明显:既要在舆论场上压制极端叙事,避免公众恐慌演变成对行业的过度约束,也要向监管者与合作伙伴释放“我们认真对待控制问题”的信号。
这是一种微妙的平衡术。风险强调过头,可能削弱产品信心与资本预期;风险淡化过头,事故发生时又要付出更高的信誉代价。两位高管的表述,恰好落在这条细线上。
分析:警告的价值在于它指向谁
说到底,这类警告冲着人多过冲着机器。实验室负责人讲出“不要让AI替人类做决定”,听众其实是政策制定者、企业采购方和普通用户。他想说的是,控制权保不住靠一句原则宣言,得靠制度上的具体安排:谁能按下中止键,谁有权审查模型,自动化决策出了后果谁来担。
这么看,行业缺的不是更多“AI觉醒”式的科幻想象,而是更实在的工程与治理底子:能随时中断的机制、分层授权、第三方红队评估、事故披露规范,还有跨机构的审计标准。这些活儿不性感,发布会上也换不来掌声。可关键时刻人类能不能“说了算”,恰恰由它们决定。
还有一层现实绕不过去,就是竞争压力。几家公司同时往更强的模型上冲,谁单方面收着点,都可能被看成把优势让出去。结果“人类控制”在某种程度上成了集体行动难题:规则得对所有人同时生效,克制才不至于变成自己罚自己。
结语
奥特曼和布罗克曼这次开口,既是否认,也是承认。否认的是AI必然接管人类那种宿命论,承认的是管住先进模型确实难。对站在能力竞赛正中间的行业来说,这份坦诚也许比任何乐观宣言都管用。该一直追问的,不是AI哪天会想要掌权,而是人类还在不在认真尽掌权的责任。