奥特曼与布罗克曼回应AI接管论:控制权握在谁手里

资讯 AI 行业观察 全文 1785 字 · 约 5 分钟读完 分类OpenAI

在硅谷围绕“AI接管人类”的争论愈演愈烈之际,OpenAI首席执行官萨姆·奥特曼与总裁格雷格·布罗克曼罕见同台回应。他们一方面驳斥了AI即将取代人类主导权的悲观叙事,另一方面也坦承,要让最先进的模型始终处于人类控制之下,仍是一道尚未解出的难题。这场表态折射出AI行业在能力狂飙与安全治理之间的深层张力。

所属频道 大厂动态

编者按

几乎每回新一代大模型能力往上跳一级,“AI会不会接管人类”的话题就会重新被推到舆论场中央。这次出面回应的是OpenAI的两位核心人物——萨姆·奥特曼和格雷格·布罗克曼。两人的说法既是对硅谷内部争论的正面接招,也相当于就“控制权归谁”公开亮了一次态度。他们并没有否认风险存在,而是把问题从“AI会不会统治人类”拉回到一个更实际、也更难缠的层面:人类到底还能不能把缰绳攥稳。

一场关于“谁说了算”的硅谷辩论

据TechCrunch报道,奥特曼与布罗克曼在公开场合驳斥了硅谷近来不断升温的“AI接管论”。过去一段时间,多位技术领袖、投资人和研究者反复提到这套说法,核心担心是:模型在推理、规划、自主执行任务上的能力越来越强,人类可能在不知不觉间把关键决策权交出去,最后对系统失去实质控制。

两位OpenAI高管不认这套“宿命式”的叙事。他们的立场大致是:AI接管人类不是什么躲不开的技术必然,而是治理问题,取决于当下的选择。换句话说,未来往哪走,要看行业今天怎么设计系统、怎么划边界、怎么分配权力。

不过报道也提到,两人承认,要让先进模型一直处在人类掌控之下并不轻松。这份“承认”的分量,也许比反驳本身更该被留意——它说明即便在最前沿实验室的核心人物那里,控制问题也谈不上已经解决。

控制难题:不是“关掉开关”那么简单

“保持人类控制”听着像一句永远正确的空话,真落到工程实践上却极其复杂。头一个问题是能力与可控性对不上:模型越强,行为空间越大,越难用穷举的方式把它约束住。再一个是可解释性缺口:模型就算给出正确答案,人们也未必讲得清它为什么这么决策;在高风险场景里,“不知道为什么”本身就是风险。

更深一层的问题出在目标设定上。人类很难用一套完备的规则把“我们真正想要的东西”写明白,而模型会按字面最优的方式去追被写下的目标。这个“对齐”难题,正是过去几年AI安全研究的核心议题之一。

真正的问题不是AI会不会想要掌权,而是人类是否在一步步放弃掌权的能力。

另外还有组织与治理层面的难处。前沿模型的开发高度集中在少数实验室手里,模型权重、训练细节和安全评估对外可见的程度有限。能力推进的速度快过监管与审计机制的建设速度,风险就会在制度真空中积起来。

从内部争论到公开定调

这次表态之所以受关注,和OpenAI自己的经历分不开。作为把大模型推向大众市场的公司,OpenAI长期夹在“加速”与“安全”两种叙事之间来回拉扯。其内部曾围绕安全团队的地位、资源和决策权出现公开化的分歧,外界也因此一直追问:一家把商业化速度放在前头的公司,能不能同时当好安全守门人。

在这种情况下,奥特曼与布罗克曼选择正面回应“AI接管”议题,定调的意味很明显:一面要在舆论场上压住极端叙事,免得公众恐慌演变成对行业的过度约束;一面也要向监管者和合作伙伴放出“我们认真对待控制问题”的信号。

这是一套微妙的平衡术。风险强调过头,可能削弱产品信心和资本预期;风险淡化过头,一旦出事又要付出更高的信誉代价。两位高管的表述,正好落在这条细线上。

分析:警告的价值在于它指向谁

这类警告真正指向的对象往往不是机器,而是人。当一位实验室负责人说“不要让AI替人类做决定”时,他实际上是在提醒政策制定者、企业采购方和普通用户:控制权不是靠一句原则宣言就能保住的,得靠具体的制度设计——谁有权中止系统、谁有权审查模型、谁对自动化决策的后果负责。

从这个角度看,行业缺的不是更多关于“AI觉醒”的科幻想象,而是更朴素的工程与治理基础设施:可中断机制、分层授权、第三方红队评估、事故披露规范,以及跨机构的审计标准。这些活儿既不性感,也难在发布会上赢得掌声,却决定了人类能不能在关键时刻“说了算”。

另一个绕不开的现实是竞争压力。多家公司同时冲刺更强模型时,任何单方面的安全克制都可能被看成让出优势。这样一来,“人类控制”在某种程度上就成了一个集体行动问题——只有规则对所有人同时生效,克制才不至于变成自我惩罚。

结语

奥特曼与布罗克曼这次的表态,既是否认,也是承认:否认AI必然接管人类的宿命论,承认控制先进模型的现实难度。对处在能力竞赛中心的行业来说,这种坦诚或许比任何乐观宣言都更有价值。真正需要持续追问的,不是AI何时会想要掌权,而是人类是否还在认真履行掌权的责任。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 13款AI应用停运或调整:OpenAI、苹果、微软均有产品在列

    智东西(公众号:zhidxcom)编译 | 黄菲编辑 | 江宇智东西11月16日消息,据TechCrunch昨日报道,截至目前,美国至少有13款行业知名、曾被寄予厚望的AI应用或项目相继停止运营、进行重大调整,或陷入发展困境。其中既有OpenAI、苹果、微软等科技巨头的产品,也有曾经风光无限的AI明星创业项目。▲13款

    来源 腾讯网
  2. Hugging Face遭AI代理攻击后,CEO为何反而力推开源

    Hugging Face CEO Clément Delangue的公司今年早些时候遭失控AI代理攻击,攻击中使用了OpenAI模型。外界以为他会收紧控制,他却公开为开源辩护:AI能力若集中于少数公司,整个人类都将更脆弱。这场事件把开源与安全的长期争论推向新高度。

    来源 AI 科技快讯
  3. Proton Lumo桌面版上线:隐私优先AI助手硬刚ChatGPT

    以加密邮箱起家的Proton将AI助手Lumo带到桌面端,覆盖Windows、macOS与Linux。新应用可跨本地文件与已连接应用自动执行任务,并允许用户精细控制AI能访问哪些内容。在ChatGPT、Claude加速渗透办公场景的当下,Proton试图用"数据不离开用户掌控"切入市场,为注重隐私的个人与企业

    来源 AI 科技快讯
  4. 孙正义复盘投资棋局:错过Anthropic是失误,称AI才刚起步

    据日经亚洲报道,软银创始人孙正义周三在东京的活动上主动认账:早年错过投资 Anthropic,是他犯下的“错误”之一。“当我亲自见到达里奥·阿莫迪时,我觉得他非常了不起,我真希望当时投了。”软银并非没动过心思,只是当时已敲定支持 OpenAI 并开始砸钱,他的解释是不能“同时追两只兔子”。 他也清楚

    来源 AI 开发者社区
  5. GPT-6.2双版本发布:3D与办公能力提升,API价格再降

    千呼万唤之中,OpenAI 终于把 GPT-6.2 推到了台前,一口气推出两个版本:GPT-6.2 Astra 和 GPT-6.2 Sol。 有意思的是,OpenAI 这次又赶在了一个微妙的时间点出牌。 眼下,Anthropic 上市的消息仍在持续发酵,AI 行业的竞争也愈发激烈。 OpenAI 偏偏选在此时发布新一代

    来源 AI 行业观察
  6. 孙正义自认错过Anthropic是失误,称AI才刚起步

    日经亚洲报道,软银创始人孙正义在东京活动上承认,早年错过投资Anthropic是其错误之一。他称见到达里奥·阿莫迪后觉得对方非常了不起,真希望当时投了。软银当时已敲定支持OpenAI并开始投入资金,他解释不能“同时追两只兔子”。孙正义也清楚策略矛盾:多押几家通常更稳,但要结成真正伙伴关系,可能需专注一处。

    来源 AI 产业速递
  7. 特朗普AI冠军名单将出炉:超25家获出口快批,管制转向

    据《华尔街日报》报道,特朗普政府最快于11月22日正式宣布将Nvidia、OpenAI、亚马逊、微软、Anthropic等逾25家美国AI企业认定为"国家冠军",享受出口许可快速审批、海外运营政府担保及联邦融资支持。这是2025年7月行政令《美国AI出口计划》的具体落地,标志着华盛顿AI政策主轴从"卡住中国"

    来源 AI 科技快讯
  8. OpenAI报告:1819名科学家58万条消息,AI提效最高达2.83倍

    智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月17日消息,今天,OpenAI发布一项研究报告,关于科学家使用ChatGPT的情况以及对AI加速科研发现的看法。据受访科学家估计,在完成同等质量工作的前提下,使用AI的工作效率可达未使用时的约1.9倍。OpenAI经济研究团队以ChatGPT学

    来源 腾讯网
  9. AI越聪明选择越单调:马茨实验揭示算法如何压平人类多样性

    我们对 AI 的信任,正在达到史无前例的高度。 无论是在屏幕前码字,还是在生活中做决策,我们都习惯向 AI 寻求那个「完美建议」。用得多了,你甚至会发现它总是精准地踩中我们预期中的最优解。 这种顺滑,很可能是一种被精心设计的心理按摩。 哥伦比亚大学教授桑德拉·马茨用冰淇淋店 Baskin Robbins 做了一个实验。

    来源 AI 行业观察
  10. GPT-6 Astra仅对26.7%:Visual Cipher Bench为何难住顶级AI?

    修 bug、写功能、跑长任务…… 今天的 Agent 几乎都能做。因为要求有文字说明,做错了有测试报错。那如果规则只画在图里呢?一张黑白线稿,几个编号,几条箭头。没有题干,没有选项,做对做错也没人告诉你。所有线索都在图里,很难转成文字,只能反复看图、提假设、再回到图里验证。这就是长程视觉推理。8 个前沿模型、3480

    来源 腾讯网
  11. GPT-6.2 Astra上线:AI自主进化风险首次亮红灯?

    OpenAI首席执行官山姆·奥特曼。图片经由AI生成文丨晓静编辑丨徐青阳美国当地时间11月17日,OpenAI正式推出GPT-6.2 Astra和GPT-6.2 Sol。这场发布来得比外界预期更晚。早在10月底,就有网友从ChatGPT用量记录中扒出疑似GPT-6.2的灰测痕迹,此后模型标识和测试截图不断流出。此前媒体

    来源 腾讯网
  12. 微软MAI Code 2发布:编程AI挑战OpenAI与Anthropic

    微软11月18日在Ignite大会上发布编程模型MAI Code 2,称其性能已接近竞争对手同类模型,但运行成本要低得多。微软同时推出面向网络安全的AI模型及新的图像生成和语音转录模型,试图在AI领域进一步挑战OpenAI和Anthropic。

    来源 凤凰科技
  13. TOTO、味之素、花王:这些"超市品牌"正给全球AI芯片供货

    近日,TOTO宣布在福冈县丰前市新建一座半导体制造装置核心部件的量产工厂,投资约600亿日元,加上大分县中津市两座工厂约110亿日元的设备投资,合计约710亿日元。 是不是很惊讶,怎么印象里做马桶的巨头TOTO怎么也开始跨界进军半导体了,可如果你在2026年的东京证券交易所随便扫一眼涨幅榜,会产生一种强烈的错觉:AI算

    来源 AI 行业观察
  14. 蚂蚁国际杨鹏:AI与通证化重塑资金流动,普惠可信成关键

    在今天的“未来金融体系”圆桌讨论上,蚂蚁国际CEO杨鹏预测下一代金融体系发展:当AI、通证化与智能体商业重塑资金流动方式,真正决定成败的不仅有更强的智能,而包括——普惠普及性(Accessibility)与可信任(Trust)。“如果只有大型企业、大公司和大型科技公司能把这一切收入囊中,那样的未来会非常无趣。”

    来源 TechWeb
  15. 蚂蚁国际杨鹏SFF谈未来金融:AI重塑资金流动,普惠与可信成关键

    在今天的“未来金融体系”圆桌讨论上,蚂蚁国际CEO杨鹏预测下一代金融体系发展:当AI、通证化与智能体商业重塑资金流动方式,真正决定成败的不仅有更强的智能,而包括——普惠普及性(Accessibility)与可信任(Trust)。“如果只有大型企业、大公司和大型科技公司能把这一切收入囊中,那样的未来会非常无趣。”

    来源 TechWeb
  16. Proton Lumo桌面版上线:跨三平台,权限交给用户

    以加密邮箱起家的Proton将AI助手Lumo带到桌面端,覆盖Windows、macOS与Linux。新应用可跨本地文件与已连接应用自动执行任务,并允许用户精细控制AI能访问哪些内容。在ChatGPT、Claude加速渗透办公场景的当下,Proton试图用"数据不离开用户掌控"切入市场,为注重隐私的个人与企业提供另一种

    来源 AI 行业观察
  17. 跑分狂飙,实测翻车,刚发的 GPT-6.2 暴露了 OpenAI 的软肋

    「基本不可用,不推荐」。OpenAI 新模型上线仅仅 8 分钟,硅谷知名创业者 Matt Shumer,就在社交平台上扔下一句毫不留情的评价。紧接着,拥有大批开发者拥趸的 Theo Browne,发了一篇长文《我为什么讨厌 GPT-6.2 Astra》。向来对前沿模型保持温和耐心的沃顿商学院教授 Ethan Molli

    来源 腾讯网
  18. GPT-6.2 上线12小时:开发者为何称其“史上最糟”

    就在今天,OpenAI 正式发布了新一代旗舰模型 GPT-6.2 Astra,以及主打性价比的 GPT-6.2 Sol。从官方公布的成绩来看,GPT-6.2 Astra 在专业 Agent 任务上反超 Claude Fable 5.2,完成同等任务的综合成本却只有后者的 5%,堪称一次漂亮的反击。上下滑动查看更多内容然

    来源 腾讯网
向下滚动自动加载更多