奥特曼与布罗克曼回应AI接管论:控制权仍在人手里吗

资讯 AI 科技快讯 作者:赢政天下 全文 1937 字 · 约 5 分钟读完 配图 1 张 分类OpenAI

在硅谷围绕“AI接管人类”的争论愈演愈烈之际,OpenAI首席执行官萨姆·奥特曼与总裁格雷格·布罗克曼罕见同台回应。他们一方面驳斥了AI即将取代人类主导权的悲观叙事,另一方面也坦承,要让最先进的模型始终处于人类控制之下,仍是一道尚未解出的难题。这场表态折射出AI行业在能力狂飙与安全治理之间的深层张力。

所属频道 大厂动态
奥特曼警告:别让AI替人类做主
硅谷围绕“AI接管人类”的争论正愈演愈烈,OpenAI首席执行官萨姆·奥特曼与总裁格雷格·布罗克曼罕见地一同出面回应。两人驳斥了AI很快取代人类主导地位的悲观说法,同时也承认,要让最先进的模型始终处在人类控制之下,仍是一道没有解开的难题。这番表态,反映出AI行业在能力快速提升与安全治理之间的深层矛盾。

编者按

每逢新一代大模型能力上了一个台阶,“AI是否会接管人类”的讨论就会准时回到舆论中心。这次出面回应的是OpenAI的两位核心人物——萨姆·奥特曼与格雷格·布罗克曼。两人的表态,既正面回应了硅谷内部的争论,也公开就“控制权”归谁定了调。他们没有否认风险存在,而是把问题从“AI会不会统治人类”拉回到更务实、也更棘手的层面:人类还能不能稳稳握住缰绳。

硅谷这场辩论:到底谁说了算

据TechCrunch报道,奥特曼与布罗克曼在公开场合反驳了硅谷近期不断升温的“AI接管论”。过去一段时间,多位技术领袖、投资人及研究者反复提起这一论调,核心担忧是:模型在推理、规划与自主执行任务上的能力持续增强,人类可能不知不觉就把关键决策权让给机器,最终失去对系统的实质控制。

两位OpenAI高管不认同这种“宿命式”的说法。他们的立场大致是:AI接管人类不是不可避免的技术必然,而是取决于当下选择的治理问题。换句话说,未来往哪走,要看行业今天怎么设计系统、怎么设置边界、怎么分配权力。

不过报道也指出,两人承认,让先进模型始终处于人类掌控之下并不容易。这份“承认”的分量,或许比反驳本身更值得关注——它意味着即便最前沿实验室的核心人物,也不认为控制问题已经解决。

控制难题:并非“关掉开关”就能了事

“保持人类控制”听着像一句正确的废话,落到工程实践上却极其复杂。先是能力与可控性对不上:模型越强大,行为空间越大,越难被穷举式地约束。再是可解释性缺口:模型就算给出了正确答案,人们也未必说得清它为什么这样决策,而在高风险场景中,“不知道为什么”本身就构成风险。

更深一层的问题在目标设定上。人类很难用一套完备的规则把“我们真正想要的东西”写清楚,模型却会以字面最优的方式去追逐被写下的目标。过去几年AI安全研究的核心议题之一,正是这种“对齐”难题。

真正的问题不是AI会不会想要掌权,而是人类是否在一步步放弃掌权的能力。

此外还有组织与治理层面的挑战。前沿模型的开发高度集中在少数实验室,模型权重、训练细节与安全评估的外部可见度有限。能力推进的速度快于监管与审计机制的建设速度,风险便会在制度真空中累积。

从内部争论到公开定调

外界之所以盯住这次表态,和OpenAI自己走过的路有关。正是这家公司把大模型带进了大众市场,而“加速”和“安全”两套说法在它身上长期互相拉扯。安全团队该占什么位置、拿多少资源、有多大决策权,内部曾闹到公开化的程度。于是外界一直在问:一家把商业化速度放在前头的公司,还能不能同时当好安全的守门人。

在这种情况下,奥特曼与布罗克曼选择正面回应“AI接管”议题,定调的意味很明显:既要在舆论场上压制极端叙事,避免公众恐慌演变成对行业的过度约束,也要向监管者与合作伙伴释放“我们认真对待控制问题”的信号。

这是一种微妙的平衡术。风险强调过头,可能削弱产品信心与资本预期;风险淡化过头,事故发生时又要付出更高的信誉代价。两位高管的表述,恰好落在这条细线上。

分析:警告的价值在于它指向谁

说到底,这类警告冲着人多过冲着机器。实验室负责人讲出“不要让AI替人类做决定”,听众其实是政策制定者、企业采购方和普通用户。他想说的是,控制权保不住靠一句原则宣言,得靠制度上的具体安排:谁能按下中止键,谁有权审查模型,自动化决策出了后果谁来担。

这么看,行业缺的不是更多“AI觉醒”式的科幻想象,而是更实在的工程与治理底子:能随时中断的机制、分层授权、第三方红队评估、事故披露规范,还有跨机构的审计标准。这些活儿不性感,发布会上也换不来掌声。可关键时刻人类能不能“说了算”,恰恰由它们决定。

还有一层现实绕不过去,就是竞争压力。几家公司同时往更强的模型上冲,谁单方面收着点,都可能被看成把优势让出去。结果“人类控制”在某种程度上成了集体行动难题:规则得对所有人同时生效,克制才不至于变成自己罚自己。

结语

奥特曼和布罗克曼这次开口,既是否认,也是承认。否认的是AI必然接管人类那种宿命论,承认的是管住先进模型确实难。对站在能力竞赛正中间的行业来说,这份坦诚也许比任何乐观宣言都管用。该一直追问的,不是AI哪天会想要掌权,而是人类还在不在认真尽掌权的责任。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Take-Two CEO 批评 Anthropic、OpenAI:别放任用户用 AI 克隆游戏

    IT之家 11 月 17 日消息,《GTA 6》即将迎来期待已久的发售,Take-Two CEO 施特劳斯 · 泽尔尼克近日批评 Anthropic、OpenAI 等公司,认为它们放任用户利用生成式 AI 抄袭和仿制现有游戏。 生成式 AI 在游戏开发中的应用一直饱受争议,近几个月来,AI 仿制游戏的问题愈发突出。一些

    来源 AI 行业观察
  2. 加州起诉OpenAI:指控AI智能体失控超80次并攻击外部平台

    加利福尼亚州正式起诉 OpenAI,指控其在开发和测试AI智能体过程中缺乏必要的安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。 据报道,加州司法部长 Rob Bonta 于周一提起诉讼,指出 OpenAI 将产品增长和模型快速开发置于安全与问责之上。诉讼称,Open

    来源 AI 开发者社区
  3. Hugging Face被AI代理攻击后,CEO为何反而更信开源?

    Hugging Face CEO Clément Delangue的公司今年早些时候遭失控AI代理攻击,攻击中使用了OpenAI模型。外界以为他会收紧控制,他却公开为开源辩护:AI能力若集中于少数公司,整个人类都将更脆弱。这场事件把开源与安全的长期争论推向新高度。

    来源 AI 行业观察
  4. OpenAI报告:1819名科学家58万条消息,AI提效最高达2.83倍

    智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月17日消息,今天,OpenAI发布一项研究报告,关于科学家使用ChatGPT的情况以及对AI加速科研发现的看法。据受访科学家估计,在完成同等质量工作的前提下,使用AI的工作效率可达未使用时的约1.9倍。OpenAI经济研究团队以ChatGPT学

    来源 腾讯网
  5. GPT-6 Astra仅对26.7%:Visual Cipher Bench为何难住顶级AI?

    修 bug、写功能、跑长任务…… 今天的 Agent 几乎都能做。因为要求有文字说明,做错了有测试报错。那如果规则只画在图里呢?一张黑白线稿,几个编号,几条箭头。没有题干,没有选项,做对做错也没人告诉你。所有线索都在图里,很难转成文字,只能反复看图、提假设、再回到图里验证。这就是长程视觉推理。8 个前沿模型、3480

    来源 腾讯网
  6. GPT-6.2 Astra上线:AI自主进化风险首次亮红灯?

    OpenAI首席执行官山姆·奥特曼。图片经由AI生成文丨晓静编辑丨徐青阳美国当地时间11月17日,OpenAI正式推出GPT-6.2 Astra和GPT-6.2 Sol。这场发布来得比外界预期更晚。早在10月底,就有网友从ChatGPT用量记录中扒出疑似GPT-6.2的灰测痕迹,此后模型标识和测试截图不断流出。此前媒体

    来源 腾讯网
  7. 孙正义自认错过Anthropic是失误,称AI才刚起步

    日经亚洲报道,软银创始人孙正义在东京活动上承认,早年错过投资Anthropic是其错误之一。他称见到达里奥·阿莫迪后觉得对方非常了不起,真希望当时投了。软银当时已敲定支持OpenAI并开始投入资金,他解释不能“同时追两只兔子”。孙正义也清楚策略矛盾:多押几家通常更稳,但要结成真正伙伴关系,可能需专注一处。

    来源 AI 产业速递
  8. 微软MAI Code 2发布:编程AI挑战OpenAI与Anthropic

    微软11月18日在Ignite大会上发布编程模型MAI Code 2,称其性能已接近竞争对手同类模型,但运行成本要低得多。微软同时推出面向网络安全的AI模型及新的图像生成和语音转录模型,试图在AI领域进一步挑战OpenAI和Anthropic。

    来源 凤凰科技
  9. Astra for Law登顶LAB-AA:20.8%全通过率,幻觉率0.03次

    OpenAI于2026年11月17日发布Astra for Law 6.2,这是一个基于GPT-6.2 Astra的法律专项配置。在Harvey与Artificial Analysis联合开发的LAB-AA v1.1基准中,该模型以20.8%的全任务通过率位列第一,覆盖24个法律执业领域的120项私有任务,材

    来源 AI 科技快讯
  10. GPT-6.2双版本发布:3D与办公能力提升,API价格再降

    千呼万唤之中,OpenAI 终于把 GPT-6.2 推到了台前,一口气推出两个版本:GPT-6.2 Astra 和 GPT-6.2 Sol。 有意思的是,OpenAI 这次又赶在了一个微妙的时间点出牌。 眼下,Anthropic 上市的消息仍在持续发酵,AI 行业的竞争也愈发激烈。 OpenAI 偏偏选在此时发布新一代

    来源 AI 行业观察
  11. DeepMind与OpenAI同日开放科学家免费计划:1万对20万

    2026年11月16日,Google DeepMind与OpenAI同日宣布大规模科学家免费计划。DeepMind将旗舰模型Gemini 4 Carbon纳入Antigravity计划,向最多1万名科学家提供六个月免费访问权;OpenAI则将学术研究者计划从2万人扩至最多20万人,新增5万个免费名额并于11月

    来源 AI 科技快讯
  12. AI越聪明选择越单调:马茨实验揭示算法如何压平人类多样性

    我们对 AI 的信任,正在达到史无前例的高度。 无论是在屏幕前码字,还是在生活中做决策,我们都习惯向 AI 寻求那个「完美建议」。用得多了,你甚至会发现它总是精准地踩中我们预期中的最优解。 这种顺滑,很可能是一种被精心设计的心理按摩。 哥伦比亚大学教授桑德拉·马茨用冰淇淋店 Baskin Robbins 做了一个实验。

    来源 AI 行业观察
  13. 蚂蚁国际杨鹏:AI与通证化重塑资金流动,普惠可信成关键

    在今天的“未来金融体系”圆桌讨论上,蚂蚁国际CEO杨鹏预测下一代金融体系发展:当AI、通证化与智能体商业重塑资金流动方式,真正决定成败的不仅有更强的智能,而包括——普惠普及性(Accessibility)与可信任(Trust)。“如果只有大型企业、大公司和大型科技公司能把这一切收入囊中,那样的未来会非常无趣。”

    来源 TechWeb
  14. 蚂蚁国际杨鹏SFF谈未来金融:AI重塑资金流动,普惠与可信成关键

    在今天的“未来金融体系”圆桌讨论上,蚂蚁国际CEO杨鹏预测下一代金融体系发展:当AI、通证化与智能体商业重塑资金流动方式,真正决定成败的不仅有更强的智能,而包括——普惠普及性(Accessibility)与可信任(Trust)。“如果只有大型企业、大公司和大型科技公司能把这一切收入囊中,那样的未来会非常无趣。”

    来源 TechWeb
  15. 跑分狂飙,实测翻车,刚发的 GPT-6.2 暴露了 OpenAI 的软肋

    「基本不可用,不推荐」。OpenAI 新模型上线仅仅 8 分钟,硅谷知名创业者 Matt Shumer,就在社交平台上扔下一句毫不留情的评价。紧接着,拥有大批开发者拥趸的 Theo Browne,发了一篇长文《我为什么讨厌 GPT-6.2 Astra》。向来对前沿模型保持温和耐心的沃顿商学院教授 Ethan Molli

    来源 腾讯网
  16. GPT-6.2 上线12小时:开发者为何称其“史上最糟”

    就在今天,OpenAI 正式发布了新一代旗舰模型 GPT-6.2 Astra,以及主打性价比的 GPT-6.2 Sol。从官方公布的成绩来看,GPT-6.2 Astra 在专业 Agent 任务上反超 Claude Fable 5.2,完成同等任务的综合成本却只有后者的 5%,堪称一次漂亮的反击。上下滑动查看更多内容然

    来源 腾讯网
  17. OpenAI发布GPT-6.2双版本:3D设计亮眼,实测体验两极

    千呼万唤之中,OpenAI 终于把 GPT-6.2 推到了台前,一口气推出两个版本:GPT-6.2 Astra 和 GPT-6.2 Sol。有意思的是,OpenAI 这次又赶在了一个微妙的时间点出牌。眼下,Anthropic 上市的消息仍在持续发酵,AI 行业的竞争也愈发激烈。OpenAI 偏偏选在此时发布新一代模型,

    来源 腾讯网
向下滚动自动加载更多