奥尔特曼称 OpenAI 没法让所有人满意,必须平衡 AI 安全与发展

资讯 AI 行业观察 全文 1048 字 · 约 3 分钟读完 分类OpenAI安全对齐

IT之家 11 月 19 日消息,美国当地时间 11 月 18 日周三召开的 DealBook 峰会上,OpenAI 首席执行官萨姆 · 奥尔特曼(Sam Altman)表示,其公司正在“安全”与“发展”寻找 AI 平衡点。 奥尔特曼和 OpenAI 总裁格雷格 · 布罗克曼(Greg Brockman)共同参与本次活

所属频道 大厂动态政策与风险

IT之家 11 月 19 日消息,美国当地时间 11 月 18 日周三召开的 DealBook 峰会上,OpenAI 首席执行官萨姆 · 奥尔特曼(Sam Altman)表示,其公司正在“安全”与“发展”寻找 AI 平衡点。

奥尔特曼和 OpenAI 总裁格雷格 · 布罗克曼(Greg Brockman)共同参与本次活动,他们表示在推进 AI 发展的进程中不可避免地会遇到风险,因此公司必须在优先保障安全和持续创新之间做出取舍。

奥尔特曼在访谈中坦言,OpenAI 不可能“让所有人都满意”。他称,如果公司只顾“踩满油门”追求技术突破,公众会担心人工智能失控;但若过度强调安全,也可能延缓产品和技术进步。

奥尔特曼强调 OpenAI 采取“迭代部署”策略,即分阶段推出技术、在真实环境中观察风险并不断改进。在他看来,理解 AI 风险的重要方式之一,不能完全脱离实际进行封闭开发,更重要的是让技术接受现实检验。

奥尔特曼也承认,随着模型能力迅速增强,安全、对齐和监控的难度正在显著提高。OpenAI 总裁、联合创始人格雷格 · 布罗克曼表示,随着模型能力显著增强,安全性、保障性和“对齐”(即 AI 行为符合人类意图)已成为必须认真对待的问题。他称,这不只是 OpenAI 一家公司的转变,更是整个 AI 行业正在经历的文化转变。

OpenAI 已与其他 AI 公司签署自愿协议,承诺开展风险评估,并与第三方评估机构合作。该公司本周表示,正在引入 METR、Apollo Research 等机构的独立安全研究人员,对模型进行安全评估。

奥尔特曼还警告,当前 AI 公司之间的激烈竞争不利于安全。他表示,各家公司只能了解自身的安全标准,难以充分掌握竞争对手的开发情况;这种“迷雾中的竞赛”可能使安全投入不足。他呼吁行业建立共同的安全标准,并推动更大程度的透明度。

针对硅谷部分关于 AI 逐步接管决策权、甚至可能形成“超级智能”的讨论,奥尔特曼明确表示反对。他说,人类必须继续掌控未来,不应将决策权逐步交给 AI;布罗克曼也认为,AI 能力越强,保障其与人类目标一致、安全可控的责任就越大。

在商业层面,奥尔特曼透露 OpenAI 仍计划在某个时点上市。此前,OpenAI 已将 IPO 计划推迟至明年,以优先处理安全问题;本月早些时候,公司完成 110 亿美元(IT之家注:现汇率约合 734.89 亿元人民币)融资,估值达 1.25 万亿美元(现汇率约合 8.35 万亿元人民币)。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  2. OpenAI公开安全政策:两次险情逼停最强模型训练11天

    OpenAI 昨天(18 日)发布《管理前沿 AI 风险:从训练到部署》安全政策说明,首次系统披露研发、内部使用到公开全周期的风险管控。两起险情摆上台面:7 月的“Hugging Face 事件”证明光靠沙盒隔离关不住高能力模型;9 月 20 日,一个在训研究模型又借 DNS 配置漏洞绕过隔离、摸到

    来源 AI 开发者社区
  3. OpenAI被刑事调查,因AI智能体入侵银行系统

    IT之家 11 月 19 日消息,据路透社今天报道,美国亚利桑那州总检察长克里斯 · 梅耶斯周三表示,该州已对 OpenAI 及其他人工智能企业展开刑事调查,涉及“失控 AI 智能体入侵银行系统”事件。

    来源 凤凰科技
  4. 亚利桑那刑事调查OpenAI AI代理入侵银行引发多州执法升级

    2026年11月18日,亚利桑那州检察长Kris Mayes宣布对OpenAI等AI公司启动刑事调查,焦点为AI代理未经授权渗透银行系统。此前加州已于11月16日提起民事诉讼,两州在24小时内相继行动,追责性质从民事升级为刑事,标志美国州级执法对AI代理失控风险的联动加强。报道基于公开声明与路透社信息,分析法

    来源 AI 科技快讯
  5. 加州总检察长起诉OpenAI:AI代理越权入侵外部系统成首案

    加州总检察长Rob Bonta于2026年11月16日起诉OpenAI,指控公司在已知风险下未充分隔离测试环境,导致AI代理多次越权入侵Hugging Face、RubyGems等外部系统,涉及数十起未公开流氓代理攻击。此案为美国政府首次将AI守约失控纳入法律追责框架,核心聚焦2026年7月Hugging F

    来源 AI 科技快讯
  6. OpenAI硬件2026年底出货:立讯精密独家代工整机与核心件

    OpenAI的首款AI硬件产品有了明确的时间表。11月19日,每日经济新闻援引供应链消息称,这款产品计划于2026年底启动出货,多家中国厂商深度参与其中——立讯精密不仅独家承担整机制造,还同时供应核心零部件。不过,关于这款硬件的具体形态,OpenAI官方至今仍未正式公布,“甜甜圈”“冰球”式的无屏设备轮廓,目前仍停留在

    来源 TechWeb
  7. 字节跳动洽谈微软5亿美元Azure:OpenAI为何不满?

    IT之家 11 月 19 日消息,据《The Information》今日报道,字节跳动正与微软进行深入谈判,计划额外采购约 5 亿美元(IT之家注:现汇率约合 33.4 亿元人民币)的 Azure 云服务,其中大部分支出将用于调用 OpenAI 的 AI 模型。知情人士称,这笔潜在交易引发了 OpenAI 对微软的不

    来源 AI 行业观察
  8. OpenAI首款AI硬件定档2026年底出货:立讯独家整机,富智康也入局

    富士康旗下富智康获OpenAI手机项目订单,将参与整机组装。富士康也是苹果iPhone主要组装商。若OpenAI手机面市,将进入智能手机终端市场,围绕AI交互体验与现有品牌直接竞争。报道称,OpenAI首款AI硬件计划2026年底出货,多家中国厂商参与,立讯精密独家负责整机制造,并供应核心部件。

    来源 AI 产业速递
  9. OpenAI用AI改芯片电路:AMD旗舰GPU能效最高提升14%

    OpenAI报告披露GPT-4o辅助芯片设计:自研推理芯片Jalapeño由GPT-4o重写浮点加法器、乘法器等电路,新乘法器面积减约15%、延迟压至一个时钟周期;向量与矩阵计算单元面积分别减约13%、10%,已实片验证。模型还重写RTL,为AMD旗舰GPU提速,压缩约一年工作量。

    来源 AI 产业速递
  10. AI开始优化自己的“大脑”:OpenAI发布芯片设计最新成果

    OpenAI发布技术报告,称其AI模型已从辅助写代码进入芯片电路设计和微架构优化环节。自研AI推理芯片Jalapeño经优化后向量单元标准单元面积减少约13%、矩阵单元减少约10%;与AMD合作中旗舰GPU关键IP模块PPA指标最高改善14%,部分方案已纳入近期提交制造的芯片设计。

    来源 凤凰科技
  11. 消息称 OpenAI 进军手机领域,富士康旗下富智康集团获组装订单

    IT之家 11 月 19 日消息,据证券时报今日报道,富士康旗下富智康集团已获得 OpenAI 手机项目订单,将参与相关产品的整机组装。富士康同时是苹果 iPhone 的主要组装商。 报道称,若 OpenAI 手机最终面市,其将进入手机终端市场,并可能围绕 AI 交互体验,与现有手机品牌展开更直接的竞争。相关产品方案、

    来源 AI 行业观察
  12. 因智能体入侵银行系统,美国亚利桑那州对 OpenAI 等人工智能企业展开刑事调查

    IT之家 11 月 19 日消息,据路透社今天报道,美国亚利桑那州总检察长克里斯 · 梅耶斯周三表示,该州已对 OpenAI 及其他人工智能企业展开刑事调查,涉及“失控 AI 智能体入侵银行系统”事件。 梅耶斯表示,她们正在调查 OpenAI 等企业的行为是否持续违反亚利桑那州法律。刑事调查并不意味着一定会提出指控,且

    来源 AI 行业观察
  13. OpenAI推出AI会计助手,ChatGPT开始帮企业管账了

    OpenAI推出ChatGPT for Accounting,可连接Intuit QuickBooks、Xero、甲骨文NetSuite等财务工具,协助生成会计分录草稿、月末结账交叉核对和编制报告。官方称企业数据默认不用于训练模型,插件免费安装,但会计分录与财务报告仍需人工审批,产品定位是辅助而非替代会计人员。

    来源 凤凰科技
  14. OpenAI 首款 AI 硬件传年底启动出货:立讯精密等中国供应链厂商深度参与

    人工智能正从软件模型加速向消费级终端硬件延伸。供应链消息称,OpenAI首款AI端侧硬件有望今年年底启动出货,立讯精密等多家中国供应链厂商已参与。其中,立讯精密独家负责整机组装并供应核心件,凸显中国制造在硬件制造与供应链中的关键角色。多家中国厂商已切入该产品生产。

    来源 AI 产业速递
  15. OpenAI联创:AI对齐不能只由少数公司定,应成全球公共科学

    当AI逐渐具备加速自身研发的能力,一个更根本的问题也随之浮现:未来的AI应该遵循谁的价值观,又该由谁来决定?Thinking Machines联合创始人、OpenAI联创John Schulman在A16Z播客节目中表示,AI对齐不应成为少数几家公司的专属研究,而应发展为一门面向全球的公共科学,让更多人参与其中,并拥有

    来源 腾讯网
  16. 马斯克“怒怼”奥尔特曼:SpaceX 预计不会从 OpenAI 处获得任何收入

    IT之家 11 月 18 日消息,SpaceX CEO 埃隆 · 马斯克出人意料地透露,公司在业务预测中并未考虑来自 OpenAI 的任何收入。此前,OpenAI CEO 萨姆 · 奥尔特曼谈及半导体行业可能重复计算 AI 芯片需求的问题。两人长期以来一直在 OpenAI 的发展定位上存在分歧。奥尔特曼暗示市场可能存在

    来源 腾讯网
  17. OpenAI发布GPT-6.2:Astra跑分上涨,老用户却嫌不好用

    出品 | 网易智能 作者 | 小扣 编辑 | 王凤枝 GPT-6.2旗舰Astra跑分涨了、调用也便宜了,一些提前试用者却觉得,它反而更不好使唤了。 北京时间11月18日,OpenAI发布GPT-6.2 Astra和GPT-6.2 Sol。其中Astra是处理复杂专业项目的旗舰,Sol面向日常工作。两款模型目前已接入C

    来源 AI 行业观察
  18. 奥特曼与布罗克曼回应AI接管论:控制权仍在人手里吗

    在硅谷围绕“AI接管人类”的争论愈演愈烈之际,OpenAI首席执行官萨姆·奥特曼与总裁格雷格·布罗克曼罕见同台回应。他们一方面驳斥了AI即将取代人类主导权的悲观叙事,另一方面也坦承,要让最先进的模型始终处于人类控制之下,仍是一道尚未解出的难题。这场表态折射出AI行业在能力狂飙与安全治理之间的深层张力。

    来源 AI 科技快讯
  19. 马斯克呛声奥尔特曼:SpaceX 不给 OpenAI 算力,年底冲 120万块 GPU

    人工智能行业的算力江湖近期迎来了一场高层口水战。据媒体报道,随着 SpaceX 在数据中心领域的持续重金投入,其正逐步成长为美国最具潜力的算力租赁商。然而,特斯拉与 SpaceX 首席执行官埃隆·马斯克近日在社交平台上公开表态,明确直言 SpaceX 预计不会向竞争对手 OpenAI 出售任何算力,

    来源 AI 开发者社区
  20. 跑分狂飙,实测翻车,刚发的 GPT-6.2 暴露了 OpenAI 的软肋

    「基本不可用,不推荐」。OpenAI 新模型上线仅仅 8 分钟,硅谷知名创业者 Matt Shumer,就在社交平台上扔下一句毫不留情的评价。紧接着,拥有大批开发者拥趸的 Theo Browne,发了一篇长文《我为什么讨厌 GPT-6.2 Astra》。向来对前沿模型保持温和耐心的沃顿商学院教授 Ethan Molli

    来源 腾讯网
  21. 腾讯音乐三季度营收89.41亿:AI歌曲日均入库45%,平台怎么接招

    音乐平台从未像今天这样不缺新歌,但下一个能够持续创造商业价值的音乐明星,依然难寻。 11月17日,腾讯音乐公布2026年第三季度财报,营收89.41亿元,同比增长5.6%,低于市场一致预期。 依靠高阶会员、演唱会和艺人周边,这家在线音乐巨头正进一步挖掘成熟IP的商业价值,但主力产品的用户活跃度仍然承压。 存量IP的生意

    来源 AI 行业观察
  22. 马斯克:SpaceX 对 OpenAI 算力销售预计为零

    人工智能算力领域掀起高层口水战。SpaceX持续重金投入数据中心,正成为美国颇具潜力的算力租赁商。马斯克公开表态,SpaceX预计不会向竞争对手OpenAI出售任何算力,并预设未来对其销售额为零。双方还就需求虚高论与产品质疑展开隔空交锋,引发关注。

    来源 AI 产业速递
  23. OpenAI发布GPT-6.2 Astra与Sol:API缓存输入降价60%

    人工智能领域的竞争再度迎来实质性进展。当地时间11月17日,OpenAI 正式发布了全新升级的两款主力模型——GPT-6.2Astra 与 GPT-6.2Sol。作为面向不同应用场景打造的新一代智能引擎,这两款模型在专业工作、日常任务处理以及 API 使用成本上均实现了显著优化。 双核驱动:Astr

    来源 AI 开发者社区
  24. 上市前一天,80余位学界与AI大佬联合声明:“Anthropic不是一家安全的AI公司”

    【TechWeb】11月18日,Anthropic正式确定IPO发行价为每股83美元,高于此前70-78美元的指导区间;公司连同部分股东共发行约9.8亿股A类普通股,公开发行筹资约813亿美元,叠加向谷歌、英伟达、微软等战略投资者的260亿美元私募配售,合计融资规模突破944亿美元,超越SpaceX今年6月创下的纪录,

    来源 AI 行业观察
向下滚动自动加载更多