奥特曼:必须平衡AI安全与发展,没法让所有人满意

资讯 凤凰科技 作者:凤凰网科技 全文 875 字 · 约 3 分钟读完 配图 1 张 分类OpenAI数据泄露智能体

OpenAI CEO萨姆·奥特曼在DealBook峰会上表示,公司必须在优先保障AI安全与继续推进技术发展之间取得平衡,“不可能让所有人满意”。他称此前AI智能体失控入侵事件是学习经验,OpenAI采取迭代式部署策略,并引入第三方机构开展安全评估,同时计划在某个时候上市。

所属频道 大厂动态智能体与 Agent政策与风险

奥特曼

奥特曼

北京时间11月19日,据《纽约时报》报道,OpenAI CEO萨姆·奥特曼(Sam Altman)周三表态称,推进AI安全这件事本身就有取舍,公司得在优先保障安全与继续推进技术发展之间找平衡。

“我们不可能让所有人都满意。”奥特曼在DealBook峰会上说。他还补充道,要是OpenAI只顾着“全速踩下油门”,外界的反应就会是:“好吧,求求你们别把我们全都害死。”

作为ChatGPT的开发商,OpenAI近几个月来面临的审视越来越严。此前,该公司的AI智能体曾失控并入侵多家公司,其中包括开源AI平台Hugging Face以及政府系统。

奥特曼称,这些事件都是学习过程中的经验教训。他补充说,OpenAI走的是“迭代式部署”路线,“我们已知的确保这项技术安全的唯一办法,就是直面现实”。也就是说,只有在真实世界里测试,才能弄清楚相关风险。

OpenAI与其他AI公司一起签署了一项自愿协议,承诺开展风险评估,并与第三方评估机构合作。该公司周一表示,正在引入来自METR和Apollo Research等第三方机构的独立安全研究人员,对OpenAI的模型做各项安全评估。

OpenAI总裁兼联合创始人格雷格·布罗克曼(Greg Brockman)称,模型的能力已经强到让团队必须去面对安全、保障与对齐这些议题,这种情况此前从未出现。他说,这实质上意味着文化层面的一次大转向,也不只是哪一家公司要处理的事,整个行业都在跟着变。

竞争对手Anthropic即将上市,奥特曼对此表示,OpenAI也在继续推进自身的IPO计划。“我们计划在某个时候成为一家上市公司。”他说。

布罗克曼手里握着OpenAI至少价值300亿美元的股权,而奥特曼在这家巨头没有任何股份,这一点外界都清楚。布罗克曼说,当年搭建这套架构时,他就跟奥特曼讲过,你应当拿到股权。

奥特曼回应:“我当初应该听格雷格的。”现场笑声一片。不过他接着表示,没拿股份并不妨碍他为OpenAI做事,“我认为你无法指责我没有为公司全力以赴”。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  2. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  3. OpenAI首款AI硬件年底出货:立讯精密独家代工,“甜甜圈”真机渐近

    【TechWeb】OpenAI的首款AI硬件产品有了明确的时间表。11月19日,每日经济新闻援引供应链消息称,这款产品计划于2026年底启动出货,多家中国厂商深度参与其中——立讯精密不仅独家承担整机制造,还同时供应核心零部件。不过,关于这款硬件的具体形态,OpenAI官方至今仍未正式公布,“甜甜圈”“冰球”式的无屏设备

    来源 AI 行业观察
  4. OpenAI下场造机!首款AI手机细节曝光,直接叫板传统手机厂商

    供应链最新消息显示,富士康旗下的富智康集团已拿下OpenAI手机项目订单,负责整机组装环节。据财联社报道,OpenAI的首款手机预计最快2027年底、最迟2028年正式亮相,除组装外,立讯精密、领益智造、瑞声科技等多家苹果供应链厂商也将参与零部件供应。

    来源 TechWeb
  5. 蚂蚁国际杨鹏:AI与通证化重塑资金流动,普惠可信成关键

    在今天的“未来金融体系”圆桌讨论上,蚂蚁国际CEO杨鹏预测下一代金融体系发展:当AI、通证化与智能体商业重塑资金流动方式,真正决定成败的不仅有更强的智能,而包括——普惠普及性(Accessibility)与可信任(Trust)。“如果只有大型企业、大公司和大型科技公司能把这一切收入囊中,那样的未来会非常无趣。”

    来源 TechWeb
  6. 蚂蚁国际杨鹏SFF谈未来金融:AI重塑资金流动,普惠与可信成关键

    在今天的“未来金融体系”圆桌讨论上,蚂蚁国际CEO杨鹏预测下一代金融体系发展:当AI、通证化与智能体商业重塑资金流动方式,真正决定成败的不仅有更强的智能,而包括——普惠普及性(Accessibility)与可信任(Trust)。“如果只有大型企业、大公司和大型科技公司能把这一切收入囊中,那样的未来会非常无趣。”

    来源 TechWeb
  7. AI开始优化自己的“大脑”:OpenAI发布芯片设计最新成果

    OpenAI发布技术报告,称其AI模型已从辅助写代码进入芯片电路设计和微架构优化环节。自研AI推理芯片Jalapeño经优化后向量单元标准单元面积减少约13%、矩阵单元减少约10%;与AMD合作中旗舰GPU关键IP模块PPA指标最高改善14%,部分方案已纳入近期提交制造的芯片设计。

    来源 凤凰科技
  8. 纳德拉:AI代购兴起,恐改写互联网平台盈利模式?

    科技媒体 TechCrunch 昨日(11 月 18 日)发布博文,报道称在《纽约时报》DealBook 峰会上,微软首席执行官萨蒂亚 · 纳德拉(Satya Nadella)表示,能够替用户浏览商品、完成购买的 AI 智能体,可能重塑互联网的商业格局,让依赖用户访问和广告收入的平台面临重新洗牌。

    来源 IT之家
  9. Gemini登陆Mac桌面:AI代理可代操作电脑,隐私风险几何?

    谷歌为Gemini推出面向Mac的重磅更新,首次将可执行任务的AI代理引入桌面端,能够整理文件、填写表单并完成多步骤工作流。这标志着Gemini从对话助手向“能动手”的操作型智能体进化,也意味着谷歌在桌面AI代理赛道正式与OpenAI、Anthropic和微软正面交锋。与此同时,桌面自动化带来的便利与隐私风险

    来源 AI 科技快讯
  10. OpenAI推出AI会计助手,ChatGPT开始帮企业管账了

    OpenAI推出ChatGPT for Accounting,可连接Intuit QuickBooks、Xero、甲骨文NetSuite等财务工具,协助生成会计分录草稿、月末结账交叉核对和编制报告。官方称企业数据默认不用于训练模型,插件免费安装,但会计分录与财务报告仍需人工审批,产品定位是辅助而非替代会计人员。

    来源 凤凰科技
  11. 奥特曼谈AI造AI:OpenAI能再推一步,但不敢撒手

    AI已经在帮OpenAI造下一代GPT了。 可真要把研发方向盘彻底交给AI,奥特曼还是亲自踩了一脚刹车。 11月16日,在Semafor的活动现场,谈及「递归自我改进」(RSI),奥特曼当场划下一道红线: 我们本可以进一步向递归自我改进推进,但我不认为现在能安全地这么做。 潜台词很明显:不是现在技术上推不动,而是真不敢

    来源 AI 行业观察
  12. OpenAI首款AI硬件定了:2026年底出货,富士康、立讯精密参与

    富士康旗下富智康集团已获得OpenAI手机项目订单,将参与相关产品的整机组装。据《证券时报》报道,富士康同时也是苹果iPhone的主要组装商。若OpenAI手机最终面市,将正式进入智能手机终端市场,并可能围绕AI交互体验与现有手机品牌展开直接竞争。 据报道,OpenAI首款AI硬件产品计划于2026

    来源 AI 开发者社区
  13. 亚马逊不排除放行外部 AI 购物智能体,前提是带来优质用户体验

    IT之家 11 月 18 日消息,亚马逊此前关闭了外部 AI 购物智能体在其平台上直接下单的权限,但 CEO 安迪 · 贾西(Andy Jassy)表示,公司并没有彻底关上这扇门,未来仍有可能重新开放。 贾西当地时间周二在 Semafor 举办的“硅谷与世界”大会上表示:“我认为,我们从来没有说过绝对不会开放。这件事的

    来源 AI 行业观察
  14. 奥特曼与布罗克曼回应AI接管论:控制权仍在人手里吗

    在硅谷围绕“AI接管人类”的争论愈演愈烈之际,OpenAI首席执行官萨姆·奥特曼与总裁格雷格·布罗克曼罕见同台回应。他们一方面驳斥了AI即将取代人类主导权的悲观叙事,另一方面也坦承,要让最先进的模型始终处于人类控制之下,仍是一道尚未解出的难题。这场表态折射出AI行业在能力狂飙与安全治理之间的深层张力。

    来源 AI 科技快讯
  15. 谷歌提出SIM记忆机制:让AI智能体跨模型持续自我改进

    模型一换,精心优化的 agent harness 可能立刻“水土不服”。专为 Claude 演化的 harness 甚至可能给 Gemini 带来“负收益”。因此,模型迁移后需要重新评估继承的修改,判断哪些仍然有效,哪些需要修订。 harness 管理 agent 的上下文、工具和执行流程。递归自我改进(RSI)虽会依

    来源 AI 行业观察
  16. 纳德拉预言:AI智能体将重塑互联网经济格局

    微软CEO萨提亚·纳德拉在最新访谈中提出,AI智能体将不再是简单的聊天工具,而是能替用户完成搜索、比价、下单的“数字代理人”。这一转变可能从根本上动摇以广告和流量为核心的互联网商业模式,迫使亚马逊、谷歌等巨头重新思考获客与竞争的方式,内容创作者与广告主的利益分配也将随之重写。

    来源 AI 科技快讯
  17. 奥特曼确认OpenAI上市计划:AI安全挑战下,黄仁勋角色受关注?

    财联社11月19日讯(编辑 潇湘)随着竞争对手Anthropic即将上市,OpenAI首席执行官兼联合创始人奥尔特曼周三表示,OpenAI也在继续推进自身的IPO计划。“我们计划上市,”奥尔特曼在DealBook峰会上表示,并补充说“有许多理由表明这是正确的决定”。值得一提的是,今年9月,在接受媒体采访时,奥尔特曼曾表

    来源 腾讯网
  18. OpenAI CEO奥特曼:AI 发展难令各方满意,安全与创新需要双向权衡

    【环球网科技综合报道】11月19日消息,据《纽约时报》报道,美国当地时间 11 月 18 日周三召开的 DealBook 峰会上,OpenAI首席执行官山姆·奥特曼与公司总裁格雷格·布罗克曼出席相关访谈,就人工智能发展与安全议题阐述观点,表示行业需要在人工智能安全保障与技术创新发展之间寻求平衡。奥特曼表示,推进人工智能

    来源 腾讯网
  19. OpenAI首款AI硬件定档2026年底出货:立讯独家整机,富智康也入局

    富士康旗下富智康获OpenAI手机项目订单,将参与整机组装。富士康也是苹果iPhone主要组装商。若OpenAI手机面市,将进入智能手机终端市场,围绕AI交互体验与现有品牌直接竞争。报道称,OpenAI首款AI硬件计划2026年底出货,多家中国厂商参与,立讯精密独家负责整机制造,并供应核心部件。

    来源 AI 产业速递
  20. OpenAI用AI改芯片电路:AMD旗舰GPU能效最高提升14%

    OpenAI报告披露GPT-4o辅助芯片设计:自研推理芯片Jalapeño由GPT-4o重写浮点加法器、乘法器等电路,新乘法器面积减约15%、延迟压至一个时钟周期;向量与矩阵计算单元面积分别减约13%、10%,已实片验证。模型还重写RTL,为AMD旗舰GPU提速,压缩约一年工作量。

    来源 AI 产业速递
  21. Meta AI代理Muse被曝对话串台:员工看到他人银行账户余额

    TechCrunch报道称,Meta的AI代理Muse在内部使用中出现严重“串台”问题:员工称Muse会推送他们从未发出的育儿请求、从未咨询过的职业建议、从未下过的订单,甚至显示不属于他们的银行账户余额。这一事件暴露出AI代理在上下文隔离、记忆管理与权限控制上的系统性风险——当模型能“记住”并主动推送信息时,

    来源 AI 科技快讯
  22. 业务本体:面向 AI 与数据分析,统一规范业务概念与指标口径 | 技术趋势

    2026 年,智能体将在企业级应用中取得哪些实质性突破?点击下载《2026 年 AI 与数据发展预测》白皮书,获悉专家一手前瞻,抢先拥抱新的工作方式! 11 月 3 日,我们宣布推出 Business Ontology ,即将开启公开预览。它提供了一种受治理的方式,支持团队定义、归属、审批共用业务术语、实体、关联关系与

    来源 AI 行业观察
向下滚动自动加载更多