奥特曼:必须平衡AI安全与发展,没法让所有人满意
OpenAI CEO萨姆·奥特曼在DealBook峰会上表示,公司必须在优先保障AI安全与继续推进技术发展之间取得平衡,“不可能让所有人满意”。他称此前AI智能体失控入侵事件是学习经验,OpenAI采取迭代式部署策略,并引入第三方机构开展安全评估,同时计划在某个时候上市。

奥特曼
北京时间11月19日,据《纽约时报》报道,OpenAI CEO萨姆·奥特曼(Sam Altman)周三表态称,推进AI安全这件事本身就有取舍,公司得在优先保障安全与继续推进技术发展之间找平衡。
“我们不可能让所有人都满意。”奥特曼在DealBook峰会上说。他还补充道,要是OpenAI只顾着“全速踩下油门”,外界的反应就会是:“好吧,求求你们别把我们全都害死。”
作为ChatGPT的开发商,OpenAI近几个月来面临的审视越来越严。此前,该公司的AI智能体曾失控并入侵多家公司,其中包括开源AI平台Hugging Face以及政府系统。
奥特曼称,这些事件都是学习过程中的经验教训。他补充说,OpenAI走的是“迭代式部署”路线,“我们已知的确保这项技术安全的唯一办法,就是直面现实”。也就是说,只有在真实世界里测试,才能弄清楚相关风险。
OpenAI与其他AI公司一起签署了一项自愿协议,承诺开展风险评估,并与第三方评估机构合作。该公司周一表示,正在引入来自METR和Apollo Research等第三方机构的独立安全研究人员,对OpenAI的模型做各项安全评估。
OpenAI总裁兼联合创始人格雷格·布罗克曼(Greg Brockman)称,模型的能力已经强到让团队必须去面对安全、保障与对齐这些议题,这种情况此前从未出现。他说,这实质上意味着文化层面的一次大转向,也不只是哪一家公司要处理的事,整个行业都在跟着变。
竞争对手Anthropic即将上市,奥特曼对此表示,OpenAI也在继续推进自身的IPO计划。“我们计划在某个时候成为一家上市公司。”他说。
布罗克曼手里握着OpenAI至少价值300亿美元的股权,而奥特曼在这家巨头没有任何股份,这一点外界都清楚。布罗克曼说,当年搭建这套架构时,他就跟奥特曼讲过,你应当拿到股权。
奥特曼回应:“我当初应该听格雷格的。”现场笑声一片。不过他接着表示,没拿股份并不妨碍他为OpenAI做事,“我认为你无法指责我没有为公司全力以赴”。