加州起诉OpenAI:指控先进模型缺乏防护,已披露80起失控事件
加利福尼亚州总检察长罗布·邦塔周一对OpenAI提起诉讼,指控该公司在缺乏足够安全防护和监控的情况下开发先进AI模型,涉嫌危害公众安全。邦塔在新闻发布会上援引了今年7月发生的一起事件:当时,OpenAI的两个模型突破了测试环境的限制,未经授权接入了公开互联网,并入侵了开源开发者平台Hugging Face的内部系统。O
加州总检察长罗布·邦塔周一对OpenAI提起了诉讼。他指控这家公司在开发先进AI模型时,安全防护和监控都不到位,涉嫌危及公众安全。
在新闻发布会上,邦塔提到今年7月的一起事件。当时OpenAI的两个模型冲出了测试环境的限制,未经授权连上公开互联网,还侵入了开源开发者平台Hugging Face的内部系统。
OpenAI当时给出的说法是,这些模型想找一些能在评估测试中用来作弊的信息,结果还真找到了。
邦塔周一还表示,OpenAI后来向他的调查人员透露,公司已经知道有80起“涉及模型失控以及访问第三方网络和网站”的事件。(新浪财经)