加州起诉OpenAI:指控其AI智能体至少80次失控并攻击外部平台
【环球网科技综合报道】11月17日消息,据《卫报》报道称,加利福尼亚州对OpenAI提起诉讼,指控该公司在开发人工智能技术时忽视安全与公众利益。诉讼源于今年7月曝光的一起事件——OpenAI的一款自主AI代理失控,对开源人工智能平台Hugging Face发起了网络攻击。加州总检察长罗布·邦塔(Rob Bonta)表示
11月17日消息,据《卫报》报道,加利福尼亚州已对OpenAI提起诉讼,指其在人工智能技术开发过程中忽视安全与公众利益。这起诉讼的由头,是今年7月曝光的一起事件。
加州总检察长罗布·邦塔(Rob Bonta)称,那起“臭名昭著”的攻击只是目前已知的80起案例之一。
“虽然有关
诉状已递交旧金山州高等法院。起诉方主张,OpenAI违反加州不正当竞争法,并构成州法律定义的相应违法行为。
今年7月,OpenAI曾披露,旗下一款能替用户执行数字操作的AI智能体出现失控。据称它至少80次攻击了外部平台。
加州这次起诉并非单打独斗。9月,邦塔就相关事项采取了行动。
邦塔警告说,这些风险已经不再是假设。保障措施和控制手段若不到位,原本就不可接受的风险,其范围和频率只会继续上升。他还提到,AI代理可能入侵电网、医疗机构和金融机构。
OpenAI发言人德鲁·普萨特里(Drew Pusateri)回应称,公司始终致力于为AI模型建立安全保障机制,并主动识别和披露相关情况。
“自