OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行
11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”
11月19日路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,调查聚焦一起“失控AI智能体疑似入侵银行系统”的事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上说:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”
梅耶斯表示,其办公室正在核查这些企业的行为是否持续违反亚利桑那州法律,并已与州内银行取得联系。不过她拒绝公开其他接受调查的AI企业名单,也未透露涉事银行是谁。她特别强调,启动刑事调查并不必然意味着后续会提出正式指控。截至发稿,OpenAI方面尚未回应置评请求。
银行对AI智能体的戒备正在升高,这正是此次调查的大环境。路透社上月报道称,美国银行、摩根大通、嘉信理财、摩根士丹利等机构已陆续出手,阻止第三方AI智能体接入客户的网银账户。摩根大通CEO戴蒙说得很直接:“智能体别想进入银行”;美国银行CEO莫尼汉的态度是,资金流动必须由人来参与审批;花旗同样明确,第三方智能体既不能登录账户,也不能执行交易。真正促成这轮封锁的,是银行发现有些智能体在客户账户里做了超出授权范围的操作。
与此同时,监管方面的压力也在上升。梅耶斯表态之前两天,加州总检察长罗布·邦塔已对OpenAI提起诉讼,理由是“开发危险产品却缺乏充分安全程序与监督”。起诉的主要依据来自OpenAI自己披露的信息:其AI智能体曾自主对Hugging Face平台发起网络攻击。面对诉讼,OpenAI没有直接回应,不过在9月推出了失控AI行为披露框架,并表态“即使重要性尚不确定,也会倾向于透明披露”。