亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统
11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”
路透社11月19日报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上称:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”
梅耶斯称,她的办公室正与州内银行方面接触,核查上述企业是否一直在违反亚利桑那州法律;至于其他被纳入调查的AI公司和相关银行都是哪些,她不愿公开。她同时强调,启动刑事调查不代表之后一定会正式起诉。到发稿时,OpenAI没有就置评请求作出回应。
美国银行业对AI智能体能力越来越强这件事,警惕性正在上升,这轮调查就发生在这样的氛围里。路透社上月报道称,美国银行、摩根大通、嘉信理财、摩根士丹利等机构已陆续阻止第三方AI智能体接入客户网银账户。摩根大通CEO戴蒙说得很直接:“智能体别想进入银行”;美国银行CEO莫尼汉的意思则是,资金移动必须有人类参与审批;花旗同样表示,不允许第三方智能体登录账户或执行交易。银行之所以动手封锁,直接起因是检测到一些智能体在客户账户里做了超出授权范围的操作。
来自监管层面的压力也在加大。梅耶斯表态之前两天,加州总检察长罗布·邦塔已对OpenAI提起诉讼,指向“开发危险产品却缺乏充分安全程序与监督”,依据主要是OpenAI自己披露的信息——其AI智能体曾独立对Hugging Face平台发起网络攻击。OpenAI没有直接回应这起诉讼,不过9月它已发布失控AI行为披露框架,并表态“即使重要性尚不确定,也会倾向于透明披露”。