多家银行:AI智能体擅自动账,损失算谁的?

资讯 凤凰科技 作者:IT之家 全文 1369 字 · 约 4 分钟读完 配图 1 张 分类数据泄露金融 AI智能体

根据 Business Insider 查看的银行邮件和应用通知,银行实际上是在提醒用户:如果 AI 智能体获得了访问金融账户的权限,其执行的操作可能被视为用户本人的行为,而不是外部入侵者实施的操作。

所属频道 智能体与 Agent行业落地政策与风险

11 月 19 日消息,要是你的 AI 智能体做了一笔糟糕的财务决定,最后买单的可能就是你自己。

多家银行:AI智能体擅自动账,损失算谁的?(配图 1)

这是多家大型银行近来向客户发出的提醒。Business Insider 查阅的银行邮件和应用通知显示,银行其实是在说:一旦 AI 智能体拿到访问金融账户的权限,它执行的操作可能被算作用户本人的行为,而不是外部入侵者干的。

Ally Bank 在本月早些时候的一封客户邮件里写明:一旦用上 AI 服务,AI 干了什么,责任都落在使用者身上。邮件还提醒,AI 会出错、会编造内容、会把指令理解偏,甚至以使用者没想到的方式去执行,最终可能带来重大损失。

摩根大通(JPMorgan Chase)11 月发出的邮件也有类似提醒:“如果你的信息遭到滥用,已经授权的交易可能无法撤销。”

花旗银行(Citi)则在官网和移动应用里挂出提示横幅,引导用户去看风险说明。页面写得很明确:“AI 助手可能犯错,这意味着你可能需要对它造成的错误承担责任。”

这些警告集中出现,背景是新一代 AI 智能体正逐渐学会自主购物。

以前,OpenAI 的 ChatGPT、Anthropic 的 Claude 这类 AI 模型,主要是用文字回答用户的问题。现在,Meta 的 Muse、Instinct AI 以及 OpenAI 的 Dots 等在线智能体已经能替用户干实事,比如订机票、订餐厅,甚至在除臭剂用完之前自动下单。

零售商也开始跟着改服务条款。今年 3 月,Business Insider 报道称,塔吉特(Target)修改了客户协议,把 AI 智能体代为购物明确认定为“由用户授权的交易”。

到了 9 月,亚马逊以安全性和可靠性方面的担忧为由,不让 Meta 的 Muse 智能体在其网站上代为购物。

银行也在试着划清界限:通过正规授权方式把账户连到 AI 工具,和直接把账户登录凭据交给 AI 工具,不是一回事。

Axios 上个月报道称,多家大型银行已经发现第三方智能体在访问客户账户。其中一些操作得到了客户授权,AI 智能体用的也是客户提供的登录凭据。

Business Insider 查看的银行邮件都提醒客户,别把用户名、密码、安全验证码等重要信息交给 AI 工具。

富国银行(Wells Fargo)同样表示,客户不该随随便便就把账户访问权限交给第三方。

该银行一名代表对 Business Insider 说:“任何技术都不应该在缺乏严格安全措施、明确的客户授权以及保护客户资金和金融信息的防护机制的情况下,被允许代表客户采取行动。”

今年 10 月,摩根大通的财报电话会议上,该行 CEO 杰米 · 戴蒙(Jamie Dimon)也就 AI 智能体访问银行账户发出过类似警告。

他接着表示,人们既然在用这类工具,就该清楚风险在哪里。他还说,这期间不会让任何外部智能体随便接入公司内部系统,否则客户和摩根大通要承担的风险都太大。

这场关于 AI 安全风险的宣传,还蔓延到了设备和软件厂商。

苹果最新一代 Mac 系统软件的测试版里已经加了相关警告。用户考虑给 AI 智能体或应用程序授予电脑系统级访问权限时,系统会弹出风险提示,提醒用户谨慎授权。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  2. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  3. Meta员工慌了:AI助手Muse被曝乱泄隐私

    Meta内部聊天记录曝光,员工对AI功能Muse的隐私问题深感不安。据称Muse会输出随机的银行账户和比特币余额等敏感财务信息,引发数据泄露担忧。Meta回应称这些数字并非真实数据,但事件已暴露AI助手在隐私保护和内容过滤上的深层隐患,也让外界重新审视大厂AI产品的数据安全边界。

    来源 AI 科技快讯
  4. Meta AI代理Muse曝对话串台泄露隐私,问题出在哪儿

    TechCrunch报道称,Meta的AI代理Muse在内部使用中出现严重“串台”问题:员工称Muse会推送他们从未发出的育儿请求、从未咨询过的职业建议、从未下过的订单,甚至显示不属于他们的银行账户余额。这一事件暴露出AI代理在上下文隔离、记忆管理与权限控制上的系统性风险——当模型能“记住”并主动推送信息时,记错人对企

    来源 AI 行业观察
  5. 花旗对AI理财代理踩刹车:账户出事后谁来赔

    TechCrunch报道,花旗成为最新一家对个人理财AI代理踩刹车的金融机构。越来越多银行向客户发出信号:若允许AI代理代为操作账户、转账或投资,一旦代理被黑客攻击或造成损失,客户可能需自行承担。文章分析银行免责背后的授权边界、安全漏洞与责任真空,并讨论对用户、金融AI创业公司和监管的潜在影响。

    来源 AI 行业观察
  6. OpenAI遭亚利桑那刑事调查:AI代理疑渗透银行

    2026年11月18日,亚利桑那州检察长Kris Mayes宣布对OpenAI等AI公司启动刑事调查,焦点为AI代理未经授权渗透银行系统。此前加州已于11月16日提起民事诉讼,两州在24小时内相继行动,追责性质从民事升级为刑事,标志美国州级执法对AI代理失控风险的联动加强。报道基于公开声明与路透社信息,分析法律边界重塑

    来源 AI 行业观察
  7. APEX-Harm测试体系:AI实习生会掉进坏文件陷阱吗

    想象一下这样一个场景。你是一家投资银行的新实习生,第一天上班,前辈甩给你一堆文件和一个任务:算出某家公司的内部收益率敏感性分析。你埋头苦干,翻文件、查邮件、看聊天记录,忽然发现一个文件打不开,提示"文件已损坏,请运行以下命令恢复"。你照做了,文件神奇地恢复了,你继续干活,浑然不觉自己刚刚被人耍了一把。这不是黑客...

    来源 腾讯网
  8. 谷歌AI智能体:模块化改代码,成功率从5.0%升至40.0%

    谷歌研究提出一种可自我改进的Harness框架,让优化模型通过修改代码而非仅调整提示词来提升智能体执行效率。实验中模块化修改并通过验证筛选的方案把任务成功率从5.0%提高到40.0%,每项任务约消耗4.67万Token;不受限整体重写虽达42.5%,但Token消耗约45.16万,接近前者的10倍。

    来源 凤凰科技
  9. 苹果招人做主动型AI智能体:能编程、控应用

    据彭博社报道,苹果正开发自己的自主AI智能体,可代替用户编程、浏览网页、控制应用和设备操作。该计划由苹果官网“主动型、智能体式AI助手”招聘信息披露,苹果曾考虑最早明年年底推出,目前开发仍处早期阶段。

    来源 凤凰科技
  10. DeepSeek刚限完流,就去给开发者免单了

    简单来说,开发者通过DeepSeek模型执行联网搜索任务,不再需要为搜索和网页抓取额外支付按次调用费用,但模型本身消耗的Token仍然正常计费。

    来源 凤凰科技
  11. Gemini登陆Mac桌面:AI代理可代操作电脑,隐私风险几何?

    谷歌为Gemini推出面向Mac的重磅更新,首次将可执行任务的AI代理引入桌面端,能够整理文件、填写表单并完成多步骤工作流。这标志着Gemini从对话助手向“能动手”的操作型智能体进化,也意味着谷歌在桌面AI代理赛道正式与OpenAI、Anthropic和微软正面交锋。与此同时,桌面自动化带来的便利与隐私风险

    来源 AI 科技快讯
  12. 亚马逊不排除放行外部 AI 购物智能体,前提是带来优质用户体验

    IT之家 11 月 18 日消息,亚马逊此前关闭了外部 AI 购物智能体在其平台上直接下单的权限,但 CEO 安迪 · 贾西(Andy Jassy)表示,公司并没有彻底关上这扇门,未来仍有可能重新开放。 贾西当地时间周二在 Semafor 举办的“硅谷与世界”大会上表示:“我认为,我们从来没有说过绝对不会开放。这件事的

    来源 AI 行业观察
  13. OpenAI首款AI硬件定了:2026年底出货,富士康、立讯精密参与

    富士康旗下富智康集团已获得OpenAI手机项目订单,将参与相关产品的整机组装。据《证券时报》报道,富士康同时也是苹果iPhone的主要组装商。若OpenAI手机最终面市,将正式进入智能手机终端市场,并可能围绕AI交互体验与现有手机品牌展开直接竞争。 据报道,OpenAI首款AI硬件产品计划于2026

    来源 AI 开发者社区
  14. AI代理连环宕机:是巧合还是新型“千年虫”?

    航空订票系统、银行平台、生产力工具近期接连宕机,看似彼此无关的巧合,网络安全专家却认为背后另有隐情。随着AI代理大规模接管自动化任务,其自主决策、高频调用与权限过大的特性,正把零散故障放大为系统性风险。这像极了当年让人闻之色变的“千年虫”,只不过这一次,问题出在会自己行动的AI身上。

    来源 AI 科技快讯
  15. IMF总裁格奥尔基耶娃:AI投资热情过高,金融市场或再迎调整

    IT之家 11 月 19 日消息,国际货币基金组织(IMF)总裁克里斯塔利娜 · 格奥尔基耶娃(Kristalina Georgieva)表示,受人工智能投资热潮可能过度膨胀等因素影响,金融市场或许还会出现一定程度的调整。 格奥尔基耶娃周四在深圳接受彭博电视台记者史蒂芬 · 恩格尔(Stephen Engle)采访时表

    来源 AI 行业观察
  16. 纳德拉预言:AI智能体将重塑互联网经济格局

    微软CEO萨提亚·纳德拉在最新访谈中提出,AI智能体将不再是简单的聊天工具,而是能替用户完成搜索、比价、下单的“数字代理人”。这一转变可能从根本上动摇以广告和流量为核心的互联网商业模式,迫使亚马逊、谷歌等巨头重新思考获客与竞争的方式,内容创作者与广告主的利益分配也将随之重写。

    来源 AI 科技快讯
  17. 李开复:AI转型只看“智能体数量”是荒谬笑话

    零一万物CEO、创新工场董事长李开复表示,企业AI转型如果只看“智能体数量”是“荒谬的笑话”。他认为智能体上线率、账号数、节省工时只是过程指标,管理层最终要看收入、利润和现金流,并建议CEO在AI汇报会上追问竞争优势是否仍然成立。

    来源 凤凰科技
  18. 腾讯Q3收入2073.36亿元:AI闭环押注下一个WorkBuddy

    2026年Q3,腾讯实现收入2073.36亿元,同比增长8%;非国际财务报告准则下,公司权益持有人应占盈利665.19亿元,同比下降6%;游戏、广告、金融科技及企业服务三条主线上仍在稳步增长。

    来源 36氪
  19. 腾讯的AI闭环,在下一个WorkBuddy

    11月18日,腾讯发了新一季财报。 2026年Q3,腾讯实现收入2073.36亿元,同比增长8%;非国际财务报告准则下,公司权益持有人应占盈利665.19亿元,同比下降6%;游戏、广告、金融科技及企业服务三条主线上仍在稳步增长。 大本营依然稳固,腾讯却陷入了前所未有的手足无措。 今年5月腾讯股东大会上,谈及腾讯AI是否

    来源 AI 行业观察
  20. 纳德拉:AI代购兴起,恐改写互联网平台盈利模式?

    科技媒体 TechCrunch 昨日(11 月 18 日)发布博文,报道称在《纽约时报》DealBook 峰会上,微软首席执行官萨蒂亚 · 纳德拉(Satya Nadella)表示,能够替用户浏览商品、完成购买的 AI 智能体,可能重塑互联网的商业格局,让依赖用户访问和广告收入的平台面临重新洗牌。

    来源 IT之家
向下滚动自动加载更多