高盛、思科、摩根大通收紧员工AI使用:设预算、限额度、管控风险

资讯 AI 行业观察 全文 2383 字 · 约 6 分钟读完 配图 1 张 分类安全对齐

IT之家 11 月 11 日消息,据《商业内幕》报道,在过去几年不断鼓励员工拥抱 AI 技术之后,包括高盛、思科和摩根大通在内的企业,正开始采取更有针对性的 AI 部署策略。从设定使用预算、追踪调用量,到限制特定员工或工具的访问权限,这些不同的管理措施背后,是企业在不断加大 AI 投入的同时,也希望降低相关安全风险。

所属频道 政策与风险

据《商业内幕》报道,过去几年一直鼓励员工拥抱AI的高盛、思科、摩根大通等企业,如今正转向更有针对性的部署策略。具体做法包括设定使用预算、追踪调用量,以及限制特定员工或特定工具的访问权限。

高盛、思科、摩根大通收紧员工AI使用:设预算、限额度、管控风险(配图 1)

这些管理动作的背后有双重考量:企业一边在持续加码AI投入,一边也想把随之而来的安全风险压下来。

麦肯锡公司技术、媒体和电信业务高级合伙人拉里 · 哈马莱宁(Lari Hämäläinen)说,越来越多企业已经察觉,员工使用AI的频率正在“大幅上升”,因此有必要把使用规范与限制明确下来。

高盛董事长兼首席执行官戴维 · 所罗门(David Solomon)本月提到,该银行正快速扩大AI工具的覆盖范围,让旗下4.5万名员工用上更多AI产品,但在他看来,没必要让所有人都能每天访问最先进的模型。

所罗门在接受彭博电视采访时说:“某些工作确实需要最前沿的模型,尤其是网络安全领域。”他同时表示,“很多工作并不需要最前沿的模型”,普通AI工具已经够员工提升效率了。

还有一类企业,起初政策相对宽松,先推着员工用AI,后来开始收紧相关开支。

思科首席产品官吉图 · 帕特尔(Jeetu Patel)上个月在CXOTalk播客节目里,把公司早期的AI推广比作学骑自行车。那段时间,思科让开发团队连续数月不限量使用AI编程工具的Token,目的是先让员工熟悉并掌握AI技术,而不是一上来就盯着使用效率。

随着用量持续增长,帕特尔表示,他打算为旗下3.2万名员工团队中的各级管理人员设定Token使用预算。

《商业内幕》此前报道,摩根大通今年9月已对部分工程师使用Anthropic旗下Claude Code的额度设了限制,每月上限为2,000美元(IT之家注:现汇率约合13,376元人民币)。

该银行发言人称,公司正把AI使用成本与生产效率、工作质量、风险降低程度以及实际业务影响挂钩。

企业着手加强员工AI使用管理,距离一些公司公开炫耀员工消耗了多少Token,其实还不到几个月。

Visa曾表示,公司每月的Token使用量从今年2月的1万亿增长到3月的近2万亿,并且会给AI使用量最大的员工发奖励。

今年3月,英伟达首席执行官黄仁勋(Jensen Huang)表示,公司计划每年为工程师使用Token投入最高20亿美元(现汇率约合133.76亿元人民币)。

黄仁勋甚至开玩笑说,如果一名年薪50万美元(现汇率约合334.4万元人民币)的工程师只用了价值不到25万美元(现汇率约合167.2万元人民币)的Token,他会“感到非常担忧”。

与此同时,部分企业还上线了数据看板,让管理层能更直观地掌握员工使用AI的情况,有时也借此带动更多员工参与。

今年4月迪士尼推出的AI使用数据看板显示,公司里使用AI最频繁的员工平均每天会发起数百次请求,Token消耗量达到数千万级别。

毕马威美国(KPMG US)今年5月也说过,希望为咨询业务部门推出数据看板,推动旗下约1万名员工更频繁、更深入地使用AI。

不过,随着员工逐步把AI融入日常工作,毕马威现在已经不再通过该数据看板监控AI使用情况。公司发言人透露,相关工具原本的推广任务已经完成。

如今AI开支持续攀升,企业的管理重点正从扩大使用规模转向提高投资回报。

风险投资机构Menlo Ventures的一项最新研究显示,截至今年9月,企业在AI部署方面的支出已达到1,770亿美元(现汇率约合1.18万亿元人民币),而2025年全年这一数字仅为330亿美元(现汇率约合2,206.96亿元人民币)。

投入增长不代表回报已经到手。Gartner在今年5月至7月对约2000名科技行业高管所做的调查显示,只有13%的受访者表示,其所在企业已经从AI技术中获得了显著价值。

Millennium Alliance联合创始人亚历克斯 · 索博尔(Alex Sobol)表示,企业AI账单不断膨胀,部分原因在于员工缺乏控制使用量的动力。Millennium Alliance是一个面向企业高管、采取邀请制的交流组织。索博尔指出,如果企业不设定使用限制,员工“就会想尽一切办法使用AI”。

另外,如果使用不当,向员工开放广泛的AI访问权限还可能埋下安全隐患,这也是企业开始更谨慎管理AI使用的另一个原因。

毕马威2025年对1000多名美国员工做过一项调查:44%的受访者承认,自己曾在工作里未经授权或不当使用AI;另有46%的人把公司敏感信息或知识产权传上过公开AI平台。

人力资源管理软件初创公司 Rippling 同样收紧了口子。今年 8 月,这家公司开始给 AI 工具定下每月用量上限。在此之前,公司内部估算,Token 花销有可能冲到研发团队整体人力成本预算的 40%。

Rippling 称,设了限制、又对模型调用路由做了优化之后,Token 支出占比的预测值已回落到 10% 至 15%,而 Token 用量大体还停在此前的高位。

公司首席产品官马特 · 麦金尼斯(Matt MacInnis)把话讲得很明白:“我们的目的不是削减 AI 成本。只要这些支出能够带来实际生产价值,我们完全可以接受成本继续增长。”

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 高盛、思科等企业收紧员工AI使用:设预算、限额度

    IT之家 11 月 11 日消息,据《商业内幕》报道,在过去几年不断鼓励员工拥抱 AI 技术之后,包括高盛、思科和摩根大通在内的企业,正开始采取更有针对性的 AI 部署策略。从设定使用预算、追踪调用量,到限制特定员工或工具的访问权限,这些不同的管理措施背后,是企业在不断加大 AI 投入的同时,也希望降低相关安全风险。麦

    来源 腾讯网
  2. 盖茨再谈AI风险:比核武器更危险,呼吁提前建机制

    “AI当然比核武器更危险。”近日,比尔·盖茨在美国哥伦比亚广播公司(CBS)的播客《好问题》中警告,过去一年,AI模型已经跨过一些危险门槛,社会和政府却还没有做好准备。从2023年宣告“AI时代已经开始”、强调风险可以管理,到今年8月发文提醒世界为动荡做准备,盖茨的警告越来越急迫。“达到人类的智能水平之后,它也不会停下

    来源 腾讯网
  3. 神龙科技联手火山引擎:新车将搭最新AI座舱,合资品牌首个全链路共创

    IT之家 11 月 11 日消息,神龙科技与火山引擎全面战略合作签约仪式今日在北京举行。双方将围绕企业 AI 转型、产品技术共创、用户全周期服务三大维度开展合作。 神龙科技表示,将在全新新能源车型上搭载火山引擎最新一代 AI 座舱解决方案,并成为合资品牌首家与火山引擎全链路深度共创的车企。 神龙科技总经理吕海涛表示:“

    来源 AI 行业观察
  4. Reddit测试AI评价汇总功能:用户担心分不清真实意见和软广

    IT之家 11 月 11 日消息,据科技媒体 CNET 昨天报道,网络论坛 Reddit 正在测试 Reviews 功能。可通过 AI 汇总用户评论,分析一件商品的优缺点。 Reddit 表示,该功能可以充分利用论坛的自然讨论内容,帮助用户真正了解某款产品实际表现,并判断商品是否适合自己。 不过这项功能公布后引发了一些

    来源 AI 行业观察
  5. 《Big Walk》用AI修Bug惹争议:IGF披露规则为何成了自曝通道

    独立游戏《Big Walk》在修复一个bug时使用了AI编程工具,并在独立游戏节(IGF)评审材料中如实披露。这份坦诚却引爆了社区长期压抑的争论:对许多评委而言,任何程度的AI编码都不可接受。当AI工具已渗透日常开发,独立游戏界的AI红线究竟该划在哪里?本文梳理事件经过、IGF规则现状与行业分歧。

    来源 AI 行业观察
  6. 红帽曹衡康谈AI落地:三个C、四个A,把选择权还给企业

    AI技术快速迭代,模型、算力、云平台和智能体层出不穷。对于企业而言,如何避免被单一技术路线绑定,在保持系统稳定与安全的同时,持续拥抱创新,已经成为一道重要课题。红帽给出的答案是提供一个能够承载过去、现在与未来的稳固平台,把选择权交还给企业。

    来源 TechWeb
  7. 红帽AI平台战略:三个C四个A,支持任意加速器与模型

    AI技术快速迭代,模型、算力、云平台和智能体层出不穷。对于企业而言,如何避免被单一技术路线绑定,在保持系统稳定与安全的同时,持续拥抱创新,已经成为一道重要课题。红帽给出的答案是提供一个能够承载过去、现在与未来的稳固平台,把选择权交还给企业。

    来源 TechWeb
  8. 灵光托管事务破300万项:个人AI助理转向比拼"管事"

    11月11日,蚂蚁集团旗下个人AI助理灵光公布最新数据:自10月27日灵光2.0上线以来,累计托管事务量突破300万项,累计执行任务超过1100万次。 这是灵光2.0上线以来又一次披露事务托管数据。11月5日,灵光曾公布,上线一周已托管超过116万项事务,累计执行任务超过360万次,用户规模突破2000万。 与用户规模

    来源 AI 开发者社区
  9. 纽约推出 AI 监管新规,OpenAI、Anthropic 需 72 小时内上报安全事故

    IT之家 11 月 11 日消息,纽约州正准备实施美国最重要的人工智能安全法规之一。该州周二正式开放了一个监管登记平台,Anthropic、OpenAI 等大型前沿 AI 开发商必须在 2027 年 1 月 1 日前完成注册。这项名为《负责任人工智能安全与教育法案》(RAISE Act)的法规,是纽约州推出的一项 AI

    来源 腾讯网
  10. 纽约AI安全法落地:OpenAI、Anthropic须登记披露并上报事件

    纽约州开始执行其范围广泛的AI安全法,要求OpenAI、Anthropic等主要AI开发者完成登记、公开安全实践,并在发生关键事件时上报,违规将面临罚款。这部法律把“登记—披露—上报”的组合拳落到前沿模型身上,也把美国州层面的AI监管推向新阶段,企业合规成本与联邦—州监管博弈随之升温。

    来源 AI 行业观察
  11. ChatGPT新增商业资料:AI搜索战局要变天?

    OpenAI为ChatGPT推出全新商业资料功能,企业可在对话中展示自身信息,使ChatGPT进一步演变为消费者发现引擎。本文梳理该功能的核心逻辑、与Google搜索的竞合关系,以及对商家、内容生态和AI搜索商业化的潜在影响。

    来源 AI 行业观察
  12. Cloudflare推Web Search API,给AI代理实时联网搜索能力

    最近,Cloudflare 通过 AI Gateway 推出了一款测试版的 Web Search API。该 API 可以通过 REST API 和 Cloudflare Workers 访问,提供统一的日志记录、访问控制和计费功能,并支持自带提供商密钥。 该 API 使 AI 代理能够从 Ceramic.ai、Exa

    来源 AI 行业观察
  13. 灵光2.0托管事务破300万,个人AI助理转向管事能力

    11月11日,蚂蚁集团旗下个人AI助理灵光公布最新数据显示,自10月27日灵光2.0上线以来,累计托管事务量突破300万项,累计执行任务超过1100万次。灵光是蚂蚁集团旗下个人AI助理,致力于让AI从回答问题、执行指令,进一步走向持续管理真实事务。10月27日发布的灵光2.0定位为“能管事的个人AI助理”,通过长期事务

    来源 腾讯网
向下滚动自动加载更多