苹果腾讯齐盯智能体安全:企业落地绕不开的必答题
近来,智能体安全成为全球大厂的焦点。 在国外,苹果在2026第三季度财报中提及,智能体可自主与内外部系统交互、执行或修改代码,还能发送信息、完成交易,存在越过权限的可能;在国内,腾讯发布了《WorkBuddy企业版安全白皮书》,强调智能体可控、可溯、可管…… 这意味着,安全已不再是智能体的选择题,而是商业化落地的必答题
近来,智能体安全成了全球大厂共同关注的焦点。
国外这边,苹果在2026第三季度财报中提到,智能体能够自主与内外部系统交互、执行或修改代码,也可以发送信息、完成交易,因而存在越权的可能;国内这边,腾讯发布《
WorkBuddy企业版安全白皮书》,突出智能体要可控、可溯、可管。
说到底,对智能体而言,安全已经不再是道选择题,而是商业化落地绕不开的必答题。
其实,智能体的本事涨得越快,隐忧就冒得越多,关于越界的报道并不少见。眼下虽然还没闹出严重后果,但呼吁预防智能体失控的声音正一路走高。
变强,显然不是智能体唯一的答案。
AI成为一把双刃剑
安全这个话题,从来就没有冷过。
PC时代,木马病毒是主要的攻击手段,动机五花八门:有人为炫耀,有人为盗号,有人为整蛊,也有人为搞破坏。
到了互联网时代,攻击转向C端的钓鱼、B端的勒索与挖矿等,图的是全方位搞钱,目标也锁定在特定人群身上。
后来打击力度加大,云杀毒、网址安全检测、下载主动保护等技术不断迭代,传统攻击接触普通用户的路子被切断了。
结果就是,如今年轻人对网络安全的态度有些微妙:总觉得这事离自己很远,平常日子里感受不到安全软件的价值,甚至不少人干脆“裸奔”上网。
没想到,迈入AI时代,安全又一次站到了C位。
一边是,黑客也能拿AI当工具使。
大模型越来越强,智能体落地一天一个样,与人们的生活绑得越来越紧,风险边界也随之扩大。
比如OpenAI披露过一起网络诈骗:不法分子借助ChatGPT批量生成假护照、股票购买确认单等伪造图片,再设下“杀猪盘”式的恋爱骗局。
又比如Anthropic披露的一种网络现象:不法分子用智能体“崩老头”,用户压根不知道对面聊天的不是真人。

图源:潮新闻
另一边是,企业对AI的要求更高了。
过去智能体拼的是模型参数谁更大、算力谁更强;如今拼的是谁能真正扎进企业的生产力场景,谁能真正接住企业的真实工作任务,谁能真正把生产效率提上去。
在这个过程中,企业既希望智能体能在真实任务里连续干活,又要求它在连续干活时完全可控。

企业用户对智能体安全的四大关切点
据“阿尔法工场”的说法,银行上智能客服,先得想清楚客户信息安不安全;制造企业用AI生产助手,要掂量生产数据会不会外泄;企业装AI办公系统,则要防着内部资料被模型错误调用。
全链路管控才是王道
麻烦的是,传统安全那一套到了AI时代,开始水土不服。
传统攻击的路数,是先挑好目标,再靠各种手段逐层撕开网络、主机、数据这些防线,最后拿到最高权限、偷走敏感数据或数字资产,走的是由外到内的路子。
也就是说,对手本事再大,也没法一上来就在内部“中心开花”。
可现在的智能体直接连在大模型上,攻击者只要给智能体发几句文字命令就行,门槛低了不少,甚至不用懂什么安全常识。
模型本身其实带着安全保护,但攻击者确实能用记忆投毒、提示注入、内部劫持这些非常规手法绕过去。
前不久币安交易所那起63亿美元加密货币盗窃案就是最典型的例子:攻击者先用假面试骗一名币安工程师下载了带毒软件,控制住他的电脑,再拿这台电脑当跳板劫持内部人工智能模型,最终发动盗窃。
一句话,模型的软约束管用,可也容易被盯上。
腾讯AI Agent安全负责人柯灵杰说:“数据和指令之间那条线没了,这是AI安全和传统安全最大的不同。以前数据想变成指令,攻击者得找到代码漏洞去利用;如今模型会把一段自然语言直接翻译成可执行的指令,攻击门槛从‘会挖漏洞’降到了‘会说话’。说到底,所有安全防护要防的就是用户把模型说服了、让它去干坏事。”
说白了,AI安全要防的是有人从堡垒内部把门打开。
面对这种变化,行业拿出了三条应对思路。
第一条是强化模型安全。
内容过滤、记忆污染、提示词风控这些方面,都可以通过优化模型的应对策略,把被利用的风险压下去。
OpenAI甚至推出了主攻安全的新模型GPT-6 Cyber,帮安全人员发现并验证了数千个漏洞,其中包括81个新的Firefox漏洞、948个Linux漏洞,短板反过来成了长板。
公开数据显示,没有开启部署安全提示时,GPT-6 Cyber在99.93%的情况下避开了对范围外服务的利用;开启之后,这一比例达到100%,不会被滥用。

GPT-6 Cyber的失控风险因此大幅下降。
第二条是提升云端安全。
AI把安全的坐标重新画了一遍,云端安全的分量更重了,在这个关键位置下功夫,能拦下更多非法攻击。
毕竟多数模型都跑在云上,上云的企业也越来越多,在云端防决策干扰、防模型污染、防数据窃取,往往事半功倍。
Forrester副总裁Merritt Maxim表示:“自OpenAI在 2022 年底推出 ChatGPT 以来,更灵巧的黑客方案加速出现,加快了对尖端防御解决方案的需求。”
顺着这个思路,Google把Mandiant、Wiz等安全公司收入囊中,想搭出一个安全的云平台,把相关风险挡在外面。
第三条是全链路管控。
智能体越强,自主性就越高,缺了全链路的管控手段,攻击者照样可能找到缺口。
腾讯云安全专家李滨说:“到了智能时代,防护就不能再靠单点防御了。信息怎么流进来、模型怎么交互、数据怎么保护、执行调用怎么发生、全过程怎么记录审计,这些环节得串成一个闭环,才能搭出适配智能体时代的整体安全环境。”
WorkBuddy就是全链路管控的一个典型样本。
目前WorkBuddy搭起了“事前识别、事中拦截、事后恢复、全程留痕”四道防线,让用户用得放心。
WorkBuddy 的原生级沙箱,把文件读写和命令执行都收在授权工作目录里,目录外头默认不给写,用户能操作的范围因此被框住。拦截和放行的事件会一并汇入审计中心,管理端的操作日志记下操作内容、操作人、IP、时间等六项要素。
敏感信息在三个入口就地处理——输入框、工具返回、数据外发,本地完成识别后,按放行、加密保护、拒绝三种策略分别处置,整个识别与脱敏过程都不出网。

WorkBuddy 这套安全体系之外,腾讯云的 AI Agent 安全网关还能一层层拦下各类攻击。供应链投毒、终端入侵、提示词注入这些绕行路子被挡住,智能体便始终跑在预设的安全边界里。
说到底,到了智能体时代,AI 安全已经是基础设施里绕不开的一环,并非可有可无。权限管控、数据隔离、沙箱保护这些环节一旦缺位,后果可能大到难以估算。
这么看,让智能体把事办成并不难,难的是既办成又办得安全。