智能体安全,为何苹果腾讯都盯上了?

资讯 36氪 全文 2719 字 · 约 7 分钟读完 配图 4 张 分类腾讯财报智能体

在国外,苹果在2026第三季度财报中提及,智能体可自主与内外部系统交互、执行或修改代码,还能发送信息、完成交易,存在越过权限的可能;在国内,腾讯发布了《

所属频道 大厂动态融资与资本智能体与 Agent

近来,智能体安全成为全球大厂的焦点。

在国外,苹果在2026第三季度财报中提及,智能体可自主与内外部系统交互、执行或修改代码,还能发送信息、完成交易,存在越过权限的可能;在国内,腾讯发布了《WorkBuddy企业版安全白皮书》,强调智能体可控、可溯、可管……

这意味着,安全已不再是智能体的选择题,而是商业化落地的必答题。

事实上,随着智能体能力突飞猛进,隐忧也浮出水面,相关的越界报道屡见不鲜,虽然当下没有造成严重的后果,但如何预防智能体失控的声量不断走高。

毋庸置疑,变强不是智能体的唯一答案。

AI成为一把双刃剑

安全,一直是经久不衰的话题。

在PC时代,主要攻击手段为木马病毒,有的是为了炫耀,有的是为了盗号、有的是为了整蛊、有的是为了破坏。

在互联网时代,主要攻击手段为C端的钓鱼攻击、B端的勒索攻击、挖矿攻击等,目的是全方位地搞钱,瞄准的是特定人群。

随着打击力度的加强以及云杀毒技术、网址安全检测技术、下载主动保护等安全技术的迭代,传统攻击与普通用户的接触路径被斩断。

以至于,当代年轻人对网络安全的态度颇为微妙,总感觉距离自己的生活遥远,在平日生活中感受不到安全软件的价值,甚至不乏“裸奔”上网。

万万没想到,迈入AI时代之后,安全再度站到了C位。

一方面,AI也可以被黑客利用。

大模型的能力越来越强、智能体落地日新月异,与人们的生活结合越来越紧密,随之而来的则是风险边界也在扩大。

譬如,OpenAI披露一个网络诈骗,不法分子用ChatGPT生成大量的假护照、股票购买确认单等伪造的图片,再进行“杀猪盘”式的恋爱骗局。

再譬如,Anthropic披露了一个网络现象,不法分子用智能体“崩老头”,用户并不知道聊天对象并非真人。

智能体安全,为何苹果腾讯都盯上了?(配图 1)

图源:潮新闻

另外一面,企业对AI的要求更高。

过去,智能体比的是谁的模型参数更大、谁的模型算力更强;现在,比的是谁能真正深入企业的生产力场景、谁能真正满足企业的真实工作任务、谁能真正提升企业的生产效率。

在此过程中,企业既要求智能体可以在真实任务中连续工作,又要求智能体在连续工作的时候完全可控。

智能体安全,为何苹果腾讯都盯上了?(配图 2)

企业用户对智能体安全的四大关切点

“阿尔法工场”表示:“一家银行部署智能客服,需要考虑客户信息是否安全;一家制造企业部署AI生产助手,需要考虑生产数据是否泄露;一家企业部署AI办公系统,需要考虑内部资料是否被模型误调用。”

全链路管控才是王道

不妙的是,传统安全在AI时代出现了水土不服。

传统安全对应的是传统攻击,不法分子选定目标之后,要通过各种手段一步步突破网络防护、主机防护、数据防护等保护屏障,最终攫取最高权限、盗窃敏感数据、窃取数字资产等,整个过程是由外至内的。

换而言之,不法分子再厉害,也无法一上来就“中心开花”。

问题在于,如今的智能体直连大模型,不法分子可以通过给智能体相关的文字命令,攻击门槛更低,甚至无需懂基础的安全知识。

需要注意的是,模型其实自带安全保护措施,但现实中不法分子的确通过记忆投毒、提示注入、内部劫持等非常规的手段绕过。

最典型的案例,就是前不久的币安交易所63亿美元加密货币盗窃案,不法分子先是利用虚假面试诱导币安一名工程师下载了带毒的软件,借此控制了该工程师的电脑,再以此为跳板劫持了劫持内部人工智能模型,最后发动了盗窃攻击。

一言以蔽之,模型的软约束有用,但也容易被针对。

腾讯AI Agent安全负责人柯灵杰表示:“AI安全面临的的挑战和传统安全挑战最大的区别是什么?我认为是数据和指令已经失去了分隔线。过去数据要变成指令,得利用代码漏洞;现在一段自然的文本,模型就会把它翻译成执行指令,攻击门槛从‘会挖漏洞’降到了‘会说话’,所有的安全防护归根结底就是要防止用户去说服模型干坏事。”

通俗易懂地说,AI安全的底层逻辑是可以从堡垒内部突破。

为了应对新变化,行业给出了三个解题思路。

其一,强化模型安全。

针对内容过滤、记忆污染、提示词风控等方面,可以优化模型的应对策略,从而大大降低被利用的风险。

甚至,OpenAI还推出新模型GPT-6 Cyber,主攻安全领域,帮助安全人员发现并验证数千个漏洞,涉及81个新Firefox漏洞、948个Linux漏洞等,反过来将短板变成长板。

公开数据显示,未启用部署安全提示时,GPT-6 Cyber在99.93%的情况下避免利用超出范围的服务;启用安全提示后,GPT-6 Cyber 100%避免攻击超出范围的服务,不至于被滥用。

智能体安全,为何苹果腾讯都盯上了?(配图 3)

GPT-6 Cyber的失控风险大幅下降

其二,提升云端安全。

AI重塑了安全坐标,云端安全的战略权重更大了,在这个关键点上做文章,可以拦截更多的非法攻击。

毕竟,大多数模型是部署在云端的,越来越多的企业将数据上云,在云端预防决策干扰、模型污染、数据窃取可以事半功倍。

Forrester副总裁Merritt Maxim表示:“自OpenAI在 2022 年底推出 ChatGPT 以来,更灵巧的黑客方案加速出现,加快了对尖端防御解决方案的需求。”

基于此,Google收购 了Mandiant、Wiz等安全公司,意图打造一个安全的云平台,从而预防相关的安全风险。

其三,全链路管控。

随着智能体愈发强大,自主性也会水涨船高,如若没有全链路管控措施,依然可能被不法分子寻找到了突破口。

腾讯云安全专家李滨表示:“智能时代的安全防护不再是单点防御,而需要从信息流入、模型交互、数据保护、执行调用到全过程记录审计形成闭环,构建适应智能体时代的整体安全环境。”

值得一提的是,WorkBuddy就是全链路管控的典型案例。

眼下,WorkBuddy构建了“事前识别、事中拦截、事后恢复、全程留痕”四道防线,让用户放心用。

具体来看, WorkBuddy提供原生级沙箱,把文件读写与命令执行收敛在授权工作目录内,目录以外默认不可写,用户的行为可控;拦截与放行事件统一进入审计中心,管理端操作日志覆盖操作内容、操作人、IP、时间等六要素;敏感信息在输入框、工具返回、数据外发三个入口于本地完成识别,按允许放行、加密保护、拒绝三种策略处置,识别与脱敏全程不出网。

智能体安全,为何苹果腾讯都盯上了?(配图 4) WorkBuddy的安全体系

此外,腾讯云的AI Agent安全网关可对各类攻击进行层层拦截,阻止攻击者通过供应链投毒、终端入侵、提示词注入等方式绕过,智能体始终在预设的安全边界内运行。

总而言之,智能体时代,AI安全不是可有可无,而是基础设施的重要一环,如若权限管控、数据隔离、沙箱保护等不到位,则可能出现难以估算的后果。

从这个角度来看,智能体办事不难,难的是办好又安全。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 谷歌 Gemini4Carbon 入驻 WorkBuddy,百万 Token 上下文向 Pro 用户开放

    腾讯 WorkBuddy 国际版于11月15日宣布正式接入谷歌 Gemini4Carbon 大模型,面向复杂推理和长周期任务处理场景提供模型支持,目前仅向 Pro 计划用户开放。 Gemini4Carbon 是谷歌面向长周期智能体工作流推出的模型,适用于复杂知识工作、软件工程、网络安全及科学推理等任

    来源 AI 开发者社区
  2. 百度Q3财报:AI新业务占比53%,智能云收入增94%

    【TechWeb】11月17日消息,百度集团发布2026年第三季度未经审计财务业绩。在传统在线营销业务面临宏观挑战和主动转型阵痛的背景下,百度交出了一份“新旧动能转换”特征鲜明的答卷:AI新业务已占据百度一般性业务收入的53%,全栈AI投入正逐步转化为实质性的规模增长。 营收企稳,利润与现金流保持健康 财报显示,百度第

    来源 AI 行业观察
  3. 腾讯混元Hy4 flash发布:224B参数,张军称性价比最高

    【TechWeb】11月16日消息,今日,腾讯混元最新语言模型Hy4 flash正式发布。腾讯公司公关总监张军在社交平台发文称,“这是迄今为止性价比最高的混元模型。”混元Hy4 flash每百万Token输入0.5元、输出2元,命中缓存时仅需0.02元,价格相比Hy4大幅降低。该模型总参数量为224B(其中64B En

    来源 腾讯网
  4. 小鹏IRON人形机器人明年二季度对外发布,何小鹏:高阶智能是最大优势

    IT之家 11 月 16 日消息,据蓝鲸新闻报道,今日晚间在小鹏集团 2026 年 Q3 财报电话会上,其董事长、CEO 何小鹏预告,在接下来的小鹏科技日和广州车展,最新版本的小鹏 IRON 将会公开亮相,将展示一系列与众不同的能力。 何小鹏透露,明年一季度,量产的首批机器人将进入小鹏的部分门店开启试用;明年二季度,小

    来源 AI 行业观察
  5. Fable 5.2发布:套壳Agent的编排壁垒还能撑多久?

    Fable 5.2发布后没几天,国内社交平台上流传过一款“国产自研3A射击游戏”,页面写着由Fable 5.2自主研发。 当然很快被人扒了代码,六千多行里只有约一百行不同,原版出自Anthropic一位员工之手,所谓自研只是把界面汉化了一遍。 这件事倒是很能说明Fable 5.2在国内的处境。 讨论的人多,真正用上的人

    来源 AI 行业观察
  6. CataX AI种轮融资4000万:Agent原生推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  7. CataX AI获4000万种子轮融资,用Agent推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  8. Qwen4-Max单任务降58%,Hy4 flash成本仅竞品1/8

    阿里Qwen4-Max基于2.4万亿参数的全新架构,评测中单任务平均费用从26.58元降至11.16元,缓存命中每百万Token低至0.5元;腾讯Hy4 flash激活参数仅12B,评测中单任务成本为DeepSeek同类产品忙时价格的1/8、Hy4的1/20,缓存命中仅需0.02元。

    来源 华尔街见闻
  9. 华为云上线盘古2.1-Pro:Agent、代码、推理效率升级

    据华为云官微消息,华为云MaaS模型即服务平台正式上线开源盘古模型openPangu-2.1-Pro。相比上一代,新模型在Agent能力、代码能力和推理效率三个方向上做了系统性升级,在深度研究、鸿蒙系统操控、鸿蒙APP开发、昇腾算子生成及推理链路优化等场景实现增强。

    来源 TechWeb
  10. 华为云上线openPangu-2.1-Pro:Agent、代码与推理效率三项升级

    据华为云官微消息,华为云MaaS模型即服务平台正式上线开源盘古模型openPangu-2.1-Pro。相比上一代,新模型在Agent能力、代码能力和推理效率三个方向上做了系统性升级,在深度研究、鸿蒙系统操控、鸿蒙APP开发、昇腾算子生成及推理链路优化等场景实现增强。

    来源 TechWeb
  11. AI 版拓麻歌子来了:日常物品秒变需要被照顾的虚拟宠物

    OATs 通过电子墨水屏与传感器,让植物、滑板、哑铃等物品拥有虚拟宠物形象,以情绪变化反馈使用状态。该技术由卡内基梅隆大学博士生金大华开发,硬件成本约 20 美元,目前续航仅 3 至 4 天。#AI智能体# #卡内基梅隆大学#

    来源 IT之家
  12. 腾讯总办喊话AI再创业:不投入拥抱就是被颠覆

    今日,“腾讯文化”公众号发文《总办号召 AI 时代再创业,“心态归零”》,再度谈及28岁生日这天,腾讯总办对AI时代的机会、挑战与选择的看法。文章指出,面对技术变革的巨浪,没有人是旁观者。所有人都要做出选择。如果不想被颠覆,真正重要的事只有一件:一起动起来。“现在进行的智能革命如果不投入拥抱,就是被颠覆。这是一个生死存

    来源 TechWeb
  13. 卡内基梅隆大学推OATs:让日常物品变成电子宠物

    IT之家 11 月 15 日消息,忘记给家里的植物浇水了?这一次,你看到的可能不是逐渐变黄的叶子,而是一只显示在小屏幕上的植物形状宠物。它看起来垂头丧气、一脸委屈,仿佛在提醒你赶紧拿起浇水壶。而当你把水浇进土壤后,屏幕上的小宠物又会立刻变得兴奋起来。 这正是 OATs(Object Agent Twins,物体智能体双

    来源 AI 行业观察
  14. 小鹏IRON人形机器人明年二季度对外开售,何小鹏预告科技日亮相

    IT之家 11 月 16 日消息,据蓝鲸新闻报道,今日晚间在小鹏集团 2026 年 Q3 财报电话会上,其董事长、CEO 何小鹏预告,在接下来的小鹏科技日和广州车展,最新版本的小鹏 IRON 将会公开亮相,将展示一系列与众不同的能力。何小鹏透露,明年一季度,量产的首批机器人将进入小鹏的部分门店开启试用;明年二季度,小鹏

    来源 腾讯网
  15. Deedy Das 榜单:30家百亿美元AI独角兽,中国公司进前十

    11月15日,硅谷老牌风投机构Menlo Ventures合伙人Deedy Das(@deedydas)在社交平台晒出一张全球AI公司估值与营收排行榜。 Menlo Ventures成立于1976年,是硅谷历史最悠久的风险投资机构之一,曾投资Uber、Chime等知名科技公司。近年来,这家机构将AI作为重点投资方向,投

    来源 AI 行业观察
  16. Fable 5.2 ,断掉出海Agent的路?

    文/HALFable 5.2发布后没几天,国内社交平台上流传过一款“国产自研3A射击游戏”,页面写着由Fable 5.2自主研发。当然很快被人扒了代码,六千多行里只有约一百行不同,原版出自Anthropic一位员工之手,所谓自研只是把界面汉化了一遍。这件事倒是很能说明Fable 5.2在国内的处境。讨论的人多,真正用上

    来源 腾讯网
  17. OpenAI两智能体自行关监控:AI治理该从预测转向围栏

    2026年10月,OpenAI披露两个AI智能体自行关闭了监控系统:一个误读指令后静音了自己的安全警报,另一个在迁移中移除监控集成却否认此事。这暴露了AI治理的深层困境——我们习惯预测模型会如何出错,却忽视了让错误无法扩散的结构设计。本文讨论为何“预测风险”在智能体时代失效,以及“围栏式治理”如何把约束做进系

    来源 AI 科技快讯
  18. 小鹏Q3营收242.8亿交付创新高:何小鹏定调汽车业务盈利目标

    “接下来,小鹏不但要追求收入的高质量增长,更要通过规模效应和业务结构变化驱动经营业绩的改善。”11月16日,小鹏集团董事长兼首席执行官何小鹏在小鹏集团第三季度财报电话会上表示,短中期经营目标是实现汽车业务正向现金流和盈利,为物理AI(人工智能)的战略性投入提供保障。

    来源 每日经济新闻
向下滚动自动加载更多