苹果腾讯齐盯智能体安全:企业落地绕不开的必答题

资讯 AI 行业观察 作者:锌刻度 全文 2711 字 · 约 7 分钟读完 配图 5 张 分类WorkBuddy腾讯财报智能体应用落地

近来,智能体安全成为全球大厂的焦点。 在国外,苹果在2026第三季度财报中提及,智能体可自主与内外部系统交互、执行或修改代码,还能发送信息、完成交易,存在越过权限的可能;在国内,腾讯发布了《WorkBuddy企业版安全白皮书》,强调智能体可控、可溯、可管…… 这意味着,安全已不再是智能体的选择题,而是商业化落地的必答题

所属频道 大厂动态融资与资本智能体与 AgentAI 编程与开发

近来,智能体安全成了全球大厂共同关注的焦点。

国外这边,苹果在2026第三季度财报中提到,智能体能够自主与内外部系统交互、执行或修改代码,也可以发送信息、完成交易,因而存在越权的可能;国内这边,腾讯发布《WorkBuddy企业版安全白皮书》,突出智能体要可控、可溯、可管。

说到底,对智能体而言,安全已经不再是道选择题,而是商业化落地绕不开的必答题。

其实,智能体的本事涨得越快,隐忧就冒得越多,关于越界的报道并不少见。眼下虽然还没闹出严重后果,但呼吁预防智能体失控的声音正一路走高。

变强,显然不是智能体唯一的答案。

AI成为一把双刃剑

安全这个话题,从来就没有冷过。

PC时代,木马病毒是主要的攻击手段,动机五花八门:有人为炫耀,有人为盗号,有人为整蛊,也有人为搞破坏。

到了互联网时代,攻击转向C端的钓鱼、B端的勒索与挖矿等,图的是全方位搞钱,目标也锁定在特定人群身上。

后来打击力度加大,云杀毒、网址安全检测、下载主动保护等技术不断迭代,传统攻击接触普通用户的路子被切断了。

结果就是,如今年轻人对网络安全的态度有些微妙:总觉得这事离自己很远,平常日子里感受不到安全软件的价值,甚至不少人干脆“裸奔”上网。

没想到,迈入AI时代,安全又一次站到了C位。

一边是,黑客也能拿AI当工具使。

大模型越来越强,智能体落地一天一个样,与人们的生活绑得越来越紧,风险边界也随之扩大。

比如OpenAI披露过一起网络诈骗:不法分子借助ChatGPT批量生成假护照、股票购买确认单等伪造图片,再设下“杀猪盘”式的恋爱骗局。

又比如Anthropic披露的一种网络现象:不法分子用智能体“崩老头”,用户压根不知道对面聊天的不是真人。

苹果腾讯齐盯智能体安全:企业落地绕不开的必答题(配图 1)

图源:潮新闻

另一边是,企业对AI的要求更高了。

过去智能体拼的是模型参数谁更大、算力谁更强;如今拼的是谁能真正扎进企业的生产力场景,谁能真正接住企业的真实工作任务,谁能真正把生产效率提上去。

在这个过程中,企业既希望智能体能在真实任务里连续干活,又要求它在连续干活时完全可控。

苹果腾讯齐盯智能体安全:企业落地绕不开的必答题(配图 2)

企业用户对智能体安全的四大关切点

据“阿尔法工场”的说法,银行上智能客服,先得想清楚客户信息安不安全;制造企业用AI生产助手,要掂量生产数据会不会外泄;企业装AI办公系统,则要防着内部资料被模型错误调用。

全链路管控才是王道

麻烦的是,传统安全那一套到了AI时代,开始水土不服。

传统攻击的路数,是先挑好目标,再靠各种手段逐层撕开网络、主机、数据这些防线,最后拿到最高权限、偷走敏感数据或数字资产,走的是由外到内的路子。

也就是说,对手本事再大,也没法一上来就在内部“中心开花”。

可现在的智能体直接连在大模型上,攻击者只要给智能体发几句文字命令就行,门槛低了不少,甚至不用懂什么安全常识。

模型本身其实带着安全保护,但攻击者确实能用记忆投毒、提示注入、内部劫持这些非常规手法绕过去。

前不久币安交易所那起63亿美元加密货币盗窃案就是最典型的例子:攻击者先用假面试骗一名币安工程师下载了带毒软件,控制住他的电脑,再拿这台电脑当跳板劫持内部人工智能模型,最终发动盗窃。

一句话,模型的软约束管用,可也容易被盯上。

腾讯AI Agent安全负责人柯灵杰说:“数据和指令之间那条线没了,这是AI安全和传统安全最大的不同。以前数据想变成指令,攻击者得找到代码漏洞去利用;如今模型会把一段自然语言直接翻译成可执行的指令,攻击门槛从‘会挖漏洞’降到了‘会说话’。说到底,所有安全防护要防的就是用户把模型说服了、让它去干坏事。”

说白了,AI安全要防的是有人从堡垒内部把门打开。

面对这种变化,行业拿出了三条应对思路。

第一条是强化模型安全。

内容过滤、记忆污染、提示词风控这些方面,都可以通过优化模型的应对策略,把被利用的风险压下去。

OpenAI甚至推出了主攻安全的新模型GPT-6 Cyber,帮安全人员发现并验证了数千个漏洞,其中包括81个新的Firefox漏洞、948个Linux漏洞,短板反过来成了长板。

公开数据显示,没有开启部署安全提示时,GPT-6 Cyber在99.93%的情况下避开了对范围外服务的利用;开启之后,这一比例达到100%,不会被滥用。

苹果腾讯齐盯智能体安全:企业落地绕不开的必答题(配图 3)

GPT-6 Cyber的失控风险因此大幅下降。

第二条是提升云端安全。

AI把安全的坐标重新画了一遍,云端安全的分量更重了,在这个关键位置下功夫,能拦下更多非法攻击。

毕竟多数模型都跑在云上,上云的企业也越来越多,在云端防决策干扰、防模型污染、防数据窃取,往往事半功倍。

Forrester副总裁Merritt Maxim表示:“自OpenAI在 2022 年底推出 ChatGPT 以来,更灵巧的黑客方案加速出现,加快了对尖端防御解决方案的需求。”

顺着这个思路,Google把Mandiant、Wiz等安全公司收入囊中,想搭出一个安全的云平台,把相关风险挡在外面。

第三条是全链路管控。

智能体越强,自主性就越高,缺了全链路的管控手段,攻击者照样可能找到缺口。

腾讯云安全专家李滨说:“到了智能时代,防护就不能再靠单点防御了。信息怎么流进来、模型怎么交互、数据怎么保护、执行调用怎么发生、全过程怎么记录审计,这些环节得串成一个闭环,才能搭出适配智能体时代的整体安全环境。”

WorkBuddy就是全链路管控的一个典型样本。

目前WorkBuddy搭起了“事前识别、事中拦截、事后恢复、全程留痕”四道防线,让用户用得放心。

WorkBuddy 的原生级沙箱,把文件读写和命令执行都收在授权工作目录里,目录外头默认不给写,用户能操作的范围因此被框住。拦截和放行的事件会一并汇入审计中心,管理端的操作日志记下操作内容、操作人、IP、时间等六项要素。

敏感信息在三个入口就地处理——输入框、工具返回、数据外发,本地完成识别后,按放行、加密保护、拒绝三种策略分别处置,整个识别与脱敏过程都不出网。

苹果腾讯齐盯智能体安全:企业落地绕不开的必答题(配图 4)

WorkBuddy 这套安全体系之外,腾讯云的 AI Agent 安全网关还能一层层拦下各类攻击。供应链投毒、终端入侵、提示词注入这些绕行路子被挡住,智能体便始终跑在预设的安全边界里。

说到底,到了智能体时代,AI 安全已经是基础设施里绕不开的一环,并非可有可无。权限管控、数据隔离、沙箱保护这些环节一旦缺位,后果可能大到难以估算。

这么看,让智能体把事办成并不难,难的是既办成又办得安全。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 谷歌 Gemini4Carbon 入驻 WorkBuddy,百万 Token 上下文向 Pro 用户开放

    腾讯 WorkBuddy 国际版于11月15日宣布正式接入谷歌 Gemini4Carbon 大模型,面向复杂推理和长周期任务处理场景提供模型支持,目前仅向 Pro 计划用户开放。 Gemini4Carbon 是谷歌面向长周期智能体工作流推出的模型,适用于复杂知识工作、软件工程、网络安全及科学推理等任

    来源 AI 开发者社区
  2. 腾讯发布Hy4 flash:支持1M上下文,激活参数12B

    11月16日,腾讯发布定位于日常办公及智能体任务的Hy4 flash模型。该模型总参数量224B(含64B Engram参数),单次激活参数12B,支持多模态输入和最高1M上下文长度,解码速度超过150 tokens/s。腾讯内部评测显示其综合表现略高于Hy4 preview,WorkIndex测试中平均单任务成本约为

    来源 凤凰科技
  3. 智能体安全新课题:风险如何跨会话潜伏与放大?

    大模型正从聊天助手进化为能自主调用工具、读写文件的通用智能体。这意味着安全风险不再局限于“说了什么”,而是延伸至“做了什么”以及“留下了什么”。北大与腾讯联合发布的综述指出,攻击者可通过污染技能、记忆或环境,让风险跨会话潜伏并放大。传统组件式防御已失效,必须建立涵盖来源、编排、执行及持久反馈的全生命周期安全框架,并在运

    来源 AI 应用前沿
  4. WorkBuddy工作空间怎么用:绑定文件夹,让AI直接读写本地文件

    很多新手用 WorkBuddy 时直接跳过「选择工作空间」,导致只能当普通聊天机器人用。其实工作空间才是核心:它给 AI 划定一个本地文件夹权限,让它能直接读写文件、自动保存结果。本文详解如何创建空间、避免隐私坑,以及为什么这比拖拽文件高效得多。

    来源 AI 应用前沿
  5. 腾讯Hy4 flash实测:两毛钱让AI从零做出3D交互网页

    11 月初,腾讯 Hy4 发布,新模型在大模型竞技场上一跃升至开源第一。排在 Hy4 前面的三个模型分别是 GPT-6 Sol(Max)、Claude Opus 5(Max)和 Fable 5(High),附近还有 GPT-6.1 Terra、GPT-5.6 Sol 等一众强劲的闭源模型。我们此前在 WorkBuddy

    来源 腾讯网
  6. CataX AI完成4000万元种子轮融资,启明创投孵化并独家投资

    【TechWeb】11月16日消息,近日,上海凯思达生物医药科技有限公司(下称CataX AI)宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。 CataX AI创立于上海,是一家智能体(Agent)原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-

    来源 AI 行业观察
  7. 腾讯总办号召AI时代再创业:不拥抱智能革命就是被颠覆

    【TechWeb】11月16日消息,今日,“腾讯文化”公众号发文《总办号召 AI 时代再创业,“心态归零”》,再度谈及28岁生日这天,腾讯总办对AI时代的机会、挑战与选择的看法。 文章指出,面对技术变革的巨浪,没有人是旁观者。所有人都要做出选择。如果不想被颠覆,真正重要的事只有一件:一起动起来。“现在进行的智能革命如果

    来源 AI 行业观察
  8. 华为云上线openPangu-2.1-Pro:Agent、代码与推理效率同步升级

    【TechWeb】11月16日消息,据华为云官微消息,华为云MaaS模型即服务平台正式上线开源盘古模型openPangu-2.1-Pro。相比上一代,新模型在Agent能力、代码能力和推理效率三个方向上做了系统性升级,在深度研究、鸿蒙系统操控、鸿蒙APP开发、昇腾算子生成及推理链路优化等场景实现增强。 Agent能力的

    来源 AI 行业观察
  9. 腾讯混元Hy4 flash发布:224B参数,张军称性价比最高

    【TechWeb】11月16日消息,今日,腾讯混元最新语言模型Hy4 flash正式发布。腾讯公司公关总监张军在社交平台发文称,“这是迄今为止性价比最高的混元模型。”混元Hy4 flash每百万Token输入0.5元、输出2元,命中缓存时仅需0.02元,价格相比Hy4大幅降低。该模型总参数量为224B(其中64B En

    来源 腾讯网
  10. CataX AI种轮融资4000万:Agent原生推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  11. CataX AI获4000万种子轮融资,用Agent推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  12. 华为云上线盘古2.1-Pro:Agent、代码、推理效率升级

    据华为云官微消息,华为云MaaS模型即服务平台正式上线开源盘古模型openPangu-2.1-Pro。相比上一代,新模型在Agent能力、代码能力和推理效率三个方向上做了系统性升级,在深度研究、鸿蒙系统操控、鸿蒙APP开发、昇腾算子生成及推理链路优化等场景实现增强。

    来源 TechWeb
  13. 腾讯总办喊话AI再创业:不投入拥抱就是被颠覆

    今日,“腾讯文化”公众号发文《总办号召 AI 时代再创业,“心态归零”》,再度谈及28岁生日这天,腾讯总办对AI时代的机会、挑战与选择的看法。文章指出,面对技术变革的巨浪,没有人是旁观者。所有人都要做出选择。如果不想被颠覆,真正重要的事只有一件:一起动起来。“现在进行的智能革命如果不投入拥抱,就是被颠覆。这是一个生死存

    来源 TechWeb
  14. AI 版拓麻歌子来了:日常物品秒变需要被照顾的虚拟宠物

    OATs 通过电子墨水屏与传感器,让植物、滑板、哑铃等物品拥有虚拟宠物形象,以情绪变化反馈使用状态。该技术由卡内基梅隆大学博士生金大华开发,硬件成本约 20 美元,目前续航仅 3 至 4 天。#AI智能体# #卡内基梅隆大学#

    来源 IT之家
  15. TCL华星赵军:AI终端来了,屏幕该怎么重新定义?

    当AI进入电脑,连屏幕的长宽比都可能发生变化。 在TCL科技集团高级副总裁、TCL华星首席执行官赵军看来,当用户需要与智能体对话,额外的显示面积就可能成为新需求。这也是TCL华星布局超宽屏的一个出发点。 这个细节揭示了显示产业正在面对的变化:AI终端的交互方式,会影响屏幕的尺寸、形态与技术选择,显示企业需要更早理解终端

    来源 AI 行业观察
  16. 会畅科技发布白泽任务管理OS与会畅超光终端,主打任务原生Agent

    2026 年 11 月 12 日,“会联运营・畅享执行 ——2026 会畅科技任务管理原生 Agent 发布会” 在上海举办。会畅科技现场推出白泽任务管理 OS 与会畅超光桌面 AI 助理终端两大核心产品,首次提出 “以任务为 AI 原生组织最小协作单元” 的产业判断,通过 “软件中枢 + 硬件入口” 一体化布局,打通

    来源 AI 行业观察
  17. Pearl Abyss把AI铺到整条开发管线:核心创作仍由人主导

    IT之家 11 月 14 日消息,据 TechPowerUp 报道,《红色沙漠》于 2026 年 3 月发售后,曾因正式版游戏中包含 AI 生成的资产而遭到玩家抵制。尽管 Pearl Abyss 随后移除了这些资产,并辩称它们只是审核时意外遗漏的占位符,但该工作室似乎并未因此却步,仍打算在未来的游戏中继续使用生成式 A

    来源 AI 行业观察
  18. OpenAI、Anthropic估值双双破万亿:30家AI公司上榜,中国两家进前十

    图片由AI生成文丨晓静编辑丨徐青阳11月15日,硅谷老牌风投机构Menlo Ventures合伙人Deedy Das(@deedydas)在社交平台晒出一张全球AI公司估值与营收排行榜。Menlo Ventures成立于1976年,是硅谷历史最悠久的风险投资机构之一,曾投资Uber、Chime等知名科技公司。近年来,这

    来源 腾讯网
  19. 金大华推OATs套件:给家居物品装上会撒娇的AI宠物

    IT之家 11 月 15 日消息,忘记给家里的植物浇水了?这一次,你看到的可能不是逐渐变黄的叶子,而是一只显示在小屏幕上的植物形状宠物。它看起来垂头丧气、一脸委屈,仿佛在提醒你赶紧拿起浇水壶。而当你把水浇进土壤后,屏幕上的小宠物又会立刻变得兴奋起来。这正是 OATs(Object Agent Twins,物体智能体双生

    来源 腾讯网
向下滚动自动加载更多