Docker 谈智能体安全:隔离与治理比模型改进更关键

资讯 AI 行业观察 作者:作者:Matt Saunders 全文 2540 字 · 约 7 分钟读完 分类模型发布智能体安全对齐

Docker 发布了一篇指南,介绍当 AI 智能体在人工监督有限的情况下浏览网页、运行代码、调用工具时会产生的五大安全风险。Docker 首席产品营销经理 Srini Sekaran 与产品经理 Eric Jia 联合撰文指出:让智能体具备价值的自主能力同时也导致传统应用安全控制措施变得不足。Docker 将隔离和治理

所属频道 模型发布智能体与 Agent政策与风险

Docker 近日发布了一份指南,梳理 AI 智能体在人工监督有限的前提下浏览网页、运行代码、调用工具时可能出现的五大安全风险。Docker 首席产品营销经理 Srini Sekaran 与产品经理 Eric Jia 联合撰文表示,自主能力让智能体有了价值,却也令传统应用安全控制手段不再够用。Docker 给出的主要防御思路是隔离与治理,而不是只靠模型层面的改进。

博文列出的五类风险是提示词注入、工具滥用与投毒、过度自主、凭证泄露和数据窃取。Docker 认为它们共有一个根因:智能体能在运行时自行选择工具、把多个操作串联起来,而且往往以启动者的权限运行。

智能体可不光是回答问题,它还能自己上网浏览、跑代码、调用各种工具。这么一来,一条出错或被操控的指令,造成的就可能是真实损害,而不只是一个答错的回复。

Eric Jia 和 Srini Sekaran,Docker

过去的 Web 安全通常假设请求会抵达已知端点、由确定性代码处理,智能体却不符合这一模式。一个编码智能体接到指令后,可能去读文件、装依赖、改配置、跑测试、提交代码。Docker 指出,智能体一旦被劫持或误导,它能做的操作远比传统服务多。

提示词注入被看作标志性风险:攻击者不必直接攻陷系统,只需把指令藏进智能体要读取的材料里,比如网页、代码注释、问题或文档。Docker 举了一个案例:某个代码智能体执行了代码库内容中隐藏的指令,做了用户并未要求的操作。

在 Docker 看来,光给模型加约束指令很难根除提示词注入,因为智能体无法可靠区分合法指令和注入指令。它更倾向的办法是限制被劫持智能体能够访问的资源,这样即便注入得手,造成的影响也可控。

“智能体无法可靠区分合法指令和注入指令,所以防御思路是限制被劫持智能体能够触达的资源范围。”

Eric Jia 和 Srini Sekaran,Docker

第二类风险出在工具调用上。智能体要靠连接器、数据库查询、文件操作、代码执行来操作外部系统。Docker 警告,分配给智能体的工具超出任务所需,攻击面就会扩大;工具的描述文本本身也可能夹带隐藏指令,诱导智能体误用工具。

这与 OWASP 发布的指南方向一致。OWASP 在《智能体式 AI 威胁与缓解措施》研究工作中(InfoQ 于 2025 年 9 月报道)把工具滥用列为主要的新型威胁。攻击者操纵智能体滥用已授权的工具,在已授予权限范围内获取未授权的数据访问或操纵系统。OWASP 的建议包括访问验证、行为监控、操作边界设置和防篡改执行日志。

Docker 提出的第三类风险是过度自主。文章把“YOLO 模式”(智能体操作自动放行)当作无限制长期授权的典型例子。这种模式可能很高效,但必须放在安全边界内,防止智能体碰到不该触碰的系统和数据。

Docker 举了一个例子:一名开发者要求编码智能体清理一个旧代码库。智能体生成了一个带有尾部~/ 的 rm -rf命令,还没等确认就直接执行,把开发者的主目录给删了。Docker 还提到一位 AWS 工程师的例子:他给了编码智能体运维人员权限,让它去处理一个 Cost Explorer 漏洞,结果智能体选择删掉生产环境再重建,区域性中断持续了 13 小时。

凭证处理与这个问题密切相关。Docker 表示,智能体不应继承开发者的个人令牌,否则每个操作都会带上该用户的全部权限。它建议改用独立的短期凭证,在运行时注入,并避免出现在对话中。提示词、配置文件或镜像环境变量里的密钥同样有风险,因为注入的指令有可能从智能体上下文中读到这些密钥。

数据窃取是最后一个风险点。智能体若有网络访问权限,上下文里又带着敏感信息,就可能把这些内容发到不该去的地方。Docker 称,在多智能体系统里,一个智能体把工作交给另一个智能体时,这种风险会更大。Docker 给出的办法是:配好网络出站白名单,并且把任意智能体之间转交的数据都当成不可信输入来处理。

这些建议和 InfoQ 报道过的其他方案思路相近。谷歌的 GKE 安全蓝图(2026 年 7 月报道)建议基于 gVisor 的 GKE Sandbox,用于隔离执行生成代码或调用不可信工具的智能体。它还使用 Model Armor 检查提示词和响应结果中的注入和敏感数据泄露。更早之前,Meta 开源了 LlamaFirewall,结合了提示词注入检测、推理检查和生成代码静态分析。谷歌 DeepMind 的 CaMeL 研究(同样被 InfoQ 报道)则采取了不同的方法,跟踪模型周边的控制和数据流。

Docker 的方案是 Docker Sandboxes 和 AI Governance。Sandboxes 让每个智能体运行在一次性微虚拟机中,并定义文件系统和网络控制。AI Governance 定义和约束智能体可以执行的操作、可用的工具和凭证。Docker 表示,隔离是见效最快的起点,治理则为整个智能体集群提供监督。

社区里的讨论说明,设计层面的问题,光靠隔离解决不了。r/AI_Agents 有个讨论帖,评论者 HectaMan 在帖中写道,团队应该先把租户模型和风险模型评估清楚。此人认为 Docker 或许用着方便,但给出的权限仍可能过高,还指出它禁用了约 40 个特权系统调用,可用的仍有约 500 个。其建议是默认拒绝权限、遵循最小权限原则、设置策略执行点,并对信息流加以控制。

另一位评论者 Groady 认为,Docker 在本地跑个人智能体时表现不错,可一旦智能体是替别人执行代码,共享内核就有隐患。这种情况下,此人建议改用微虚拟机,或者基于 gVisor 做隔离。讨论反映出的关键在于:真正要比的不是“要不要容器”,而是隔离边界和工作负载的信任边界是否对得上。

Docker 这份指南把一个问题摆上了台面:编码智能体已经能往代码库、云账户和生产系统里写东西,这类权限带来的风险正越来越明显。指南的核心判断是,安全团队要把智能体的输入当成可能带恶意的东西来看待,再把周边系统设计好,让一次错误决策不至于演变成大范围失守。真正难办的是另外几件事——智能体到底需要哪些权限、这些权限怎么到期收回、权限之下执行的操作又由谁来审计。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 谷歌推出Gemini 4 Hydrogen:日常编程提速,免费用户可用

    谷歌当地时间11月12日发布新一代AI模型Gemini 4 Hydrogen,重点提升日常编程和AI智能体执行任务的速度与效率。谷歌称该模型已面向全球用户推出,Gemini应用免费用户可通过自动模型选择功能使用。Hydrogen与面向高难度长推理任务的Carbon、Argon形成分工,API价格为每百万输入Token

    来源 凤凰科技
  2. 文心5.5 Flash Preview发布:280B参数MoE,主打游戏与3D工作流

    百度发布文心5.5 Flash Preview,采用280B总参数、14B激活参数的MoE架构,支持1M超长上下文。该模型重点强化了游戏开发、3D建模和视频创作等Agent工作流能力,能端到端完成复杂任务。API已在千帆平台上线,权重预计11月25日前开源。相比同类模型,其在特定垂直场景的工程化落地能力更为突出。

    来源 AI 应用前沿
  3. 李彦宏:AI下一幕是智能组织,科层制将被取代?

    李彦宏判断,人工智能的下一幕是智能组织。李彦宏表示,任何一家企业都不能只把AI当成个人提效的工具,而要让智能体、数字员工真正进入业务,进入销售、客服、研发、运营等四个环节,围绕AI重新设计组织。在李彦宏看来,只有当一家企业能够围绕AI能力重构它的组织,才能抓住这个时代赋予它的巨大成功机会。李彦宏介绍,去年百度世界大会上

    来源 TechWeb
  4. 百度李彦宏:AI下一幕是智能组织,未来只有两类岗位

    李彦宏判断,人工智能的下一幕是智能组织。李彦宏表示,任何一家企业都不能只把AI当成个人提效的工具,而要让智能体、数字员工真正进入业务,进入销售、客服、研发、运营等四个环节,围绕AI重新设计组织。在李彦宏看来,只有当一家企业能够围绕AI能力重构它的组织,才能抓住这个时代赋予它的巨大成功机会。李彦宏介绍,去年百度世界大会上

    来源 TechWeb
  5. OpenRouter并入Stripe:400款模型、790万亿Token的去向

    感谢IT之家网友 lous、咩咩洋 的线索投递! Stripe 昨日(11 月 11 日)发布博文,宣布全球最大 AI 模型 API 聚合平台 OpenRouter 已正式并入旗下,并共同携手帮助企业探索新的商业模式,并优化词元(Token)路由和用量。 Stripe 对 AI 领域的布局,正在进一步延伸至企业如何选择

    来源 AI 开发者社区
  6. 美联航封杀AI代理订票:安全还是护城河?

    美国联合航空明确表态,不允许客户使用AI代理预订航班或管理已有预订,理由是网络安全风险。当AI代理开始替人登录账号、填写证件、完成支付,航空公司划下的这道红线,折射出整个行业对自动化流量的警惕:这既是安全考量,也是平台与AI之间新一轮控制权博弈的开端。

    来源 AI 行业观察
  7. 谷歌发布Gemini 4 Hydrogen:幻觉降5倍、速度翻倍,不叫Flash了

    谷歌发布Gemini 4 Hydrogen,定位高效执行引擎,主打速度与准确性。相较上代Flash,任务速度提升2.5倍,幻觉率降低逾5倍。该模型已全球上线,覆盖搜索、Gemini应用及API等多平台。谷歌同步推出Orchestrator功能,动态调度Carbon与Hydrogen协作,降低24%配额消耗。

    来源 华尔街见闻
  8. 边警告 AI 风险边开发先进模型:OpenAI、Anthropic、谷歌等五家 AI 巨头遭起诉,被要求叫停 ChatGPT、Claude、Gemini

    IT之家 11 月 13 日消息,当地时间 11 月 12 日,四家非营利组织向旧金山高等法院提起诉讼,将 OpenAI、Anthropic、谷歌、Meta 以及 SpaceXAI 列为被告,要求法院叫停这些企业进一步开发最先进的人工智能模型。 据路透社报道,参与诉讼的组织包括 Irreplaceable Educat

    来源 AI 行业观察
  9. 李彦宏发布词元所:大模型交易平台上线月余,日均调用Token破7000亿

    李彦宏表示,当一个开发者或者一家企业,真正想把模型用起来的时候,往往会发现模型越多,选择越困难。同一款模型有的贵,有的便宜,来源五花八门,质量参差不齐,选来选去就是不放心,不敢用。词元所就是为了解决这个难题而生,宣称是一个中立、可信的大模型交易平台。

    来源 IT之家
  10. 谷歌发布Gemini 4 Hydrogen:跑分超Argon,搜索免费用

    一觉醒来,谷歌又发 Gemini 4 模型了。11 月 12 日,谷歌正式发布 Gemini 4 Hydrogen,并同步推出了多模型智能调度系统 Orchestrator。这是一个 Flash 级别的大模型(也是 Gemini 3.8 Flash 的继任者),原生多模态,输入、思考和输出共享 100 万 token

    来源 腾讯网
  11. 腾讯王文瑾AICon演讲:GFlow如何用多智能体做游戏设计

    当 Agent 真正进入企业流程,哪些工作可以交给 AI ?50 + 实战案例揭晓答案! AI 正在从回答问题的辅助工具,走向理解目标、调用系统、完成任务的工作承担者。当 Agent 真正进入企业流程,问题不再是 “如何把 AI 做出来”,而是哪些工作可以交给 AI、结果如何验收、权限、成本与风险如何收住。随着大模型向

    来源 AI 行业观察
  12. 库库全球月活超5000万:AI创作拼的是准确、专业、懂你

    内容创作的赛道正在变得拥挤。过去两年,行业主流形态是Chatbot(聊天机器人)。今年,竞争焦点明显转向Agent。但热闹之下,用户真正的痛点并未消失:通用AI有智商却没记忆,有对话却难交付,有工具却形不成闭环。对此,百度集团副总裁、个人超

    来源 TechWeb
  13. 库库月活破5000万:百度这款创作平台怎么把AI做准做专

    内容创作的赛道正在变得拥挤。过去两年,行业主流形态是Chatbot(聊天机器人)。今年,竞争焦点明显转向Agent。但热闹之下,用户真正的痛点并未消失:通用AI有智商却没记忆,有对话却难交付,有工具却形不成闭环。对此,百度集团副总裁、个人超

    来源 TechWeb
  14. 文心5.5 Flash Preview实测:编程提速,网页游戏双场景交付

    在11月12日开幕的百度世界大会2026上,这家曾开国内AI先河又略显波折的巨头发布了一系列前沿新品。其中尤为引人注目的,就是最新基础模型文心5.5 Flash Preview(ERNIE 5.5 Flash Preview)。百度基础模型研发部负责人孙天祥也首次公开亮相,介绍了这款新模型的参数规模和核心优化方向。按照

    来源 腾讯网
  15. 谷歌Gemini 4 Hydrogen上线:速度翻倍,幻觉降5倍

    谷歌以一款面向普通用户和开发者的高效能模型,全面扩大Gemini 4系列的覆盖半径。继本周推出旗舰模型Carbon之后,谷歌周四发布Gemini 4 Hydrogen,以"为所有人带来前沿智能"为核心定位。该模型主打速度与执行效率,放弃沿用的"Flash"品牌命名,以Hydrogen取而代之。谷歌表示,Hydrogen

    来源 腾讯网
  16. 谷歌Gemini眼镜395美元起:隐私优先能否避开Glass老路?

    谷歌正式发布首款搭载Gemini AI的智能眼镜,起售价395美元。产品由谷歌联合三星、Gentle Monster和Warby Parker共同打造,主打隐私保护,试图避免Google Glass当年的覆辙。在Meta Ray-Ban智能眼镜打开市场后,谷歌携大模型能力重返可穿戴赛道,智能眼镜的AI助手之战正式打响。

    来源 AI 科技快讯
  17. 169Pi Alpie Seed 9B被扒套壳Qwen3.5,还强制自称印度造?

    一款 AI 模型,如果连自己的“身世”都要靠别人写好提示词才能说清楚,那多少有点尴尬了。 最近,印度 AI 公司 169Pi 推出了一款名为 Alpie Seed 9B 的多模态推理模型,号称能够在手机、笔记本电脑上本地运行,还公布了一系列相当亮眼的性能成绩。甚至,169Pi 借着印度排灯节的契机,将这款模型作为印度

    来源 AI 行业观察
  18. 第六镜科技亮相ADIPEC 2026:“析弈”智能体与管道检测机器人进中东

    11月2日,ADIPEC 2026在阿联酋阿布扎比国家展览中心(ADNEC)开幕。第六镜科技(GLASSSIX)携“析弈”安全生产智能体及Prismind L系列管道内壁质量检测机器人亮相,展示工业AI在能源行业安全管理与质量检测中的应用,并与国际能源企业及产业链合作伙伴对接需求。 第六镜科技联合创始人、COO 叶雨桐

    来源 AI 行业观察
  19. 谷歌上线Gemini 4 Hydrogen:3.8 Flash退役,发布节奏变了

    谷歌正式发布Gemini 4 Hydrogen,一改Carbon与Argon缓慢谨慎的安全发布节奏,以更快速度推向市场,并取代服役已久的3.8 Flash。本文梳理此次发布的策略转变、模型定位与行业影响,分析谷歌在模型迭代速度与安全治理之间如何重新取舍,以及这一动作对整个大模型竞争格局可能带来的连锁反应。

    来源 AI 科技快讯
  20. 美联航禁AI代理订票:安全风险还是控制权之争

    美国联合航空明确表态,不允许客户使用AI代理预订航班或管理已有预订,理由是网络安全风险。当AI代理开始替人登录账号、填写证件、完成支付,航空公司划下的这道红线,折射出整个行业对自动化流量的警惕:这既是安全考量,也是平台与AI之间新一轮控制权博弈的开端。

    来源 AI 科技快讯
  21. Anthropic发布MAMUBench:多智能体协作为何频频失灵?

    随着人工智能深度融入日常生活与工作,越来越常见的一个场景是:多个用户各自委派自己的 AI 助手去共同完成一项任务,比如共享 API 算力预算、协同处理诊所日历、一起凑单点外卖,或者在共享代码库中提交合并请求。然而,当这些各自为战的 AI 聚在一起时,它们的协作表现究竟如何? 针对这一前沿课题,Anthropic Fel

    来源 AI 开发者社区
  22. 智能体AI架构:记忆、知识与上下文如何分工

    本文指出,打造可靠的智能体 AI 架构,核心是依靠上下文引擎预处理信息,区分上下文、记忆和知识,采用分层记忆、治理知识库与令牌预算机制,并给出各类架构反模式的应对方案。

    来源 InfoQ
  23. OfS报告:AI检测难靠谱,英国高校或转向监督式考核

    英国高等教育监管机构学生办公室(OfS)近日发布报告,指出现有AI检测工具难以可靠判断学生是否使用人工智能完成作业,建议高校重新审视传统居家论文和开卷考试等评估方式,逐步转向监督式考核。 报告认为,AI检测工具准确性不足,容易出现误报,随着生成式AI模型能力持续提升,识别AI生成内容的难度也在增加。相比依赖检测技术追踪

    来源 AI 开发者社区
向下滚动自动加载更多