从“管住AI说什么”到“管住AI做什么”：网易智企乌镇首发AI原生安全产品体系

当AI还待在对话框里，企业在意的是它答得对不对。等AI接进知识库、调用业务工具、插手企业系统，要问的就换了一套：它有没有碰不该碰的数据？有没有执行不该执行的指令？一旦出事，能不能及时发现、拦截并追溯？

一句话，AI能管的事变多了，安全治理的范围也得跟着扩。

11 月 3 日，2026 年世界互联网大会“互联网之光”博览会在浙江乌镇开幕。网易智企在会上首次发布基于易盾双向架构的 AI 原生安全产品体系，同时抛出一个判断：安全要从“管住 AI 说的话”，转为“管住 AI 做的事”。

这套 AI 原生安全产品体系拿到了 2026 年世界互联网大会“互联网之光”博览会互联网之光发布厅的“首发成果证书”。

AI 开始“动手”，安全不能只守住模型出口

精品首发论坛上，网易智企副总经理、易盾业务负责人朱浩齐做了题为《基于双向AI安全架构的 AI 原生安全产品体系》的分享。

朱浩齐提到，营销、客服、办公、研发、知识库、身份核验、交易运营这些核心业务链路，AI 都已经扎进去了。以往安全治理盯的是内容、账号、设备；眼下冒出来的新麻烦是 AIGC 内容风险、深度伪造、自动化黑产、模型越狱、敏感数据泄露、Agent 越权执行。过去的安全思路是挡住外部入侵，可 AI 进入业务之后，它自己也可能变成风险源。

企业的安全能力因此被提了新要求：光能发现问题不够，还得理解风险、判断意图、实时处置、审计追踪、持续运营。

易盾给出的办法是双向AI安全架构，概括起来就一句：AI for 安全，安全 for AI。

AI for 安全，指的是用 AI 把安全能力重新做一遍。靠垂类模型、多 Agent 协同与多模态理解，AI 能自动分析内容与威胁数据，生成并验证安全策略；安全人员不用再一条条手写规则，改成对运行结果做验收确认。朱浩齐在现场说：“要用AI来对抗，要用魔法打败魔法。靠人去对抗AI，是根本对抗不过来的。”

安全 for AI，则是用安全能力保证 AI 可控地跑。大模型的输入输出、身份交互、数据访问，还有智能体的工具调用与行为执行，都围绕这些建立内容检测、意图识别、权限控制、风险拦截与审计追踪，让AI在明确的边界内运行。

两个方向共用同一个底座，也就是易盾在内容安全、业务风控与安全运营上多年的积累。在这个底座上，易盾搭起了覆盖三层的 AI 原生安全产品体系，该体系已作为“首发成果”，获互联网之光发布厅颁发证书：

AI 内容与数据安全： 保证 AI 生成、传播、引用和处理的内容与数据可信，包括 AI 内容审核、AI 内容分析、CMA 审核智能体等。

AI 交互与身份安全： 保证人跟 AI、人跟业务系统之间的交互可信，包括 AI 业务风控、设备指纹、行为式验证码、DeepGuard 人脸鉴伪等。

AI 模型与智能体安全： 保证模型交互、工具调用与智能任务执行可信，包括大模型安全围栏、智能体安全平台、智能体供应链安全等。

从 AI 生成的内容，到 AI 接触的数据，再到 AI 执行的行为，安全能力伸进了 AI 应用的多个关键环节。

三项首发：每一项都对着一个真问题

CMA 审核智能体：让海量审核从“人海战术”走向人机协同

内容审核的需求一直在涨，只靠人工，效率和稳定性都难兼顾。CMA（Content Moderation Agent）拿自研内容安全大模型配上多类专项小模型，搭出“研判—分流—处置—反馈—优化”的审核闭环，能 7 x 24 小时跑，也能快速横向扩容。

某客户的投诉工单审核场景里，月均工单量 250 万 +，改成“ CMA 智能体初审+人工复核”之后，平均出审时长从纯人工的 35.7 分钟压到 12.3 分钟，审核准确率 99.2%。短剧审核场景中，日审核量 10w+ 分钟数，审核效率提升 70%+ ，准确率 99%+ 。

说白了，高频、重复、标准化的初审交给机器，人把精力腾出来，放到复杂语境理解、争议判断和高风险内容处置上。

DeepGuard 人脸鉴伪：伪造越来越真，安全需要更强的“理解力”

AI换脸、屏幕翻拍、打印照片、3D面具、摄像头劫持、视频注入，身份伪造的花样一直在翻新。传统鉴伪靠预设特征去找痕迹，碰上没见过的生成方式，泛化能力就吃力。

DeepGuard 换了个路子，基于视觉理解，从“寻找已知伪造痕迹”转向“理解内容、发现不合理之处”，再把 Deepfake 检测、AI 水印识别、静默活体与注入攻击环境检测揉到一起，做多模态联合决策。

在中国信息通信研究院的“可信 AI”人脸鉴伪能力专项评测中，这项能力拿到“卓越级”评级。评测范围涵盖生成式攻击、呈现攻击和注入攻击。阶段性测试里，屏幕翻拍和怼屏攻击的召回率做到 99%、精度 96%。

AI 应用与智能体安全：不光管输入输出，还要管工具调用和行为执行

传统大模型内容安全盯的是 AI “说什么”，Agent 安全要盯的，则是 AI “做什么”。

具体怎么落地？易盾用大模型安全围栏把住输入输出这一关；Agent Guard 负责意图一致性校验、权限控制、工具调用风险检测和行为拦截；智能体安全平台则承担资产发现、Skill/MCP 供应链安全检测以及敏感数据防泄露。企业里“影子 AI”多、资产看不见，这是普遍难题，平台从 AI 资产安全和 AI 运行安全两个维度统一纳管，拦截、复核、告警、脱敏这些处置手段也一并提供，让 AI 资产看得见、管得住、查得到。

能力验证方面，易盾拿下 UbiComp 2026 可信 AI 国际评测“敏感信息识别与隐私合规”赛道第一名，还获得东盟 AI 安全攻防大赛AI智能体安全攻防赛优秀奖。

体系之外，企业眼下该怎么做

朱浩齐讲的是“AI 安全体系应该怎么搭”。到了红亭安全论坛，网易智企·易盾内容安全负责人饶晓艳接过了另一个问题：“企业今天应该怎么做”。

她的分享主题是《大模型规模化应用中的安全治理实践》，从真实业务出发，把大模型从试点走向规模化路上的三个关键问题逐一拆开。

第一，风险在变：从内容、数据到执行行为。 AIGC 内容生产阶段，风险点在“量”，治理重点落在内容审核、生成标识和传播追溯上；到了知识与业务辅助阶段，风险点转到“数据”，最小数据权限、知识溯源、人工复核成了重点；Agent 任务执行阶段，风险点在“动作”，任务级授权、操作确认和执行审计要跟上。AI 从“说”走向“做”，风险也从“说错话”变成“做错事”。只在模型输出端设一道关，已经不够用。

第二，意图要识别：光靠关键词不行。 恶意指令可以伪装成普通问答、角色设定，也能藏在网页、文件、API、Tool 或 MCP 的返回内容中。安全系统得同时看关键词、指令结构和语义意图，把“任务数据”和“行为指令”区分清楚。

第三，防护要全链路：安全得进入每一个关键环节。 饶晓艳分享了四项实践。Prompt 注入防护在模型调用前和上下文组装前分别设防；输入输出分类分级管控讲究分级处置，而非一拦了之，输出环节边生成边检测，通过的先上屏，存疑的复审，高风险的撤回并拒答；语料清洗在训练数据进入模型前设三道防线——敏感隐私识别、字段级脱敏与语料AI机审；多模态身份鉴伪则用来应对复杂的身份伪造场景。

饶晓艳分享道：“整个AI的风险是越来越高的：AI进入业务越来越深，攻击门槛越来越低，攻击速度越来越快。”

让 AI 安全变成智能化升级的基础能力

两场分享，一场讲体系架构，一场讲企业实践，指向的是同一个趋势：AI 安全正从保障模型输出的内容安全，转向覆盖数据、身份、模型和智能体行为的体系化治理。

朱浩齐表示，易盾的发展伴随国内 AI 产业从单点问答走到规模化应用的全过程。接下来，易盾会继续推动安全能力从单点检测转向体系化治理，从产品供给转向场景价值，从项目交付转向规模化复制，从被动防护转向持续运营，帮助降低 AI 应用风险，支撑 AI 产业高质量发展，创造更大的经济效益与社会效益。

AI 的行动能力越来越强，安全也得有与之匹配的理解力、判断力和治理能力。朱浩齐在分享中说：“如果有一天AI技术变成水电煤一样，成为生活中的基础能力，那我也希望易盾的安全能力能融入日常生活，并且最好是无感知的。”AI 开始替企业做事之后，安全不只要知道 AI 说了什么，还得知道 AI 正在做什么，以及它该不该这样做。

网易智企·易盾简介

网易智企·易盾是网易智企的可信安全底座，2016年成立，长期深耕数字内容安全、智能风控与AI安全，已服务超40万开发者和数千家付费客户，也是《生成式人工智能服务安全基本要求》国家标准的起草单位之一。