天盾智安研发任务级安全契约,让AI每一步操作有据可查
企业让 AI 整理客户资料、分析合同、调用业务系统时,一项原本只需“读取和分析”的任务,可能逐步涉及数据导出、对外发送或修改记录。单次回答合规,并不意味着连续执行始终处于授权范围内。AI 能调用的工具越多,企业就越需要回答一个具体问题:这次任务究竟允许它做到哪一步? 天盾智安正在研发企业 AI 安全中台,计划在企业 A
企业把客户资料整理、合同分析、业务系统调用交给 AI 时,最初只要“读取和分析”的任务,往后可能牵扯到数据导出、向外发送或者修改记录。某一次回答合规,不代表连续执行一直在授权范围内。AI 能调用的工具越多,企业就越得回答一个具体问题:这次任务到底允许它做到哪一步?
天盾智安正在研发企业 AI 安全中台,打算在企业 AI 应用与数据、业务系统中间搭一个独立的安全控制层。它盯住三类风险:敏感信息泄漏、AI 行为违规、多轮工具调用越界,把企业规则落到任务的授权、执行和审计环节里。
任务边界先划清,每一步操作再约束
这套产品思路,源于团队对企业真实使用环境的观察。各家企业的数据分类、系统权限、审批流程都不一样,安全要求得进到具体业务里,光靠一套通用的内容过滤规则不够。
按研发方案,系统先看用户意图、任务上下文和数据敏感级,生成“任务级安全契约”,把可用工具、可访问数据、动作上限定下来;到了工具调用之前,再校验权限、参数和审批条件。识别出风险后,按企业策略做脱敏、改写、审批或者阻断。
举个例子,客户资料分析场景里,“读取指定记录并形成内部摘要”和“导出全部客户资料并发往外部地址”就是两种不同的授权范围。天盾想让系统既看懂两者在语义上的差别,也把限制落到具体工具和参数上。这里说的是产品机制,不是已经完成的客户案例。
再往下,平台设计把模型调用、工具参数、外部请求和执行结果串起来,持续检查多步行动有没有偏离最初目标。重点在于揪出单步看着合理、组合起来却越界的操作,让安全管理覆盖 Agent 的整个执行过程,也给告警和人工介入留下可追溯的依据。
安全策略跟着业务更新,更新过程还要能验证
企业制度和业务流程会变,安全策略也得一直维护。天盾智安为此设计了三个 Agent 协同的策略迭代流程:Policy Builder 把企业制度、业务规范等资料转成候选规则;Eval Builder 构建正常、违规及边界样本;Optimizer 负责评测、改写与再测试。候选策略要经过测试和发布确认才生效,版本追溯和退化回滚机制也一并保留。
后续产品使用中发现的误报、漏报和新业务需求,计划回流到规则和评测样本里,支撑下一轮更新。
这套方案想减轻企业编写和维护复杂规则的负担,同时压低规则调整对正常业务的干扰。任务级授权、跨步骤判断与受控策略更新,合起来构成天盾智安面向业务 Agent 的产品方向。至于具体的拦截效果、误报水平和响应性能,还得靠平台建设和实际场景验证来检验。
据项目材料,团队已就《一种基于多层语义识别的企业 AI 使用安全动态管控与审计系统》提交国内发明专利申请。
从企业场景切入,探索持续服务
市场拓展上,团队计划围绕软件服务、智能制造、医疗医药、金融保险等行业,对接有明确 AI 应用场景和安全需求的 IT、安全与业务负责人,从需求沟通、场景评估到产品验证一步步推进。
商业化方案包括 POC 与部署项目收入、固定订阅收入和超额用量计费,也考虑企业私有部署及定向适配需求。团队希望在交付中沉淀可复用的能力,围绕企业不断变化的 AI 使用需求提供服务。目前企业接触还处在前期需求沟通阶段,尚未形成基于实际产品使用的反馈。
企业级工程、AI 研发与商业化经验互为补充
团队成员的职业经历分别对应技术产品与企业架构、产品与商业化、语义模型与评测,为项目提供不同角度的研发基础和需求理解。
天盾智安目前处在平台研发建设阶段,资金由创始团队自筹,计划开展 450 万元人民币种子轮融资,主要用于团队建设、产品开发、市场推广与基础运营。接下来,团队将重点补充研发与交付力量,推进核心功能建设和企业场景验证,逐步打磨出适合中国企业落地环境的 AI 安全平台,让安全规则进入 AI 的每一次数据使用与业务行动。