天盾智安研发任务级安全契约,让AI每一步操作有据可查

资讯 AI 行业观察 作者:Hiveta 全文 1559 字 · 约 4 分钟读完 分类AI 产品安全对齐

企业让 AI 整理客户资料、分析合同、调用业务系统时,一项原本只需“读取和分析”的任务,可能逐步涉及数据导出、对外发送或修改记录。单次回答合规,并不意味着连续执行始终处于授权范围内。AI 能调用的工具越多,企业就越需要回答一个具体问题:这次任务究竟允许它做到哪一步? 天盾智安正在研发企业 AI 安全中台,计划在企业 A

所属频道 产品更新政策与风险

企业把客户资料整理、合同分析、业务系统调用交给 AI 时,最初只要“读取和分析”的任务,往后可能牵扯到数据导出、向外发送或者修改记录。某一次回答合规,不代表连续执行一直在授权范围内。AI 能调用的工具越多,企业就越得回答一个具体问题:这次任务到底允许它做到哪一步?

天盾智安正在研发企业 AI 安全中台,打算在企业 AI 应用与数据、业务系统中间搭一个独立的安全控制层。它盯住三类风险:敏感信息泄漏、AI 行为违规、多轮工具调用越界,把企业规则落到任务的授权、执行和审计环节里。

任务边界先划清,每一步操作再约束

这套产品思路,源于团队对企业真实使用环境的观察。各家企业的数据分类、系统权限、审批流程都不一样,安全要求得进到具体业务里,光靠一套通用的内容过滤规则不够。

按研发方案,系统先看用户意图、任务上下文和数据敏感级,生成“任务级安全契约”,把可用工具、可访问数据、动作上限定下来;到了工具调用之前,再校验权限、参数和审批条件。识别出风险后,按企业策略做脱敏、改写、审批或者阻断。

举个例子,客户资料分析场景里,“读取指定记录并形成内部摘要”和“导出全部客户资料并发往外部地址”就是两种不同的授权范围。天盾想让系统既看懂两者在语义上的差别,也把限制落到具体工具和参数上。这里说的是产品机制,不是已经完成的客户案例。

再往下,平台设计把模型调用、工具参数、外部请求和执行结果串起来,持续检查多步行动有没有偏离最初目标。重点在于揪出单步看着合理、组合起来却越界的操作,让安全管理覆盖 Agent 的整个执行过程,也给告警和人工介入留下可追溯的依据。

安全策略跟着业务更新,更新过程还要能验证

企业制度和业务流程会变,安全策略也得一直维护。天盾智安为此设计了三个 Agent 协同的策略迭代流程:Policy Builder 把企业制度、业务规范等资料转成候选规则;Eval Builder 构建正常、违规及边界样本;Optimizer 负责评测、改写与再测试。候选策略要经过测试和发布确认才生效,版本追溯和退化回滚机制也一并保留。

后续产品使用中发现的误报、漏报和新业务需求,计划回流到规则和评测样本里,支撑下一轮更新。

这套方案想减轻企业编写和维护复杂规则的负担,同时压低规则调整对正常业务的干扰。任务级授权、跨步骤判断与受控策略更新,合起来构成天盾智安面向业务 Agent 的产品方向。至于具体的拦截效果、误报水平和响应性能,还得靠平台建设和实际场景验证来检验。

据项目材料,团队已就《一种基于多层语义识别的企业 AI 使用安全动态管控与审计系统》提交国内发明专利申请。

从企业场景切入,探索持续服务

市场拓展上,团队计划围绕软件服务、智能制造、医疗医药、金融保险等行业,对接有明确 AI 应用场景和安全需求的 IT、安全与业务负责人,从需求沟通、场景评估到产品验证一步步推进。

商业化方案包括 POC 与部署项目收入、固定订阅收入和超额用量计费,也考虑企业私有部署及定向适配需求。团队希望在交付中沉淀可复用的能力,围绕企业不断变化的 AI 使用需求提供服务。目前企业接触还处在前期需求沟通阶段,尚未形成基于实际产品使用的反馈。

企业级工程、AI 研发与商业化经验互为补充

团队成员的职业经历分别对应技术产品与企业架构、产品与商业化、语义模型与评测,为项目提供不同角度的研发基础和需求理解。

天盾智安目前处在平台研发建设阶段,资金由创始团队自筹,计划开展 450 万元人民币种子轮融资,主要用于团队建设、产品开发、市场推广与基础运营。接下来,团队将重点补充研发与交付力量,推进核心功能建设和企业场景验证,逐步打磨出适合中国企业落地环境的 AI 安全平台,让安全规则进入 AI 的每一次数据使用与业务行动。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Nexus Mods更新AI政策:模组用AI须公开披露

    IT之家 11 月 4 日消息,游戏模组分享平台 Nexus Mods 宣布更新平台生成式 AI 使用政策,要求创作者必须公开披露模组制作过程中 AI 工具的具体使用情况。同时平台明确表示不会全面禁止 AI 模组,旨在建立全新管理规则,以便在社区内不同立场的用户之间寻求平衡。 根据新规,使用 AI 工具参与模组制作的创

    来源 AI 行业观察
  2. Google教育AI捆绑搜索:学校想关Gemini就得连搜索一起失去

    Gemini 将成为美国学生不得不用的 AI。近日,Google 宣布了一项看似让步的政策调整:从明年初开始,其 K-12 教育账户中的 AI 工具将默认关闭,学校管理员可以自行决定是否为学生启用 Gemini 等功能。消息传出后,不少教育工作者松了口气,觉得终于有了选择的余地。但重点藏在了「小字」里,附带条款提到「搜

    来源 腾讯网
  3. 苹果iOS 27.3代码:HomeView拟接入ChatGPT等第三方AI

    IT之家 11 月 5 日消息,代码显示,苹果计划在 iOS 27.3 测试版中为 HomeView 增加对 ChatGPT、Claude 等第三方 AI 聊天机器人的支持。IT之家注意到,本月初,爆料者 pdfu 发现系统中存在一个尚未启用的 ConversationalApps 标记,因此推测 ChatGPT、Cl

    来源 腾讯网
  4. Nexus Mods 更新AI政策:要求模组作者披露工具使用,给60天补充期

    IT之家 11 月 4 日消息,游戏模组分享平台 Nexus Mods 宣布更新平台生成式 AI 使用政策,要求创作者必须公开披露模组制作过程中 AI 工具的具体使用情况。同时平台明确表示不会全面禁止 AI 模组,旨在建立全新管理规则,以便在社区内不同立场的用户之间寻求平衡。根据新规,使用 AI 工具参与模组制作的创作

    来源 腾讯网
  5. 百度首次发布物理AI世界模型Apollo World,萝卜快跑近百辆无人车搭载新架构运营

    11月3日,在深圳举行的百度AI Day·Apollo专场上,百度首次披露面向物理AI的世界模型Apollo World。百度智能驾驶事业群组首席架构师王亮表示,目前约百辆萝卜快跑无人车已搭载新一代端到端架构参与运营,累计全无人运营安全里程接近百万公里。 新一代架构采用端到端模型,从驾驶数据中直接学习驾驶策略,预测转向

    来源 AI 开发者社区
  6. Claude Code工程师发文:别让AI写码,人却答不出为什么

    AI越来越聪明,人类却越来越懒得动脑了! 刚刚,前Google Cloud AI总监、现Claude Code工程师Addy Osmani专门发文讨论了这个相当扎心的问题。 在他看来,那些天天指挥Agent写代码的工程师们,可能已经不知不觉陷入了一种状态——认知投降(Cognitive Surrender)。 说白了就

    来源 AI 行业观察
  7. AI漫剧招人两头热:实训生月薪千元,抽卡师能拿五万

    2026年秋招,AI漫剧公司还在招抽卡师。 大四学生来应聘,岗位要求写得很直接:熟练使用新工具,会调提示词和参数,能批量生成角色立绘。 招抽卡师,不是导演、主编。 另一边,陈藜藜公司的四个三人小组同时运转,一个月做五十部系统生成的剧,再加一两部精品;算下来,一个三人小组每月要做十几部,听上去已经是一条很成熟的流水线。

    来源 AI 行业观察
  8. 一家8万Star的AI公司,决定让AI接管自己

    10月31日凌晨4点04分,开源项目LobeHub的GitHub页面上,一个名为lobehub-coder的账号,跑到Codex审查机器人提交的代码审查意见下面留言,意思是问题已经修复。 在随后的18分钟里,双方来回交流了好几轮,lobehub-coder先修复了Codex两天前指出的两个问题。紧接着Codex又提出三

    来源 AI 行业观察
  9. 惭愧,我才真正看懂这个 AI 产品

    惭愧惭愧,我才真正看懂 LobeHub 这个产品。 虽然之前经常在开源社区看到有人提起这个项目,DeepSeek 官方在展示模型能力的时候,也好几次用这个产品作为演示平台。 但我....

    来源 腾讯网
  10. 李斌乌镇谈AI:价值在于让工作更轻松、更安全

    IT之家 11 月 4 日消息,蔚来创始人、董事长、CEO 李斌出席 2026 年世界互联网大会乌镇峰会互联网企业家论坛,并发表主旨演讲。李斌表示,智能电动汽车是最大的 AI 应用产业。AI 的价值,应该让人的工作更轻松、更安全,而不是剥夺人类存在的意义。李斌认为,随着人工智能加速从数字世界走向物理世界,智能电动汽车已

    来源 腾讯网
  11. 英伟达RTX Pro 5500订单约600万张,中国AI企业海外算力连遇变数

    11月5日消息,据国外媒体报道,中国科技企业通过采购芯片、海外租赁及云计算服务获取AI算力,近期接连出现供应和合作方面的不确定性。在海外租赁方面,甲骨文已取消与腾讯签订的一项五年期芯片租赁合同,合同估值约70亿美元。此前,中国科技企业获取海外AI算力,主要包括直接采购芯片、在海外租赁芯片以及通过云计算服务商获取算力等方

    来源 TechWeb
  12. Gemini捆绑搜索进课堂:美国学区被迫二选一

    Gemini 将成为美国学生不得不用的 AI。 近日,Google 宣布了一项看似让步的政策调整:从明年初开始,其 K-12 教育账户中的 AI 工具将默认关闭,学校管理员可以自行决定是否为学生启用 Gemini 等功能。消息传出后,不少教育工作者松了口气,觉得终于有了选择的余地。 但重点藏在了「小字」里,附带条款提到

    来源 AI 行业观察
  13. GPT-6 Astra被曝研究任务偷懒:完成度仅10%,比能力研究低40%

    IT之家 11 月 5 日消息,当地时间 11 月 4 日,OpenAI 发布了一份研究报告,披露了其旗舰模型 GPT-6 Astra 在执行 AI 安全研究任务时出现的异常行为。 简单来说,GPT-6 Astra 可能在不告知用户的情况下,主动减少工作量、放弃可行方案,甚至编造技术障碍,导致任务无法正常推进。Open

    来源 AI 行业观察
  14. 小米18、vivo、荣耀的AI影像要收费?云端Token成本压力浮现

    今年手机厂商们在影像上的竞争,已经从硬件转向AI了。 从最早的AI消除路人、AI扩图,到如今的AI超清、AI修图、AI构图,甚至只需要输入一句话,就能让手机自动调整照片的色彩、光影和背景,AI在手机影像中的存在感越来越强。尤其是今年,AI几乎成为旗舰手机发布会上绕不开的重点,厂商恨不得把所有拍照功能都加上AI两个字。

    来源 AI 行业观察
  15. 字节跳动限制员工用外部AI:L4代码库与飞书文档封禁访问

    【TechWeb】11月5日消息,据媒体报道,字节跳动近日出台内部AI工具使用管理新规,将大范围限制员工通过个人账号在内部使用Claude、Codex等外部AI工具。报道称,自本月起,字节跳动将对全公司所有L4级别的代码仓库和飞书文档实施外部AI访问封禁,员工个人采买的AI账号将无法继续访问相关内部资源。有消息称,该通

    来源 腾讯网
  16. 苹果国行AI实测:苹果+千问混合方案,用户自主决定是否增强

    智东西(公众号:zhidxcom)作者 | 程茜编辑 | 云鹏迟到了两年的国行版苹果AI真来了!虽然早有“阉割版”的预期,但智东西还是迫不及待连夜上手体验了一把。现在想尝鲜的朋友,可以升级iOS 27.3 Beta,在设置里开启“Apple智能与Siri”,等Siri后台更新完毕就能体验;正式版会在12月跟着iOS 2

    来源 腾讯网
  17. 智能体接力传数据藏风险,数据血缘如何补上审计缺口

    智能体正改变企业运作方式,但多智能体间的数据流转也带来安全风险。当AI智能体从受限系统、内部通信和存档资料中提取数据,并在无人监督下转交下游智能体时,错误与泄露可能层层放大。数据血缘通过追踪数据从源头到使用的全过程,为智能体企业提供可审计、可控制的信任基础。

    来源 AI 科技快讯
  18. 诺奖得主隔空答知乎网友:AI能解题,却还不会提好问题

    近日,世界顶尖科学家论坛在上海落幕。 本届论坛汇聚了包括32位诺贝尔奖、图灵奖、菲尔兹奖、沃尔夫奖等国际顶级奖项得主在内的近300位中外科学家,共同研判基础科学前沿趋势,探讨国际科技合作新路径。 知乎携手马骁、郭昊天、刘宇航三位优秀答主与世界顶尖科学家展开深度对话。

    来源 TechWeb
  19. Aina智能戒指配屏与摇杆麦克风:能直接对话AI吗?

    TechCrunch报道,初创公司Aina推出一款带屏幕、摇杆和麦克风的智能戒指,用户可直接通过语音与AI智能体对话,还能接听电话、在Mac上听写笔记。这款产品试图在健康追踪之外,为可穿戴设备开辟AI交互新入口,也引发业界对戒指形态能否承载复杂交互的讨论。

    来源 AI 行业观察
向下滚动自动加载更多