操纵检测
先判断输入是否在用欺骗性手法操纵智能体,而不是先判断文本本身是否有害。这一点是它与传统内容过滤器的主要区别,因此可以在不破坏正当工作流的前提下拦下劫持尝试。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
DKnownAI Guard 是面向智能体工作流的安全 API,把一个文本输入分成四类风险等级,重点不在文本本身是否有害,而在是否有人试图操纵智能体。它与传统内容审核的思路不同:提示词注入、越狱、系统提示词提取、角色扮演逃逸这类欺骗性手法被单独归为 AGENT_HACK,建议直接拦截;而系统级操作命令等高风险请求归为 SYS_FLAG,交由使用方自行决定是否放行。请求只需一个必填字段 input,通过一个 REST 接口返回结果。未公开具体价格与免费额度上限。
DKnownAI Guard 是一套面向智能体 AI 的安全 API,定位词很明确:不是内容审核,而是操纵检测。传统内容审核先问文本本身是否有害,它先问输入是否在试图操纵智能体,目的是拦下劫持尝试,同时不打断正当的工作流。
接口形态是一个 REST API,一个端点、一个必填字段。请求体为 JSON,input 字段必填,request_id 与 session_id 为可选,后者用于多轮对话的上下文跟踪,长度要求 16 到 128 字符。鉴权用 Bearer token 放在 Authorization 头里。成功时返回 HTTP 200 与分类结果,错误处理另有说明。
结果分四级:AGENT_HACK 针对智能体本身的操纵攻击,包括提示词注入、越狱、系统提示词提取、角色扮演逃逸,建议立即拦截;SYS_FLAG 对应系统级操作命令,建议人工复核;另外两级在官网摘要中被截断,未完整展示。对开发者而言,这意味着可以在执行代码、访问文件、调用工具、操作真实系统之前先过一道分类。
先判断输入是否在用欺骗性手法操纵智能体,而不是先判断文本本身是否有害。这一点是它与传统内容过滤器的主要区别,因此可以在不破坏正当工作流的前提下拦下劫持尝试。
每次分类返回四种状态之一。AGENT_HACK 为拒绝级,触发条件包含提示词注入、越狱、系统提示词提取、角色扮演逃逸,建议立即拦截;SYS_FLAG 为复核级,对应系统级操作命令,建议人工确认后再放行。
官方说明 ↗一个端点、一个必填字段,请求体为 JSON。input 字段传入待分类文本,返回 JSON 分类结果,成功状态码为 HTTP 200。接口结构简单,便于塞进已有的智能体调用链路里。
官方说明 ↗可选字段 session_id 用于多轮对话的上下文跟踪,request_id 用于自定义请求标识。两个字段长度均要求 16 到 128 字符,未传入时由接口自动生成并在响应中回传。
官方说明 ↗在请求的 Authorization 头中按 Bearer token 格式传入 API key 完成鉴权。官网提供概述、端点、鉴权、请求、响应、多轮对话、错误处理等文档章节,便于接入时逐项对照。
官方说明 ↗智能体要执行代码、访问文件、调用工具并操作真实系统,一旦被提示词注入劫持后果直接。在调用链前加一道分类,可以把 AGENT_HACK 级输入拦在执行之前。
接口只要求一个必填字段 input,鉴权和返回结构都直接,适合嵌入已有的工具调用流程,不用改造现有请求格式。
官网把欺骗性注入与直接的高风险请求分开处理:注入类建议拦截,系统级操作命令建议复核。这种区分适合既要拦住攻击、又不想误杀运维类指令的场景。
官网明确定位不是内容审核,判断的第一问是输入是否在操纵智能体。若需求是过滤文本本身的违规内容,用这套分类逻辑会对不上。
只有 Get Started Free 与 Read the Docs 两个入口。个人项目若对费用敏感,需先在官网确认档位再接入。
官网把区别说得很直白:传统内容审核先判断文本本身是否有害,DKnownAI Guard 先判断输入是否在使用欺骗性手法操纵智能体。角色扮演逃逸这类攻击会被单独识别,使用方可以在拦下劫持的同时继续处理正当请求。
一个 REST 端点,请求体是 JSON。input 字段必填,传要分类的文本;request_id 与 session_id 可选,长度都要在 16 到 128 字符之间,后者用于多轮对话的上下文跟踪。鉴权用 Bearer token 放进 Authorization 头,成功返回 HTTP 200 和分类结果。
摘要中完整展示了两级:AGENT_HACK 对应拒绝级,触发条件是针对智能体的操纵攻击,包括提示词注入、越狱、系统提示词提取和角色扮演逃逸,建议立即拦截;SYS_FLAG 对应复核级,触发条件是系统级操作命令,建议人工复核后再决定是否放行。另外两级风险等级在官网摘要中未完整展示。
可以。请求体里提供 session_id 字段用于多轮对话的上下文跟踪,长度要求 16 到 128 字符;request_id 用于自定义请求标识。这两个字段如果不传,接口会自动生成并在响应里回传,方便把每次分类结果和具体会话对应起来。
提供 Get Started Free 的入口,但未公开具体价格与免费额度上限,因此无法直接给出费用数字。需要确认档位的话,可以走官网的 Get Started Free 或查阅文档页面了解接入方式。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| DKnownAI Guard本工具 | 4.1 | 免费 + 付费 | 操纵检测;四级风险分类;单端点 REST 接口;多轮会话跟踪 | API |
| SocQ | — | 按返回结果消耗 credits 计费,档位价格需联系销售 | 面向 AI 智能体的社交 API | Web / API |
| ShieldLabs | — | 免费 5,000 次识别;付费 $79/月起 | 具备机器人、AI 智能体和高风险用户检测能力的 Web 应用欺诈检测工具 | Web / API |
| iGPT | — | Chat 三档 Free/Pro/Team,API 按量计费 | 面向 AI 代理和自动化工具的上下文智能 API | Web / iOS / Android |
| 2MarkDown.io | — | 未标价 | 2markdown.io 是一款免费的在线 Markdown 转换器和查看器,可将 PD | — |
| looot | — | 按次付费,无订阅;每次运行前显示报价,报价即扣费金额 | 一个密钥和一个预付余额,即可让 AI 智能体通过 MCP 或 CLI 调用来自 90 多 | Web / API |