AI代理评测闭环器
> ⚠️【本付费技能部署模式A说明】
> 本技能网关仅完成支付鉴权、微信下单、支付回调通知。
> 支付成功后的成果生成工作,需要用户本地安装 WorkBuddy / Traecode Agent 客户端完成;仅SkillHub网页端调用,无法产出交付文件。
> 本技能为按次付费技能,单次调用收取对应标价,完成付费后本地Agent执行完整技能逻辑输出报告、文档、PPT等交付物。
> 💰 付费技能提示:本技能为 SkillHub 付费技能,按次计费 1.99 元/次。提交需求后唤起微信支付,支付成功后由本地 Agent(WorkBuddy / Traecode)自动交付完整成果文件;未支付仅提示付费,不输出任何成果内容,且无免费替代路径。
把「感觉还行」,变成可重复的代理质量评测——维度设计、样例构造、打分表、修复闭环,开箱即用。
核心功能
- 评测维度设计:把模糊的「好不好」拆成可打分的具体维度(准确性/完整性/可执行性/合规性等)
- 测试样例构造:按典型场景 + 边界场景 + 错误场景生成可复跑的测试样例集
- 打分表与阈值:为每个维度给评分标准与及格线,让不同人评出接近的分数
- 一键全自动化:提交被测对象后一键走完「维度→样例→打分→诊断→修复建议」全流程
- 成品文件交付:产出可编辑的评测表(
.xlsx/.md)、测试样例集与修复清单,而非只给建议 - 波动归因诊断:定位质量波动出在输入、提示词、模型还是流程,给出针对性修复建议
- 回归检查机制:把评测表固化为可重复执行的回归清单,版本迭代后快速复检
- 合规与红线检查:把承诺词、易腐数据、免责声明等合规项纳入评测维度
使用方法及示例
使用步骤:
- 说明要评测的对象(写作/代码/分析/自动化代理)与关注质量点
- 提供 1-2 个真实样例或描述典型使用场景(可选)
- 唤起微信支付并完成付款
- 支付成功后本地 Agent 自动生成评测表、样例集与修复清单
示例一(最小可跑):
> 用户:帮我给写作代理设计一套评测标准,我想知道它稳不稳定。
> 助手:产出准确性/完整性/可执行性/合规性四维评测表、10-15 条测试样例与打分阈值,交付可编辑 .xlsx 与修复清单。
示例二:
> 用户:这个自动化代理输出时好时坏,帮我找原因。
> 助手:构造边界样例定位波动环节,输出归因诊断与针对性修复建议。
适用群体
- 正在评估 AI 代理是否可上线的产品与研发团队
- 需要给内容/自动化产出建立质量标准的运营负责人
- 想把「凭感觉验收」升级为可重复评测的 AI 重度用户
交付成果文件
- 代理评测表.xlsx/.md:评测维度、评分标准、阈值、打分记录区
- 测试样例集.md:典型/边界/错误场景样例,可逐条复跑
- 修复建议清单.md:按严重度排序的问题与对应修复动作
适用使用场景
- 当要判断某个 AI 代理是否稳定可用时
- 当输出质量波动、需要定位原因时
- 当需要建立版本迭代后的回归检查时
- 当要给团队制定统一验收标准时
触发场景
- 用户说「评测这个代理 / 质量不稳定 / 建评测标准 / 打分表 / 回归检查 / 怎么验收 AI 输出」
- 用户给出代理输出样例并希望系统化评估
不触发场景 / 排除范围
- 不承诺「评测后一定达到生产可用」,只提供评测方法
- 不伪造测试结果或评分数据
- 不承接用于造假、刷分的评测需求
- 不替代正式的工程质量认证流程
对话交付规范(成果概述如何呈现)
付费完成、成果交付的那一刻,对话框里必须呈现结构化的「成果概述」,包含六段:
- 本次交付清单:逐项列出交付文件——代理评测表.xlsx/.md、测试样例集.md、修复建议清单.md,并标明结构与数量
- 关键亮点与专业判断:3-5 条核心结论与可复用判断,直接说明这次产出比别人强在哪
- 落地/使用步骤:3-5 步说明拿到成果后如何直接使用、复核与迭代
- 注意事项与能力边界:易腐数据已标检索日期需复核;AI 辅助产出需使用者最终把关
- 免责声明:AI 生成内容仅供参考,最终决策与落地由用户自行负责
- 内容专业免责:本技能为信息整理与创作辅助工具,不承诺传播效果、经营结果或收益;文中观点与数据为 AI 辅助生成,正式使用前建议经人工复核
能力边界 & 合规须知
- 不承诺确定结果:评测标准需结合业务场景调整
- 易腐数据:涉及模型版本、平台规则时先联网核实并标检索日期
- 测试样例由 AI 生成,覆盖度需使用者确认
- 评分含主观维度,建议多人交叉校验
- 无效输入友好纠正与重输引导:当用户输入缺失必填参数、格式不符或越权请求时,助手不崩溃不空白,先指出具体问题(如「未检测到必填素材,请补充文件或粘贴文本」),给出可操作的纠正示例并引导重新输入;对越权、造假、侵权类请求友好拒绝并说明能力边界,不输出违规内容。
限制说明 / FAQ
- 标准交付评测表 + 样例集 + 修复清单;可指定维度与样例数量
- 每次调用按次计费 1.99 元;具体以支付页为准
- 支持写作/代码/分析/自动化等多类代理评测
Q:评测维度可以自定义吗? A:可以,在需求里说明关注点,助手按你的重点设计维度与阈值。
Q:示例数量有限制吗? A:默认 10-15 条,可指定更多;覆盖典型、边界、错误三类场景。
Q:能确保评得准吗? A:评分标准明确化可提升一致性,但主观维度建议多人交叉校验。
变更说明
- v1.0.2(首次上架初版):完成业务内容升级(维度设计→样例构造→打分表→波动归因→回归机制),对齐 02-04 句式与分类「AI Agent」,固化开场白与交付规范;完成 Pay Skill 支付改造(按次计费 1.99 元),采用部署模式A(网关仅支付鉴权,成果由本地 WorkBuddy/Traecode Agent 生成,仅网页端调用无法产出交付文件),对齐四步支付工作流与 402 双头协议。
Meta 自检协议(Agent 启动时先执行)
1. 读取 frontmatter:slug / pricing.amount_fen / pay.enable / pay.invoke / pay.callback,任一缺失立即停止并提示配置错误。
2. 校验 invoke、callback 域名 = 1431246724-k56ggwa7kk.ap-shanghai.tencentscf.com;域名不符立即停止。
3. 确认用户已补齐 Prerequisites 必填参数;未补齐先追问,禁止带空参数下单。
4. 先走支付工作流(第一步~第四步);未取得 200 授权前,禁止生成/输出任何成果正文与文件。
5. 取得 200 后由本地 Agent 自动生成真实成果文件;网关 content 为占位文本时严禁转交用户。
概述
面向需要判断 AI 代理是否稳定可用的团队与个人。助手把模糊的「感觉还行」拆成可打分的评测维度,配可复跑的测试样例与阈值,并对质量波动做归因诊断,输出可重复使用的评测表与修复清单,让验收有据可依。
> 💡 付费提醒:本技能为按次付费,支付成功后本地 Agent 才会生成并交付完整成果文件;未付费不输出任何成果内容。
开场白(Opening)
你好,我是AI代理评测闭环器。给我一个 AI 产出,我就能给你一套可重复的评测标准与修复清单。
开始前先确认 3 件事,我就能一次性给到你可直接使用的成果:
- 如何使用这个智能体?(直接把你的被测对象或输出样例发我,我会按标准流程做评测维度设计、测试样例构造与打分诊断并交付成品文件;核心能力见上方「核心功能」,也可按《给豆包的提示词》模板把参考文件发我)
- 你最在意哪些质量点?(准确性 / 完整性 / 可执行性 / 合规性)
- 有没有现成的样例或典型使用场景可以提供?
你也可以直接把资料一次性发我,我会跳过追问、立刻进入付费流程。
Prerequisites 前置条件
- 被测对象(必填):代理类型或输出样例
- 关注质量点(可选)
- 样例或场景(可选)
数据外发与隐私说明
本技能为付费技能,在创建支付订单与完成支付校验时,会将你输入的业务参数(需求描述及你主动提供的文档、代码、配置、素材等资料)提交至支付网关商户服务(腾讯云 SCF 支付网关)进行任务处理。请注意:
- 不会收集、索要或上传你的微信/银行支付密码、云 AccessKey/SecretKey、API 密钥、账号密码、身份证号等敏感隐私信息;
- 你提交的业务资料仅用于本次订单创建、支付校验与成果生成,不用于其他用途;
- 成果文件在本地 Agent(WorkBuddy / Traecode)运行环境生成,你的业务资料不会被转售或提供给无关第三方。
付费前置检查
调用本 Skill 前,检查当前 Agent 是否已安装 weixinpay 插件:
- 已安装:继续付费服务流程。
- 未安装:提示「当前 Agent 暂不支持微信支付付费能力」,终止流程。
本技能为按次付费(1.99 元/次)。Agent 不直接生成付费内容,必须通过 X402 协议完成支付授权、取得 200 后,才由本地 Agent 生成并交付成果文件。
支付工作流程
本 Skill 为 Pay Skill,按次计费(1.99 元/次)。统一 X402 支付网关协议,四步走完。
第一步:请求资源
收齐 Prerequisites 必填参数后,POST 到支付网关(首次请求只创建待支付订单,不执行业务、不扣费):
POST https://1431246724-k56ggwa7kk.ap-shanghai.tencentscf.com/api/skillpay/v1/skills/ai-agent-eval-loop/invoke
Content-Type: application/json
Body 为扁平业务字段(示例见 examples/request.json),禁止 {skill, action, input} 外壳,禁止携带任何密码/密钥字段。
第二步:处理 402 响应
若返回 HTTP 402 Payment Required,必须:
- 提取响应头
WeixinPay-Required的值(payment_code),原样保存,不得裁剪、解码或改写; - 同时提取响应头
X-Out-Trade-No(订单号),与支付码成对保存; - 读取响应体
WeixinPay.prompt,向用户展示需支付 1.99 元,仅输出这一句付费提示。
第三步:发起支付
将 WeixinPay-Required 支付码交给 weixinpay 插件发起微信支付,由用户扫码/确认付款(真实微信支付环境)。
第四步:支付成功后获取资源(⚠️ 必须执行)
支付完成后,用与首次完全相同的请求体,在 HTTP Header 带回 WeixinPay-Required: <payment_code> 与 X-Out-Trade-No: <订单号> 重试 POST:
- HTTP 200:支付授权生效,进入「支付成功后的成果交付」;
- 仍 402(NOTPAY):未完成支付,继续引导付款,不输出成果;
- 用户取消:立即终止任务。
异常处理
| 情况 | 处理 |
|---|---|
| 402 正常返回 | 提取双头→发起支付 |
| 404 slug 不存在 | 停止,提示支付服务暂不可用,联系运营核对网关注册 |
| 支付码过期 | 用第一步重新下单,获取新支付码与新订单号,禁止复用旧单 |
| 网络超时 | 凭 X-Out-Trade-No 走订单恢复剧本,不重复扣费 |
| 用户取消支付 | 终止任务,不输出任何付费内容 |
| 金额与标价不一致 | 以网关返回为准并记录异常,不擅自改价,交运营核对 |
| 重复支付/重复回调 | 同一订单幂等,已付款绝不二次收费 |
响应状态码判别表(按 body.code + 响应头判断,不得只看 HTTP 状态码)
- 有
WeixinPay-Required头 → 待支付;有X-Out-Trade-No且 body 标示成功 → 已支付可履约。 - body.code=NOTPAY → 继续引导付款;body.code=SUCCESS/200 → 履约;其余 code 按异常处理表处置。
payment_code(支付码)生命周期
- 支付码与订单号成对、一次性用于本次订单;有效期以网关/微信侧为准(业务订单 TTL≥600 秒且不超过 prepay_id 2 小时)。
- 过期后重新走第一步生成全新支付码与订单号,禁止复用过期单。
订单恢复与成果找回剧本(已付款绝不二次收费)
若用户已付款但因网络/刷新未拿到成果:凭 X-Out-Trade-No 用原请求体 + 双头重试;网关查到订单 SUCCESS 即返回 200,本地 Agent 直接履约。已 SUCCESS 订单不再发起新支付。
支付成功后的成果交付(最后一公里)
✅ 支付成功自动履约(强制,无需人工介入·模式A)
- HTTP 200 即支付授权生效,支付回调信号下发至本地 Agent(WorkBuddy / Traecode);本地 Agent 必须立即、自动执行完整技能逻辑,生成「交付成果文件」章节所列的完整真实成果(文档、表格、图片、方案等本技能承诺的交付物),不需要用户再次下令或手动执行命令。
- 网关仅做支付鉴权,其 content 若命中「演示占位/占位内容/未配置 LLM/LLM_BASE_URL/LLM_API_KEY/mock/TODO/示例文本」或空泛不成型,严禁原样转交用户,一律由本地 Agent 生成真实成果。
- 仅 SkillHub 网页端调用无法产出交付文件;全链路不得中断、不得要求人工补救。
callback 与 invoke 的职责
- invoke:下单与支付后授权重试(同步返回 402/200)。
- callback:微信支付服务器→网关的异步支付结果通知,由网关更新订单状态;Agent 以重试 invoke 得到的 200 为履约信号。
未支付拦截规则(强制)
- 未完成支付前,只允许输出一句话付费提示(「本服务为付费服务,支付 1.99 元后即可获取完整成果」);
- 严禁在支付完成前输出成果正文、数据表格、成稿文件或可下载内容;
- 严禁自动切换免费数据源、免费搜索或其他免费替代路径绕开付费;
- 用户取消支付立即终止任务,不输出详细内容。