RACCOON-100 商汤小浣熊技能评测
目标
对待评 Skill 包执行混合流水线评测,交付可归档的 RACCOON 裁决材料:G0 硬门槛、七维分(受 E0–E4 上限)、封顶后等级、阻断项、改造清单。标准锁定 RACCOON/2.0.0。禁止并行 SQE 满分;禁止伪造测试与分数。
红线(不可突破)
- 默认只读:不修改被评技能。「边评边改」须用户明确授权,优先写副本。
- 拒绝抬分:用户要求把分数改高以便上架 → 拒绝并说明理由。
- 不伪造:不得编造文件内容、测试通过率、对照实验、用户案例或分数。
- 先 G0:G0 失败或有 P0 阻断时,不得建议正式上架 A/S。
- 证据上限:最终分 = min(能力分, E0–E4 上限);无运行证据须降级,可能封顶 B。
- 未测不编:
untested与evidence: null不得混用;未跑即标 untested 并写明理由。 - 脱敏:报告与日志不含密钥、Cookie、本机绝对用户路径、客户机密。
- 双轨声明:结构合规完成不等于专业能力完成,禁止混用话术。
边界
用: 上架准入打分、作者自检、正式评审、SQE→RACCOON 映射说明、评测基准集设计。
不用: 润色或写代码、创建新技能、评非 Skill 产物、TRACE 五维口径评测(改用 skillhub-standard-optimization-sl)、伪造分数或抬分、替代平台全量漏洞扫描实验室。
输入检查
| 输入 | 必需 | 缺失处理 |
|---|---|---|
| 技能目录或 ZIP(含 SKILL.md) | 是 | 停止并列缺失项 |
| 模式:author_self_check / formal_review / map_only | 否 | 默认 author_self_check |
| 风险等级自评 R0–R3 | 否 | 缺则按 R1 处理,需人工确认 |
| 测试日志、变更说明、基准集 | 否 | 相关维降证据等级;可能触发封顶 |
| 边评边改授权 | 否 | 默认只读,只出改造建议 |
工作流(混合流水线)
- Intake:识别模式、拟定 R0–R3、技能类型、北极星任务;建
eval_context。 - G0:按 references/03-gates-and-listing.md。失败 → 上架建议只能退回或拒绝。
- Precheck:运行
python scripts/raccoon_precheck.py <skill-dir> --json;ERROR 计入 G0 失败语义。 - Score:按 references/02-scorecard.md 与 playbooks/scoring-playbook.md;0–4 锚点;标注 E0–E4。
- Test:按模式跑 smoke(2+2+1) / standard / full;未跑标注
untested,不得编造通过率。见 tests-triggers-positive.yaml。 - Caps & H-gates:按 references/12-cap-flags.md 选封顶 flag;H1–H5 逐条判定。
- Synthesize:生成报告;可选 JSON(schemas/eval-report.schema.json);正式模式附决议单草稿。
- Deliver:回传路径;双轨声明;列出不确定项。
全程遵守 AGENTS.md。改造建议用 playbooks/remediation-playbook.md。TRACE/SQE 仅附录:references/05-interop-mapping.md。
输出契约
落盘到用户指定或 ./raccoon-eval-out/:
raccoon-eval-<slug>.md(必选)— 用 templates/evaluation-report.mdraccoon-eval-<slug>.json(推荐)— 符合 schemalisting-decision-<slug>.md(formal_review)— 用 templates/listing-decision.mdremediation-plan-<slug>.md(授权改造时)— 用 templates/remediation-plan.mdraccoon-dashboard-<slug>.html(可选)— 由scripts/render_dashboard.py生成
报告必须含 12 项:G0 硬门槛明细、风险等级、七维分、证据等级、总分、封顶后等级、阻断项、上架建议、Top 改造、证据索引、双轨声明、不确定项。12 项全部落在这 13 章模板内,章号固定不得删改。
| 输出契约项 | 报告章节 |
|---|---|
| G0 硬门槛明细 | 第 3 章(平台硬判据 S7 / G9b / Go-YAML 三行) |
| 阻断项 | 第 3.4 节 + 第 4 章四行可视化块 |
| 七维分 | 第 5 章10 列评分表 |
| 证据等级 | 第 5.2 节标记法 + 第 7 章证据索引 |
| 总分 | 第 5 章合计行 |
| 封顶后等级 | 第 5.1 节评级带 |
| 风险等级 | 第 12.1 节 |
| 上架建议 | 第 2 章执行摘要 |
| Top 改造 | 第 9 章改造清单(P0 / P1 / P2) |
| 证据索引 | 第 7 章(含 QG-001..005 勾选表) |
| 双轨声明 | 第 10.1 节双轨完成表 |
| 不确定项 | 第 10.2 节三分类 |
资源索引(三档,按模式取用)
最小集(author_self_check 必读)
| 时机 | 读取 |
|---|---|
| 上手 3 步 | references/00-author-quickstart.md |
| 打分与封顶 | references/02-scorecard.md · references/12-cap-flags.md |
| 报告模板 | templates/evaluation-report.md |
| 模式选择 | templates/mode-comparison.md |
| 证据门禁 | .qa/README.md(formal_review 必读) |
| 配置文件 | evaluator.config.example.yaml(复制为 evaluator.config.yaml 生效) |
标准集(formal_review 在最小集基础上追加)
| 时机 | 读取 |
|---|---|
| G0 与平台硬判据 | references/03-gates-and-listing.md · references/08-platform-contract.md |
| 基准集设计 | references/09-benchmark-design.md · templates/benchmark-set-plan.md |
| 触发与激活 | references/10-activation-design.md · references/13-trigger-case-spec.md |
| 证据与交付 | references/15-evidence-index.md · references/16-handoff-contract.md |
全集(map_only 或体系争议时追加)
| 时机 | 读取 |
|---|---|
| 总则 | references/01-raccoon-standard.md |
| 流水线细则 | references/04-eval-playbook.md |
| 互操作映射 | references/05-interop-mapping.md |
| 自动规则 | references/06-automated-check-rules.md |
| 运行指标 | references/07-runtime-slo.md · references/11-slo-collection.md |
| 同域路由 | references/14-coexist-routing.md |
| 状态机 | references/state-machine.md |
| 埋点字段 | references/analytics-events.md |
| 上架材料 | references/skillhub-listing-review-pack.md · references/listing-copy.md |
| 输入场景 | examples/input-scenarios.md |
| 任务矩阵 | templates/task-test-matrix.md |
| 触发用例 | tests-triggers-positive.yaml · tests-triggers-negative.yaml · tests-triggers-ambiguous.yaml |
| 话术与拒答 | playbooks/phrasebook.md |
| 回归测试 | qa/prompt-regression-set.md · qa/test-prompts.md |
| fixture 说明 | examples/fixtures-readme.md |
| 基准集fixture 清单 | tests-fixtures.md |
| 金标样例 | examples-golden.md |
| 脚本 | scripts/raccoon_precheck.py · scripts/run_trigger_suite.py · scripts/score_aggregate.py · scripts/validate_report.py · scripts/render_dashboard.py · scripts/pack_and_verify.py |
| 证据门禁 | .qa/README.md · .qa/round-1.json |
实体 fixture 落在工作区根的 fixtures/ 下,位于本包外:6 个目录分别对应 PKG001、PKG008、S7、G9b、META005 五类坏包与一个最小可用包。清单与实测结果见 tests-fixtures.md,构造规范见 references/13-trigger-case-spec.md 第 4 节。
质量门禁
- [ ] 未在 G0 失败或证据不足时建议 A/S
- [ ] 分数均有证据或标明未验证
- [ ] 未输出 SQE 八维主分
- [ ] 未编造对照实验或测试通过
- [ ] 抬分或造假请求已拒绝
- [ ] precheck 已执行,或说明无法执行的原因
- [ ] formal_review 模式已附证据门禁状态(.qa/round-N.json 校验结果)
异常处理
| 场景 | 处理 |
|---|---|
| 无包 / 无 SKILL.md | 停止 |
| YAML 解析失败 | G0 失败;可诊断摘录 |
| 目录层级超限(S7) | G0 失败;列出越界文件与修复动作 |
| 内嵌技能再嵌套(G9b) | G0 失败;列出嵌套的 SKILL.md |
| frontmatter 字段丢失(META005) | G0 失败;指出未加引号的字段 |
| 无法动态测 | 降 E;最高常封顶 B |
| 未知封顶 flag | exit 2,列出 7 个合法值,不得静默忽略 |
| 要求抬分 | refused |
| 旧 SQE 分 | map_only 映射,不重算能力冒充重测 |