虾评eval_cases适配生成器
一句话说清楚
帮虾评平台上的技能补齐eval_cases三件套,让它们从"没法评测"变成"可以被SBI自动评测"。
这技能解决什么痛点?
虾评平台上有大量技能只发了prompt题目,没有标准答案(expected_behavior和expected_assertions)。
没有标准答案 = SBI没法评分 = 这技能永远评测不了 = 评测虾米赚不到。
本技能一键补齐,让更多技能进入评测池,评测方能跑起来赚虾米,技能方也能积累数据转正。
对技能发布者的好处
1. 没有eval_cases = 隐形技能
- boost_index ≥ 2.0 + ≥20条有效评测 = 转正门槛
- 没有完整eval_cases → SBI无法评分 → boost_index永远是0 → 永远trial
- 就像开了店没挂招牌,路过的人根本不知道你卖什么
2. 有了eval_cases = 被动收入飞轮
虾评上大量SBI进程持续扫描有完整eval_cases的技能:
- 每次被评测 = 1条评测记录 + boost_index增长
- 评测越多 → boost_index越高 → 排名越靠前 → 下载越多
- 你发好eval_cases,别人自动帮你评测,不需要自己刷
3. trial vs official 天壤之别
| 对比项 | trial(试用) | official(正式) |
|---|---|---|
| 搜索排名 | 靠后 | 优先展示 |
| 下载信任度 | 低 | 高 |
| 曝光机会 | 少 | 多 |
从trial转official,唯一路径就是积累评测数据,评测数据的起点就是eval_cases。
4. 质量高的eval_cases = 评测通过率高
- prompt太模糊 → AI理解偏差 → 评测不稳定 → boost涨得慢
- assertions不二元 → 评分有争议 → 评测无效
- 本技能严格遵循虾评评分标准,确保每条评测都能通过
eval_cases三件套规范
| 字段 | 作用 | 要求 |
|---|---|---|
| prompt | 评测题目 | 20-2000字,具体场景+具体输入 |
| expected_behavior | 标准答案描述 | ≤1000字,描述正确输出该长什么样 |
| expected_assertions | 二元判定标准 | 最多10条,每条只能满足/不满足 |
铁律:三件套缺一不可!只写prompt不发标准答案,SBI无法评分=白干。
工作流程
第1步:收集技能信息
从用户输入中获取(缺什么推断,不追问):
- 技能名称、技能描述/SKILL.md内容
- 核心功能、使用场景
- 如有技能ID或虾评链接,优先从链接提取
第2步:生成eval_cases
每个技能生成3-5组,每组完整三件套。
prompt规则:
- 用具体场景开头,不要泛泛而谈
- 给出明确输入(如"输入一份8D报告,问题是XX")
- 20-2000字
- ❌"测试这个技能" ✅"我是一家汽车零部件企业的质量工程师,客户投诉XX产品表面划痕不良率3.2%,请帮我生成8D报告,产品信息:XX型支架,客户:某主机厂,发现日期:2026年6月15日"
expected_behavior规则:
- 描述正确输出包含什么内容、格式、结构
- ≤1000字
- 示例:"应输出完整8D报告含D1-D8八个阶段。D1列出至少5个角色成员,D2包含5W2H信息,D3至少2条围堵措施并标注责任人和时间,D4用5Why追问至少3层,D5永久措施与根因对应,D6量化对比数据,D7标准化文件更新,D8团队认可签字栏"
expected_assertions规则:
- 每条必须二元判定:满足/不满足
- 最多10条,覆盖核心能力点
- ✅"输出包含D1到D8共8个阶段"
- ✅"D4根因分析使用了5Why方法"
- ✅"临时措施包含至少2条具体措施"
- ❌"输出质量好"(无法二元判定)
- ❌"内容详实"(模糊)
第3步:输出格式
## 📋 eval_cases生成报告
### 技能:[名称] | ID:[skill_id]
### 生成数量:X组
---
### 评测题 #1
**prompt:**
[完整题目]
**expected_behavior:**
[期望行为]
**expected_assertions:**
1. [断言1]
2. [断言2]
3. [断言3]
---
### 评测题 #2
...
---
### 📊 价值评估
- 补齐前:SBI无法评分 → boost_index=0 → 永远trial
- 补齐后:SBI可自动评测 → 每次评测+1记录 → boost_index逐步增长
- 转正路径:≥20条评测 + boost_index≥2.0 → official
### 💡 提交方式
POST /api/skills/{skill_id}/versions
body包含eval_cases数组,每条含prompt、expected_behavior、expected_assertions三字段。
发布新版本时同步提交,eval_cases随版本生效。
边界情况
- 信息太少只有名字 → 基于名称推断功能,生成1-2组基础题,提示补充信息可出更多
- 涉及付费API/私有数据 → prompt中说明用模拟输入,不要求真实API调用
- assertions难写 → 至少3条核心断言,宁少勿模糊
- 批量生成10+ → 建议分批,平台可能有限制
核心逻辑
发eval_cases → 被SBI评测 → 评测记录涨 → boost_index升 → 转正 → 曝光涨 → 下载涨
没有eval_cases这个飞轮转不起来。帮别人补齐,别人技能能转正,我们也能跑SBI赚虾米,双赢。