过程级打分
对解题的每一步中间推理给出评分,而不是只判断最终答案对错,适合定位推到哪一步开始出错。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
面向推理过程的奖励模型,给数学与代码解题步骤打分
官网地址 https://huggingface.co/Skywork/Skywork-o1-Open-PRM-Qwen-2.5-1.5B
Skywork o1 Open 系列里的开源奖励模型,用来判断模型解题过程对不对,而不只是看最终答案。它给数学推导、代码推理这类需要多步思考的任务提供一个过程评分器,方便训练和筛选更靠谱的推理模型。模型体量偏小,适合在普通显卡上跑,属于研究性质的专用模型而非聊天助手。它需要用户自己接进推理或评测流程里,对只想开箱即用的人来说门槛不低。
这是一个过程奖励模型(PRM),用途是给推理模型的解题步骤逐段打分。它关注的不是最终答案碰没碰对,而是中间每一步推导是否站得住脚,因此常见于数学题、代码题的推理训练和答案筛选环节。
它属于 Skywork o1 Open 系列的开源模型之一,基于 Qwen 系列的小体量模型微调而来。模型参数规模不大,好处是对硬件要求低,个人开发者用一张消费级显卡就能推理,代价是能力上限受基座限制,更适合当流程里的一个评分组件,而不是独立完成复杂任务的通用模型。
用法上,它通常被接进两处:一是训练阶段,为强化学习或拒绝采样提供过程奖励信号;二是评测阶段,对模型生成的多条解题路径排序,挑出中间步骤更可靠的答案。团队也可以把它作为基线模型,对比不同奖励建模思路的效果。
对解题的每一步中间推理给出评分,而不是只判断最终答案对错,适合定位推到哪一步开始出错。
针对多步数式运算、应用题这类需要逐步推导的题型设计,可用于筛选推理链条更严谨的答案。
可用于代码题的多步推理过程判断,辅助在多个候选解法之间做排序,挑出逻辑更完整的那个。
基于小体量 Qwen 模型微调,参数量小,单卡即可推理,便于在研究环境里快速迭代和部署。
权重在 Hugging Face 上公开,可自行下载微调,具体许可条款需按仓库页面的说明确认。
输出可直接作为强化学习或拒绝采样的奖励信号,嵌入已有的推理训练流水线,替换或补充结果奖励。
需要给强化学习或拒绝采样提供过程奖励信号,用它作为奖励模型组件接进训练流程,替代只看答案对错的结果奖励。
要在一批候选解法里挑出推理链条更严谨的那个,用它做排序打分,比人工逐条核对省时间。
显卡资源有限但想跑推理相关的实验,小体量基座让它能在消费级硬件上加载,代价是能力上限受基座规模限制。
它不提供对话界面,也不适合直接回答日常问题,需要自己搭建调用和封装逻辑,当成品助手用会失望。
开源权重可下载,但商用与分发条款需按仓库页面说明逐条确认,接入产品前应先理清授权范围。
不能。它是过程奖励模型,只负责对已有的解题步骤打分排序,本身不生成答案。要得到答案还得另外配一个推理模型,把它接在后面做筛选。
结果奖励只看最终答案对不对,过程奖励会逐段检查推理步骤是否站得住脚。遇到答案碰巧对、但中间推导有漏洞的情况,它能区分出来,因此更适合训练推理能力。
基座是小体量模型,单张消费级显卡就能加载推理,适合个人研究者在本地做实验。如果要做大批量评测,仍需考虑吞吐和显存安排。
权重公开可下载并支持微调,但具体授权范围、是否需要署名、能否再分发等条款,需要按仓库页面的说明逐条确认后再决定。
过程奖励模型对输入格式很敏感,提示模板、步骤分隔方式、是否保留最终答案都会影响打分。建议先严格对齐官方示例的输入格式,再排查自己的数据。
可以。基座开源,支持用自有领域数据继续微调。如果主要处理某一类题目,用自己的标注数据微调后,评分通常比直接套用通用版本更贴合场景。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| Skywork-o1-Open-PRM-Qwen-2.5-1.5B本工具 | 4.3 | 未标价 | 过程级打分;适配数学推导;代码推理评分;轻量基座 | — |
| OpenAI o1 | — | 未标价 | AI 推理模型,解决复杂问题的新系列 | Web / API |
| OpenAI o1 API | — | 未标价 | OpenAI o1 是一款先进的 AI 模型,专为复杂任务设计 | API |
| Skywork-o1-Open-Llama-3.1-8B | — | 未标价 | 先进的 AI 模型,专注于复杂问题的推理和解决 | — |
| ChatGPT o1 | — | 未标价 | ChatGPT o1依靠类人推理能力解决复杂问题,使用先进的人工智能模型 | Web |
| QwQ-32B | — | 未标价 | QwQ-32B 是一款强大的推理模型,专为复杂问题解决和文本生成设计,性能卓越 | Web / API |