四个标准模型
内置四个行业标准 AI 模型，参数规模各不相同，可快速、反复测试不同量级的文本生成负载。
Procyon AI Text Generation Benchmark
AI TOOL PROFILE工具资料用四个标准 AI 模型，快速测本地大模型文本生成性能。
官网地址 https://benchmarks.ul.com/procyon/ai-text-generation-benchmark
价格年度站点许可证，价格未公布
平台Windows
归类大模型与开发平台
收录2025-01-01
复核2025-01-01
编辑评分
4.3 / 5
★★★★☆
Procyon AI Text Generation Benchmark编辑总结
Procyon AI Text Generation Benchmark 是 UL Solutions 推出的本地大模型性能测试工具，面向企业 IT、工程团队和媒体，用四个不同参数规模的标准 AI 模型反复运行一致的工作负载。它把整模型下载简化成紧凑测试，降低安装体积，并支持一键测试所有支持的推理引擎。测试覆盖 RAG 与非 RAG 共七类提示，可导出详细结果。主要短板是官网未公开价格与评分细节，购买需联系销售。
Procyon AI Text Generation Benchmark是什么？
Procyon AI Text Generation Benchmark 由 UL Solutions 开发，属于 Procyon 基准测试系列，面向企业 IT、工程团队与媒体，用于评估本地 AI 加速硬件的文本生成性能。
它通过四个不同参数规模的标准 AI 模型，以及七个模拟真实用例的提示，覆盖 RAG 与非 RAG 查询，帮助减小量化、转换和输入 token 变化等常见变量对测试可靠性的影响。测试可在 Procyon 应用内或通过命令行运行，并支持导出结果文件。
普通用户可用它对比不同设备的 AI 性能；工程团队可用它验证推理引擎实现质量与专用硬件表现；企业采购可将其得分用于 RFP 参考。
Procyon AI Text Generation Benchmark核心功能
七类提示场景
提供七个模拟真实用例的提示，包含 RAG 与非 RAG 查询，尽量贴近组织实际使用场景。
一键测试引擎
一键测试所有支持的推理引擎，也可按偏好单独配置，便于对比不同引擎的实现质量。
实时响应视图
测试过程中可实时查看正在生成的响应内容，方便观察推理过程与异常。
详细结果导出
提供系统资源使用情况的深入报告，可查看得分与图表，或导出详细结果文件供进一步分析。
紧凑安装体积
相比测试整个 AI 模型，安装体积更小，降低存储与带宽要求。
应用与命令行
既可在 Procyon 应用中运行，也可通过命令行运行，无需复杂配置，方便批量或自动化测试。
行业共建
通过 UL Benchmark Development Program 与行业伙伴共同开发，面向行业、企业与媒体专业用户。
Procyon AI Text Generation Benchmark值不值得用？
当你要为采购或部署挑选本地 AI 硬件、需要可重复的文本生成性能数据时，这款工具值得用：四个模型、七类提示、一键跑遍支持的推理引擎，结果还能导出。当你要测云端 API 或非文本生成类 AI 任务时，它不适用；当你的机器存储或显存低于最低要求时，也无法完整运行全部模型。价格未公布，需先联系销售确认站点许可证费用。
建议选它的情况
- 需要为 RFP 选型提供参考基准分的采购团队
- 要验证推理引擎实现质量与专用硬件表现的工程团队
- 要对多台设备做一致、可重复 AI 性能对比的媒体或评测机构
- 需要命令行批量跑基准的自动化测试团队
不建议选它的情况
- 要测云端 API 或非本地部署 AI 服务的用户
- 机器显存或存储低于最低要求的用户
- 只需偶尔跑一次、不愿购买年度站点许可证的个人用户
Procyon AI Text Generation Benchmark使用建议
入门先把路子走对
- 先核对硬件对照系统要求检查显存与存储，例如全部 ONNX 模型需 18.25 GB 存储，全部 OpenVINO 模型需 15.45 GB。
- 用一键模式摸底首次运行时选一键测试所有支持的推理引擎，快速得到整机整体表现，再针对性调整。
- 从单模型起步若硬盘紧张，先只装 Phi-3.5-mini 等较小模型试跑，确认流程顺畅后再补装大模型。
- 开实时视图观察测试时打开实时响应视图，能直接看到生成内容，便于发现卡顿或异常输出。
进阶省时间也省钱
- 导出结果做对比跑完导出详细结果文件，把多台设备的得分与资源使用数据并排比较，找出最适合的机型。
- 命令行批量跑用命令行方式运行基准，方便在批量设备或自动化流程中重复执行相同测试。
- 按引擎分别测同一硬件上分别测试 ONNX、OpenVINO 等不同推理引擎，验证各引擎实现质量的差异。
- 关注存储占用安装前预留充足空间，全部 ONNX 模型需 18.25 GB，全部 OpenVINO 模型需 15.45 GB，避免装到一半失败。
Procyon AI Text Generation Benchmark适合谁用？
企业 IT 采购
推荐需要为 RFP 挑选参考基准分、对比多台设备 AI 性能的团队，可直接用统一测试得出可比较的数据。
硬件工程团队
推荐要验证推理引擎实现质量与专用 AI 加速硬件表现，测试覆盖多个引擎与模型规模。
科技媒体评测
推荐需要对多款设备做一致、可重复的 AI 文本生成性能对比，结果可导出成图表。
个人爱好者
有条件若只是偶尔想看看自己电脑的 AI 性能，年度站点许可证与多模型存储要求可能偏重，建议先确认成本与硬盘空间。
云端 API 用户
不推荐只关心云端模型服务、不涉及本地 AI 加速硬件的用户，测试方向与需求不匹配。
Procyon AI Text Generation Benchmark优点和缺点
优点
- 覆盖四个不同参数规模的标准 AI 模型，能分层测试
- 七个提示含 RAG 与非 RAG，贴近真实用例
- 一键测试所有支持推理引擎，也可单独配置
- 安装体积比测试完整 AI 模型更小
- 可导出详细结果文件，便于横向对比设备
- 支持应用与命令行两种运行方式
缺点
- 价格未公布，需联系销售获取站点许可证报价
- 评分细节与排行榜未在页面公开
- 系统要求较高，全部 ONNX 模型需 18.25 GB 存储
- 侧重本地硬件，不覆盖云端 API 性能测试
Procyon AI Text Generation Benchmark版本与计费对比
| 方案 | 价格 | 包含内容 | 说明 |
|---|---|---|---|
| 年度站点许可证 | 未公开 | 无限用户数、无限设备数 | 含邮件与电话优先支持；具体价格未公布 |
以上为公开费率整理，厂商保留调价权利，实际以官方页面为准。
Procyon AI Text Generation Benchmark关键指标
| 指标 | 数值 | 数据来源 |
|---|---|---|
| 全部 ONNX 模型存储 | 18.25 GB | System requirements |
| 全部 OpenVINO 模型存储 | 15.45 GB | System requirements |
| Phi-3.5-mini GPU VRAM（ONNX/llama.cpp） | 6 GB | System requirements |
| Phi-3.5-mini GPU VRAM（OpenVINO） | 4 GB | System requirements |
| Phi-3.5-mini NPU/iGPU RAM（部分引擎） | 16 GB | System requirements |
| Phi-3.5-mini MLX 内存 | 8 GB | System requirements |
| Phi-3.5-mini ONNX 存储 | 2.15 GB | System requirements |
| Phi-3.5-mini OpenVINO 存储 | 1.84 GB | System requirements |
Procyon AI Text Generation Benchmark常见问题
这个基准测试怎么收费？＋
采用年度站点许可证，包含无限用户数与无限设备数，并提供邮件和电话优先支持。具体价格未公布，需要联系销售获取报价。
它用什么模型和提示来测？＋
使用四个不同参数规模的行业标准 AI 模型，例如 Phi-3.5-mini 与 Llama-3.1-8B；提示共七个，模拟多种真实用例，包含 RAG 与非 RAG 查询。
我的电脑能跑吗？＋
需按模型准备硬件。全部 ONNX 模型需 18.25 GB 存储，全部 OpenVINO 模型需 15.45 GB。以 Phi-3.5-mini 为例，GPU VRAM 在 ONNX/llama.cpp 下需 6 GB，OpenVINO 下需 4 GB；NPU/iGPU RAM 在部分引擎下需 16 GB。
支持哪些推理引擎？＋
页面提到 ONNX、llama.cpp、OpenVINO、ORT+VAIP、QNN、MLX 等推理引擎，可一键测试所有支持的引擎，也能按偏好单独配置。不同引擎对应的显存与存储要求不同。
能测云端 API 吗？＋
该基准面向本地 AI 加速硬件与推理引擎实现，用于测量专用 AI 处理硬件性能，并不针对云端 API 服务。如果你的目标是云端模型选型，它不适合。
测完结果能导出吗？＋
可以。测试结束后能查看得分与图表，也能导出详细结果文件，报告还会展示 AI 负载期间系统资源的使用情况，便于设备之间对比。
