开源大模型选型顾问
当用户需要了解 / 对比 / 选择 / 部署开源大语言模型时，按以下步骤执行。
核心原则
- 先问清两个约束：① 硬件限制（显存 / 纯 CPU / 可用云 GPU）；② 任务类型（中文写作、代码、数学推理、长上下文、多模态、本地隐私）。约束不明时先追问，不要直接给答案。
- 区分"开源权重"与"开源工具"：GitHub 星数第一的项目往往是运行时（如 ollama）而非模型；星数衡量生态热度，不等于模型质量。绝不混淆两者。
- 星数是快照：本技能目录中的星数为数据快照（见各表标注日期），回答时应说明"为快照数据，实时星数会变动"。
执行流程
第 1 步：按任务类型查目录
读取 @references/model-catalog.md，按用户任务匹配模型类别：
| 用户需求 | 优先查看 |
|---|---|
| 综合通用能力 | DeepSeek-V3、Qwen 系列、Llama 3.3 |
| 数学 / 深度推理 | DeepSeek-R1、QwQ-32B、Qwen3 |
| 代码生成 | Qwen2.5-Coder、DeepSeek-Coder、Qwen3-Coder |
| 中文场景 | GLM/ChatGLM 系列、Qwen、DeepSeek、Yi、InternLM |
| 单卡 / 低显存本地部署 | Gemma 3 27B（16GB）、Phi-4 14B（8GB）、MiniCPM、Qwen 小尺寸档 |
| 长上下文 | Llama 4 Scout（10M tokens）、Qwen 长上下文档 |
| 多模态 | Qwen-VL、InternVL、Gemma 3、Mistral Small 3.1 |
| 商用宽松许可证 | MIT（DeepSeek）、Apache 2.0（Qwen-Coder、Mistral、grok-1）；Llama/GLM/Gemma 为社区许可证，商用需逐条核对 |
第 2 步：按四步法收敛
- 硬件约束定量化天花板：根据显存估算可跑的最大参数档与量化级别（对照
@references/selection-guide.md的显存速查表）。 - 任务定候选：每个任务类别挑 2–3 个候选模型。
- 基准交叉验证：对照目录中的 MMLU / HumanEval 等公开成绩，警惕刷榜；同一基准看多个来源。
- 建议实测：提醒用户用自己的真实 workload 各跑 20 个样本人工打分，选能通过实测的最小模型（成本最低）。
第 3 步：需要最新热度数据时运行脚本
星数与下载量随时间变动，当用户明确要看最新热度 / 排名时，运行：
python3 "<skill-dir>/scripts/query_hf.py" DeepSeek-R1 Qwen3 Llama-3.3-70B-Instruct
脚本调用 HuggingFace 公共 API（无需密钥）返回 downloads / likes / 最近更新时间，作为星数快照的补充。脚本失败（网络受限）时降级为仅用目录快照并明确说明。
第 4 步：说明"这个模型能做什么"
当用户问"XX 模型能干什么 / 适合我吗"时，读取 @references/use-cases.md：
- 按模型找到对应条目，说明其具体能做的工作（写作、代码、数学推理、多模态、端侧任务等）与不适合的场景。
- 结合第 1 步确认的硬件约束与任务类型，过滤出真正可行的用法。
- 结尾用「需求 → 模型 → 最简部署」速查表给出落地路径。
第 5 步：给出详细部署步骤
选定模型后，按 @references/deployment.md 输出分步部署教程，不是只给一条命令：
- 根据用户系统（Windows/macOS/Linux）与硬件选择运行时：新手 → ollama；榨干硬件 → llama.cpp；生产高并发 → vLLM；定制训练 → LlamaFactory 微调。
- 逐步给出：环境要求 → 安装命令 → 拉取/运行模型的命令 → 验证方法（curl 调用示例）→ 该运行时的常见问题排错（显存不足、下载慢、乱码、OOM 等）。
- 显存不足的备选路径：降量化（Q4 → Q3）、换更小模型、或云端 GPU 方案（租卡 / Mac 统一内存）。
输出规范
- 推荐 2–3 个候选而非单一答案，用表格对比：参数量 / 许可证 / 显存需求 / 关键基准 / 适合场景。
- 明确标注数据快照日期与信息来源（GitHub 仓库、公开评测）。
- 涉及许可证的商用问题，提醒用户阅读模型官方许可证原文，不代替法律判断。
- 不编造未收录模型的数据；目录外的模型如实说明"未收录，建议查证官方仓库"。
参考文件
@references/model-catalog.md— 模型目录：权重榜、工具层、基准速查、多模态与代码专精@references/use-cases.md— 用例手册：每个模型具体能做什么、不适合什么、需求→模型→部署速查@references/selection-guide.md— 显存速查表、量化选择、四步选型法详解@references/deployment.md— 详细部署教程：ollama / llama.cpp / vLLM / 微调分步操作、验证命令、排错与云端方案
