团队要上大模型，第一个卡点往往不是没钱，而是不知道从哪儿下手：看榜单挑了个高分模型，接进去发现任务不对口；照着参数规模选了大的，一算显存和并发成本翻倍；许可证没读清，做完 POC 才发现不能商用。这篇不讲榜单结论，只给一份选型时的自查清单和排查顺序，帮你把最容易踩的坑提前排掉。
团队要上大模型，第一个卡点往往不是没钱，而是不知道从哪儿下手：榜单上先挑了个高分模型，接进业务发现任务不对口；照着参数规模选了大的，一算显存和并发成本直接翻倍；许可证没读完，做完 POC 才发现不能商用。这些问题都不是模型本身的锅，是选型顺序错了。
这篇不讲哪家强、哪个榜单更权威，只给一份选型时的自查清单和排查顺序。核心思路是：先定任务边界，再算部署账，最后才看许可证和迁移成本。把最容易踩的坑提前排掉，比事后补救便宜得多。
先认清四类高频误区长什么样
选型出错通常不是判断力问题，而是默认了几个不成立的假设。先对照下面几类误区自查一遍，看看自己团队有没有中招，再往下走具体流程。
- 把榜单名次当结论：榜单只说明模型在出题人的题上表现如何，换到你的领域未必成立，具体口径可到 /benchmarks 看它到底考的是什么
- 把参数量当能力：参数大意味着显存门槛和成本更高，不等于你的任务效果更好，窄任务上小模型常常更划算
- 把单价当总成本：只看每百万 token 的报价，忽略缓存命中率、重试和长上下文放大后的实际用量，建议用 /tools/model-cost-calculator 按自己的输入输出比例算一遍
- 把 Demo 效果当生产可用：Demo 是单轮干净输入，生产是脏数据、长会话、并发高峰，这个差距必须提前测，而不是上线后补
第二步：先写清任务边界，再去看模型
选型最省时间的做法，是先把需求收敛成一张纸，再拿这张纸去筛模型。反过来做，你就会在几百个模型之间反复摇摆，最后靠感觉拍板。
- 拆任务四要素把任务拆成输入形态（纯文本、图、音）、输出形态（一句话、结构化 JSON、长文）、延迟容忍度、是否必须数据不出内网四项，写成一张表。
- 标注必须项对每项标出「必须满足」和「最好满足」。必须项不满足的模型直接划掉，别放进比较池浪费时间。
- 对照筛选拿这份表去 /models 和 /multimodal、/embeddings、/voice 这些库对照，先缩到几个候选，再去比价格和额度。
- 验证边界候选缩到几个后，各跑一批真实脏数据样本，看谁在结构化输出和异常输入上更稳，而不是只看顺滑的那几条。
不适合的场景也要说清：如果任务本身还在探索期、需求每周都在变，先别做精细选型，用通用接口把流程跑通更重要。这个阶段追求的是快速试错，不是一锤定音。
第三步：算清量化档位、显存与并发，别等上线才发现跑不动
很多选型翻车发生在这一步：模型选对了，卡也买了，跑起来才发现并发一上来就超时。问题出在用了「最多能跑多大」的思路，而不是按真实负载反推。
| 要算的项 | 怎么定 | 算错会怎样 |
|---|---|---|
| 量化档位 | 按任务对精度的敏感度选，先确认能否接受对应精度损失 | 质量掉档，或显存炸掉 |
| 显存占用 | 按真实并发和上下文长度反推，而不是按最大参数倒推 | 卡买了跑不满，或跑不动 |
| 并发与吞吐 | 按业务高峰的请求数估算，再看单卡是否够 | 高峰期排队，延迟超标 |
| 上下文长度 | 确认真实业务需要多长，别为用不上的长度买单 | 单次费用和显存双高 |
量化档位怎么选，核心是确认你的任务是否接受对应精度损失；显存和卡数的测算入口在 /models/deploy 与 /compute/sizing，按当时的数字核对。把上下文长度当成成本变量看待，长上下文会同时抬高显存占用和单次调用费用。
第四步：许可证与后续迁移，选之前就要想
前两步决定模型能不能用，这一步决定你能不能长期用。很多团队在 POC 阶段一切顺利，签合同前才发现授权条件不允许商用，或者权重根本加载不进自己的框架。
- 开源权重≠随便商用
- 授权条件、分发限制、是否需要署名，都要在选型阶段读完，基础判断可对照 /ai-dict/category/safety 里的术语
- 能否被自己的框架加载
- 打算自建或私有化时，加载不上的模型等于不能选，先做加载验证再谈效果
- 替代与迁移成本
- 给每个候选留退路，确认有没有同类替代、换模型时代码改动量有多大，避免绑死在一个接口上
- 迭代与回滚
- 版本迭代快是常态，选型时就要问自己：这个模型换代了，迁移成本是多少，回滚方案是什么
判断标准很简单：如果一条候选路线的回答里出现「应该可以」「到时候再说」，那它就不算验证过。许可证要读过原文，加载要真跑过一次，迁移要估得出来改动范围。
- 把所有候选的授权条件整理成一列，逐条确认能否覆盖你的使用场景
- 对打算私有化的模型，先在自己的框架里做一次加载和推理验证
- 记录每个候选的替代模型和代码改动点，作为迁移预案
- 确认有没有版本升级通知渠道，避免被动升级打乱线上节奏
常见问题
榜单排名高的模型，是不是直接选它就行？
不行。榜单只说明它在出题人的题上得分如何，你的任务是另一套输入输出和约束。正确做法是先用任务边界筛掉明显不合适的，再用榜单在候选里排序。榜单口径怎么看、哪里容易有水，可以到站内测评榜单页面确认它考的是什么。
团队小、预算有限，选型应该先省哪一块？
一般先省「用不上的能力」：不需要多模态就别为多模态付钱，不需要超长上下文就别按超长上下文的价去买。其次是把量化档位定得务实一点，用可接受的精度损失换显存和成本。具体档位怎么选、各档差在哪，站内有专门的换算工具可以自己跑一遍。
选完之后发现不合适，怎么换代价最小？
尽量把模型调用收在一层薄封装里，输入输出走统一格式，换模型时只改配置不改业务代码。同时给每个模型留一个同类替代候选，换之前先跑一遍你的真实任务做对照。版本换代要不要跟、怎么验证、怎么回退，站内有相关清单可以照着走。
