团队要上一个 AI 功能,会先卡在第一个问题上:直接用闭源 API、拿开源权重自己跑,还是干脆自建一套。三条路没有通吃答案,差别在于数据能不能出去、并发规模多大、许可证踩不踩线、后面换模型要付多少迁移代价。这篇不讲谁更强,只给一套从约束条件出发的判断顺序和落地清单。
团队要上一个 AI 功能,往往第一个问题就卡住:直接用闭源 API、拿开源权重自己跑,还是干脆自建一套。这三条路没有通吃答案,差别不在谁更强,而在你的约束条件长什么样——数据能不能出内网、并发规模多大、有没有人能管推理服务、许可证踩不踩线、后面换模型要付多少迁移代价。
下面这套判断顺序不讲概念定义,只讲怎么一步步把选项砍到只剩一个,以及选完之后要提前准备哪些动作。凡是涉及价格、跑分、版本这类会变的数字,正文一律给站内页面路径,你到那儿看当时的实际情况。
先把三条路的边界划清
- 闭源大模型
- 你买到的只是调用权,权重和训练细节都在对方手里;你能控制的是提示词、数据管道和调用方式,控制不了模型版本与下线节奏
- 开源大模型
- 你拿到的是权重和许可证,能自己部署、微调、选量化档位;代价是算力、运维、升级全自己扛
- 自建大模型
- 从数据、训练到推理全自己来;只有当你有别人拿不到的领域数据、且这优势能变成效果差距时才值得走
这里有个常见的认知偏差:多数企业嘴上说「自建」,实际做的是私有化部署开源权重——把别人的模型拉进自己机房,配一套推理服务,自己不训练。这两件事的成本和门槛差一个量级,先把术语对齐再谈选型,许可证相关名词可以到 /ai-dict 过一遍。
- 先问数据能不能出内网:出不去,纯闭源 API 路线基本直接划掉
- 再问有没有人管推理服务:没人管,托管型开源比自建现实
- 接着问许可证:商用限制、改名要求、是否要求回馈,读完再谈效果
- 最后才问效果够不够:拿你的真实业务输入去测,而不是看别人整理的对比表
按约束条件排判断顺序
- 第一步:过合规把要喂给模型的数据分类,标出哪些绝对不能出内网、哪些脱敏后可以出。只要有一类出不去,纯闭源 API 就得排除。合规口径到 /safety 对一遍,别靠口口相传。
- 第二步:量并发与延迟接口测速能给你一个延迟基线,自己跑要算首 token 时间和吞吐。基线在 /tools/speed-test 取,容量和显存测算思路在 /models/deploy。
- 第三步:看有没有 GPU 运维能力团队里有没有人配过推理服务、处理过显存溢出、做过灰度升级?没有就选托管开源,有才考虑自己起服务。
- 第四步:读许可证开源不等于随便用,不同许可证对商用、改名、回馈的要求差别很大。读完再谈效果,别等上线前才发现不能用。
| 约束条件 | 偏向闭源 API | 偏向私有化开源 | 偏向自建 |
|---|---|---|---|
| 数据不能出内网 | 不适用 | 适用 | 适用 |
| 团队无推理运维人手 | 适用 | 适用(托管) | 不适用 |
| 并发波动大、有峰值 | 适用(弹性好) | 要提前扩卡 | 要提前扩卡 |
| 许可证有商用风险 | 适用 | 需逐个核对 | 需逐个核对 |
| 有独占领域数据 | 优势不明显 | 可微调 | 优势最大,成本也最高 |
成本与容量:别只比单价
很多人比成本就比一个单价,这是最容易翻车的地方。闭源按量付费是随用量线性上涨的,私有化和自建是固定成本加变动成本,两条曲线一定有个交叉点。工作量小的团队往往根本到不了这个交叉点,硬上私有化就是把钱压在闲置的卡上。
- 先估日均 token 量,再折算需要的并发和显存,再乘租卡或买卡单价,工具在 /tools/model-cost-calculator 和 /models/deploy
- 隐藏项别漏:运维人力、闲时卡费、模型升级要重跑一遍验证的成本、量化后精度下降带来的返工
- 把「峰值」和「均值」分开算,按均值配卡遇到高峰就排队,按峰值配卡大部分时间在浪费
- 价格和算力行情会变,具体数字以 /official-api 和 /compute 页面当时的展示为准,别照搬别处的旧数据
留好退路:迁移与锁定
三条路都有锁定风险,区别只是解锁的代价。闭源锁定在供应商,开源锁定在你当初选的权重和部署方式,自建锁定在训练数据和框架。不管走哪条,提前做一层薄封装和一套回归集,能省掉后面大量的重写工作。
- 调用层做薄封装,模型名走配置项,不写死在业务代码里,换模型只改配置
- 准备最小回归集:几十条覆盖核心场景的输入输出,换模型前后各跑一遍,比看任何榜单都实在
- 开源换闭源相对容易,闭源换回私有化要重新过许可证和容量测算,所以先按最坏情况设计
- 版本升级和下线通知要有人盯,服务状态和额度变动看 /ai-status 与 /price-watch
选型不是选现在最强的那个,是选将来最容易被替换的那个。下一步把上面四步判断走一遍,你大概会砍到只剩一条路。走之前先到站内的中转站导航对照一下各家服务的可用性和历史表现,再决定签哪家,能少踩不少坑。→
常见问题
开源大模型拿来商用,需要注意什么?
先看许可证条款本身,不同许可证对商用、改名、衍生分发的要求差别很大,不能一概按「开源就能随便用」理解。重点确认商用是否受限、是否有署名或回馈要求,再到站内术语页把授权类型对照清楚。
小团队有必要自建大模型吗?
通常没必要。自建的前提是你手里有别人拿不到的领域数据,并且这个数据能转化成明显的效果优势,同时团队能扛住训练和推理的运维。多数小团队说的自建,实际是私有化部署一个开源权重,这属于第三条路的简化版。
选型时先看效果还是先看合规?
先看合规,再看效果。数据能不能出内网、许可证能不能商用,这两条是一票否决项,效果再好在这些条件下也用不了。合规和许可证过关之后,再用自己的业务测试集去比效果,别只看公开排名。