开源大模型和商业大模型推荐清单:先按活儿分堆,再谈谁上榜

模型与算力

给一份能直接照着走的选型清单,把开源和商业模型按用途分堆,说清每堆该看哪几项、什么情况下清单不适用。

搜「开源大模型和商业大模型推荐清单」的人,通常已经被几份榜单绕晕了:名字记了一堆,回到自己的活上还是不知道挑哪个。这篇不重排名次,而是先把手里的任务拆成几堆,再告诉你每堆该去站内哪一页看当时的数字和名单。照着走一遍,你手里会有一张属于自己的对照表,而不是别人的推荐。

搜这个词的人,通常已经翻过好几份推荐了。名字记了一堆,回到自己手上的活,还是不知道挑哪个。问题不在名单不够多,在于你拿到的名单是按「谁更厉害」排的,而你真正的需求是按「我这堆活谁能接」筛的。这两件事的顺序反了。

所以这篇不排名次,也不替你决定。给你一套分堆的方法,再把每一堆该去站内哪一页看当时的数字说清楚。走完一遍,你手里应该有一张只属于你项目的对照表。那个才有用,别人的推荐只能当线索。

别急着看名单,先把任务分堆

先把手上要干的事分成三堆:日常对话与写作、代码与结构化产出、看图听音这类多模态活。为什么非要分?因为这三堆的候选池几乎不重叠。一个写作手感好的模型,放到代码补全上可能连缩进都给你改乱;多模态那堆更独立,很多模型压根不进这个池子。混在一起比,比出来的结论没法落地。

分完堆,每堆再标一个硬约束。三个问题够了:数据能不能发出去、要不要自己部署、单次请求有多长。约束一写,名单自动砍掉一大半。我见过太多人选型的顺序是先看榜单再看约束,结果挑中一个效果最好的,回头发现数据处理协议过不了法务,白忙一场。

  • 日常对话与写作:看语气是否稳定、长文改稿会不会跑题,约束通常是数据能否出境
  • 代码与结构化产出:看它能不能守住你给的输出格式,约束通常是一次要喂多少上下文
  • 多模态:看它支持哪些输入形式、单张图或单段音频的处理上限,约束通常是响应延迟
  • 每堆只留三到五个候选,多了表格填不完,也测不完

开源这一堆,先看授权和权重形态

开源不等于随便用,这是最常见的误判。许可证决定你能不能商用、要不要署名、改完能不能闭源。有人图省事直接拿去接客户项目,上线前才发现许可证要求衍生作品也得开源。这种事到站内把开源权重许可证那类页面读一遍就能避开,花不了多少时间,比事后返工便宜太多。

第二个要看的是权重形态。你拿到的是基座还是已经调好的对话版,直接决定你是能自己微调,还是只能调接口。想微调却下了个只给推理接口的版本,那参数根本没地方填。另外开源模型的强弱跟你手上的卡强相关,同一份名单别人跑得动,你这里可能装不下。名单要配着自己的显存容量看,别脱离硬件谈选型。

许可证边界
能不能商用、要不要署名、改动后能否闭源,三项先确认
权重形态
基座还是对话版,决定你是微调还是只调接口
显存门槛
同一份名单在不同机器上可用性差别很大,按自己硬件筛
推理成本
自部署不是零成本,算上机器闲置和运维再谈划不划算

具体哪家开源权重现在什么情况、许可证怎么写的,去站内的模型资料库核对当时的条目。这块更新快,任何写死的结论过几周就可能不准。

商业这一堆,先对齐计费口径

商业模型的坑多半不在能力,在口径。按输入输出分开计价、长上下文加价、缓存命中打折,这几项不对齐,比价就是白比。有人拿 A 家的输入单价去比 B 家的综合单价,得出的结论完全是反的。所以顺序很关键:先把自己那条链路的用量代进站内的模型成本计算器,再去官方价目页看单价。反过来做,容易被单价误导。

还有两项价目表通常不写:限流和稳定性。这两项得看真实跑出来的情况,站内的服务监控或真实用量榜那类页面能看到别人实际遇到的波动。你的业务要是对可用性敏感,这一项比单价重要得多。

  1. 算自己的用量把链路里的输入长度、输出长度、调用频次估出来,到站内成本计算器代进去,得到单位任务成本
  2. 对齐计费口径确认单价是按输入输出分开算,还是综合计价,长上下文有没有额外加价,缓存命中怎么打折
  3. 查限流与稳定性去服务监控和真实用量榜那类页面看实际波动,别只看官方文档的承诺
  4. 定退路每个候选配一个备选,出问题时知道切到谁,别等挂线上才想

把两堆并成一张自己的对照表

前面两步做完,你手上是两份候选。现在合成一张表,表头固定四列,别再扩。列一多,这张表就不会被看第二遍,等于白做。四列分别是:候选、硬约束是否满足、单位任务成本、出问题时退到谁。最后一列很多人省掉,实际用下来它是最省心的那一列。

候选硬约束是否满足单位任务成本出问题退到谁
开源候选甲数据不出内网,满足按机器摊销,到站内计算器代数字开源候选乙
开源候选乙满足,但显存吃紧待测回退到接口方案
商业候选丙数据可出境,满足到站内成本计算器核对当时的数字商业候选丁
商业候选丁满足,限流需确认同上去核对自部署兜底

填表有个原则:只填你亲手验证过的信息。没验证的写「待测」,别用榜单名次去补。名次跟你这条链路的相关性,往往没你想的那么大。

这套清单什么时候不管用

得说清楚,这套分堆法有它的边界,不是什么场景都能套。

  • 任务本身还没定清楚:分堆是假的,先回去把需求和验收标准写出来,再谈选型
  • 团队已有既定技术栈、换模型要改一堆代码:选型空间其实很小,直接按兼容性筛,别做无用功
  • 涉及强合规或数据不出内网:商业那半张表基本作废,重点转到私有化部署那条线
  • 预算还没定:成本那列填了也没意义,先跟需求方对齐上限再回来

还有一种情况容易被忽略:模型换代很快,你这张表做好之后过一段时间就要改。所以要把表放进项目文档,模型换代时只改对应那几行,而不是每次从头选。这也是这份清单和榜单的根本区别,榜单是死的,你的表是活的。

选型不是挑最好的那个,是排除掉接不了你这堆活的那个。
下一步把候选和成本填进站内的模型库和成本计算器,两边的数字对一遍,你的对照表就有底了。

常见问题

开源模型和商业模型能不能混着用?

能,而且多数团队最后就是混着用。常见做法是主力走商业接口省事,敏感数据或高频低价值的活走自己部署的开源模型。关键是提前想好切换时提示词和输出格式要不要改,别等切的时候才发现对不上。

推荐清单里的模型我该信几成?

当成候选池看,别当成结论。清单能帮你少走弯路,但你的数据、你的任务长度、你的预算都不在清单里。拿到名单后至少用自己的一批真实样本跑一遍,再决定留哪几个。

多久该重新过一遍清单?

模型更新快,但你的任务通常没变那么快。建议任务侧半年看一次,候选池一季度扫一眼站内价格变动和真实用量榜的变化。真正要动清单的信号是成本结构变了或者现有模型在你的关键任务上明显掉链子,不是出了新版本。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。