英伟达在训练卡上算垄断吗？训练卡市场格局与替代方案差距

团队要训模型或做微调，采购单上绕不开一个问题：是不是只能买英伟达的卡？一边是生态锁定和供给紧张，一边是国产卡和其他加速器报价看着诱人。这篇不站队，只把市场格局拆成几个可核对的维度，再给一套按任务、预算和团队能力走的判断顺序，让你知道自己那批活到底卡在哪一环。

训练卡选型绕不开一句话：是不是只能买英伟达？一边是生态锁定、供给紧张、报价水涨船高；另一边是国产卡和其他加速器，报价看着很有吸引力，还常常承诺技术支持。这两边的差距到底在哪，值不值得为省一笔钱去承担迁移成本，得拆开看。

这篇不站队，只把「垄断」这件事拆成几个能核对的维度，再给一套按任务、预算、团队能力走的判断顺序。你先弄清自己那批活到底卡在哪一环，再决定要不要换。顺便说一句，各家卡的实际报价和供应情况经常变，站内价格页面上的数字比任何转述都准，动手前到那里核对一遍。

先分清「垄断」说的是哪一层

「英伟达在训练卡上算垄断吗」这个问题，答案取决于你问的是哪一层。硬件出货份额是一层，软件生态是一层，供货渠道和采购配额又是另一层。这三层的可替换难度完全不同，混在一起谈，两边都觉得自己有理，最后吵不出结论。

硬件层

指芯片本身的算力和显存规格，这一层其实有替代品，差距在具体任务上大小不一

软件层

指框架适配、算子库、通信库、调试工具和社区问答，这一层替换成本最高，也最容易被低估

渠道层

指能不能稳定拿到货、拿到什么价、有没有配额限制，这一层受供给和地区政策影响

• 只做推理或只跑现成开源模型的小团队，软件层依赖几乎为零，替代可行性比想象中高
• 要做大规模分布式训练、频繁追新架构的团队，软件层依赖极重，换卡意味着换一整套踩坑经验
• 采购量大、需要长期稳定供货的场景，渠道层往往比硬件层更早成为瓶颈
• 判断顺序建议先看软件层，再看硬件层，最后看渠道层，因为软件层最难补

替代卡到底差在哪几个环节

替代方案的差距不是「能跑」和「不能跑」这么简单，而是分成三段：能不能跑起来、跑起来之后快不快、出问题谁来解。这三段的门槛是递进的，前一段不过关，后面根本不用谈。

别只看报价单上的数字，那只是四项成本里的一项。真正拉开差距的往往是第四项：卡住了以后，多久能有人帮你解决。这一点在站内中转站可信度检测和工具目录里有对应的排查思路，选型时可以顺路看一眼。

• 拿你的真实模型去小规模试跑，别用厂商 demo 里的样例模型
• 记录第一轮跑通花了多少人天，这个数字比报价更能说明问题
• 重点测多卡扩展：加卡之后吞吐是线性涨还是很快见顶
• 把常见报错整理成清单，看社区里能不能搜到同类问题
• 问清楚技术支持响应时效和升级路径，写进采购备忘

什么条件下可以考虑不走英伟达

不走英伟达不是立场问题，是条件问题。满足下面几条中的多数，替代方案才真正划算；否则容易陷入「省了卡钱、赔了工期」的局面。

• 任务单一且固定：只跑少数几个已经适配好的模型，不打算频繁换架构
• 有稳定的技术支持方：能直接对上厂商或集成商的工程师，而不是买张卡自己摸
• 有明确的合规或供给约束：比如必须走内网、必须用某个地区的供应链
• 团队里有懂并行计算和调优的人，能自己填坑
• 训练规模在单机或小规模多机范围内，不涉及超大规模集群

反过来说，如果你要追前沿架构、要做大规模分布式训练、团队里没人做过算子级调优，那现阶段换卡的隐性成本会非常高。这种情况下，比较务实的做法是先保留一部分英伟达资源做主力，用替代卡跑确定性高的那部分任务。

选型时的判断顺序与落地动作

把选型当成一个逐步收敛的过程，而不是一次性比价。下面这套顺序的好处是：每一步都有可验证的产出，走不通就及时停，不会一路走到采购合同才发现问题。

1. 先把任务写成一张纸模型规模、单次训练时长、要不要反复迭代、精度要求、预期团队人数，全部写下来。写不清楚说明还没到选型阶段。
2. 拿这张纸对规格到站内模型资料库核对显存、互联和精度支持能否满足，这一步不承诺、只看能不能覆盖。数字以页面当时显示的为准。
3. 小规模验证跑通一轮用最小可跑的配置跑一次完整训练，记录实际耗时、报错次数和第一轮跑通花的人天。
4. 算总账再决定卡价、租金、迁移人力、后续维护四项一起算。分界线往往不是卡价，而是迁移人力和后续维护。
5. 留一条退路先混部一小部分替代卡跑确定性任务，主力任务仍留在原平台，验证一段时间再决定是否扩大。

还有一点常被忽略：卡买回来只是起点，后面的驱动、框架、算子版本会持续更新。选型时要问自己一句，未来一年这套栈谁来维护，维护成本有没有算进预算。