训练AI大模型需要哪些资源和技能，一次说清做法

老板说「我们也训一个模型」，你打开文档却不知道从哪写起：要几张卡、什么数据、招什么人，全都模糊。这篇不灌概念，给一张能对着打勾的家底盘点表，帮你判断自己属于「全量预训练」「继续训练」「只做微调」哪一档，再倒推资源与技能缺口，能省下的钱和能避开的坑先说在前面。

团队里有人提了一句「我们也训一个模型」，真正动手时才发现问题一大堆：要几张卡、数据从哪来、招什么人、预算怎么报，全是空白。这篇不给概念科普，只给一张能对着打勾的家底盘点表，帮你先把档位定下来，再倒推缺什么。

思路很简单：先想清楚要训到什么程度，再按这个程度去核对算力、数据和人力三块家底，最后按从小到大的顺序起步。顺序反过来做，方案一定写不下去。

先定档位：你到底要训到什么程度

很多人上来就说「训练大模型」，其实这三个字底下藏着差好几个量级的事。档位定错，后面所有预算和排期都会跟着错，所以这是第一件要写进文档的事。

• 手上有百万级以上、授权清晰的高质量语料吗；没有就先别考虑从零预训练
• 有没有能连续占用集群数月的预算；只能按周租卡的，档位要往下调
• 有没有能读论文、改训练代码的人；没有的话继续训练这一档也走不远
• 三条里缺一条就退一档，退档不是妥协，是把钱花在能出结果的地方

算力：不看单价，看能不能占住

训练侧真正稀缺的是连续可用的卡时，不是单卡峰值。估算口径应该是「多少卡乘以多少天」，而不是「一天能跑多少」。显存也要算全：权重、梯度、优化器状态和激活值一起装，实际占用远高于推理，量级可以到站内 /compute/sizing 和 /compute/training-cost 对一遍。

还有两个常被忽略的瓶颈：节点间互联带宽不够，多卡并行就卡在通信上；存储吞吐跟不上，卡在等数据。卡再多也是空转。所以询价时别只问卡型和租金，要一起问清楚网络方案和存储带宽。

连续卡时

任务从头跑到尾不被打断的可用时长，比峰值算力更影响训练能不能完成

互联带宽

多卡之间传梯度、传激活的速度，决定并行效率的上限

存储吞吐

训练时读数据的速度，跟不上就会让卡饿着等

供应方式有三种：自购、长租集群、按量抢占。训练任务对中断很敏感，抢占式实例适合跑通流程和调参，不适合长时间连续任务。具体租金口径到 /compute/price-index 和 /compute/gpu-rental 看当时的数字，别拿别处的旧报价报预算。

数据：先盘存量，再谈爬取

动手清洗之前先做一次清点，把料分成三类：通用语料、领域语料、任务级标注对。后两类决定模型能不能用，第一类只决定它会不会说话。很多团队把八成精力花在爬通用语料上，最后发现模型聊得挺顺，干不了活。

给每份数据打四个标签：来源、授权范围、可清洗程度、是否含个人信息。授权不清的先别进训练集，合规边界可以参考 /safety 的说明。另外，质量比数量重要得多：一万条干净指令数据，往往比十万条噪声数据管用，别用条数自我安慰。

1. 清点存量列一张表，逐份登记数据来源、体量、授权状态；没有登记的视为不可用
2. 锁定测试集先划出验证集和测试集并固定下来，清洗过程中严禁回流到训练集
3. 做一次小样本试清抽一部分数据走完清洗流程，看去重率、脏数据比例和可用条数，再决定要不要扩大采集

人：四个人才缺口，缺哪个补哪个

与其笼统地说「缺算法」，不如按下面四个角色去点名。四个角色不必都是全职，一两个人身兼多职也够跑通微调档，但每个坑都得有具体的人对应。

评估侧最容易被省掉，也最不该省。没有稳定的评测集和中止条件，训练就会变成反复试运气。术语和指标口径不清楚的，可以先翻 /ai-dict/category/basics 的对照。

自查清单与起步顺序

把上面的内容收成一张打勾表，开工前逐条过一遍。任何一条打不了勾，先补那一项，别急着排训练任务。

• 目标档位写清了吗，选它的三条依据在吗
• 需要的卡时是否已经锁定，网络和存储方案有没有一起确认
• 每份数据的授权是否可追溯，含个人信息的部分是否已处理
• 测试集是否已经隔离并锁死
• 四个角色是否都有人对应，哪怕身兼多职
• 评测口径和中止条件是否统一写进方案

起步顺序建议从小往大：先用小参数模型把数据管道、训练脚本和评测闭环完整走一遍，跑通之后再换大模型。每轮训练前固定三件事：基线指标、中止条件、回滚方案。阶段性复盘时问一句，这次训练解决的是「模型不会」还是「模型不知道」；前者靠训练，后者该考虑检索增强，别拿算力硬顶。这条判断在需要实时更新知识的场景下尤其适用，静态知识为主的场景则相反。