很多人第一次租 GPU 跑模型,充了钱发现余额掉得比想象快,却说不清钱花在哪:先开机还是先传数据、关机到底还收不收钱、按量还是包月更合适。这篇不讲具体单价,只讲 AutoDL 这类算力平台的计费构成、哪些环节容易白烧钱,以及一套选卡前、跑任务时、跑完后的动作清单,数字请到站内对应页面按当期核对。
第一次在 AutoDL 这类算力平台租 GPU 的人,最常见的困惑不是选哪张卡,而是钱到底怎么没的。充了一笔余额,跑了一晚上模型,第二天发现账户掉得比预想快,可又说不清哪一段在计费。问题通常出在计费口径没搞懂:开机那一刻算不算、关机之后还扣不扣、数据放着不动要不要钱,这三件事想清楚,开销就有一半可控。
这篇不讲单价,只讲结构和动作。具体每小时多少、什么档位多少钱,价格随时段和库存浮动,写了也会过期,一律到站内页面按当期核对。你真正需要带走的是一套判断顺序:跑之前怎么选卡,跑的时候怎么不空转,跑完怎么对账。
租金到底由哪几块钱拼起来
把账单拆开看,通常就三块:卡时费、存储费、网络流量费。卡时费是大头,按时长乘卡型档次走;存储费是系统盘和数据盘按容量占着就计,跟你跑不跑没关系;网络流量费出现在拉镜像、下模型权重、传数据集这些走外网的环节。很多人只盯着第一块,结果被后两块咬了一口。
| 费用项 | 什么时候产生 | 容易忽略的点 |
|---|---|---|
| 卡时费 | 实例开机期间按卡型与时长计 | 环境初始化、拉镜像也在租期内,开机前先把依赖备好 |
| 存储费 | 磁盘占用期间持续计 | 实例关了但盘还在,照样占钱,不用的数据要及时清 |
| 网络流量费 | 从外网拉镜像、权重、数据集时 | 重复下载同样的权重,是最典型的白花钱 |
- 计时起点
- 多数平台从实例开机算起,不是从你开始跑训练算起,初始化时间也算钱。
- 按量 vs 包月
- 短任务按量灵活,长任务包月划算,临界点看每天实际跑几小时,不是单看单价。
- 卡型档次
- 要按显存和算力两个维度看,小模型在便宜卡上跑,单位产出成本可能更低。
四个最容易被忽略的烧钱点
下面这四个坑,跟卡贵不贵无关,纯粹是使用习惯问题。它们造成的浪费往往比「选错卡」更大,而且完全可以在下一次任务里避免。
- 实例开着人不在:调试试错、思路断了、去开个会忘了关,租金照走;跑完就停这个习惯,比挑便宜卡更值钱。
- 数据反复搬:每次重装环境都重新拉一遍模型权重,流量和时间双输;能持久化的目录别塞系统盘。
- 临时实例跑长任务:无盘或临时实例适合可重跑的任务,一旦中断就得从头来,长训练前先掂量能不能接受重跑。
- 并发开太多:为了对比实验同时开几个实例,很容易同时计费;先想清楚是真并行,还是其实可以排队跑。
怎么排查自己有没有中招
- 翻一遍开机记录看有没有开机后长时间没跑任务的时段,那多半就是忘关机。
- 统计重复下载数一下同一个权重文件拉过几次,超过一次就说明持久化没做对。
- 看并发峰值回忆同时开了几个实例、每个都在干活吗,空转的那个就是纯支出。
动手前的三步选型清单
选卡不是挑最贵的,也不是挑最便宜的,而是先量需求再对价。顺序反了,要么算力不够反复重跑,要么算力过剩白付租金。下面三步照着走,每步都给了可以核对的站内页面。
- 先量需求把模型参数量、显存占用、单轮训练时长估出来,到 /compute/sizing 对一遍,别凭感觉挑卡。
- 再对价拿卡型去 /compute/gpu-rental 和 /compute/price-index 看当前档位,价格随时段浮动,别记旧数字。
- 算可持续性先小规模试跑一轮,记下实际耗时和余额消耗,再决定拉长还是加卡;长期跑的话看 /compute/tco。
把预算和核对做成固定动作
控本的关键不是一次性省多少,而是让每一轮任务都可追溯。做法很朴素:开跑前定上限,跑的时候记日志,跑完对一次账。坚持几轮,你就能倒推出自己单位任务的真实成本,选卡也会越来越准。
| 动作 | 频率 | 记什么 |
|---|---|---|
| 设定任务预算上限 | 每轮任务开始前 | 本轮允许花多少,超了就停下复盘 |
| 记录任务日志 | 每次开机到关机 | 开机时长、卡型、任务名、结束余额 |
| 对账排查 | 每周或每轮结束 | 账单与日志并排看,找出有消耗没产出的时段 |
- 多人共用账号时按项目拆分记录,否则月底谁也说不清钱花在哪。
- 余额告警只能兜底,不能当预算,等告警往往已经超了。
- 发现某段时间只有消耗没有产出,优先怀疑忘关机或空转,而不是先怀疑平台计费有问题。
需要说明的是,这套动作在任务节奏稳定时最有效。如果你的任务时长波动很大、经常临时加跑,硬性上限反而会打断正常工作,这时更适合用「每轮结束对账」来代替「事前卡预算」。
下一步先把当前卡型的实时档位和涨跌看清楚,再决定这轮任务怎么配。价格是会动的,别用记忆里的数字做决策。→常见问题
AutoDL 只是开着不跑代码,也会一直扣钱吗?
只要实例处于运行状态,通常就按卡时持续计费,跑不跑代码都一样。所以调试间隙、去开会、等数据下载这些空档,能停就停。具体口径到站内算力相关页面核对当期说明,别按印象判断。
按量付费和包月,选哪个更省?
看每天实际占用卡的时间。全天高强度跑,包月折算下来往往更低;每天只用两三小时、断断续续,按量更灵活也不浪费。建议先用按量跑两三轮,记下真实耗时,再拿这个数据去比包月档位。
怎么判断自己是不是租贵了、租多了?
把模型参数、显存占用和单轮耗时记下来,去 按模型算一遍(/compute/sizing) 和 GPU 租用比价(/compute/gpu-rental) 对一遍。如果实测显存远没用满,或者 GPU 利用率长期偏低,多半是卡型选高了或数据管道拖了后腿。