ai基础设施和算力基础设施多少钱:先分清哪几笔是一次性投入

入门与上手

把 AI 基础设施和算力基础设施的花钱项拆成几笔,讲清哪些是必须付的、哪些能压、哪些根本不该现在买,给一套先算再买的判断顺序。

搜「ai基础设施和算力基础设施多少钱」的人,多半是刚被要求出一版预算,或者第一次自己搭一套环境,打开几家云厂商的报价页就懵了:按量、包月、包年、预留、抢占了,单位还都不一样。这篇不给一个数——那个数天天在变,而且跟你的场景强相关。给的是拆账的方法:哪几笔是躲不掉的,哪几笔是新手常犯的浪费,以及在没有真实用量之前该怎么估。

搜「ai基础设施和算力基础设施多少钱」的人,多半是刚被要求出一版预算,或者第一次自己搭环境,打开几家云厂商的报价页就懵了:按量、包月、包年、预留、抢占,单位还都不一样。这篇不给一个数。那个数天天在变,而且跟你的场景强相关,写死反而是坑。

给的是拆账方法:哪几笔躲不掉,哪几笔是新手常犯的浪费,以及在没有真实用量之前怎么估出第一版。先说明一点,下面所有涉及金额的地方都不会写数值,要当期数字就去站内对应页面核对,标清楚查询时间再抄进预算表。

先把「一笔钱」拆成四笔

大部分人问「多少钱」,脑子里想的是租卡那一笔。实际账单出来,往往不止。把它拆成四笔分别估,比盯着一个总价靠谱得多。第一笔是算力本身:按量实例、整机、独占卡都算。第二笔是存储和网络出口,训练数据和日志一多,这笔能顶上来。第三笔是模型调用侧的费用,按 token 走,跟租卡不是一回事。第四笔是人力与时间。

算力本身
租卡、按量实例、整机。口径到 /compute/platforms 看当期报价,别拿别家的旧截图对账
存储与网络出口
训练集、日志、模型权重都占地方;出网流量常被当成附赠品,其实是独立计价项
模型调用
按 token 计费,到 /official-api 对各家官方价,和租卡预算分开列
人力与时间
调环境、迁移、返工。预算表里最常被漏掉的一格,往往也是最贵的一格

第四笔为什么单列?因为它是唯一不会出现在云厂商账单上、却真实吃钱的一项。一个人花两周把环境调通,这两周的成本在预算表里通常写着零。做第一版预算时宁可粗估,也别当它不存在,不然后面超支找不到原因。

买卡还是租卡,别只比单价

把租卡的月单价乘十二,跟整机报价一比,看起来买更划算。这个算法漏了三样:电费、机房和折旧,还有坏卡停机。卡坏了要等返修,这段时间业务是停的。所以先看利用率,一天跑不满几个小时就租;长期稳定跑满,才谈买。

买的账怎么算,站内 /compute/tco 有现成的框架,把电、场地、折旧、备件、停机损失都摆进同一张表,算三年而不是算一年。这里有个不适用的情况要说清楚:如果合规要求数据不出内网,或者业务对延迟极其敏感,那这笔账怎么算都得自己扛,比价的意义就不大了。

没有真实用量之前,怎么估第一版

估不准是常态,但可以不瞎估。办法是拿一个最小可跑的场景反推:每天大概多少次请求,每次多少输入、多少输出,平均多长。把这三个量写下来,单次成本就能算,再乘频次就是一天的账。

  1. 定一个最小场景挑一条真实业务线,别用「全公司所有需求」来估。写清每天请求次数、单次输入输出长度
  2. 算单次成本用 /tools/token-price-calculator 换算 token 单价,再用 /tools/model-cost-calculator 把单次成本乘出来
  3. 乘频次得日成本单次成本乘日请求量,得到一天的账。周、月直接乘,但注意业务有波峰波谷
  4. 训练侧单独估训练别凭感觉,/compute/training-cost 按模型规模给了推算路径,跟着走一遍
  5. 留缓冲再报数第一次估完留一倍缓冲。返工和重跑的用量通常是首估的两三倍,这不是悲观,是经验

估完之后把数字写进预算表时,务必标注「按某页面查询时口径」,别写死金额。一个月后价格动了,你至少知道该改哪一格,而不是整张表重做。

新手最容易多花的三处钱

第一处是按最高档配置开长期实例。怕不够用,先开大的,实际跑下来用不到一半。改成按量或可中断实例,能省下一大截,代价是要接受被回收的可能,所以只适合能断点续跑的任务。第二处是把存储和网络出口当附赠品。账单出来才发现它是第二大项,尤其日志没做轮转、训练数据反复拷贝的时候。

第三处是为了「以后可能要用」提前买整机或集群。这个「以后」往往半年都不来。/compute/clusters 的整机与集群方案对照表,适合在确定要上量之后翻,不适合当第一版预算的依据。判断标准很简单:如果现在说不清三个月内每周要跑多少任务,就先别买。

花钱项常见误判更稳的做法
实例档位先开最高档防不够按量起步,跑一周看真实占用再定档
存储与出网当成附赠品不单列单独列一行,日志做轮转,数据只留一份
整机与集群为未来需求提前买能说清三个月用量再考虑,否则继续租
模型调用和租卡混成一笔按 token 单独估,到 /official-api 对当期价
人力时间预算表里记零按人天粗估,至少留出环境调试的份额

几张卡够用:先算再买

卡数不是拍脑袋定的。从模型规模和上下文长度倒推显存,这条路径 /compute/sizing 讲了一遍,/models/deploy 是同一件事的部署侧入口。两个页面配合看,一个给算法,一个给落地。上下文开得越长,显存吃得越狠,这个关系在 /ai-dict/category/infra 的术语速查里能理清。

判断标准我建议这样:先按峰值并发的一半配卡,跑一周看真实占用,再决定加不加。为什么是一半?因为按峰值配,大部分时间在闲置;按平均配,峰值来了会排队。一半是折中,留了观察窗口。跑一周之后你会知道峰值到底有多尖、能接受多长的排队,这两个数比任何估算公式都准。

价格是会动的,别拿旧数字做决策

租卡行情随供需波动,模型侧的调价更频繁。所以做预算的正确姿势是写「按查询时报价」,不写死数额。查的时候两个页面一起看:/compute/price-index 看租卡现在贵不贵,/compute/availability 看想租的卡到底有没有货。有价无货的情况不少见,只看价格会误判。

模型侧查 /price-watch,那里是查当期数字的地方。这里提醒一句:网上的旧文章、旧截图都别当依据,包括这篇。这篇从头到尾没给数值,就是不想让你一个月后拿着过期数字去开会。

给一套能照着走的判断顺序

顺序比公式重要。第一步定场景和用量,第二步比租与买的三年账,第三步挑具体档位,第四步留缓冲。任何一步卡住,说明上一步的信息还不够,先别往下走。比如第二步算不明白,多半是第一步的用量没定清楚,回去补。

  • 场景与用量没定,不进入比价环节,此时任何报价都没有比较意义
  • 租买三年账算不清,先看 /compute/tco 的框架,把缺的项补齐
  • 档位选择拿不准,先按量跑一周,用真实占用倒推,而不是看参数表
  • 缓冲至少留一倍,首估偏乐观是常态,别把预算做成刚好够
  • 预算表每个数字标查询页面和查询时间,价格一动就知道改哪格

这套顺序也有不适用的时候:如果业务已经稳定在跑,有历史账单和占用曲线,就不用从第一步开始,直接从第三步对账,看有没有开大了的实例、有没有闲置的卡。老业务的问题通常不是估不准,是没人回头看。

下一步把上面几笔的当期数字抄进自己的预算表之前,先去站内把租卡行情、模型调用价和价格变动记录各对一遍,标好查询时间再报数。

常见问题

ai基础设施和算力基础设施是一回事吗?

不是。算力基础设施更偏底层机器和卡,AI 基础设施还包括模型服务、数据管道、工具链这些。花钱的时候两者会叠在一起,但账要分开记,否则很难看出哪一块在烧钱。

为什么不能直接给一个总价?

因为差异太大。同一个模型,按量调用和自建集群的成本能差好几倍,还受上下文长度、并发、有没有缓存影响。任何写死的数字过几周就失效,只能给算法和查询入口。

小团队刚开始要不要自建算力?

多数情况下先不要。先用官方 API 或中转站把产品跑起来,等用量稳定、成本曲线清楚之后再考虑自建。自建的门槛不在买卡,在运维和坏卡停机。

哪里能查到当前的租卡价格?

站内的算力总览和 GPU 租用比价页面是按当期数据更新的,直接去看那一页的数字,不要拿别处的旧报价做对比。

预算里最常被漏掉的是哪一项?

存储和网络出口。训练数据、日志、模型权重都要占空间,跨区传输还要另外计费。第一次做预算建议单独列一行,哪怕先写个粗略值。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。