算力(Computing Power)

AI TERM术语词条

AI Computing Power

基础设施 硬件基础算力

术语释义

AI 训练与推理所需的计算能力,以每秒浮点运算次数衡量。它是 AI 三大支柱之首,被类比为这一时代的石油。

算力(Computing Power)指完成 AI 训练与推理所需的计算能力,通常以每秒浮点运算次数衡量。它与数据、算法并称 AI 发展的三大支柱,也被类比为这一时代的石油:模型规模、训练速度与推理成本都直接受其约束。理解算力,等于理解 AI 产业为什么对芯片、电力与数据中心如此敏感。

度量与层级

  • TFLOPS:每秒一万亿次浮点运算,常用于描述单卡或单机算力。
  • PFLOPS:每秒一千万亿次,是集群规模的常用单位。
  • EFLOPS:每秒一百亿亿次,用于描述国家级或超大规模智算中心。
  • PFLOPS-day:算力与时间的乘积,用来衡量一次训练任务的累计消耗。

需求为何持续爆炸

从早期模型到当前主流大模型,单次训练的总算力消耗增长了数个数量级,业界常用的经验规律是每约一年半训练算力需求增长约八倍,驱动力来自参数规模、训练数据量与上下文长度的同步扩张。与此同时,推理算力随着用户规模增长已经超过训练算力,成为最大的需求来源——训练是一次性投入,推理则是每天持续发生的开销。

供给与战略属性

训练侧依赖由高端加速卡组成的万卡级集群,建设与运行成本极高,电力、散热与高速互联往往与芯片同样关键;推理侧更看重单位成本与吞吐效率。算力还带有明显的战略属性:高端 AI 芯片的出口管制推动各地发展本土替代方案,芯片供给、集群规模与能源条件共同构成一个地区 AI 竞争力的上限,这也是各国把智算中心当作基础设施来建设的原因。对多数团队而言,算力规划的关键是匹配任务形态:训练看集群规模与运行稳定性,推理看单位成本与弹性调度能力,单纯追逐峰值指标并不能转化为可用的产出。

个人如何获取算力

  • 消费级显卡:显存足够时可运行量化后的中等规模模型,适合个人实验与私有数据处理。
  • 按需云 GPU:按小时租用,适合训练调参与短期项目,用完即停。
  • 免费或低价额度:部分云平台与在线笔记本提供带加速卡的免费时长,适合学习入门。
  • 规避常见误区:只看算力数字不看显存与互联带宽,结果模型放不下、多卡扩展效率极低。
查看全部 70 条 →
共 9 条