AI芯片经济寿命为何先于物理寿命:厂商延寿的四个抓手
对AI芯片而言,专用化带来高性能与低能耗,也使其更容易受到工作负载迁移和芯片迭代的影响,因而经济寿命往往先于物理寿命成为约束。芯片厂商延长经济寿命,既能延长芯片的高性价比窗口,也能降低云厂商运营成本....
对AI芯片来说,专用化能换来高性能和低能耗,可也让它更容易被工作负载迁移和芯片迭代拖累,经济寿命常常比物理寿命更早成为约束。厂商把经济寿命拉长,一方面能延长芯片的高性价比窗口,另一方面也能压低云厂商的运营成本、扩大定价空间、释放资产融资价值,让买家拿到经济寿命与服务期限相匹配的芯片。
AI垂直层级分“硬件-编译器-模型-应用-交易”五层,这五层既是提升AI性能的抓手,也是给芯片延寿的抓手:保持适度通用性、做编译适配与模型压缩来守住兼容性,靠跨负载分工和集群重构延续使用价值,再用租赁和二级市场扩大流通,最终通过全栈协同形成一条更可预测的寿命曲线。
一、经济寿命是芯片寿命的主要瓶颈
芯片的“寿命”涉及四个指标:物理寿命、软件支持寿命、经济寿命与会计寿命。
①物理寿命,指芯片在电迁移、热循环与数据中心环境下的可靠服役期,可用年限通常为8–15年。
②软件支持寿命,指厂商工具链对旧架构的官方维护窗口期。官方终止支持,意味着绝大多数bug不再修复,新特性不再设置,性能也不再优化。它的约束力比物理寿命更强,通常遵循明确的路线图节奏,例如英伟达的CUDA10停止支持旧架构Kepler,CUDA13停止支持Turing架构,从芯片停售到编译停止支持的窗口通常为5–8年。
③经济寿命,指的是继续用旧芯片的单位产出成本,不高于换用新芯片的全部成本(主要是折旧+电费)。
④会计寿命(折旧年限),是对前三个寿命的会计估计。这几个指标里,主要瓶颈是经济寿命,不是物理寿命。
二、芯片延寿实现多重差异化优势
(一)延长芯片高性价比窗口
ASIC相对GPU的优势,是拿灵活性换单位成本与单位能耗:把可编程性冗余换成矩阵乘的计算单元和高带宽存储芯片,同一制程下能拿到2–5倍的性能及能效优势,高性价比优势由此凸显。
不过,芯片对工作负载的专用化程度越深,负载形态一变,对其性价比的冲击也越深。模型架构迭代时,ASIC与GPU的差异就出来了:GPU的CUDA生态具备可编程性,旧GPU能兼容新模型架构;而为特定数据流硬连线的ASIC,可能扛不住新的主流负载,性价比会从高处断崖式下跌。
简言之,ASIC针对特定负载的定制化程度越深,性价比越高,但经济寿命受工作负载的制约也越明显,一旦技术迭代、主流框架迁移,性价比可能随之大幅降低。所以,延长ASIC的经济寿命,实质是在充分提高ASIC性价比的同时,延长ASIC高性价比的时间窗口。
(二)降低运营成本、实现定价策略
当前市场每年往AI基建里投数千亿美元,芯片采购成本占AI数据中心资本开支的60%,资产运营方(云厂商等)对芯片折旧高度敏感。举个例子,一块全成本6万美元的芯片,按70%利用率计算,3年折旧对应每小时2.28美元,6年折旧则减半至1.14美元,每小时差异1.14美元,在H100约3.4美元/小时的市场租金中占比超过三成,足以影响一项业务的盈亏。
正因如此,谷歌、Meta、Oracle 这类超大云厂商才会选择拉长芯片的折旧年限来压低每年的折旧金额。折旧少了,整体运营成本随之下降,也就腾出了服务降价的空间。谷歌在 2023年1月就宣布,把芯片的预计使用寿命由 4年延长至 6年,这一调整让公司 2023财年少计提折旧约 39亿美元,运营成本因此降低,其中 Q1 影响净利润 9.88亿美元。
延长折旧期限不只是会计层面的选择,它还是推行降价策略的会计基础。SemiAnalysis 的分析披露,谷歌对外出租 TPU 相比 GPU 的性价比优势明显,其降价路径正是:TPU 在 2023年主动延长折旧年限,相较 GPU 降低了每年的折旧成本,单位产出的运营成本被大幅压低,低于 GPU,于是相比 GPU 有了更多降价余地,并借降价取得更多市场差异化优势。(三)把芯片的金融属性用足。芯片属于动产,天然带有金融属性。资产运营方(云厂商等)可以把芯片当作抵押品或投资标的,引入金融机构的债务或权益资金,再用新增融资继续采购芯片、扩大业务规模。不过,芯片要发挥金融属性,前提是它的经济寿命相对稳定、可预期,能够与金融机构的资金期限相匹配。
所以,芯片厂商应尽可能拉长芯片的经济寿命,把金融属性释放出来,帮助下游客户打通芯片融资渠道、做大业务规模,从而购买更多芯片,形成“买芯片-获得融资-继续买芯片”的良性循环,芯片厂商自己也能拿到更多订单。
三、沿 AI 技术栈分层延寿:从硬件冗余到二级市场流通。算法框架迭代、应用负载迁移、芯片自身迭代等,都是影响芯片经济寿命的主要因素。芯片厂商可以沿着“硬件层-编译层-模型层-应用层-交易层”的 AI 垂直层级采取延寿措施,化解这些因素对芯片经济寿命的冲击,为买家提供经济寿命与服务期限相匹配的芯片。展开来说,硬件层靠多格式、可重构数据流、异构单元和代际兼容来预留冗余;编译器层把 ISA 代沟转化为软件适配;模型层拉长主流架构的半衰期,并用量化、蒸馏和算法重构来压缩新模型;应用层按负载类型与流水线重新分工;交易层以兼容性和合理定价扩大流通;全栈协同则让整条价值衰减曲线更可预测。
(一)硬件层:用适度通用性换取更长的经济寿命。要应对算法框架迭代和主流应用负载变迁,把 ASIC 高性价比的时间窗口拉长,芯片就得留出一定的灵活空间,以便适配未来的工作负载需求。
芯片的灵活性可拆成数值格式、数据流和算子三个维度,对应的灵活性设计分别是多数值格式支持、可重构数据流和片上可编程计算单元。当然,灵活性设计要付出通用性溢价,体现在芯片面积、功耗与设计复杂度等方面。硬件层的延寿设计发生在流片之前,流片之后就无法再调整,所以硬件层追求的目标是:在不明显牺牲 ASIC 高性价比优势(相较同代 GPU 等通用芯片或其他同生态位的 ASIC)的前提下,为未来最可能发生的工作负载变化预留硬件接口,从而延长高性价比时间窗口。硬件层灵活性的代价通常是 5–15% 的增量芯片面积,换来的是 2–3年经济寿命的延长。
以 TPU 为例,它在脉动阵列的基础上,于数据格式和算子方面保留了灵活性“期权”,折旧期限也相应从 4年延长到 6年。具体的灵活性设计包括:①BF16 格式用以应对未来十年训练精度;②SparseCore 处理嵌入表的稀疏访存;③向量处理单元(VPU)处理非矩阵运算。
1、多数值格式兼容:避免新精度标准一出现就出局
峰值算力是慢慢掉价的,数值格式不兼容却会让芯片很快出局。三个灵活性设置里,数值格式的分量因此排在最前。拿2022年来说,行业事实标准由BF16换成了FP8,而FP8格式需要
2、可重构数据流:守住矩阵乘内核,适应算子形态变化可重构数据流这套思路的落脚点在于:算法框架一轮轮迭代,变的是算子形态,矩阵运算这个内核并不变。从2012年到现在,矩阵乘一直是深度学习负载里的绝对主力,在当下主流的Transformer框架中占到的FLOPs超过95%。
所以芯片的灵活性设计要顺着算法框架的迭代规律走:算子内核也就是矩阵乘这块做专用化,算子形态也就是数据流通路这块留出灵活性,性价比才能做到最高。
3、异构计算冗余:为新算子保留软件兜底通道
TPUv4就加了SparseCore,专门处理推荐、嵌入检索这类稀疏负载,芯片因此能从训练负载降下来,接着承接推理、检索等负载;MXU旁边还留了一个VPU(向量单元),各类注意力变体等新算子刚出现时先用软件慢速支持,芯片不至于因为不支持新算子而整个出局。
(二)编译器层:把ISA代沟转化成软件问题
算法框架在迭代,主流应用负载也在变迁,AI垂直层级的框架里,编译器层的投入产出比是最高的。它的核心机制是在硬件ISA和上层模型框架之间插一层中间表示(IR),让各自独立发展的模型和硬件解耦,由编译器层去弥合两边的发展错配,新算子借中间层适配历史版本的芯片。
编译器层延寿的好处是边际成本几乎为零,整个存量芯片舰队都能覆盖,性价比比任何硬件改动都高。尤其是可以按硬件条件和模型的具体情况,直接用AI生成适配旧芯片的算子,把性能衰减当作AI生成的约束条件。局限也有:物理瓶颈突破不了,编译器没法给旧芯片加HBM容量或带宽,得跟模型层、应用层配合着用。
谷歌的XLA走的就是这条路。新算子出来,只要在编译器层XLA里重写算子,历史版本芯片就能适配。XLA一直在为旧版TPUv4生成代码,v7发布之后它还在生产集群里服役。
(三)模型层:延续主流架构,压缩新模型适配旧芯片
1、主动协同演进:用软硬优化延长主流架构半衰期
芯片和算法本就是一体的两面。两者一起演化,市场就会系统性地向某些特定算法族倾斜,芯片自身也能从中获益,互相依存、互相推动。芯片的经济寿命,跟它对应算法架构的半衰期成正比。拿 Transformer 来说,这个框架从 2017 年起一直占据主流算法位置,围绕稠密矩阵乘做优化的加速器——GPU 的 TensorCore、TPU 的脉动阵列——也就跟着成了市场主流。可一旦主流架构换道,比如状态空间模型、类脑计算、新型稀疏范式上位,那些专为稠密矩阵乘优化的芯片,价值就可能往下掉。
所以,想让芯片多活几年,本质上就是拉长算法架构的半衰期。芯片厂商其实可以更主动地去影响市场走向:从软硬协同入手,把芯片性能提上去,让目标算法架构的性价比更高、市场地位更稳,同时挤占其他算法架构阵营的空间,自家芯片的主流位置也就保住了。
2、被动压缩适配:以量化、蒸馏和重构重回可行域
被动适配新模型的思路是:新模型超出旧芯片规格时,用算法手段把模型压回旧芯片能跑的范围内,主要办法有量化、知识蒸馏、算法重构。对资产运营者来说,量化、蒸馏这类技术的好处是让旧芯片能接的负载范围变大,坏处是给前沿模型带来精度损失;算子重构则通常有20–50%的性能折价。说到底,量化、蒸馏的适用边界是非前沿负载,作用是让芯片在推理、微调、中小规模训练市场多服役一段时间。
(四)应用层:不按芯片年龄退役,按负载瓶颈重新分工
应用负载层在AI垂直层级里不动芯片本身,只是在负载类型之间做调配,让芯片的经济价值延续下去。对ASIC厂商而言,延寿不只发生在芯片内部:芯片能不能被系统级联利用——比如标准化机架形态、开放互连、可切片虚拟化——让旧芯片在特定负载上退役后还能无缝接入其他系统层调度,经济寿命也就跟着拉长了。这一层的延寿办法,能同时应对算法框架迭代和芯片自身迭代对旧芯片经济寿命的冲击。
1、跨负载梯次利用:从前沿训练转向推理与后训练
英伟达数据中心路线图在2023年后从两年一代提速到一年一代,J.P.Morgan估计每代新芯片的单位算力成本比上一代低约30%~50%。新芯片单位算力成本降下来、低于旧芯片,旧芯片的经济寿命就被挤压。阶梯式降级使用则把“代际替换”从一次性淘汰变成分岗位、分阶段的迁移:芯片先在前沿训练岗位干2–3年,再降级转到单位成本仍有优势的推理与后训练(RLHF、蒸馏)岗位,继续干3–4年。EpochAI的“价值瀑布”显示,H100发布后第1年的单位时间价值最高,但总生命周期价值里约一半来自第2–5年的非前沿负载。
CoreWeave等专业云厂商把芯片经济寿命讲得很明确,是“三段论”:第0–2年当高性能训练资源,第2–5年当次优负载资源,第5年以后当批处理与推理资源,折旧期也据此定为6年。
2、按流水线精细分工:让旧芯片承接Decode等适配环节
芯片过没过时,看的是它承载的业务有没有顶到自己的短板。大模型推理分prefill和decode两段,前者吃算力,后者吃显存带宽,各自卡住的地方不一样。工业界已经跑通的一套延寿办法,就是把算力跟不上、显存带宽还凑合的旧卡派去干decode。阿里巴巴2025年公开的Cronus异构调度系统,把不同代际、不同厂商的芯片混在同一个推理集群里,按负载瓶颈去配硬件,旧芯片因此不必因为新一代产品上市就整批退场。
3、用业务纵深消化旧算力:业务越多元,内部降级空间越大
TPU的级联玩法,靠的是谷歌自家业务的纵深,负载种类够杂:Gemini的训练与推理、搜索广告推荐、YouTube等都在其中。这套降级路径别人不太好照搬。纯做推理的芯片公司手里没有下游业务可以承接降级,
Groq是推理专用ASIC的代表,它的LPU在延迟指标上压过同级GPU,可单架构、只做推理这一种负载,商业价值就全押在推理市场上。
4、改造集群拓扑:让“部分过时”的集群照样高效运转
TPUv4的OCS(光路交换)不用重新布线就能动态重构4096颗芯片的3D torus拓扑,可以按任务规模切片,同一个物理集群,既能跑单一大训练任务,也能同时跑数百个推理实例。拓扑能重构,“部分过时”的集群就还能被用足。
(五)交易层:把降级使用的范围放大
二级市场和租赁市场把芯片的经济寿命从厂商内部的降级使用,扩展成整个社会的降级使用:一颗芯片在某个用户手里没了前沿价值,不等于价值全没了。适用范围越宽、定价越合理,它在二级市场上的流动性就越强,经济寿命也随之拉长。算法框架迭代和芯片自身迭代这两重影响,这一层延寿办法都能应对。
1、兼容性拓宽适用范围:用途越广,寿命越长
旧芯片的残值,算力不是唯一的决定项,更要看它能接多少种负载、能接入多少套系统。支持通用数值格式、主流框架、标准互连和虚拟化的旧芯片,可以在训练、推理、微调、批处理这些场景之间流转,也能对接不同云厂商和终端用户的需求。潜在买家越多,旧芯片在二级市场越好出手,残值越有支撑,经济寿命也就越长。反过来,只能接单一负载、只服务单一客群的旧芯片,一旦在原场景里失了优势,残值和寿命就会掉得很快。
2025年7月,Serve The Home披露,A100(通用芯片GPU)2020年发布时售价在1万美元以上,五年后二手价仍有7,800–18,900美元,租赁价1.29–3.43美元/小时。通用芯片能兼容推理与中小规模训练负载,残值因此被明显托住,经济寿命也跟着延长。
2、定价合理才有流动性:让旧芯片把剩余价值用尽
所谓合理定价,是把旧芯片的采购或租赁支出,加上电费、运维,再算上性能和精度的折价之后,单位有效产出的成本仍然有竞争力,也就是性价比不低于同代及相邻代际的芯片。这样既能让旧芯片在二级市场流动起来,也能让芯片厂商(卖方)尽可能回收芯片的剩余价值。
旧芯片定价太高,潜在买方就会转去买新芯片,二级市场流动性随之下降,芯片闲置,经济寿命明显缩短,芯片厂商(卖方)也因定价过高收不回剩余价值。反过来,定价过低虽然能大幅提升该版旧芯片在二级市场的流动性,可芯片厂商从这一版旧芯片上能回收的价值会受影响,之前代际芯片的定价和剩余价值也会被牵连。
SiliconData的季度租赁指数显示,2025年6月至2026年9月,H100租赁价格稳定在约3.38美元/小时,可以看作它相对新一代芯片已逐步找到均衡定价。全栈协同则把不可控的淘汰变成可预测的寿命曲线。
2023年首次调整折旧期限之后,谷歌在2025年底再度确认TPU的6年折旧假设。硬件层、编译层、模型层、应用层都由谷歌全栈控制,靠系统级联配置,其价值衰减曲线比外购GPU更容易预测,TPU经济寿命的可预测性也因此增强。反过来说,资产运营方若完全依赖外购GPU,就掌握不了AI垂直层级中的编译层和模型层,只能靠GPU本身的冗余设计、自家应用负载的多样性,以及全社会二级市场的降级使用需求,来拉长芯片的经济寿命。