高端GPU服务器价格暴涨:一台8卡机器报价破2000万,中间商层层加价
一台八卡服务器,N层中间人的转手
南方某城市保税区一带,一家公司的采购代表陈远(化名)在那儿干等了整整一天。
他这趟要买一批某型号(下称X型)高端GPU服务器。动身前老板撂下“死命令”:货当天必须到手。结果从早上一直耗到晚上11点,他等来的是对方一句“卖不了了”。
帮着找货的中介商林岳(化名)马上又去联系另一个卖家。这回对方报价每台超过2000万元,可照样“没法立刻拿到货”。
陈远要的是X型8卡服务器,一台机器上装着8颗X型号高端GPU。今年以来,这款设备的价格一路猛涨。
去年年末,X型8卡服务器在国内报价约400万元;到今年9月,同款机型涨到原来的近4倍,约1500万元;最近一个月报价又大幅跳升,已经突破2000万元。
涨价最直接的原因,是高端GPU的需求还在不断放大——全球各大AI厂商都在加紧算力“军备竞赛”。今年2月,Meta就与生产高端GPU的那家芯片厂商宣布多年合作,计划部署数百万颗高端GPU,用来建设AI模型训练和推理的超大规模数据中心。
另一头,这个需求和交易量都极大的市场并不够透明。一条货源消息常常要过好几道中介,每转一手就加一次价。买家就算肯出高价,也未必清楚谁手里真有货、什么时候能交付。
围绕这轮不断走高的行情,《智能涌现》和几位算力从业者做了深入交流。从他们经手的一笔笔生意出发,我们想弄明白:这桩隐秘的天价买卖到底怎么运转。
中间人的生意
去保税区的前一晚,林岳盯货盯到凌晨一两点。他记得自己反复确认过货没问题,才去睡的。
林岳提到,前一晚他一遍遍向供货方核实,对方咬定没问题。早上7点多他又去催,上午、中午仍在追问货的情况,供货方始终回复“货在,货主已经锁好了”。
可就算这么严防死守,他还是没能帮陈远把货拿到手,之前那些反复确认全成了对方的空头支票。
林岳说,之前从这名卖家手里进过货,正因为有一定信任才回头找对方。可他现在犯嘀咕:这些人会不会同样只是中间人?他觉得对方手上并没有他想要的那批X型货源。
一笔GPU服务器交易,最上游是直接掌握设备的货主,也就是卖家;最下游是买设备自用或对外出租算力的企业,也就是买家。两头之间夹着若干层中介商:有替货主找买家的,有替买家找货的,还有受买家委托完成采购的代采方等等。
中介商一多,货源消息往往要转手好几次才能传到买家面前。林岳替买家找货,可他联系上的“卖家”可能同样是中间人,并不是离货主最近的那一层。林岳说:“我的买家资源更多,但离‘真正的卖家’不够近,对他们缺乏掌控力。”这也是他反复确认却依然把握不住成交的关键原因。
需求缺口大、供应又紧张,X型GPU服务器价格蹿得快,这层原因几乎人人都看得见。看不见的是,若干层中介商的存在,也在一步步把价格往上推。
在林岳看来,货主一旦放出“有一批货准备出售”的风声,离得最近的中间人马上往下传,一层转一层,每过一道手就在上一家中介报价的基础上加价,传到买家那里,价格已经高出不少。
替买家办事的中介,得练就一项本事:判断自己对接上的卖家,究竟是真手里有货,还是又一个中介。
林岳有自己的判断法子。他反问:卖的是什么型号、什么价位,这类基本问题能不能立刻答上来?要是问一句得等半天才有回音,或者刚谈妥一个条件又抛出新的,那多半不是真正的卖家。
不过林岳清楚,这回自己“看走眼了”。“对接的人自己不能直接决定怎么卖,还要向上游逐层询问,买家才会迟迟等不到准信。”
对买家来说,“准信”恰恰最要紧。多数买家希望“同台”交易,也就是双方当面验资、验货,确认买家有钱、卖家有货,再完成交易。可高端GPU服务器眼下是卖方市场,卖家更愿意先挑买家,确认资质和资金到位之后,才亮出自己的底牌。
买家因此更被动,想拿到货动作就得够快。常见做法是:买家把能接受的价格告诉中介,中介按这个价长期盯着市场上的货源,一有货冒头就立刻让卖家发营业执照、交定金、锁货——那些还在反复谈条件的买家,根本轮不到交易机会。
被“遛”的买家不少,被骗走钱的也有。林岳讲过一种套路:“对方说自己一定有货,先跟你签合同,让你打定金,收了钱就走了。”他说,这也是部分买家不肯先付款等货、非要找现货的原因。
一场交易里的各方,彼此之间都谈不上信任,谨慎和试探贯穿始终。
“市场上到底有多少货,谁也说不准。每个人的报价,谁真谁假,我也分不清。”林岳怀疑,有些对接人一口答应有货,其实手里并没有货源,还得再去问别的渠道。
行业里传出的成交消息,他同样不敢全信:“看着挺热闹,好像成了很多单,但真正落地的,未必有听起来那么多。”高价之下,一些买家也开始冷静,转成观望。
眼下掏钱的主要是几类人:买设备做模型训练的模型公司、互联网大厂,以及对外出售或出租算力集群的算力服务商。林岳说,这些公司大多不自己出面,而是委托代采方去谈。
报价超过2000万元之后,大部分大厂已经不肯接。林岳表示,X型8卡服务器,国内AI大厂能接受的上限在1500万左右。
当然,退场的并非所有模型厂。据林岳了解,近期市场上,某头部模型厂的求购消息还时不时冒出来。
谁为高价买单
工信部的数据摆在那里:到今年6月底,国内智能算力规模比去年同期涨了177%,建成的万卡以上智算设施已有52个。买高端GPU服务器的主力,除了模型厂,还有一批做算力出租生意的公司。
价格一路走高,中间人到处找货,赵诚(化名)盯的却是哪些采购能真正落地。他想借此摸清,这个看着热闹的水下市场,水温到底有多高。
X型8卡突破2000万之后,赵诚说:“大部分模型厂都放弃购买了。”他接触的买方里,更主流的是买设备建算力集群、再向下游客户提供算力服务的公司。“如果我是建算力集群的,已经跟客户签好合同了,承诺了多长时间内要交付,不交付要承担什么违约责任,那么如果赔偿成本比机器的溢价还高,就只有硬着头皮买。”
交付压力就这样沿着订单往上游传。“能够按时拿到设备”,成了多数买方肯接受溢价的前提。
跟一般中间商不同,赵诚坚持必须直接对接买家。这跟他的生意模式有关:买家买到GPU服务器后,他负责后续部署和维护,靠服务费赚钱。“我可能会给中间人一次机会聊一聊,如果第二次沟通还不能直接跟买家聊,那我就不继续了。”
他坦言,这个隐秘的水下交易市场里,几乎每个角色都是隐身的,原因直接指向买家的诉求——买家大多不愿分享交易渠道,怕引来更多跟自己抢卡的人。“本来就一碗饭,5个人分差不多,如果来了10个人、20个人分,肯定就不够了。”
国内高端GPU市场上,除了X型卡,推出更早、AI计算性能也不错的Y型卡,是另一个主要交易型号。采购该型号服务器,既可以找市场现货,也可以直接向生产该GPU的公司申请供货配额,由其直接安排供货。据赵诚介绍,现在水下市场的Y型8卡现货报价约为每台650万元,而通过原厂配额采购,价格可以比现货低约200万元。
不过,原厂配额价格虽低,申请门槛也更严。赵诚说,他接触的一些客户急着要货,却暂时满足不了资金、机房或用途证明等审核要求,采购推不下去,最后还是只能转向高价市场。
Y型卡比X型卡便宜了约三分之二,但这并不意味着更容易买到。问题又回到几位中间商反复提到的那句话:“能及时拿到货”是交易能完成的关键,可市场上的“现货承诺”并不可靠。
赵诚打了个比方:“一台服务器原本谈好450万元,市场价后来涨到650万元以上,那赔你违约金我也认,转手高价卖给别人,扣掉违约金,落袋的比原来还多。那我为什么不违约?”结果就是,买家就算已经锁了单,最后照样可能出岔子。
智能涌现获悉,部分交易还带着搭售的尾巴:紧俏型号像X型,买家想拿到手,就得一并吃下Y型等其他型号的GPU服务器。有位买家这么形容:“简直像买爱马仕一样,还得配货。”
在赵诚看来,芯片量产跟大量供货不是一回事,问题出在上游:高带宽内存(HBM)不够用、先进封装产能吃紧,两头卡着高端服务器的量产。他估算,全球能用来组装Y型8卡服务器的现成模组已经所剩无几,乐观估计也就再撑半年左右的供货。价格因此还得往上走。
上游扩产没停过,可新供应要等时间。SK海力士今年10月称,“供应未能跟上市场增长”,先进制程不好做、新厂建设又费时日,这两点是主要制约。按公司计划,年底之前M15X工厂产能要提到最大水平,好让新一代高带宽内存HBM4多供一些。
台积电在同月的业绩发布会上透露,全球有近20座工厂项目在推,覆盖先进制程和先进封装等方向,但“设备供应紧张”,想扩产还得提前跟设备供应商打招呼。
企业也另寻出路。公开报道提到,今年以来部分企业嫌X型8卡服务器太贵,转去租设备,可即便那样,一年期租赁合同的月租金最高也到了19万元,租满一年下来要200多万。
此外,一些大厂近期甚至开始打听RTX5080这样的消费级显卡的行情。
陈远是老板派去买X型8卡服务器的,人还没回去,仍在等货。他托卖家好歹调出一两台,让他先见着设备。对方先叫他再等等,后来又改口:货协调不出来,老客户也在抢这批。
这笔采购最终没有成交。当陈远仍追问第二天早上能不能拿到货时,卖家回复他:“拿不到,再等几天吧。”