新芯航途X7 Ultra标700 TOPS,地平线高管质疑算力虚高
文|傲然 编辑|杨布丁 智驾芯片的竞争,从算力够不够,变成了算力算得对不对。 10月29日,新芯航途发布X7 Ultra,公布700 TOPS大模型算力和98.7%的N....
智驾芯片的比拼,已经从算力够不够,转到了算力算得对不对。
10月29日,新芯航途发布X7 Ultra,公布700 TOPS大模型算力和98.7%的NPU计算利用率。Momenta是它的兄弟公司,参与了这颗芯片的联合定义,曹旭东把这种合作叫作“大模型定义芯片”。
发布会刚结束,地平线创始人余凯就在社交媒体上发文,说行业已经卷到了“无底线的ppt算力狂飙”,有些厂商的“标称算力甚至可以吹到6-7倍的稠密算力,号称‘等效算力’”。
地平线副总裁兼首席架构师苏箐也开了口:“以前大家吹牛还尊重一下物理极限的可达性,有基本的职业底线。现在已经完全放飞自我了。行业沦落至此,真的能长久吗?”
两人都没点X7 Ultra的名。但发言的时间和内容摆在一起,外界很容易把它跟新芯航途这场发布挂上钩。
腾讯汽车《远光灯》跟多位产业链人士聊下来,发现业内对这组数字的看法并不统一。有人觉得有虚高的嫌疑,也有人认为得看模型在量产车上的实际表现,以及整套方案的成本。
参数上的分歧之外,两家公司的业务正越走越近。一位行业人士的评价是,它们的“业务生态位太像了”。
Momenta把算法需求提前塞进芯片设计;地平线则借HSD,在征程芯片之外提供高阶辅助驾驶方案。两家都在扩大交付范围,客户能少做适配和开发,它们自己的产品也变得更难被替代。
另一边,头部车企也在补自研能力。供应商要抢的,既有同行手里的项目,也有客户打算收回内部的项目。一轮轮横向比较下来,算力似乎成了买卖双方眼里最直观的一杆标尺。
地平线高层直呼“不忍了”!他们在质疑什么?
同一颗芯片,算力数字可以不止一个。
英伟达在DRIVE AGX Thor的官方资料里,分别列出最高1000 INT8 TOPS和2000 FP4 TFLOPS。前者对应8位整数稠密运算,后者对应4位浮点稀疏运算。纸面上后者是前者的两倍,可两者的计算前提完全不同,不能因此认定同一个智驾模型部署上去,后者就跑得快一倍。
TOPS的意思是每秒万亿次运算。单位一样,数字却未必能直接比。用什么精度、要不要跳过部分零值运算、优化收益怎么算进去,都会影响最终公布的那个数。
一位芯片行业人士对腾讯汽车《远光灯》说,算力宣传越来越绕,一个原因是厂商不只在讲硬件本身,也开始把模型和硬件配合后的收益折算进去。
余凯这次质疑的,正是各家换算条件之间越拉越大的差异。
他在社交媒体上说,过去各智驾芯片公司“基本上采用同一个框架来标称智驾芯片算力”,现在一些厂商的“标称算力甚至可以吹到6-7倍的稠密算力,号称‘等效算力’”。他拿Orin-X举例:稠密算力127 TOPS,标称算力254 TOPS。
要理解这两倍的差距,得先看稀疏计算。所谓稀疏计算,可以理解为模型里有一部分数值是零,对应的运算直接跳过,把资源让给其他数值。
英伟达在介绍Ampere架构的2∶4结构化稀疏时写道,“out of every four elements, at least two must be zero”,也就是每四个元素里至少两个必须为零。满足这个条件,相关计算就能拿到更高的吞吐量。
地平线用的是带稀疏条件的标注。征程6系列官网上,560 TOPS旁边有个星号,脚注写着“Effective TOPS with 1/2 Sparsity”,即二分之一稀疏条件下的有效算力。
上述芯片行业人士解释,稀疏比例一样,不等于具体规则一样。总体上一半数值为零,和每组四个数里至少两个为零,对硬件的要求并不相同;零值排得规不规整,也会影响硬件效率。
“有人在十个权重中保留三个非零值、七个为零,甚至只保留一个非零值、其余九个为零,在硬件能够有效利用的理想条件下,都可能得到更大的等效算力数字。”上述芯片行业人士还说,这几年业内慢慢把注意力放到了怎么让数字更大上——既然跳过零值计算能增加等效吞吐量,更高的稀疏比例自然就成了做大数字的一种办法。
不过,这些条件能否落到量产车型上,还得另说。他认为,想让九成权重归零、同时智驾表现不打折,门槛很高。缺少对应的模型来支撑,光讲理想状态下的能力,这些数字能给客户多少参考,就大打折扣了。
新芯航途对700 TOPS的解释,强调的是特定智驾模型与硬件共同优化后的能力。官网把这个数字标为“Equivalent TOPS”,同时注明“仅用于智驾场景”和“量产模型实测”,并突出硬件并行与工具链优化。
这类优化有可能带来实打实的收益。工程师可以合并计算步骤,减少中间结果反复写入和读取内存,让计算单元少等一些时间。硬件的计算单元没增加,同一项任务仍然可能跑得更快。
换成客户自己的模型,这些优化还能带来多大提升?这个问题很关键。上述芯片行业人士表示,要看懂700 TOPS,得先弄清楚测试用的是哪款模型、什么精度,拿哪套方案当基准,以及怎么换算。这些条件讲清楚了,客户才能判断相关收益能不能套用到自己的方案上。
苏箐盯上的是另一个数。新芯航途对外称NPU计算利用率达到98.7%,苏箐的说法是,任何AI芯片的MAC阵列利用率,以一次inference的全部计算量为统计单位,而非某一层的计算量,从统计意义上看都不太可能超过60%,极限情况下也难摸到70%。
MAC就是乘加运算,先相乘再累加。芯片里大量并行干这类活的单元凑成MAC阵列,好比一排计算工位,数据没及时送到,或者下一步得等上一步干完,都会让一些工位空着。某一层跑得接近满负荷,不等于整个模型运行时都能维持同样的利用率。
苏箐的判断是,按完整一次模型推理来统计,MAC利用率能做到50%-60%已经算优秀设计。他写道,“宣称自己达9x%的利用率,我不能说你是在撒谎(因为某个特定层是可能达到的),但肯定是没有把真实情况告知大众。”
腾讯汽车《远光灯》接触的多位产业链人士,分歧其实落在两个点上。觉得数字虚高的一方,在意的是背后的换算有没有交代清楚;主张看量产效果的一方,更关心这套组合最终好不好用、价格值不值。
算力数字一路狂飙:供应商要订单,车企要卖点
智驾行业比拼TOPS,已经持续数年。
最早,车企比的是装了几颗英伟达芯片;后来,比谁先用上下一代产品;自研芯片陆续上车后,又改成比谁的一颗能顶别人几颗。
2022年发布的理想L9采用两颗英伟达Orin-X芯片,公布508 TOPS算力。同年上市的小鹏G9,650X 性能版车型同样采用双Orin计算平台,公布508 TOPS。蔚来的Adam计算平台则用四颗Orin,合计1016 TOPS。
下一轮竞争围绕英伟达Thor展开。2022年9月,英伟达发布DRIVE Thor,极氪是首家客户,当时计划2025年开始搭载量产车型。2024年1月,英伟达宣布理想选择Thor;同年3月,又公布小鹏、比亚迪、昊铂等企业采用Thor的计划。
几年前车企选英伟达,买的不只是一颗芯片,还有围绕它搭起来的软件工具和开发环境。算法不管由车企自己写还是外部供应商写,都得把模型转换、编译、部署到硬件上。
成熟平台压低了开发门槛,同时也框住了开发边界。算法团队能更新模型,可已经设计完成、甚至装车的芯片很难再动。模型要更多存储、更高带宽,或者换一种计算方式时,只能先在现有硬件上打主意。
自研芯片给了部分车企另一条路。算法团队可以提前跟芯片团队商量,下一代模型打算怎么跑、需要多少计算和存储资源,再把这些需求写进硬件设计。特斯拉此前已经走过这条路,中国车企也开始把芯片与模型放进同一套研发体系。
自研之后,英伟达仍是常见的对标对象,只是比法从“装了多少颗”变成了“自己的一颗能顶它几颗”。
蔚来宣称,神玑NX9031单颗能够达到四颗业界量产旗舰智驾芯片的性能;2025年,小鹏G7 Ultra公布三颗图灵芯片、2250 TOPS有效算力,强调一颗可以顶三颗主流芯片;2026年,李想介绍马赫100时称,单颗算力1280 TOPS,有效算力是Thor-U的三倍,双芯方案达到五至六倍。
软硬件都握在内部之后,车企能做的取舍多了。性能不够,可以调模型,也可以在下一代芯片里加资源;要降成本,能从整套系统上算账。模型和芯片团队还得磨合,但车企不必等外部供应商定下下一代产品,才开始盘算自己的需求。
独立供应商也在想办法把这条合作链缩短。
Momenta通过与新芯航途合作,把模型需求提前放进芯片设计;地平线通过HSD,在征程芯片上开发和验证自己的智驾模型。两家都在增加能直接交付的内容,减少让客户自己去协调的环节。
对没有自研芯片能力的车企来说,买经过适配的组合,能省掉一些开发环节,新模型与配套硬件同步上车的机会也更大。
这样一来,车企可以围绕同一款车型,向不同公司提功能、成本和交付要求,再看谁能接住。供应商那边强调的是,从某颗芯片或某个模型,扩展到两者配合后的收益:同样的功能能不能用更便宜的硬件实现?同样的成本,能不能跑更好的模型?量产之后更新软件,还得投多少人和时间?
“这里有个时间差,订单要先拿,车要之后才量产,最终效果还得往后看。”一位智驾领域从业人士对腾讯汽车《远光灯》表示,车企选型当然会做测试,但没法在定点时就把未来几年的全部表现验证一遍,“最先比较的是报价和参数,反过来车企也愿意宣传更强的芯片和模型,所以大家会把数讲得更漂亮”。
苏箐在朋友圈评论区又补了一段:“大家都不说实话,大家都走向吹牛逼的道路,我们这代人是在干什么?这已经超越了生意,是在毁灭中国科技行业的未来。”
淘汰赛加速,智驾两巨头面临持续迭代考验
对智驾供应商来说,客户的自研团队也是竞争对手。
有位在头部车企做过智驾相关工作的人提到,车企的常见打法是先买外部方案,让车型按节点上市,同时从比较简单的功能起步自己做。等内部方案验证过关、能稳定量产,原来交给供应商的活就可能被收回去。
车企愿意反复算这笔账,原因之一是每辆车数千元的软件授权费。按照他的说法,这是他接触过的部分项目的价格,不是行业统一报价。可对年销数百万辆的车企来说,哪怕只有一部分车型用上,每车省几百元,加起来也不是小数目。
这位前员工还讲,离职后跟老同事聊起,对方说这家车企后来还拉来了合作智驾公司的资深算法人员,由他们“手把手带团队做开发”。
这带来的变化是,车企每多掌握一项能力,供应商就得重新说明自己的收费对应什么。市场还会继续变大,但新增的开发工作未必都落到外部供应商手里。
Momenta往硬件走、地平线加码智驾软件,都出现在这个阶段。两家都想靠软硬件配合压低整套方案的成本,替客户省下开发功夫,让车企觉得接着采购比自己干更划算。
Momenta和新芯航途的合作,最先可能动到报价。
一位智驾公司高层判断,新芯航途围绕Momenta的算法做了深度优化,自己用起来比较顺手;换成别的算法公司来用,适配工作量会很大。他透露,这类芯片能针对目标模型做取舍,价格低于通用型平台芯片,“比英伟达便宜太多”。
另一位行业人士的看法类似:Momenta的算法,加上深度参与定义的芯片,“应该能打包个比较有竞争力的价格”。
地平线则从另一头切进同一个市场。HSD让地平线能给出更完整的辅助驾驶方案,用实车表现证明芯片能力,也把一部分软件开发和适配工作提前做了。
地平线还留了另一种合作路径:客户就算坚持自研,也可能继续向它采购。
今年9月的公开交流中,余凯把公司商业模式分成两类。一类参照Wintel,直接给芯片和软件;另一类参照“Arm加安卓”,提供芯片和软件的IP技术授权。前者面向需要成熟方案的客户,后者有机会进入车企自研的研发体系。
有知情人士称,地平线正力推NPU IP(内部叫BPU)的授权生意,其中一家头部新能源车企自研智驾芯片,采用的就是这套IP。该信源还提到,地平线HSD智驾系统打算年内装到这家车企的部分车型上。
成熟的IP能省掉研发和验证的功夫,供应商则靠授权收钱。以Arm公开的模式为例,客户先为技术使用权付许可费用,芯片出货后再按约定支付与出货量或售价挂钩的版税。地平线是否照搬同样的收费结构、价格怎么定,得看具体合同。
眼下,Momenta和地平线都绕不开持续迭代。今天为某个模型做的硬件取舍,到下一代未必还合适。新模型可能要更多存储、更高带宽,或者换一种计算方式。第一代芯片刚开始出货,下一代可能已经要投钱。
上述智驾公司高层最直接的担心是,“能否有资金持续迭代更强的芯片,很难讲”。
曹旭东对淘汰赛的判断,前提是规模能带来研发优势。他曾对腾讯汽车《远光灯》表示,最后可能剩下中国两到三家、全球三到四家智驾供应商,领先者先拿到量产收入,再投研发,把差距进一步拉开。
在《晚点LatePost》的访谈中,他谈到Momenta与华为时说,“我们两家有比较强的定价权,这个价格比第二梯队的价格明显高。”曹旭东认为,车企挑供应商时还得看对方能不能撑过车型数年的维护周期,以及技术会继续进步还是慢慢落后。
定价权高低,也要看车企手里有多少选择。地平线和Momenta都在靠软硬件协同压成本、减客户开发量。不过这些积累能不能变成壁垒,要看车企花同样的成本和时间,能不能找到替代方案,或者自己把它做出来。
淘汰赛还没打完。能确定的是,下一轮车型定点时,车企仍会把多家供应商的报价和内部研发进度摆在一起,重新算账。