国产AI芯片份额逼近英伟达,趋境科技用异构推理把Token成本降两成
本报(chinatimes.net.cn)记者刘诗萌 北京摄影报道2026年,国产算力迎来新的里程碑,一场“中国芯”的突围正在悄然发生。IDC数据显示,2026年上半年中国数据中心AI加速器市场格局发生剧震,其中英伟达市场份额从去年的55%骤降至34%,华为份额较去年同期接近翻倍至28%,二者差距仅为6个百分点。在其追
刘诗萌 北京摄影报道
2026年,国产算力树起一座新里程碑,一场“中国芯”的突围正悄悄展开。
IDC数据表明,2026年上半年中国数据中心AI加速器市场格局剧烈变动。英伟达的份额从去年的55%猛跌到34%;华为则比去年同期接近翻倍,升到28%,两家只差6个百分点。IDC追踪的11家中国芯片厂商里,有9家出货量同比上升。这些国产AI芯片还逐步打进了政府机构、互联网公司、电信运营商等关键信息基础设施的供应链。
让国产芯片从“能用”走向“好用”的,是AI基础设施(AI Infra)在背后托底。它的原理是用端到端基础设施做互联和调度,把国产AI计算硬件的资源利用效率提上去。单点峰值算力跟国际先进水平的差距,它抹不平;但有效Token的产出,它能帮国产算力实现另一种“弯道超车”,产能受限的困扰也就能摆脱。正因如此,AI Infra成了2026年以来国内一级市场的核心赛道,无问芯穹、硅基流动、趋境科技三家头部企业年内融资都超过20亿元。
近日,《华夏时报》记者随工信部新型工业化调研团走访了其中一家——趋境科技。这家公司出身
从算力中心到Token工厂
“全球AI算力一半消耗在东北,东北一半算力消耗在铁岭”,这个有点夸张的热梗今年传得很广。各个热门视频平台上,马大帅跳起了《Gentleman》,
这些场景能落地,靠的是AI渗进短剧和视频产业链。年初,字节旗下短视频平台Seedance横空出世,上线三个月单月营收就超过10亿元,海外收入占比已达50%。Seedance、可灵等大模型深度渗透之下,今年前8个月上线的微短剧共43万部,是去年全年的13倍,其中AI剧占比超过九成。
视频天然是高Token密度场景。中国信息通信研究院《词元经济发展研究报告(2026年)》显示,单集1.5分钟的AI短剧,Token消耗量可达500万至1000万。A股上市公司中文在线6月投资者关系活动记录中披露,从行业调用数据看,国内所有Token消耗份额里,AI短剧与视频生成占到55%。这个数字在业内还有争议,但跟人们在平台上看到满屏二创、AI短视频的直观感受对得上。
海量需求拉动下,按Token消耗量付费的“模型即服务”(MaaS)真正跑通了。Seedance背后的字节旗下火山引擎,MaaS业务上半年同比增长近9倍,视频生成贡献了其中30%以上。另一个佐证是,去年上市的大模型厂商智谱今年上半年也调整了业务结构,收入大头从B端本地化部署变成面向C端的MaaS开放平台及API,这块占公司总收入的比例从去年同期的15.2%直线拉到今年的86.5%。
背后还有一个被看作行业转折点的数据:今年上半年,算力需求从过去训练主导转向推理,包括推理ASIC芯片在内的非GPU出货量首次超过GPU出货量。趋境科技创始人兼CEO艾智远回答《华夏时报》记者提问时指出,去年一家大模型公司一天用到2万亿推理Token可能已是国内最高,现在这个数字到了几十万亿到百万亿量级,有些公司为满足业务需求,连训练用的卡都拿来做推理了。Token调用量大涨,主因是今年上半年AI短视频和AI Coding两个场景跑通了,这也是AI Infra赛道此时受业内关注的核心原因。他说:“大家开始发现,要让客户真的开始付钱,到底是付1块钱还是五毛钱变得很重要了,大家就会开始关注单位算力转化成Token的性价比。”
以Token为单位收费,正逐渐被视为一种能自圆其说的商业模型,AI行业比拼效率的焦点,也随之从“卖面粉”的算力中心挪到了“卖面包”的Token工厂。今年3月,黄仁勋在GTC大会上提到,往后数据中心的核心价值不是存放文件的仓库,而在于产出可计价、可交付的Token。衡量竞争力的关键指标,会从服务器数量、存储容量换成每瓦Token吞吐量。照这个标准看,Token正在变成数字经济时代的硬通货。
国产算力突围破局
对中国来说,以提升产出效率为核心的AI Infra意义更重。地缘政治角力让算力供给的不确定性加大,“中国芯”独立自主在战略上无疑必要。可高带宽内存(HBM)和半导体先进封装的硬件产能摆在那里,单点性能的优化总有瓶颈。用基础设施的优势去补芯片和制造环节的劣势,让国产算力撑起高品质Token的稳定供给——这决定了“独立自主”能不能不只停在口号上,而是真正做成商业上有竞争力的模式。
这道难题,专注推理场景的趋境科技给出了自己的解法,其中之一是异构推理。大模型计算是推理算力最常见的场景,把Prefill和Decode两个阶段拆开,计算能力强的算力承担Prefill任务,显存带宽大的算力承担Decode任务,再通过高效KVCache流转实现协同生产,最终既让国产芯片深度落地到大模型核心生产环境,又让规模化Token工厂的整体硬件成本下降20%。
艾智远说:“我们这套技术没用上之前,一些头部国产大模型的供应链名单里,国产芯片其实是缺席的。打个比方,拿一家演出订票网站的系统去接12306的流量,压根顶不住。后来我们靠软硬件协同调度把计算逻辑重新搭了一遍,按不同任务的特征做分流,就能拿不同类型的算力资源,给这些模型参数在万亿级别的大模型公司供Token。”眼下,趋境科技每天向万亿级别模型供的Token,稳定在1.5万亿到2万亿之间,差不多等于2026年春节前腾讯元宝一整天的Token消耗量。
算力价格眼下猛涨,趋境科技为了让Token的性价比做到最优,正跟多个地区联手推进项目。从芯片选型设计、机房设计、组网设计,到模型自演进,全由趋境科技主导,覆盖Token工厂从建设到运营的整个生命周期。另一个关键打法叫“以存换算”:用显存、内存加SSD搭起多层缓存,把算完的结果尽量复用,只对新增内容做计算。这样做能压低首Token响应延迟,抬高并发吞吐,还能减少单个Token的资源消耗与生产成本。艾智远说:“因为现在内存价格特别高,去年一条64G内存价格是2300元,现在已经到了2.3万元一条,相当于乘了十倍。但是用SSD等效置换的情况下,性价比就会高很多。”
相比那些星光熠熠的AI大模型公司,AIInfra层的企业多数时候是默默扛重活的托举者。不过趋境科技的技术影响力已经伸到了产业规则的制定层面。它和清华大学团队牵头开源的KTransformers,是全球较早针对超大规模MoE模型做CPU/GPU异构推理优化的开源框架之一。它还与多家大模型企业一起推进Mooncake开源生态建设,相关论文拿下FAST 2025最佳论文,技术理念被英伟达参考引用,成了全球分布式推理框架的建设标准,2025年GTC大会上还获得黄仁勋致谢。
10月26日,趋境科技宣布完成超13亿元B轮融资;2026年以来,公司累计融资规模达24亿元。采访最后,趋境科技首席科学家、清华大学教授武永卫强调:“趋境科技由于出身清华高性能所,我始终告诉大家一句话,就是技术信仰必须坚持,大家也能看到我们对技术信仰的追求带来的价值效益。”