墨芯人工智能完成近10亿元C+轮融资,稀疏推理芯片加速落地
Q3营收实现数倍增长
允中发自凹非寺,量子位公众号QbitAI消息。
墨芯人工智能(下称“墨芯”)近日完成C+轮融资,金额近10亿元人民币。
这距离上一轮近10亿元融资只隔了5个月。短时间内连拿两轮,说明资本市场看好这家公司在专用稀疏推理芯片上的技术积累,也认可其商业化推进速度。
技术底子加上产品已经落地,墨芯抢在推理算力需求集中释放之前占住了位置。稀疏专用推理芯片与其他路线之间的代差,也因此更明显。
押注稀疏计算,走一条不一样的芯片路线
大模型架构还在变,稀疏计算的地位也跟着变——过去它只是辅助优化的一环,现在正被放到AI算力设计的核心位置。
混合专家(MoE)架构用得越来越多,大模型推理随之表现出条件计算的特征。权重和激活里存在的稀疏结构,同样给削减冗余计算留出了空间。
DeepSeek-V4-Pro就是一个例子:总参数约1.6万亿,但每处理一个词元只激活约490亿参数,占总参数量的3%左右。
模型层面省下来的计算,怎么变成推理效率的提升和成本的下降?这是AI算力眼下要回答的问题。
处理这类负载,选什么芯片架构很关键。
通用GPU要同时应付训练、推理、科学计算等负载,很难针对某一种稀疏模式去做算法与硬件的深度协同。
专用稀疏推理芯片不一样。算法、编译器、硬件一起设计,无效计算和数据搬运的开销都能压下来。产业界正在重新掂量这种架构差异值多少钱。
墨芯走的就是这条路。公司2018年成立,一直专注稀疏计算,发明了“权重稀疏化+激活稀疏化”双稀疏算法,并在此基础上逐步搭起“算法-软件-硬件”协同设计的技术体系。
技术体系要变成成熟的芯片产品,得有贯通算法、编译器、芯片架构和软件工具链的全栈工程能力。
墨芯创始团队来自卡内基梅隆大学以及英特尔、高通、Marvell等半导体公司,算法研究和芯片工程两头都有积累,量产过数十款产品、超50亿颗芯片。
这份工程能力,让墨芯产品的效能表现在国际权威基准测试中拿到了验证。
MLPerf™ Inference测试中,S30计算卡在所参与的部分测试类别里连续三届夺冠。计算机视觉、自然语言处理等主流任务上,其能效比和单位算力推理吞吐量保持行业领先,说明专用稀疏推理方案在真实数据中心负载下工程上可行。
多场景落地、共建生态,稀疏计算进入新阶段
规模部署正在把墨芯在稀疏推理芯片上的领先位置坐得更稳。
墨芯用自研芯片搭起的推理集群,已经在西北、西南、华东、华北四大片区铺开。商业化也随之全面提速:
2026年第三季度营收实现数倍增长,稀疏算力正深度融入我国算力体系建设,服务智能产业发展。
具体落地方面,上海国资平台公司打造了国内首个海上算力Token工厂项目,墨芯参与其中。
这个项目用海上风电绿电和海水冷却压低PUE与电费,不过通用GPU的推理成本仍可能把绿电省下的钱吃掉。针对这一痛点,墨芯靠稀疏架构,结合算力混合异构模式,从芯片侧降低单Token推理成本,让“绿电降本”和“算力架构降本”叠加起来。
在时空AI与时空大数据这些前沿方向上,墨芯用稀疏算力搭起了高性价比的算力底座,支撑时空大数据智能计算等应用落地。
墨芯还与北京大学上海临港国际科技创新中心地球与空间技术研究院展开合作。双方以墨芯自研的稀疏化技术为基础,把两款国际主流遥感影像智能分析基础模型搬到墨芯算力卡上,完成了适配与实测:
实测结果显示,业务精度几乎不受影响,下游任务也不需要重新训练,推理吞吐最高提升2.88倍,模型压缩最高可达7.64倍。
换句话说,模型层面省下来的计算量,经过软硬件协同,能落到实际处理效率上。大规模遥感影像解译因此可以用更少的算力、更短的时间跑完,稀疏算力承接地理空间基础模型推理,也有了工程层面的验证。
真实业务需求不断融进芯片设计和软件研发,墨芯再把技术积累与规模化部署经验转成持续迭代的能力,稀疏专用推理芯片也就从“可用”一步步走向“好用”。
产品方面,新一代板卡SP200会在年底前正式推出。
生态适配方面,墨芯升级版软件栈SECA(Sparse-native Efficient Computing Architecture)稀疏原生高效计算架构发布在即,对大模型推理部署和集群运维的支持会更强,模型迁移、部署的门槛也会进一步降下来。
墨芯还把技术优势往生态层面延伸,借此提升自己在稀疏计算领域的行业影响力。
今年8月,墨芯发起成立了“稀疏计算产学研联盟”,方向是前沿研究、关键技术突破与成果转化,把自身的技术积累和产业实践变成行业协同创新的基础,让稀疏计算技术继续往前走。
大模型这轮竞争,重心正在从“算得更多”挪到“算得更聪明”。
模型规模越扩越大,算力成本和能耗的约束越来越紧,行业的核心命题也就变了:
怎样用更少的计算,承载更多的智能。
稀疏计算,就是对这个命题的直接回答之一。
墨芯的价值在于,它给中国AI芯片参与下一阶段竞争提供了一条不一样的技术路径。
*本文系量子位获授权刊载,观点仅为原作者所有。