天数智芯天垓300实测对标国际主流:单卡吞吐达1.05倍
中经记者 李玉洋 上海报道“快速迭代、还未收敛”,这是当前算力和大模型技术发展的一个共同表征。“现在整个行业还处在算法快速迭代的阶段。哪怕同一家公司、不同版本模型的计算特征、算子结构都会发生改变。”日前,国内通用GPU(GPGPU)厂商天数智芯(09903.HK)副总裁邹翾在“从模型到世界”媒体开放日活动上如是表示。.
“快速迭代、还未收敛”,眼下的算力与大模型技术,恰好都呈现出这一特征。
天数智芯(09903.HK)副总裁邹翾日前在“从模型到世界”媒体开放日活动上表示,整个行业眼下仍处于算法快速迭代的阶段,即便同属一家公司,不同版本模型的计算特征与算子结构也会出现变化。
《中国经营报》记者了解到,这是天数智芯上市后头一回向媒体系统开放实机演示,主角是今年世界人工智能大会期间发布的通用GPU旗舰天垓300。第三方实测显示,典型PD分离部署下,天垓300折算单卡整体端到端吞吐为某国际主流产品的1.05倍,由此成为国内首个实测性能与该产品水平相当的通用GPU。
天数智芯最近还亮出一组直白的数据:11月2日公告称,截至2026年10月31日止十个月,集团芯片累计出货量超过8万片。技术之外,商业化落地的节奏也在加快。
在邹翾看来,Groq LPU这类专用架构,以及谷歌、亚马逊等企业的自研定制芯片,各有各的价值,但往后几年,通用性仍是躲不开的底层需求。
行业机构Omdia人工智能首席分析师苏廉节告诉《中国经营报》记者,从当前市场走势看,国产算力芯片要的不再只是同架构上的迁移,全栈能力成了更迫切的要求。
天数智芯副总裁宋煜的看法相近:芯片、软件与系统协同之后,业务实际跑成什么样,才是客户最终评判的依据;产品设计和优化,应当从客户的业务发展及未来算力需求出发。“在通用GPU架构基础上,针对重点业务负载中的计算、访存和通信瓶颈开展软硬件协同优化。”
不只盯着单颗芯片
宋煜说,GPU说到底只是一个部件,要让客户真正用起来,还牵扯主机内存、存储、网络和GPU互连这些环节。天数智芯既管单颗芯片,也在系统设计与软件层面下了不少功夫。客户关心的其实很实在:同样的投入、同样的业务质量要求,能产出多少Token、生成多少秒视频。
多样化推理需求怎么接?邹翾给出的思路是,通用模块与专用加速单元可以灵活耦合,既能在单颗芯片内集成,也能通过PD、AFD这类算力分离架构做分布式异构编排。
他同时提到,GPU架构并非天生偏向Prefill或Decode;恰恰是GPU本身的通用性,让它更像一套乐高积木。“不管业务、算法出现什么新变化,都可以快速适配、灵活组合。”
天数智芯AI与加速计算负责人单天逸介绍,天垓300的异构协同思路分三个层次:PD分离之外,还有混合训练与AFD分离。以AFD分离来说,Prefill全流程计算与解码阶段的Attention由天垓300承担,FFN专家网络交给合作厂商的XPU,两类芯片在统一调度下协同,实测Decoding推理延迟下降60%。该方案已经实际跑通,是国内首个基于GPU+XPU的异构部署AFD分离方案。
单天逸说:“未来的AI算力系统,不一定由一种芯片包打天下。”他接着表示,关键在于怎么把这些芯片高效组织起来,让整个系统释放更大价值;公司希望以开放的异构计算能力,帮客户把已有的算力资产用足,用更灵活的方式搭出贴合自身业务的计算系统。
副总裁石加圣则从软件角度谈GPGPU的能力来源——软硬件协同设计。他以PD分离为例:这类需求先经负载分析、性能建模和架构权衡,再落到对计算、存储、通信等基础能力的要求上,最终反映进芯片设计,这样形成的硬件能力不会只服务于某一种应用场景。他还指出,硬件架构能力要靠编译器、运行时、算子库和上层框架等软件环节接起来,才能持续变成客户应用中的性能与使用体验。
业务需求把算力推向分层
从上述第三方实测看,天垓300在真实业务中的测试水平说明,国产GPU正迈入新阶段:不再只解决“能不能用”,而是比实际产出、运行效率和经济价值。
天数智芯把这个阶段叫作高质量算力,特点是“高效率、可预期、可持续”——同样的投入能换来多少有效结果,长时间运行稳不稳,面对不同模型、业务和部署方式能不能持续顶用。
据公司方面透露,天垓300已经形成从加速卡、一机8卡服务器到超节点的完整系统方案。其中天垓300 IXL144超节点方案在今年工博会上亮相,单个标准机柜集成144颗GPU、聚合约10.1TB显存,是当前业界密度最高的单机柜GPU超节点;据测算,每百万有效Token成本比国际主流方案低约40%。
苏廉节表示,市场对类GPU的需求还没有到井喷式增长的阶段,天数智芯目前的表现中规中矩。要保住竞争力,生态还得继续做,争取多点开花。“光是聚焦在大型数据中心的训推场景,恐怕机会有限。”
这次活动上,天数智芯展示了云端高效生产智能和软件加速适配,还专门讲了端侧产品布局(即彤央系列),并提出算力分层理念。公司方面认为,物理世界的数据量在持续增长,感知、规划与执行都要毫秒级响应;合同、科研等涉及数据安全的任务,又要求算力“贴着数据跑”。业务需求决定了算力必须分层。
天数智芯彤央产品市场负责人宋远盈说:“云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。”据他介绍,彤央以“一套生态、两种形态、五款产品”覆盖从客户自主集成到即用型部署的需求;“把云的能力折叠进方寸之间”,也让客户的边端投入具备长期延续性。
其中,彤央TY1200端侧算力终端标称300 TOPS稠密算力,没有采用行业惯用的稀疏峰值口径;在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能为英伟达Thor T5000的1.2倍。Thor T5000是英伟达目前性能最强的边端产品。
具身智能芯片还在摸索阶段
天数智芯端侧这次还把近期英伟达GTC柏林大会上走红的机器鸭MicroDuck带到了现场,虽是“同款”,却是手搓版。
英伟达的做法是把训练放在云端,策略再回传本地;天数智芯走的是另一条路——仿真训练、仿真验证、实物部署,三件事都在一台TY1200里跑完。
TY1200相当于MicroDuck这只机器鸭的“大脑”。天数智芯方面称,本次展示是TY1200首次在国产端侧产品上跑通基于MuJoCo-Warp的GPU加速物理仿真;在世界模型Cosmos-R2-2B与Cosmos-R2-8B的本地运行测试里,TY1200实测性能分别达到Thor T5000的158%和180%。
物理AI场景的具身智能端侧芯片,眼下正被国内外算力芯片厂商当作新方向。天数智芯副总裁郭为表示:“具身智能不仅需要足够的算力,还要考虑能效和实时性。尤其是在真实环境中,机器人需要及时感知、决策和执行,这与很多传统计算场景不一样。目前大家都在围绕这些方向定义下一代芯片,行业还处于探索阶段。”
据透露,TY1200已经在储能电芯研究、应急视觉识别、陪诊机器人等实际任务中落地。以储能电芯研究为例,该芯片支持科研智能体自动采集和治理实验数据,报告生成只需2分钟。天数智芯方面还表示,下一代端侧产品彤央TY2000即将推出,标称算力可达600T。