天数智芯天垓300实测对标国际主流:单卡吞吐达1.05倍

资讯 腾讯网 作者:腾讯网 全文 2931 字 · 约 8 分钟读完 分类芯片大模型

中经记者 李玉洋 上海报道“快速迭代、还未收敛”,这是当前算力和大模型技术发展的一个共同表征。“现在整个行业还处在算法快速迭代的阶段。哪怕同一家公司、不同版本模型的计算特征、算子结构都会发生改变。”日前,国内通用GPU(GPGPU)厂商天数智芯(09903.HK)副总裁邹翾在“从模型到世界”媒体开放日活动上如是表示。.

所属频道 模型发布算力与芯片

“快速迭代、还未收敛”,眼下的算力与大模型技术,恰好都呈现出这一特征。

天数智芯(09903.HK)副总裁邹翾日前在“从模型到世界”媒体开放日活动上表示,整个行业眼下仍处于算法快速迭代的阶段,即便同属一家公司,不同版本模型的计算特征与算子结构也会出现变化。

《中国经营报》记者了解到,这是天数智芯上市后头一回向媒体系统开放实机演示,主角是今年世界人工智能大会期间发布的通用GPU旗舰天垓300。第三方实测显示,典型PD分离部署下,天垓300折算单卡整体端到端吞吐为某国际主流产品的1.05倍,由此成为国内首个实测性能与该产品水平相当的通用GPU。

天数智芯最近还亮出一组直白的数据:11月2日公告称,截至2026年10月31日止十个月,集团芯片累计出货量超过8万片。技术之外,商业化落地的节奏也在加快。

在邹翾看来,Groq LPU这类专用架构,以及谷歌、亚马逊等企业的自研定制芯片,各有各的价值,但往后几年,通用性仍是躲不开的底层需求。

行业机构Omdia人工智能首席分析师苏廉节告诉《中国经营报》记者,从当前市场走势看,国产算力芯片要的不再只是同架构上的迁移,全栈能力成了更迫切的要求。

天数智芯副总裁宋煜的看法相近:芯片、软件与系统协同之后,业务实际跑成什么样,才是客户最终评判的依据;产品设计和优化,应当从客户的业务发展及未来算力需求出发。“在通用GPU架构基础上,针对重点业务负载中的计算、访存和通信瓶颈开展软硬件协同优化。”

不只盯着单颗芯片

宋煜说,GPU说到底只是一个部件,要让客户真正用起来,还牵扯主机内存、存储、网络和GPU互连这些环节。天数智芯既管单颗芯片,也在系统设计与软件层面下了不少功夫。客户关心的其实很实在:同样的投入、同样的业务质量要求,能产出多少Token、生成多少秒视频。

多样化推理需求怎么接?邹翾给出的思路是,通用模块与专用加速单元可以灵活耦合,既能在单颗芯片内集成,也能通过PD、AFD这类算力分离架构做分布式异构编排。

他同时提到,GPU架构并非天生偏向Prefill或Decode;恰恰是GPU本身的通用性,让它更像一套乐高积木。“不管业务、算法出现什么新变化,都可以快速适配、灵活组合。”

天数智芯AI与加速计算负责人单天逸介绍,天垓300的异构协同思路分三个层次:PD分离之外,还有混合训练与AFD分离。以AFD分离来说,Prefill全流程计算与解码阶段的Attention由天垓300承担,FFN专家网络交给合作厂商的XPU,两类芯片在统一调度下协同,实测Decoding推理延迟下降60%。该方案已经实际跑通,是国内首个基于GPU+XPU的异构部署AFD分离方案。

单天逸说:“未来的AI算力系统,不一定由一种芯片包打天下。”他接着表示,关键在于怎么把这些芯片高效组织起来,让整个系统释放更大价值;公司希望以开放的异构计算能力,帮客户把已有的算力资产用足,用更灵活的方式搭出贴合自身业务的计算系统。

副总裁石加圣则从软件角度谈GPGPU的能力来源——软硬件协同设计。他以PD分离为例:这类需求先经负载分析、性能建模和架构权衡,再落到对计算、存储、通信等基础能力的要求上,最终反映进芯片设计,这样形成的硬件能力不会只服务于某一种应用场景。他还指出,硬件架构能力要靠编译器、运行时、算子库和上层框架等软件环节接起来,才能持续变成客户应用中的性能与使用体验。

业务需求把算力推向分层

从上述第三方实测看,天垓300在真实业务中的测试水平说明,国产GPU正迈入新阶段:不再只解决“能不能用”,而是比实际产出、运行效率和经济价值。

天数智芯把这个阶段叫作高质量算力,特点是“高效率、可预期、可持续”——同样的投入能换来多少有效结果,长时间运行稳不稳,面对不同模型、业务和部署方式能不能持续顶用。

据公司方面透露,天垓300已经形成从加速卡、一机8卡服务器到超节点的完整系统方案。其中天垓300 IXL144超节点方案在今年工博会上亮相,单个标准机柜集成144颗GPU、聚合约10.1TB显存,是当前业界密度最高的单机柜GPU超节点;据测算,每百万有效Token成本比国际主流方案低约40%。

苏廉节表示,市场对类GPU的需求还没有到井喷式增长的阶段,天数智芯目前的表现中规中矩。要保住竞争力,生态还得继续做,争取多点开花。“光是聚焦在大型数据中心的训推场景,恐怕机会有限。”

这次活动上,天数智芯展示了云端高效生产智能和软件加速适配,还专门讲了端侧产品布局(即彤央系列),并提出算力分层理念。公司方面认为,物理世界的数据量在持续增长,感知、规划与执行都要毫秒级响应;合同、科研等涉及数据安全的任务,又要求算力“贴着数据跑”。业务需求决定了算力必须分层。

天数智芯彤央产品市场负责人宋远盈说:“云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。”据他介绍,彤央以“一套生态、两种形态、五款产品”覆盖从客户自主集成到即用型部署的需求;“把云的能力折叠进方寸之间”,也让客户的边端投入具备长期延续性。

其中,彤央TY1200端侧算力终端标称300 TOPS稠密算力,没有采用行业惯用的稀疏峰值口径;在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能为英伟达Thor T5000的1.2倍。Thor T5000是英伟达目前性能最强的边端产品。

具身智能芯片还在摸索阶段

天数智芯端侧这次还把近期英伟达GTC柏林大会上走红的机器鸭MicroDuck带到了现场,虽是“同款”,却是手搓版。

英伟达的做法是把训练放在云端,策略再回传本地;天数智芯走的是另一条路——仿真训练、仿真验证、实物部署,三件事都在一台TY1200里跑完。

TY1200相当于MicroDuck这只机器鸭的“大脑”。天数智芯方面称,本次展示是TY1200首次在国产端侧产品上跑通基于MuJoCo-Warp的GPU加速物理仿真;在世界模型Cosmos-R2-2B与Cosmos-R2-8B的本地运行测试里,TY1200实测性能分别达到Thor T5000的158%和180%。

物理AI场景的具身智能端侧芯片,眼下正被国内外算力芯片厂商当作新方向。天数智芯副总裁郭为表示:“具身智能不仅需要足够的算力,还要考虑能效和实时性。尤其是在真实环境中,机器人需要及时感知、决策和执行,这与很多传统计算场景不一样。目前大家都在围绕这些方向定义下一代芯片,行业还处于探索阶段。”

据透露,TY1200已经在储能电芯研究、应急视觉识别、陪诊机器人等实际任务中落地。以储能电芯研究为例,该芯片支持科研智能体自动采集和治理实验数据,报告生成只需2分钟。天数智芯方面还表示,下一代端侧产品彤央TY2000即将推出,标称算力可达600T。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关 AI 工具

AI 导航
腾讯混元大模型 腾讯混元大模型由腾讯全链路自研,在文本和多模态模型性能方面表现卓越,处于业界领先水平。其混元 API 整合了… 大模型与开发平台 · tencent.com 快手可图大模型Kolors 可图大模型(Kolors)是快手大模型团队自研打造的文生图AI大模型,能够根据用户的文字输入生成风格多样、画… AI 绘画生图 · kuaishou.com 盘古大模型 华为盘古ai大模型官网入口,1100亿密集参数,40TB海量数据精细训练而成 简介 盘古NLP大模型是一项基… 大模型与开发平台 · huaweicloud.com Rain AI 我们的人造大脑将使先进的人工智能无处不在,成为人工智能时代万亿美元产业的构建平台,并最终为完全自主的 AGI… 硬件与机器人 · rain.ai AI Photo AI-Photo是一款人工智能护照照片制作软件,可以在几秒钟内生成符合要求的护照照片。它省去了用户访问照相馆… AI 绘画生图 · ixeau.com CortexGPT CortexGPT是一款用于人工智能驱动的认知增强和即时信息获取的脑芯片 聊天对话 · cortexgpt.net BlueLM蓝心大模型 蓝心大模型官网,vivolm,vivo自研的通用大模型 简介 蓝心大模型(BlueLM ),强大的语言理解能… 聊天对话 · vivo.com 云知声山海大模型 云知声山海大模型是一个多功能、跨领域的智能大模型,它通过集成丰富的知识库和先进的自然语言处理技术,为用户提供… 大模型与开发平台 · unisound.com

相关推荐 按相关度与热度排序

全部资讯 →
  1. Normal Computing:把GPU噪声变算力,AI能省多少电?

    (本文作者为 尚莞迪Lydia,钛媒体经授权发布)文|尚莞迪一块GPU为了「不出错」付出的代价,远比大多数人想象的高。传统GPU需要消耗大量能量来保证计算的准确性,而运行在上面的AI模型,却常常需要随机性:扩散模型从噪声中生成图像,大语言模型通过概率采样生成文本。Normal Computing创始人Faris Sba

    来源 腾讯网
  2. Anthropic靠记录律师工作流程训练模型,中国数据供应商已出现数十家

    蒸完人类上下几千年的数据之后,大模型开始 “蒸人”。文丨高洪浩 陈佳惠编辑丨高洪浩 黄俊杰成都中和与天津侯台都是城郊结合处的老村镇。一群人在这里为大型互联网公司训练大模型,大多月薪不足 1 万元。他们每天从阅读大模型生成的答案开始:核对事实,检查有没有答非所问,打分、比较优劣,有时还要亲手写一份示范。做完一条,再看下一

    来源 腾讯网
  3. 印度MeitY:24个月自研GPU,1.275万亿卢比计划铺路

    【TechWeb】11月6日消息,据印度科技媒体ETGovernment报道,印度电子和信息技术部(MeitY)秘书长S. Krishnan在接受专访时表示,根据“印度半导体使命2.0”(India Semiconductor Mission 2.0),印度政府计划支持本土GPU芯片研发,并预计这项工作需要约24个月。

    来源 腾讯网
  4. 印度拟24个月自研GPU:ISM 2.0覆盖设计到制造

    印度在ISM 2.0下瞄准本土GPU,正是对这一结构性约束的回应。与此同时,印度当前的AI算力供给仍然高度依赖进口。IndiaAI Mission的共享算力池在2026年6月达到超过45,000块GPU,面向研究人员和初创企业提供补贴性算力接入。但据印度媒体报道,截至2026年10月,该任务实际可用的GPU约为30,0

    来源 TechWeb
  5. 印度GPU自研计划:24个月目标与1.275万亿卢比预算

    印度在ISM 2.0下瞄准本土GPU,正是对这一结构性约束的回应。与此同时,印度当前的AI算力供给仍然高度依赖进口。IndiaAI Mission的共享算力池在2026年6月达到超过45,000块GPU,面向研究人员和初创企业提供补贴性算力接入。但据印度媒体报道,截至2026年10月,该任务实际可用的GPU约为30,0

    来源 TechWeb
  6. 印度要自研GPU:24个月目标,预算1.275万亿卢比

    【TechWeb】11月6日消息,据印度科技媒体ETGovernment报道,印度电子和信息技术部(MeitY)秘书长S. Krishnan在接受专访时表示,根据“印度半导体使命2.0”(India Semiconductor Mission 2.0),印度政府计划支持本土GPU芯片研发,并预计这项工作需要约24个月。

    来源 AI 行业观察
  7. 源杰科技加码55.19亿产能,拟直接对接AI终端客户

    记者丨凌晨 编辑|郑世凤,张程一家陕西光芯片企业,正在尝试改变自己在全球AI产业链中的位置。日前,源杰科技(688498.SH)披露三季报业绩交流会记录。值得一提的是,面对关于客户突破情况的提问,该公司表示,随着越来越多光模块企业采用硅光方案,客户结构将更加多元化,终端客户未来也可能成为直接客户。过去,源杰科技...

    来源 腾讯网
  8. 复旦团队用9个量子自旋做储层计算,天气预报误差明显下降

    设置星标★关注,从此你的世界多点科学~近两年,人工智能最吸人眼球的突破几乎都来自大模型。人们很容易因此形成一种印象:AI想要更强,就得依赖更大的模型、更多的数据和更强的算力。但这并不是唯一的方向。对于某些任务来说,关键未必是把模型做得越来越大,而是找到一种更适合信息处理本身的计算方式。复旦大学李晓鹏团...

    来源 腾讯网
  9. AI写测试自己验:南大新基准揭穿28%合格率真相

    你有没有想过一个很怪的问题:如果让一个学生自己出卷子、自己做题、自己打分,这场考试还有意义吗?这正是现在AI圈子里悄悄发生的事情。大模型写代码越来越厉害,很多公司开始让AI自己给自己写的代码配套测试,用来验证代码对不对。听起来挺美好,一个闭环系统,AI写代码,AI写测试,AI自己验证自己。但问题是,验证这个测...

    来源 腾讯网
  10. 京东物流超脑3.0:亿级包裹路径求解从分钟级降至秒级

    随着“超脑”大模型迭代至 3.0 版本,京东物流进一步提升了供应链全链路的智能决策与协同执行能力。相比 2.0 版本,“超脑”3.0 运作效率更高、系统韧性更强、运营成本更低,亿级包裹端到端最优路径规划的求解时间从分钟级压缩至秒级,推动从仓储到配送全流程的精准执行,让每一件包裹能够更快、更准确地送到消费者手中。 当前,

    来源 AI 行业观察
  11. Harness框架怎么演进:从链、图到代码化

    基于大模型的智能体系统,已经从线性提示词发展到基于图的工作流,近期又演进为可执行代码的 Harness。本文建议对模型输出做校验,并选用能够满足可靠性、速度和成本需求的最简单的方案。

    来源 InfoQ
  12. 灵光2.0权限受限:小红书与Rokid用AI眼镜补上感知短板

    自从Muse走红后,互联网大厂、大模型公司和AI创业者们纷纷快马加鞭端上自家的个人Agent,目前国内市场声量最高的是千问Go、微信小微、灵光2.0和Today AI这些。 最近灵光铺天盖地宣传下来,还真以为中国Muse驾到,阿里、字节通通闪开,结果实测下来拉了裤里。 灵光2.0可以接入日历、闹钟、百度网盘、QQ邮箱等

    来源 AI 行业观察
  13. ChatGPT卷入投毒案:妻子被控借AI策划毒杀丈夫

    据Ars Technica报道,一起诉讼指控一名男子将ChatGPT介绍给妻子后,妻子竟利用这款AI助手策划谋杀亲夫,将有毒物质混入苦涩的能量饮料中实施投毒。案件引发外界对生成式AI被滥用于犯罪的广泛关注,也再次将大模型安全护栏、平台责任与技术伦理推到风口浪尖。目前案件仍在诉讼阶段,事实与责任认定有待司法检验。

    来源 AI 科技快讯
  14. 孛璞半导体完成数亿元B轮融资,华映资本领投

    11月6日,投中网获悉,上海孛璞半导体技术有限公司(简称“孛璞半导体”)已完成数亿元B轮融资,由华映资本领投,凯联资本、东南网架、上海科创集团知识产权基金、舜意投资等跟投。这家长期在硅光产业链上布局的公司,由海归博士邢宇飞与创始团队于2022年在上海共同成立。时至今日,孛璞半导体的业务重点面向高速光互联与光...

    来源 腾讯网
  15. 三星SK海力士美光同台,进博会展出可部署算力系统

    《科创板日报》11月5日讯(记者 陈俊清 王楚凡) 今日(11月5日),第九届中国国际进口博览会在国家会展中心(上海)开幕。本届进博会技术装备展完整覆盖集成电路全产业链上下游,三星、SK海力士、高通、英特尔、AMD、新思等国际龙头悉数到场,构成了半导体展区的核心阵容。从展台陈列看,今年芯片公司很少再把“算力”停留...

    来源 腾讯网
  16. 红米跑iOS 16、Mac跑安卓:AI正让搞机圈重新热闹

    在红米上成功运行iOS 16、在Mac上运行安卓App,这些尝试在最近一两个月突然热闹起来。 前不久,B站UP主@RryanLyu甚至还成功让一加Ace 5运行了鸿蒙6,还修复了GPU驱动,能够正常显示桌面、系统动效和应用小窗。 几乎同时,还有人通过修改底层配置,成功解除了部分英伟达RTX 20、30、40系列显卡的计

    来源 AI 行业观察
  17. 荣耀李健谈AI入口:不争存量,信任自会汇聚

    【TechWeb】荣耀CEO李健在2026移动网络大会发表主题演讲,围绕“以用户为中心,共建入口、共筑信任、共创未来”分享对智能经济时代产业演进的思考。他提出,AI入口之争并非存量零和博弈,行业应以赢得用户信任为导向,开放协同,让入口主权回归用户,共创智能经济新生态。 李健表示,算力、大模型与具身智能深度融合,正在重塑

    来源 AI 行业观察
  18. AI的下一个绝技:听懂海豚说话?

    Wild Dolphin Project创始人Denise Herzing正借助人工智能,分析她四十年来积累的海豚音频与视频素材,试图破解这种高智商海洋哺乳动物的交流密码。这不只是一场技术实验,更可能改写人类与动物沟通的边界——当大模型能与人对话之后,科学家们把目光投向了更远的疆域。

    来源 AI 科技快讯
  19. YC初创设百万美元悬赏,求解AI材料科学五大难题

    成立仅数月的YC初创公司Discovered Materials宣布,设立总额100万美元的悬赏基金,围绕五个尚未解决的材料科学问题,每个解决方案奖励20万美元。该公司用AI寻找芯片材料,希望以开放创新加速材料发现,并验证AI在半导体材料研发中的潜力。这既是科研激励,也是初创公司构建生态、吸引人才与实验合作者的战略动作

    来源 AI 科技快讯
  20. 苹果AI国行定档:千问接入Siri,12月随iOS 27.3上线

    千呼万唤始出来。《投资者网》吴微国行iPhone的AI功能,终于有了落地时间表了。10月31日,苹果宣布Apple Intelligence(苹果智能)即将在中国推出,并与阿里巴巴合作,将千问大模型接入部分苹果智能体验。相关功能将于11月4日起随iOS开发者Beta版开放测试,并计划于12月随iOS 27.3正式面向中

    来源 腾讯网
向下滚动自动加载更多