当“Token工厂”进入国芯时代:大模型商业化竞争悄然移向芯片

资讯 腾讯网 作者:环球网 全文 1342 字 · 约 4 分钟读完 分类芯片大模型

【环球网科技综合报道】“建一座能赚钱、扛得住大流量的 Token 工厂,绝不是买来算力卡插上电就万事大吉。” 清昴智能创始人兼 CEO 关超宇说道。在他看来,早年铺下去的 A100、H20 及更早期国产卡并非面向混合专家架构与百万上下文设计,硬件上限本就有限。更普遍的问题出在软件栈:Agent 长上下文场景下,Pref

所属频道 模型发布算力与芯片

【环球网科技综合报道】“建一座能赚钱、扛得住大流量的 Token 工厂,绝不是买来算力卡插上电就万事大吉。” 清昴智能创始人兼 CEO 关超宇说道。

在他看来,早年铺下去的

更现实的挑战,是模型按周迭代与二十余家芯片之间的落差。各家微架构与底层指令集互不兼容。

由北京智源人工智能研究院牵头、已开源四年的统一系统软件栈 FlagOS,成为填补这一生态断层的关键,也是清昴等商业团队的底层选择。

从清昴这类一线 Token 工厂的视角来看,迭代至 2.2 版本的 FlagOS 承接了最繁重、最容易重复消耗人力的底层工作。这套开源底座基于

开源软件栈如何提升产线算法上限

一线商业团队将 FlagOS 接入业务流水线,带来的改变不仅是省下工期,更直接提升了商业公司核心优化算法的工程上限。但让 AI 自己去优化硬件,在工程上存在一道隐形门槛。

关超宇提到这个核心难点:“要让 AI 学会优化 AI,前提是算法必须先看懂基础设施长什么样,知道底层有哪些硬件细节和边界条件需要注意。 如果直接把底层的裸硬件指令空间暴露给自动调优算法,虽然表面上灵活性最大,但这个搜索空间会变得极其‘稀疏’,算法在参数空间中稍有偏差,就会触发硬件报错或性能下降,很难搜索出稳健的可用方案。”

而 FlagOS 提供的标准化编译器、

即便面向未来完全由 AI 自主生成算子的演进趋势,这套公共底座也不会被边缘化,其作为工程支点的价值愈发凸显。正如关超宇所判断的,任何自我进化的优化系统要稳定、高效运行,都必须建立在完善的观测体系、衡量基准和基础工具链之上,没有哪一套单一系统能够从零完成所有的底层环节。未来的 FlagOS 编译器与算子库本身,也会持续吸纳这种自动迭代的思路向前演进。

另一方面,FlagOS 在开源形态上保持了克制。

过去不少基础软件开源项目追求“大而全”,试图把所有逻辑收进一个封闭完整的单体系统里,商业团队采用后往往被整套框架绑定,丧失面向客户定制的灵活性,遇到线上真实流量波动也难以调整。FlagOS 提供了一套完整可用的参考系统,同时把 FlagTree 编译器、

商业交付遭遇性能卡点,联合调优实现国芯突破

理论架构最终都要接受真实企业机房的检验。清昴等团队将国芯 Token 工厂推向一线交付时,遇到了具体的性能问题。一方面,行业客户要求在新一代旗舰集群

面对这些影响商业落地的痛点,硬件底座本身已具备条件——无论是昇腾 910C 内部

工厂侧团队联合开源社区,基于 FlagOS 底座开展“底层基建 + 业务深改”的联合调优,避免了重写底层栈的高昂代价。

在这一过程中,分工较为清晰。FlagOS 底座负责打通基础算子与编译链路。针对 GLM-5.3-Flash 的

联合调优取得了实际效果。在清昴的昇腾 910C 商业产线实测中,仅 Decode 阶段的优化就将字间延迟降低 10% 以上,每输出 Token 时间降低 8% 以上;叠加全链路业务调优后,GLM-5.3-Flash 在昇腾 910C 上的整体输出速度从二十多

这种依托底座的方案并不局限于单一芯片。在

通用软件栈在守住甚至提升性能的同时,让 Token 工厂具备了横跨多元硬件、平滑迁移交付的能力。(古雨)

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 微软Maia 200芯片投产:每瓦token性能提升1.7倍,已部署美欧澳

    IT之家 11 月 18 日消息,昨日(11 月 17 日)召开的 Ignite 2026 活动中,微软宣布旗下第二代自研人工智能加速器 Maia 200 现已正式投入规模化生产,并开始在数据中心运行微软最大规模的前沿 AI 大模型。与“领先 GPU 基础设施”相比,该加速器在 Microsoft Teams、Copi

    来源 腾讯网
  2. AMD,收购一家把大模型“焊”进芯片的创企

    芯东西(公众号:aichip001)作者 | 崔嫄伟编辑 | 陈骏达芯东西11月18日报道,昨日,AMD宣布完成收购加拿大AI推理芯片公司Taalas。AMD计划将Taalas的技术整合到其加速器路线图中,并围绕AMD Instinct GPU共同开发系统级解决方案,同时与其更广泛的产品组合形成协同,包括AMD EPY

    来源 腾讯网
  3. 微软Maia 200量产:台积电3纳米,每瓦token量最高提升1.7倍

    在昨日(11 月 17 日)的 Ignite 2026 活动上,微软宣布第二代自研 AI 加速器 Maia 200 已正式投入规模化生产,并开始在数据中心里撑起微软最大规模的前沿 AI 大模型。这款芯片最硬的成绩单,是每瓦 token 处理量:与“领先 GPU 基础设施”相比,在 Microsoft

    来源 AI 开发者社区
  4. 北科天弓天芯获数千万元种子轮融资:二维半导体从材料走向晶圆

    作者 | 邱晓芬 编辑 | 袁斯来 硬氪获悉,二维半导体公司北科天弓天芯(北京)科技有限公司(以下简称「天弓天芯」)近日完成数千万元种子轮融资,由中科创星、英诺基金出资。本轮资金将主要用于团队建设、晶圆生产能力建设及技术成果转化。 「天弓天芯」成立于2026年5月,是北京科技大学张跃院士团队的科技成果转化项目,专...

    来源 腾讯网
  5. TOTO、味之素、花王:这些"超市品牌"正给全球AI芯片供货

    近日,TOTO宣布在福冈县丰前市新建一座半导体制造装置核心部件的量产工厂,投资约600亿日元,加上大分县中津市两座工厂约110亿日元的设备投资,合计约710亿日元。 是不是很惊讶,怎么印象里做马桶的巨头TOTO怎么也开始跨界进军半导体了,可如果你在2026年的东京证券交易所随便扫一眼涨幅榜,会产生一种强烈的错觉:AI算

    来源 AI 行业观察
  6. 蚂蚁灵波开源触觉模型LingBot-Touch:不做本体,通用底座值多少钱?

    (本文作者为 AIX财经,钛媒体经授权发布)文 | AIX财经,作者 | 王璐,编辑 | 魏佳具身智能赛道已经从大脑卷到了手指尖。11月10日,蚂蚁集团旗下的蚂蚁灵波科技(以下简称蚂蚁灵波)发布并开源触觉基础模型LingBot-Touch。它能将不同信号转化为同一套触觉表征,让机器人积累的“手感”在不同传感器、灵巧手、

    来源 腾讯网
  7. 字节跳动马来西亚买GPU的4.8亿美元贷款被叫停,发生了什么?

    据报道,在美国出口管制新规生效后,字节跳动一笔原本用于在马来西亚采购英伟达GPU的4.8亿美元贷款突然被叫停。有知情人士消息称,评估该交易的至少五家银行已内部讨论退出或不参与,部分银行人士私下判断,这笔贷款“实际上已经死亡”。

    来源 TechWeb
  8. MN-Core L2000:PFN联手三星SEMIFIVE,目标内存带宽翻倍

    IT之家 11 月 17 日消息,日本人工智能初创企业 Preferred Networks (PFN) 当地时间今日宣布,其在 AI 推理加速器 MN-Core L2000 上将延续与芯片设计服务企业 SEMIFIVE、芯片合同制造服务商三星电子的合作,继续打造垂直堆叠逻辑芯片与 DRAM 内存的产品。 PFN 的

    来源 AI 行业观察
  9. 英伟达已停止向中国供应H200人工智能芯片

    【TechWeb】11月18日消息,据外媒报道,当地时间11月17日,英伟达临时首席执行官科莱特·克雷斯在接受媒体采访时表示,英伟达已不再向中国供应用于人工智能系统的H200芯片。 她表示,英伟达在中国市场的业务约占公司总业务量的10%,主要涉及游戏、汽车和工作站业务。“我们此前曾表示,只有获得出口许可证的H200芯片

    来源 AI 行业观察
  10. 浑水宣布做空英伟达,指控黄仁勋之外的高管

    (文/王一 编辑/吕栋)在英伟达深陷黄仁勋风波之际,美国知名做空机构浑水研究(Muddy Waters Research)公开宣布做空英伟达。当地时间11月17日,浑水发布了一份长达12页的做空报告。报告没有直接质疑英伟达的营收、利润率或人工智能(AI)芯片需求,而是将重点放在英伟达前高管阿贾伊·普里(Ajay Pur

    来源 腾讯网
  11. 中芯国际,逼近全球第二

    中芯国际,离全球晶圆代工第二名越来越近了。 这家公司刚交出一份亮眼的三季报:前三季度营收606.18亿元,同比增长22.43%;归母净利润73.14亿元,同比大增91.57%,毛利率创下近四年同期新高。 但比利润增长更值得关注的,是中芯国际与三星之间越来越小的差距。 今年第二季度,三星代工的全球市场份额为5.9%,中芯

    来源 AI 行业观察
  12. 李彦宏APEC中英文两场对话:AI价值最终在应用层

    李彦宏表示,AI的价值最终来自应用层他指出,过去几年AI技术在芯片、云计算、大模型等层面取得了巨大成就,但在他看来,AI的力量最终要靠应用层释放——只有把AI真正用进各个国家、各个公司、各类组织的真实场景中,技术能力才能转化为实际价值。

    来源 TechWeb
  13. 李彦宏APEC谈AI:价值在应用层,最紧迫是找到合适场景

    李彦宏表示,AI的价值最终来自应用层他指出,过去几年AI技术在芯片、云计算、大模型等层面取得了巨大成就,但在他看来,AI的力量最终要靠应用层释放——只有把AI真正用进各个国家、各个公司、各类组织的真实场景中,技术能力才能转化为实际价值。

    来源 TechWeb
  14. 张朝阳再谈搜狐不碰大模型:平台暂不挣钱,不等于没做事

    11月18日,据《光明日报》消息,搜狐张朝阳再次回应搜狐“躺平”相关话题。如果中国互联网有“初代选手”名单,搜狐一定在列。1998年,搜狐靠做导航起家,一举成名;后来做门户、孵化搜狗、做搜狐视频、做畅游游戏,不少产品一度家喻户晓。AI浪潮的当下,外界却说搜狐“躺平”了。对此,张朝阳表示,当年自己有了创立搜狐的...

    来源 腾讯网
  15. 黄仁勋辞任英伟达CEO:国产GPU放量,寒武纪净赚37亿

    华人科技商业界领袖、执掌英伟达33年、推动其成为全球市值第一大公司的黄仁勋,因突发事件辞去了总裁、首席执行官及董事职务。 在英伟达官方网站,黄仁勋已被移除管理层序列,和克里斯·马拉科夫斯基一同被放到了“创始人”一栏中。甚至在X平台上,他的蓝V认证、CEO头衔也都消失了。 由黄仁勋把控这家全球AI算力霸主的时代,已经在实

    来源 AI 行业观察
  16. 对话蚂蚁灵波科技CEO朱兴:具身智能规模红利兑现时刻尚未到来,具身基模长期或仅剩3至5家

    过去,大模型主要活跃于数字世界,完成文本生成、信息检索、方案推演;如今,具身智能逐步走出仿真环境,机器人开始在工厂、物流场景承担分拣、拆垛、物料搬运等实体作业,具身商业化试点加速落地。但技术快速发展的同时,跨硬件适配难、行业标准缺失等痛点凸显。赛道未来会形成怎样的竞争格局?参与者又该如何寻找生存位置...

    来源 腾讯网
向下滚动自动加载更多