华瑞指数云再融超亿元:用存储给AI推理降本

资讯 腾讯网 作者:腾讯网 全文 4521 字 · 约 12 分钟读完 分类融资存储算力

AI推理的扩产,是否只能依靠增加GPU?华瑞指数云披露的一项客户联合验证,给出了另一种可能:24张GPU加一个WQS存储节点,实现了与48张GPU方案相当的Token产能。这意味着,改善上下文的保存和调用,可以提高GPU的利用效率,让已有算力承担更多业务,为企业提供了新的算力扩产思路。这一提升算力利用效率的技术新方向,

所属频道 算力与芯片融资与资本

AI推理要扩产,难道只有加GPU这一条路?

华瑞指数云公布的一项客户联合验证给出了另一种答案:24张GPU搭配一个WQS存储节点,跑出了与48张GPU方案相当的效果。

这条提升算力利用效率的新技术路线也引来了资本。华瑞指数云近日宣布完成新一轮超亿元融资,琮碧秋实投资与另一家基金联合领投,某国有产投基金跟投。本轮资金将重点投入AI原生方向。

华瑞指数云的切入点是上下文。它要做的不只是把更多数据存下来,而是让模型已经算完的中间结果保留住、共享出去、能复用,需要时再快速送回GPU。GPU少做重算、少等数据,用户拿到回答的速度会更快,现有GPU也能扛起更多推理任务,单位服务的算力与能耗成本随之下降。

在华瑞指数云联合创始人兼CTO曹羽中看来,推理系统得在满足响应速度的前提下支撑更多业务。他表示:“上下文存得更多、取得更快,最终要体现为更多Token产出和更低的服务成本。”GPU少等数据、多处理任务,才是AI基础设施里的关键位置。

上下文存储正变成AI基础设施的新一层

过去看AI基础设施投入规模,最直观的指标是芯片数量。AI进入推理阶段后,芯片能承接多少任务,除了看数量,还要看上下文处理效率。

推理场景会反复用到历史数据。多轮对话、代码助手、Agent在检索信息、调用工具、执行任务时,上下文不断堆积。应用越往业务流程里走,上下文越多,其中一部分处理过的内容还会被反复取用。

对已经处理过的内容,系统可以把其中可复用的中间计算结果保存下来,存放在缓存里。

问题是,存结果要占地方。GPU显存容量有限、价格不低,还得同时装下模型和活跃推理状态;会话一长、并发请求一多,留给缓存的空间就可能不够,超出单机能承载的范围。

显存不够会带来两种损耗。一是重复计算:缓存被清掉后,后面的请求得把算过的内容再算一遍。二是数据等待:缓存挪到显存外面,取回速度跟不上,GPU又得干等。长上下文、高并发、缓存复用密集的场景里,上下文读写与传输就是决定系统效率的关键瓶颈。光加GPU,并不能自动消掉这两种损耗。

所以存储不能只当推理系统的后台配置,还得支撑实时服务。

产业巨头已经在围绕这一变化调整架构。2026年1月,NVIDIA发布推理上下文存储平台,3月又作了进一步介绍。

言下之意,上下文存储正在成为AI基础设施中一个明确的新层次。

曹羽中抓住了其中的机会。他认为,推理进入各行各业后,存储投入会持续增加,逐步成为需要与算力并重规划的核心投资。“算力决定计算的能力,上下文I/O决定这些能力能否持续、高效地发挥。未来的基础设施建设,需要把两者放到同一个产能账本上。”

为AI推理重做存储,为什么得从底层动手

华瑞指数云看到的机会,是针对AI推理重新设计上下文存储系统。它推出了自研存储系统WQS,让同样的算力撑起更多业务。

一般来说,通用存储、并行文件系统这些现有存储都能保存缓存。

原因还是在于调用环节。

实时推理尤其如此:每次从已有存储里调缓存要花多少时间、占多少资源,直接影响GPU利用率和服务成本。

拿通用系统来说,它要兼顾多种业务,负载需求多样复杂,于是通过分层、抽象和解耦,把数据管理和读写处理拆成不同层次,方便适配各类应用,换来兼容性与灵活性。但这也意味着额外的开销。

推理场景自身的特点,恰好给重做存储系统提供了条件。

它的上下文有着明确的I/O特征。比如数据写入后不再修改,读写的数据量可以预先确定,还能按内容寻址。

推理框架手里还握着大量可用于读写优化的信息:哪些计算结果能复用,哪些缓存块已经写完,哪些数据即将被消费,哪些内容不再值得保留。这些信息如果只留在推理框架里,底层存储收到的仍是一串普通读写请求;把它们传给存储调度,系统就能按实际使用顺序安排读取、预取和回收,减少无效搬运与等待。

于是,华瑞指数云给推理存储系统WQS定下了原生KV这条路线。底子来自华瑞指数云自己研发的分布式存储引擎。

打个比方,这有点像CPU和GPU的分工:通用架构什么活都能接,专用架构则把资源压在某类固定模式上。WQS走的是后一条路——凭明确的访问模式重新排布数据路径,把效率提上去;至于其他类型的数据和业务,仍旧交给通用存储。

曹羽中说,华瑞指数云讲“为AI上下文重新发明存储”,意思有两层:一是用更低的成本存下更多可复用的计算结果,二是把存储服务计算的方式也改掉。优化推理场景的I/O链路,

得把整套系统串起来

光改某一个组件不够,得靠重新设计存储来把GPU利用率抬上去。原因在于,推理框架调度、命中查询、网络传输、存储读写、GPU装载,这几件事是围着同一次上下文调用一起转的。

所以WQS咬住的是全链路设计,加上软硬协同。

这条链上,推理框架管安排计算,也清楚下一步要哪些数据;缓存组件管计算结果的保存、查找和复用;存储引擎管数据放哪、怎么并行读写;网络管传输;

各层若只靠通用接口各干各的,很多调度机会就白白丢了。全链路协同设计则能让数据一边加载一边计算,GPU少等。比如框架提前说清下一步要哪些缓存块,系统趁当前计算还在跑就把读取启动起来。一部分读取时间和计算时间叠在一起,GPU接着用这批数据时,等待就短了一截。缓存能跨节点共享之后,任务也不必非派给存着相关历史状态的那台服务器。

前提是缓存有效性、命中信息和可靠性都有保障。做到这一点,既少算了,集群的调度空间也大了。

这种贯通还在往硬件那头走。

华瑞指数云正跟NVIDIA、AMD、昇腾等算力生态推进协作,也和SSD及新型磁介质厂商一起做协同设计,想把上下文的访问顺序、生命周期和时延需求进一步用到介质优化上。现有原生KV路径、全局共享和

接入这一层,WQS给出可共享的KV存储层,与

“推理框架知道接下来要用什么数据,介质也有自己的并行能力。”曹羽中说,“我们的工作,是让这些信息在整条链路上发挥作用,而不是在每一层都重新猜一次。”这么一来,各环节衔接处的等待少了,整套系统的推理效率也就上去了。性能翻倍,在客户的产能账本上体现

软硬协同和全链路优化到底能换来什么,最后得看同一份算力在满足响应要求的前提下,能不能撑起更多业务。

对Token工厂、模型API服务商和算力平台来说,首Token时延(

华瑞指数云披露的某大型Token工厂验证里,WQS用独立存储节点部署,把可复用

这个结果给扩产多开了一条路:企业可以拿加GPU和加上下文存储的效果比一比,按实际瓶颈分预算。要是少用些GPU就能达到既定服务目标,那除了设备采购,机柜、电力、散热这几项支出也可能省下来。对客户而言,新增存储、网络和运维成本都得算进去,最终收益才算得准,但决策依据已经变了——从“加多少卡”变成“怎样拿到同样或更多的产能”。

对想用好手头设备的企业,WQS还能走纯软件融合部署。某大型企业的联合验证中,WQS以纯软件方式和现有推理节点融合部署,把内存和SSD资源汇起来建共享KV Cache,不用添新硬件,首Token时延降低80%,Token吞吐量提升超过3倍。手里有自建推理系统的客户,可以先看看存量设备还剩多少优化空间,再定怎么扩容。

两个案例,摆出的是上下文存储改善推理产能的两条不同部署路子。

客户不同、项目不同,华瑞指数云会结合模型、上下文长度、并发和缓存命中情况,算一算减少重算与数据搬运能带来多少端到端收益,让客户拿实际业务去检验ROI。

这些项目攒下来,华瑞指数云对不同客户业务上的侧重也摸得清:Token服务商盯的是满足服务要求前提下的单位Token成本;算力平台和智算中心盯的是现有资源能多服务多少;金融这类自建模型的企业,则希望有限预算撑起更多员工和业务。六年底层研发+生产交付,铸造核心壁垒

这些性能表现背后,靠的是底层存储能力。华瑞指数云自研的这套引擎,是支撑前述提升的基础。

2020年华瑞指数云成立时,底层引擎的研发就已经同步启动。

曹羽中认为,从零自研底层引擎的好处,在新需求冒出来的时候格外突出。AI推理对读写提出了新要求,团队能直接改引擎、改数据结构、改I/O路径,不用围着现有产品在外面加适配层。WQS能走原生KV架构,靠的正是这个底子,而不是在通用文件存储上叠一层缓存接口。

这套底层能力此前也在公开评测中亮过相。2023年,基于相关技术……

两项评测分别针对企业级存储和AI存储负载的读写性能,团队后来开发推理专用系统时,把这些结果当作参照。

性能之外,华瑞指数云的另一道壁垒来自长期的生产交付实践。公司介绍,除WQS以外的块存储、文件存储等产品,已部署在200余家客户的核心生产环境中,涉及金融、半导体、量化交易、自动驾驶和先进制造等行业。长年跑在生产一线,促使团队不断打磨故障恢复、数据保护、兼容适配和运维机制。

曹羽中的说法是:“做存储系统能够跑通I/O、跑出结果,可能只是做完了30分。”剩下的部分,得在高并发、硬件故障、网络异常和长期运行中一点点补。并发压力上来、网络出状况时,系统稳不稳;某个节点出故障,服务怎么恢复;框架和模型升级之后,原有部署还能不能正常跑——这些都要靠长时间运行来检验和解决。

AI推理逐渐渗入企业核心业务,这些积累就成了WQS进入客户业务的重要铺垫,也构成了华瑞指数云的核心工程壁垒。从头部验证走向标准化在新一轮AI Infra架构选择中脱颖而出

眼下,越来越多企业的业务环节会用到多轮对话、长上下文和Agent应用。应用铺得越广,推理就要持续服务更分散的企业和用户。

WQS盯住的正是这批想提升推理效率的客户,例如模型API平台、Token工厂、智算中心和企业自建系统。它们的部署规模和硬件组合各不相同,但都要面对上下文增长、都要压住服务成本。对上下文存储来说,机会既在新增集群,也在存量系统的改造升级。

曹羽中判断,这个市场的增长空间不只是多卖几套SSD存储系统,而是参与推理系统的架构选择。上下文怎么留存、怎么共享,算力和存储怎么配,会慢慢进入客户的常规建设规划。

所以,在推理系统的总体设计和端到端性能优化中,WQS会作为一个独立产品存在,一次次联合验证也要变成可复制的部署与交付。

华瑞指数云判断,未来12至18个月是AI推理上下文KV Cache层方案与产品选型的关键窗口,公司想抓住这段时间,让更多项目从验证走到可复制的标准化交付。

公司披露的数据显示,2026年上半年华瑞指数云的合同额同比增长150%。WQS这边,华瑞指数云正与多家头部大模型及Token服务厂商、头部金融企业和自建推理系统的行业客户推进合作,相关项目正在进入生产级。

本轮融资将用于继续研发、部署适配和客户服务体系建设,推动WQS走向规模化交付。

“我们希望把WQS做成……”

AI推理变成各行各业日常使用的服务之后,上下文存储的需求也有望随业务规模一起扩大。华瑞指数云想争的,就是这个新的基础设施位置:用规模交付的AI原生存储,服务越来越大的算力投入,把算力生产效率和推理产能做到极致。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. CataX AI获4000万种子轮融资,用Agent推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  2. 华强北35元AI眼镜截胡90亿融资赛道:退货率最高50%

    有人说,下一个超越手机的智能产品,一定是AI眼镜。截至10月,国内AR/AI眼镜全产业链公开披露融资约90亿元。2026年上半年,中国AI眼镜全渠道卖出90.9万台,销售额18.8亿元。可就在全行业狂欢的时候,华强北的强大生产供应链介入,几十元的AI眼镜冲入市场。行业的退货率瞬间飙升到40%到50%,AI眼镜的想象力,

    来源 腾讯网
  3. Bharat Semi种子轮融资2400万美元:AI传感器商业化提速

    印度芯片初创Bharat Semi宣布完成2400万美元种子轮融资,计划加速其AI传感器技术商业化并拓展全球市场。公司称已在包括General Atomics在内的客户处取得设计中标,意味着产品进入客户设计周期。本文梳理融资信号、AI传感器市场趋势,以及印度半导体生态的机遇与挑战。

    来源 AI 科技快讯
  4. 英伟达7500亿美元融资网:输血初创换GPU采购?

    《华尔街日报》2026年11月13日调查报道指控英伟达通过向AI初创公司注资、要求其用所得资金购买GPU的方式人为制造芯片需求,布隆博格随后绘制的融资网络规模已超过7500亿美元。英伟达内部,CFO克雷斯(现任代理CEO)曾在8月高管会议上力阻该策略,遭黄仁勋以"鹿入车灯"之语驳斥。该调查触及大模型军备竞赛最脆弱的基础

    来源 AI 行业观察
  5. 黄仁勋与英伟达深度绑定:AI行业会否被一家公司拖累?

    TechCrunch文章抛出一个尖锐问题:如果黄仁勋和英伟达遭遇坏消息,是否意味着整个AI行业也将承压?摘要指出,Jensen几乎等同英伟达,而当前AI经济高度依赖英伟达。本文围绕这一判断,分析英伟达在AI算力、资本市场与产业信心中的枢纽角色,并讨论风险集中可能带来的连锁反应。

    来源 AI 科技快讯
  6. Anthropic启动644亿美元IPO路演:Amodei坦言算力是最大商业风险

    Anthropic于2026年11月10日启动IPO路演,计划11月19日登陆纳斯达克,募资规模高达644亿美元,估值1.4万亿美元,路演第三天已达6倍超购。CEO Dario Amodei在与摩根大通CEO Jamie Dimon的公开对话中罕见坦承,算力采购是公司面临的"最深的商业难题"。S-1文件披露公司长期算力

    来源 AI 行业观察
  7. Anthropic启动IPO路演:6倍超购背后,算力承诺8954亿美元

    Anthropic于2026年11月10日启动IPO路演,计划11月19日登陆纳斯达克,募资规模高达644亿美元,估值1.4万亿美元,路演第三天已达6倍超购。CEO Dario Amodei在与摩根大通CEO Jamie Dimon的公开对话中罕见坦承,算力采购是公司面临的"最深的商业难题"。S-1文件披露公司长期算力

    来源 AI 科技快讯
  8. 中国AI4LS前10个月融资:35亿美元、124起,65%投向早期

    34.91亿美元,是前10个月中国AI for Science(AI4S)在生命科学方向(AI4LS)拿到的融资。 58.33亿美元,这是今年前10个月全球AI4LS领域TOP10融资的总额。 钱从上游的算力设施,流到中游的模型与平台,再落到下游的垂直场景应用——一条完整的产业链,在10个月内一次性铺开。 钱的流向代表

    来源 AI 行业观察
  9. Opus 5.5自主搭建AI算力底座:CMU新论文称人类基线失守

    新智元报道 短短一周内,黄仁勋从英伟达几乎「净身出户」,消息被疯狂刷屏。当人们还在吃瓜时,卡内基梅隆大学(CMU)刚刚发布的一篇新论文,炸懵了所有的AI工程师。核心结论只有一句话:超级智能已经学会了自主构建并优化算力底座,或已具备通往奇点所需的技能。需要注意的是,这里的奇点更多说的是「递归自我改进」:奇点...

    来源 腾讯网
  10. CataX AI拿下种子轮:启明创投独家押注AI原生药企

    AI制药的战场,正从分子转向临床。投资界获悉,CataX AI近日已完成种子轮融资,启明创投独 家投资。与此前聚焦药物发现的AI制药公司不同,这家成立仅4个月的AI原生Biotech不做靶点与分子发现,而是借助Agent加速新药的早期临床开发。身后创始人王子龙,90后,高一时,他便凭全国生物联赛一等奖获得保送资格,高中

    来源 腾讯网
  11. 河南最大算力IPO,过会!年入582亿

    智东西11月13日报道,昨晚,国产服务器龙头超聚变通过深交所上市委会议审议,即将登陆创业板。此次IPO,超聚变拟募资80亿元,有望成为今年创业板最大IPO。

    来源 智东西
  12. 奥睿科 FlashMem FM9800 固态硬盘发布:配 pSLC AI Cache 区域

    IT之家 11 月 16 日消息,ORICO(奥睿科)本月 13 日宣布推出 FlashMem FM9800 固态硬盘。这一型号基于 3D TLC NAND,部分闪存配置为 pSLC 模式,形成 AI Cache 区域,两部分采用独立的磨损策略与读写调度机制。 FlashMem FM9800 采用 M.2 2280 外

    来源 AI 行业观察
  13. 黄仁勋离场,英伟达5000亿美元AI融资机器何去何从

    黄仁勋骤然离场,令英伟达这台以股权投资、担保和回购构建的逾5000亿美元AI循环融资机器失去操盘手。高盛、瑞银警告,其每季度自由现金流中大量资金循环输送回客户与供应商,即便暂时暂停,也可能抽走500亿美元以上资金,相当于触发“AI量化紧缩”,新兴云服务商信用链条首当其冲。

    来源 华尔街见闻
  14. AI牛市见顶信号:高盛预警2027年、Burry翻倍做空纳指

    最近AI赛道的多空信号扎堆释放,让市场的担忧气氛都浓厚了不少。 高盛最近发布2027年全球市场展望报告,提示AI资本开支的加速浪潮大概率在2027年初见顶,行情会从单边上行转向双向震荡,建议增加分散配置与对冲; 美联储在最新金融稳定报告中也明确点名了人工智能,警告其对资产估值和金融稳定构成潜在威胁。 而知名空头Mich

    来源 AI 行业观察
  15. 黄仁勋离开英伟达:AI算力底座换帅,订单与担保还能靠得住吗

    “随便吧(whatever)”。“我不在乎了(I don't care)”。 最后时刻,英伟达CEO黄仁勋极度疲惫。那个向来精力无限、替AI签字的人,那个曾经连供应商产能、客户融资和政策都要亲自过问的人,在最后时刻无所谓了。 过去三年,他替英伟达和AI行业解释技术路线,替上下游确认扩产信心,也替许多公司把未来需求变成今

    来源 AI 行业观察
  16. AI基建股4.2万亿美元蒸发:卖铲盛宴要散场?

    6月以来,卡特彼勒跌44%、Oklo暴跌49%。分析师直指根源:投资者将传统工业股当成长股炒作,估值严重虚高。此次抛售的另一重要背景,是美国中期选举后数据中心监管政策走向的不明朗。基本面仍具韧性——卡特彼勒积压订单达780亿美元,多家企业营收增长已锁定至2027年。

    来源 华尔街见闻
  17. 黄仁勋卸任、RTX 60延期,消费级显卡真被AI挤到边缘了?

    最近科技圈里最大的瓜就是黄仁勋的离职风波了,英伟达临时换帅,引发了巨大震动。以游戏显卡起家的英伟达,如今在AI芯片领域拥有了绝对的统治权。英伟达的业务板块里,绝大部分资源都分配给了算力卡,留给消费级显卡的并不多。

    来源 36氪
  18. 考克森离职Anthropic内幕:IPO路演一张图成导火索?

    IT之家 11 月 14 日消息,曾任职于 OpenAI 和 Anthropic、因公开警告 AI 风险而受到广泛关注的研究员雅各布 · 考克森称,Anthropic 在 IPO 路演中展示的一张幻灯片,是促使他离职的重要原因。考克森在 Anthropic 只工作了约四个月。让他决定离职的原因之一,是公司 IPO 路演

    来源 腾讯网
  19. ORICO FM9800 AI SSD:本地推理缓存分层怎么落地

    过去,SSD在个人电脑中的主要任务相对清晰:安装系统、存放应用和文件,并通过更高的读写速度改善响应与传输体验。但随着本地大模型、AI PC和Agent应用发展,存储的角色开始出现变化。本地AI除了

    来源 快科技
  20. Fractile融资7亿美元:目标把AI推理速度提到100倍

    AI的推理计算将在未来几年内成为AI最重要的计算需求,已经逐渐成为共识。 推理计算,拆解开来有两个重要维度,成本和时间。 其中提升推理速度带来的好处,在AI逐渐Agent化的时代,重要性凸显。 具体来说,在相同成本下提升推理速度,能让那些耗时长、推理强度高的Agent任务在更短时间内完成,从而提高整个系统的效率。 Fr

    来源 AI 行业观察
  21. 微软78兆瓦数据中心遭抗议:16国行动与41项公投背后

    欧洲多地抗议与美国地方选举结果显示,数据中心扩张正遭遇越来越强的社会阻力。电价上涨、持续噪音、房价承压及就业收益有限,引发居民不满;与此同时,电网接入滞后、设备短缺和融资压力也令开发商面临成本与违约风险。尽管审批趋严,AI算力需求仍推动行业持续扩张。

    来源 华尔街见闻
向下滚动自动加载更多