群联发布AI企业级SSD:内置NPU与64GB内存,盘上直跑AI模型
IT之家 11 月 22 日消息,据科技媒体 Tom's Hardware 昨天报道,群联在 SC26 大会中展示两款企业级固态硬盘,专为 AI 场景设计。其中一款甚至带有 NPU 和 64GB 内存,可以直接运行 AI 模型。 IT之家从原报道获悉,其中一款产品 SSD 内置 NPU(神经网络引擎)、64GB 内存,
据科技媒体 Tom's Hardware 11月22日报道,群联在 SC26 大会上展出两款面向 AI 场景设计的企业级固态硬盘。其中一款自带 NPU 和 64GB 内存,能直接在盘上运行 AI 模型。

从原报道看,这款产品在 SSD 内部集成了 NPU(神经网络引擎)和 64GB 内存,带宽为 130GB/s,PyTorch、vLLM、OpenVINO、llama.cpp 这类 AI 框架与推理工具可以直接在硬盘上跑起来。
它的思路是把一部分计算从服务器挪到 SSD 上:数据存在哪里就在哪里处理,主机拿到的只是结果,整个数据集不必来回搬运。
群联方面表示,在特定工作负载下,这一方案能把数据传输量压到原来的 1/10 至 1/100,主机 CPU 的负担也随之减轻。
另一款产品走的是 Mixed Media 混合介质路线,同一块 SSD 里同时放了高耐久 pSLC 缓存和大容量 QLC 闪存,由一颗 16 通道主控统一调度。
具体做法是让部分 QLC 闪存切到 SLC 模式工作,用一部分容量换取更好的写入性能和耐久度。两块存储区域各配独立命名空间,主机按数据类型挑选对应区域即可,不用额外装专用软件。
群联称,这种设计可以减轻对独立缓存盘的依赖。以 24 块 SSD 组成的系统为例,单块硬盘故障带来的缓存损失只有 4%;作为对比,采用 4 块独立缓存盘的传统方案,缓存容量可能损失 25%。