CXL内存扩展（CXL）

CXL（Compute Express Link，计算快速互连）是一种开放的高速互连标准，用于连接处理器与内存扩展设备、加速器之间。它允许多个设备以缓存一致的方式共享内存，从而把容量与带宽从单机内部扩展到机箱之外。在算力系统中，它被视为缓解内存容量压力、实现内存池化的可行路径。

解决什么实际问题

大模型推理常受显存容量限制，长上下文与多并发会进一步放大压力。CXL的思路是不再只靠单机插槽扩容，而是通过统一的内存语义，把外部内存设备纳入可用空间，按需分配。容量扩展缓解的是放不下的问题，对带宽敏感的负载帮助有限，两者需要分开评估。

主要能力

• 容量扩展：在插槽之外增加内存，缓解容量不足导致的频繁换入换出。
• 内存池化：把内存集中成共享资源，按任务需要动态分配给不同主机。
• 缓存一致：提供统一的内存语义，简化软件侧的适配工作。
• 延迟代价：跨设备访问比本地内存慢，需要按数据热度分层放置。

引入前要确认什么

• 瓶颈定位：先判断受限的是容量、带宽还是延迟，再决定是否引入
• 数据分层：把访问频繁的数据留在本地内存，冷数据放到远端
• 软件支持：确认操作系统与运行时能否正确识别并按需使用外部内存
• 延迟预算：跨设备访问的额外延迟是否落在应用的容忍范围内
• 运维复杂度：资源池化后需要新的分配与故障隔离机制
• 故障隔离：共享内存设备异常会影响多台主机，需要明确降级与重启策略

当前的定位

对训练场景而言，带宽仍以卡内互连为主，CXL更多承担扩展与池化角色；在推理与内存密集型服务中，它的价值更容易体现。工程上需要先判断瓶颈是容量、带宽还是延迟，再决定是否引入这类方案。若应用的瓶颈其实在计算而非内存，引入外部内存带来的延迟开销可能得不偿失。此外，软件与操作系统对这类内存的支持程度不一，部分应用需要显式改造才能正确使用远端内存，这也是落地节奏偏慢的原因之一。从工程节奏看，先在内存密集型服务上试点，比直接改造训练链路更容易看清收益与代价；外部内存的可靠性直接关系到主机稳定性，故障域的划分需要在设计阶段就考虑。评估阶段可以先做容量与延迟的实测对比，再决定是否扩大部署范围。