AI 服务器总是撞上同一堵墙:单个 CPU 或 GPU 插槽能插的 DDR5 DIMM 数量有限,通道预算一旦用尽,想加容量就只能加一整个节点——连带 CPU、供电和散热开销一起上。Compute Express Link (CXL) 内存扩展正是业界为突破这一上限给出的方案。它让服务器把额外内存作为独立的可寻址设备,通过与 PCIe 相同的电气链路接入,而不必受限于主板上的 DIMM 插槽。

本指南讲清楚 CXL 内存扩展到底是什么、它与你们已经在采购的 DDR5 有何区别、在哪些场景下有用,以及采购和工程团队在把它当作 BOM 上的一个行项之前,需要核实哪些内容。

CXL 内存扩展是什么 #

CXL 是构建在 PCIe 物理层之上的缓存一致性互连。用于内存扩展时,对应的设备类别是 CXL Type 3 内存扩展器:这种模块自带 DRAM(通常是 DDR5),并将其作为额外的、可 load/store 寻址的内存呈现给主机。在操作系统看来,它就是更多的系统 RAM,而不是需要把数据拷进拷出的块设备。

该标准本身已经历了多个世代演进,这些世代对买家来说很重要:

  • CXL 1.1 — 单主机设备连接,一个扩展器只服务一台服务器。
  • CXL 2.0 — 通过 fanout 交换机引入内存池化,一个扩展器的容量可以划分后分配给多台主机。
  • CXL 3.0 — 引入 fabric 和共享语义,多台主机可在交换拓扑中一致地共享内存区域。

三者的模块都使用相同的 DDR5 介质,区别在于有多少主机能看到它,以及容量能否池化或共享。对如今大多数 AI 服务器买家来说,问题很简单:某个平台是否支持 CXL,支持到哪一代。

它与 DIMM 直连的 DDR5 有何不同 #

CXL 扩展器上的 DRAM 与市售寄存式 DIMM 所用的 DDR5 相同,区别在于通往处理器的路径,以及这条路径带来的取舍。

维度DIMM 直连的 DDR5 (RDIMM)CXL Type 3 内存扩展器
连接方式直接接入 CPU 内存通道经 CXL/PCIe 链路,位于控制器之后
每插槽容量受 DIMM 插槽数和通道数限制可通过增加模块扩展
延迟最低(原生内存总线)更高(链路 + 控制器跳数)
可寻址性原生系统内存同样是原生系统内存,但距离更远
最佳适配热工作集、所有延迟敏感数据冷/大工作集、受容量约束的数据
采购模式通用 DIMM,合格品牌众多新兴模块类别,合格供应商较少

实际结论:CXL 扩展解决的是容量和占位空间问题,并不能替代紧邻 CPU 的高速 DDR5。受内存限制的 AI 推理、大模型参数缓存和内存数据集能从中受益;而最内层紧循环的张量不会离开 DIMM 通道。

哪些 AI 服务器工作负载能受益 #

当工作负载受限于总内存大小,而非访问小热集的峰值带宽时,扩展就能带来回报:

  • 大模型推理,KV 缓存很大 — 让更多上下文常驻内存,避免换页到 SSD。
  • 内存分析和向量数据库 — 每机架单元的容量比单条 DIMM 的延迟更重要。
  • 跨池的内存解耦 — CXL 2.0/3.0 池化让多台服务器借用容量,而不必各自过度配置。
  • 容量密集型训练暂存 — 存放回放缓冲区或特征存储,这类数据不需要 HBM 级带宽。

但如果加速器本身需要 HBM 级带宽,CXL 就不合适了。CXL 位于主机侧,是对 GPU 上 HBM 的补充,而非竞争。

采购前要核实什么 #

CXL 内存扩展仍是一个新兴的采购类别,容易犯的错误是把扩展器当作通用 DIMM 来对待。每个项目都要确认以下几点:

检查项需确认的内容
主机平台支持CPU/平台是否支持 CXL,支持哪一代(1.1 / 2.0 / 3.0)?标称支持 2.0 的模块无法在仅支持 1.1 的主机上池化。
介质与容量容量基于 DDR5;确认密度、rank,以及平台要求的 ECC/完整性特性。
延迟预算在把容量分配给工作负载之前,先验证它能容忍链路直连内存。
固件与互操作性扩展器固件必须与平台的 CXL BIOS/option-ROM 验证列表匹配。
供应商资质通过认证的模块供应商比 DIMM 供应商少;确认可追溯性和长期供货能力。
外形尺寸与功耗模块占用的插槽/链路功耗和机箱空间与 DIMM 通道不同。

由于通过认证的供应商比通用 DDR5 少,交期和最小起订量可能与买家对 RDIMM 的预期相差很大。确认供货情况应作为第一步,而不是事后才考虑。

与现有 DDR5 采购的关系 #

在介质层面,CXL 扩展器本质上就是一颗 DDR5 器件。它的 DRAM 裸片、密度层级以及大部分验证流程,都与产品目录中已支持的寄存式 DDR5 相同。通过成熟渠道采购主流 DDR5 RDIMM 和元件的买家,其实已经覆盖了同一批服务器原生内存这一侧——这些服务器日后可能也会采用 CXL 扩展器。

就当前的 BOM 而言,可落地的供应措施通常还是常规做法:确认已设计选用的器件对应的 DDR5 和 DDR4 准确订购代码、日期码和封装,同时关注平台路线图,掌握 CXL 从试产转向量产的时机。

结论 #

CXL 内存扩展通过一致性链路挂接可寻址的 DDR5,让 AI 服务器得以突破每插槽的 DIMM 上限;随着标准世代演进,池化和共享功能也将逐步落地。它解决的是容量和占位空间问题,是对原生 DDR5 和 HBM 的补充而非替代,适合受内存带宽限制、可容忍较高延迟的工作负载,而不适合最内层的热循环。采购之前,需核实主机对 CXL 世代的支持、介质容量、固件互操作性,以及合格供应商范围较窄的供应情况。对大多数当前 BOM 来说,眼下风险更低的步骤仍是通过成熟渠道锁定已设计选用的 DDR5/DDR4 器件,同时跟踪目标平台上的 CXL 采用进展。

来源:

  • CXL Consortium — Compute Express Link 规范与设备类型定义(Type 1/2/3、池化与 fabric 世代)。
  • 支持 CXL 的服务器 CPU 平台文档(PCIe 5.0/6.0 世代平台提供 CXL 1.1/2.0/3.0 内存扩展)。
最终设计决策请以原厂数据手册及获批准的工程资料为准。