AI 服务器总是撞上同一堵墙:单个 CPU 或 GPU 插槽能插的 DDR5 DIMM 数量有限,通道预算一旦用尽,想加容量就只能加一整个节点——连带 CPU、供电和散热开销一起上。Compute Express Link (CXL) 内存扩展正是业界为突破这一上限给出的方案。它让服务器把额外内存作为独立的可寻址设备,通过与 PCIe 相同的电气链路接入,而不必受限于主板上的 DIMM 插槽。
本指南讲清楚 CXL 内存扩展到底是什么、它与你们已经在采购的 DDR5 有何区别、在哪些场景下有用,以及采购和工程团队在把它当作 BOM 上的一个行项之前,需要核实哪些内容。
CXL 内存扩展是什么 #
CXL 是构建在 PCIe 物理层之上的缓存一致性互连。用于内存扩展时,对应的设备类别是 CXL Type 3 内存扩展器:这种模块自带 DRAM(通常是 DDR5),并将其作为额外的、可 load/store 寻址的内存呈现给主机。在操作系统看来,它就是更多的系统 RAM,而不是需要把数据拷进拷出的块设备。
该标准本身已经历了多个世代演进,这些世代对买家来说很重要:
- CXL 1.1 — 单主机设备连接,一个扩展器只服务一台服务器。
- CXL 2.0 — 通过 fanout 交换机引入内存池化,一个扩展器的容量可以划分后分配给多台主机。
- CXL 3.0 — 引入 fabric 和共享语义,多台主机可在交换拓扑中一致地共享内存区域。
三者的模块都使用相同的 DDR5 介质,区别在于有多少主机能看到它,以及容量能否池化或共享。对如今大多数 AI 服务器买家来说,问题很简单:某个平台是否支持 CXL,支持到哪一代。
它与 DIMM 直连的 DDR5 有何不同 #
CXL 扩展器上的 DRAM 与市售寄存式 DIMM 所用的 DDR5 相同,区别在于通往处理器的路径,以及这条路径带来的取舍。
| 维度 | DIMM 直连的 DDR5 (RDIMM) | CXL Type 3 内存扩展器 |
|---|---|---|
| 连接方式 | 直接接入 CPU 内存通道 | 经 CXL/PCIe 链路,位于控制器之后 |
| 每插槽容量 | 受 DIMM 插槽数和通道数限制 | 可通过增加模块扩展 |
| 延迟 | 最低(原生内存总线) | 更高(链路 + 控制器跳数) |
| 可寻址性 | 原生系统内存 | 同样是原生系统内存,但距离更远 |
| 最佳适配 | 热工作集、所有延迟敏感数据 | 冷/大工作集、受容量约束的数据 |
| 采购模式 | 通用 DIMM,合格品牌众多 | 新兴模块类别,合格供应商较少 |
实际结论:CXL 扩展解决的是容量和占位空间问题,并不能替代紧邻 CPU 的高速 DDR5。受内存限制的 AI 推理、大模型参数缓存和内存数据集能从中受益;而最内层紧循环的张量不会离开 DIMM 通道。
哪些 AI 服务器工作负载能受益 #
当工作负载受限于总内存大小,而非访问小热集的峰值带宽时,扩展就能带来回报:
- 大模型推理,KV 缓存很大 — 让更多上下文常驻内存,避免换页到 SSD。
- 内存分析和向量数据库 — 每机架单元的容量比单条 DIMM 的延迟更重要。
- 跨池的内存解耦 — CXL 2.0/3.0 池化让多台服务器借用容量,而不必各自过度配置。
- 容量密集型训练暂存 — 存放回放缓冲区或特征存储,这类数据不需要 HBM 级带宽。
但如果加速器本身需要 HBM 级带宽,CXL 就不合适了。CXL 位于主机侧,是对 GPU 上 HBM 的补充,而非竞争。
采购前要核实什么 #
CXL 内存扩展仍是一个新兴的采购类别,容易犯的错误是把扩展器当作通用 DIMM 来对待。每个项目都要确认以下几点:
| 检查项 | 需确认的内容 |
|---|---|
| 主机平台支持 | CPU/平台是否支持 CXL,支持哪一代(1.1 / 2.0 / 3.0)?标称支持 2.0 的模块无法在仅支持 1.1 的主机上池化。 |
| 介质与容量 | 容量基于 DDR5;确认密度、rank,以及平台要求的 ECC/完整性特性。 |
| 延迟预算 | 在把容量分配给工作负载之前,先验证它能容忍链路直连内存。 |
| 固件与互操作性 | 扩展器固件必须与平台的 CXL BIOS/option-ROM 验证列表匹配。 |
| 供应商资质 | 通过认证的模块供应商比 DIMM 供应商少;确认可追溯性和长期供货能力。 |
| 外形尺寸与功耗 | 模块占用的插槽/链路功耗和机箱空间与 DIMM 通道不同。 |
由于通过认证的供应商比通用 DDR5 少,交期和最小起订量可能与买家对 RDIMM 的预期相差很大。确认供货情况应作为第一步,而不是事后才考虑。
与现有 DDR5 采购的关系 #
在介质层面,CXL 扩展器本质上就是一颗 DDR5 器件。它的 DRAM 裸片、密度层级以及大部分验证流程,都与产品目录中已支持的寄存式 DDR5 相同。通过成熟渠道采购主流 DDR5 RDIMM 和元件的买家,其实已经覆盖了同一批服务器原生内存这一侧——这些服务器日后可能也会采用 CXL 扩展器。
就当前的 BOM 而言,可落地的供应措施通常还是常规做法:确认已设计选用的器件对应的 DDR5 和 DDR4 准确订购代码、日期码和封装,同时关注平台路线图,掌握 CXL 从试产转向量产的时机。
结论 #
CXL 内存扩展通过一致性链路挂接可寻址的 DDR5,让 AI 服务器得以突破每插槽的 DIMM 上限;随着标准世代演进,池化和共享功能也将逐步落地。它解决的是容量和占位空间问题,是对原生 DDR5 和 HBM 的补充而非替代,适合受内存带宽限制、可容忍较高延迟的工作负载,而不适合最内层的热循环。采购之前,需核实主机对 CXL 世代的支持、介质容量、固件互操作性,以及合格供应商范围较窄的供应情况。对大多数当前 BOM 来说,眼下风险更低的步骤仍是通过成熟渠道锁定已设计选用的 DDR5/DDR4 器件,同时跟踪目标平台上的 CXL 采用进展。
来源:
- CXL Consortium — Compute Express Link 规范与设备类型定义(Type 1/2/3、池化与 fabric 世代)。
- 支持 CXL 的服务器 CPU 平台文档(PCIe 5.0/6.0 世代平台提供 CXL 1.1/2.0/3.0 内存扩展)。
