Micron 與技嘉 CXL 應用展示

隨著技術持續演進，高效能運算（HPC）與人工智慧（AI）應用已深度融入日常生活。談到提升運算效能，CPU 和 GPU 常成為焦點，然而系統記憶體扮演的角色同樣關鍵，卻時常被忽略。

記憶體是電腦在處理過程中暫存資料的核心元件。容量與頻寬直接影響整體效能。但傳統 DRAM 記憶體技術正面臨極限。包括主機板插槽數量與高容量模組價格成本過高等問題。

Compute Express Link（CXL）是一項新技術，透過 PCIe 介面擴充系統記憶體。雖然 CXL 記憶體的速度略低於主記憶體，但它能提供額外資源，以更具彈性與成本效益的方式突破傳統架構限制，成為推動次世代運算架構的關鍵。

Micron 與技嘉攜手，使用技嘉 R284-A91-AAL3 CXL 伺服器、Micron CZ122 CXL 記憶體擴充模組、DDR5 RDIMM 與 NVMe SSD，進行一系列真實情境測試。展示所使用的組件如下：

我們將測試聚焦於三大核心效益：
- CXL 記憶體頻寬擴充
- CXL 記憶體容量擴充
- CXL 成本效益分析

在評估效能之前，讓我們先來了解 CXL 面臨的挑戰：其效能相對於直接接上的主記憶體較低。與透過專屬通道連接 CPU 的 DRAM 不同，CXL 記憶體是透過 PCIe 介面運作，這樣的間接方式會增加存取延遲，導致 CPU 存取 CXL 記憶體所需時間較長。

為了善用 CXL 記憶體，我們採用了「基於軟體的加權交錯（Weighted Interleaving）」技術，根據不同工作負載特性，分配資料至 DRAM 與 CXL ，達成更佳效能與頻寬利用。測試過程使用 Intel 的 Memory Latency Checker（MLC）來評估不同工作負載下的頻寬與延遲，並透過微型基準測試進行不同讀寫模式與 DRAM/CXL 配比的效能分析。

每項測試皆使用了依權重分配的交錯方式。例如：

• DRAM 與 CXL 比例為 3:1，代表 75% 的資料流量送至 DRAM，25% 則送至 CXL。

想像你正從一個城市開車到另一個城市。有四條快速公路（DRAM），但車多開始塞車。這時你加入幾條較慢的側道（CXL）。交錯策略決定交通怎麼分流，而「加權」則決定各自的配比。這不只是速度問題，而是更聰明的流量管控。

Linux kernel 6.9 版以上開始支援這項加權交錯功能，能夠更細緻地控制 DRAM 與 CXL 之間的記憶體配置，依據不同工作負載特性進行最佳化配置，即使兩者延遲與頻寬不同，也能達到更佳的資料流效率。

以下內容探討 CXL 在實際工作負載中的表現。
在記憶體使用密集的應用（如 HPC 與 AI）中，提升記憶體頻寬能顯著增強效能，這點從我們的結果中獲得驗證。
四個測試工作負載的效能提升幅度為 22% 至 33%，平均幾何成長為 28%。

CXL 的一大優勢是能突破主機板插槽限制，提供更大記憶體空間，並降低高容量 DIMM 所需成本。

我們接著使用分析型資料庫引擎 DuckDB 進行 TPC-H 與 TPC-DS 兩項基準測試。TPC-H 評估簡化結構下的分析查詢，TPC-DS 則模擬實際零售場景中複雜混合查詢類型。

採用 DRAM + CXL + 加權交錯的測試結果如下：
- TPC-H 效能提升 2.93 倍
- TPC-DS 效能提升 2.01 倍

結果顯示，CXL 有助於強化決策支援系統與大數據應用的處理能力。這證明 CXL 不只是速度提升，更是讓原本無法容納的大型工作負載得以執行的關鍵。

最後是成本效益分析。

我們透過執行對記憶體需求與延遲最為敏感的深度學習推薦模型（DLRM）進行效能評估。此模型採用大量嵌入表，為嚴苛的測試案例。若 CXL 表現仍佳，代表其可用於更多元工作負載。

實測中效能影響相當小：
- 當 50% 記憶體透過 CXL 分配時，效能僅下降約 2%
- 當 67% 記憶體使用 CXL 時，效能約下降 9%

這表示企業可減少採購昂貴的 128 GB RDIMM（價格可能是 64 GB 模組的三倍），以較低成本維持接近完整的系統效能。在大規模部署下，節省下的金額將相當可觀。

本次Micron與技嘉的合作展示證明，CXL 不僅為未來趨勢，更已具備實際應用價值。無論是建構 AI 模型、分析龐大資料集，或執行科學模擬運算，CXL 皆能帶來：
- 更高記憶體頻寬，加速效能
- 更大記憶體容量，處理更多工作負載
- 更低成本，而效能近乎不減

CXL正加速推動現代運算向更高效能、更高擴展性的方向邁進。

若對展示中的技術或產品有任何疑問或合作機會，歡迎聯繫我們！