컴퓨트 익스프레스 링크

CXL(컴퓨트 익스프레스 링크)은 AI 데이터 센터와 고성능 컴퓨팅을 위한 이기종 컴퓨팅 아키텍처에 적합한 차세대 고속 인터커넥트 기술입니다. PCIe 물리 계층을 기반으로 하며, CPU, GPU, 가속기 등 다양한 유형의 컴퓨팅 유닛이 낮은 지연 시간으로 메모리를 효율적으로 공유할 수 있도록 지원합니다. 이를 통해 메모리 풀링과 동적 리소스 할당이 가능해져 미래의 컴퓨팅 요구 사항에 더욱 유연하게 대응할 수 있습니다.

CXL은 세 가지 주요 프로토콜로 구성되며, 사용 환경에 따라 각 프로토콜을 독립적으로 사용하거나 함께 사용할 수 있습니다.
．CXL.io: PCIe와 유사하게 데이터 전송 및 장치 관리를 처리하며, 더 낮은 지연 시간의 I/O 작업을 지원합니다.
．CXL.cache: 주변 장치가 CPU 메모리를 직접 캐시하고 액세스하면서 데이터 일관성을 유지할 수 있도록 합니다.
．CXL.memory: CPU가 장치에 연결된 메모리에 액세스하면서 데이터 일관성을 유지할 수 있도록 합니다.

추가 읽을거리: AI 팩토리의 혁신: CXL 메모리 풀링의 부상

생성형 AI가 빠르게 확산되면서 시스템 성능 병목은 단순한 연산 성능에서 데이터 전송 효율로 이동했습니다. CPU 성능이 향상되더라도 메모리 채널 대역폭의 한계로 하드웨어 성능을 최대한 끌어내기 어려워지면서 이른바 ‘메모리 월’ 현상이 발생합니다.

이러한 한계는 기존 서버에서 흔히 나타나 시스템 효율을 떨어뜨리고, 메모리를 과도하게 구성해 리소스를 낭비하게 만드는 원인이 되기도 합니다. CXL을 사용하면 CPU가 서로 다른 소스의 메모리를 하나의 논리적 공간으로 인식할 수 있어 마더보드 슬롯의 용량 한계를 극복할 수 있습니다. 또한 이러한 모듈형 설계는 시스템 업그레이드와 유지보수를 간소화하고, AI 데이터 센터가 지연 시간이 짧고 처리량이 높은 공유 메모리 아키텍처를 구축할 수 있도록 지원합니다. 이를 통해 다양한 데이터 집약적 워크로드에 맞춰 리소스를 동적으로 할당할 수 있습니다.

GIGABYTE 서버는 CXL 기술에 대한 검증과 최적화를 완료했습니다. CPU와 디바이스 간에 고속 캐시 일관성 인터커넥트를 제공하여 리소스 활용률을 높이고, 대용량 메모리 확장을 지원하며, DRAM 직접 연결 방식에 비해 지연 시간을 줄여 줍니다. 따라서 대규모 데이터 처리가 필요한 생성형 AI, HPC 및 클라우드 애플리케이션에 특히 적합합니다.

R284-S91 및 R263-Z39 모델 등에 적용된 GIGABYTE 서버 CXL 메모리 확장 솔루션은 다음을 포함합니다.
．CPU 및 DIMM DRAM: 기존 메모리를 통한 가장 빠른 액세스.
．PCIe 연결 DRAM: GIGABYTE 서버는 CXL 검증을 완료했으며, E3.S PCIe 또는 추가 카드를 통한 메모리 확장을 지원하여 유연성을 높입니다.
．스토리지 연결 메모리: 스토리지 디바이스를 통한 메모리 확장으로, SSD/HDD를 활용해 확장성과 리소스 할당 효율을 높입니다.