CXL (Compute Express Link)
Express-Verbindung für Rechenprozessoren
Was ist CXL?
CXL (Compute Express Link) ist eine hochmoderne Hochgeschwindigkeitsverbindung für heterogene Computing-Architekturen in KI-Rechenzentren und im Hochleistungsrechnen. Auf der physikalischen Schicht von PCIe aufbauend ermöglicht CXL verschiedenen Arten von Recheneinheiten (CPU, GPU, Beschleunigern usw.), Speicher effizient und mit geringer Latenz gemeinsam zu nutzen. Dadurch werden Memory-Pooling und die dynamische Ressourcenbereitstellung ermöglicht, was eine größere Flexibilität für zukünftige Computing-Anforderungen bietet.
CXL umfasst drei Hauptprotokolle, die je nach Einsatzszenario unabhängig voneinander oder gemeinsam betrieben werden können:
.CXL.io: Ähnlich wie PCIe übernimmt dieses Protokoll die Datenübertragung und Geräteverwaltung und ermöglicht gleichzeitig E/A-Vorgänge mit geringerer Latenz.
.CXL.cache: Ermöglicht Peripheriegeräten, den CPU-Speicher direkt zwischenzuspeichern und darauf zuzugreifen, wobei die Datenkonsistenz erhalten bleibt.
.CXL.memory: Ermöglicht der CPU den Zugriff auf geräteseitig angeschlossenen Speicher, wobei die Datenkonsistenz erhalten bleibt.
Weitere Informationen:Die KI-Fabrik revolutionieren: Der Aufstieg des CXL-Memory-Poolings
CXL umfasst drei Hauptprotokolle, die je nach Einsatzszenario unabhängig voneinander oder gemeinsam betrieben werden können:
.CXL.io: Ähnlich wie PCIe übernimmt dieses Protokoll die Datenübertragung und Geräteverwaltung und ermöglicht gleichzeitig E/A-Vorgänge mit geringerer Latenz.
.CXL.cache: Ermöglicht Peripheriegeräten, den CPU-Speicher direkt zwischenzuspeichern und darauf zuzugreifen, wobei die Datenkonsistenz erhalten bleibt.
.CXL.memory: Ermöglicht der CPU den Zugriff auf geräteseitig angeschlossenen Speicher, wobei die Datenkonsistenz erhalten bleibt.
Weitere Informationen:Die KI-Fabrik revolutionieren: Der Aufstieg des CXL-Memory-Poolings
Warum wird CXL benötigt?
Mit dem rasanten Wachstum der generativen KI haben sich die Leistungsengpässe von der reinen Rechenleistung hin zur Effizienz der Datenübertragung verlagert. Obwohl sich die CPU-Leistung weiter verbessert, begrenzt die Bandbreite der Speicherkanäle die tatsächliche Ausschöpfung des Hardwarepotenzials und führt zur sogenannten „Memory Wall“.
Diese Einschränkung ist bei herkömmlichen Servern weit verbreitet, beeinträchtigt die Effizienz und führt häufig zu überdimensionierten Speicherkonfigurationen und einer Verschwendung von Ressourcen. Mit CXL kann die CPU Speicher aus verschiedenen Quellen als einen einzigen logischen Adressraum behandeln und so die Kapazitätsgrenzen der Steckplätze auf dem Mainboard überwinden. Dieses modulare Design vereinfacht außerdem Upgrades und Wartungsarbeiten. Darüber hinaus ermöglicht es KI-Rechenzentren, gemeinsam genutzte Speicherarchitekturen für die dynamische Ressourcenverteilung mit niedriger Latenz und hohem Durchsatz aufzubauen. Dadurch lassen sich variable und datenintensive Workloads unterstützen.
Diese Einschränkung ist bei herkömmlichen Servern weit verbreitet, beeinträchtigt die Effizienz und führt häufig zu überdimensionierten Speicherkonfigurationen und einer Verschwendung von Ressourcen. Mit CXL kann die CPU Speicher aus verschiedenen Quellen als einen einzigen logischen Adressraum behandeln und so die Kapazitätsgrenzen der Steckplätze auf dem Mainboard überwinden. Dieses modulare Design vereinfacht außerdem Upgrades und Wartungsarbeiten. Darüber hinaus ermöglicht es KI-Rechenzentren, gemeinsam genutzte Speicherarchitekturen für die dynamische Ressourcenverteilung mit niedriger Latenz und hohem Durchsatz aufzubauen. Dadurch lassen sich variable und datenintensive Workloads unterstützen.
Wie unterstützt GIGABYTE?
GIGABYTE Server wurden für die CXL-Technologie validiert und optimiert. Durch die Bereitstellung schneller, cache-kohärenter Verbindungen zwischen CPUs und Geräten verbessern sie die Ressourcennutzung, unterstützen umfangreiche Speichererweiterungen und reduzieren die Latenz im Vergleich zu direkten DRAM-Verbindungen. Dadurch eignen sie sich besonders für generative KI, HPC und Cloud-Anwendungen mit hohem Datenverarbeitungsaufwand.
Die CXL-Speichererweiterungslösungen von GIGABYTE, wie sie bei den Modellen R284-S91 und R263-Z39 zum Einsatz kommen, umfassen:
.CPU- und DIMM-DRAM: Schnellster Zugriff über herkömmlichen Speicher.
.Über PCIe angebundener DRAM: GIGABYTE Server sind für CXL validiert und unterstützen Speichererweiterungen über E3.S-PCIe oder zusätzliche Karten für mehr Flexibilität.
.Über Speicher angebundener Speicher: Speichererweiterung über Speichergeräte zur Verbesserung der Skalierbarkeit und Ressourcenzuweisung mithilfe von SSDs/HDDs.
Die CXL-Speichererweiterungslösungen von GIGABYTE, wie sie bei den Modellen R284-S91 und R263-Z39 zum Einsatz kommen, umfassen:
.CPU- und DIMM-DRAM: Schnellster Zugriff über herkömmlichen Speicher.
.Über PCIe angebundener DRAM: GIGABYTE Server sind für CXL validiert und unterstützen Speichererweiterungen über E3.S-PCIe oder zusätzliche Karten für mehr Flexibilität.
.Über Speicher angebundener Speicher: Speichererweiterung über Speichergeräte zur Verbesserung der Skalierbarkeit und Ressourcenzuweisung mithilfe von SSDs/HDDs.