Liaison express de calcul

Le CXL (Compute Express Link) est une technologie d’interconnexion haut débit de nouvelle génération conçue pour les architectures de calcul hétérogènes des centres de données dédiés à l’IA et au calcul haute performance. Basé sur la couche physique PCIe, il permet à différents types d’unités de calcul (CPU, GPU, accélérateurs, etc.) de partager efficacement la mémoire avec une faible latence. Cette technologie permet la mutualisation de la mémoire et l’allocation dynamique des ressources, offrant ainsi une plus grande flexibilité pour répondre aux futurs besoins en matière de calcul.

Le CXL se compose de trois protocoles principaux, qui peuvent fonctionner indépendamment ou conjointement selon les scénarios :
．CXL.io : similaire au protocole PCIe, il gère le transfert de données et la gestion des périphériques, tout en fournissant des opérations d’E/S à faible latence.
．CXL.cache : permet aux périphériques de mettre directement en cache la mémoire du CPU et d’y accéder, tout en maintenant la cohérence des données.
．CXL.memory : permet au CPU d’accéder à la mémoire connectée aux périphériques tout en maintenant la cohérence des données.

Pour aller plus loin : Révolutionner l’usine d’IA : l’essor de la mutualisation de la mémoire CXL

Avec l'essor rapide de l'IA générative, les goulots d'étranglement des systèmes sont passés de la puissance de calcul brute à l'efficacité du transfert des données. Même si les performances des processeurs s'améliorent, les limites de la bande passante des canaux mémoire empêchent le matériel d'exploiter pleinement son potentiel, créant ce que l'on appelle le « mur de la mémoire ».

Cette limitation est courante dans les serveurs traditionnels : elle réduit l'efficacité et conduit souvent à surdimensionner la mémoire, ce qui entraîne un gaspillage de ressources. Avec la liaison express de calcul (CXL), le processeur peut traiter la mémoire provenant de différentes sources comme un espace logique unique, dépassant ainsi les limites de capacité des emplacements de la carte mère. Cette conception modulaire simplifie également les mises à niveau et la maintenance des systèmes. Elle permet aux centres de données d'IA de mettre en place des architectures de mémoire partagée pour une allocation dynamique des ressources à faible latence et à haut débit, adaptée aux charges de travail variables et fortement consommatrices de données.

Les serveurs GIGABYTE ont été validés et optimisés pour la technologie CXL. En fournissant des liaisons express de calcul à haut débit et cohérentes avec les caches entre les CPU et les périphériques, ils améliorent l'utilisation des ressources, prennent en charge de fortes extensions de mémoire et réduisent la latence par rapport aux connexions directes à la DRAM. Ils sont ainsi particulièrement adaptés aux applications d'IA générative, de calcul haute performance (HPC) et de cloud qui nécessitent un traitement intensif des données.

Les solutions d'extension de mémoire CXL pour serveurs GIGABYTE, notamment celles proposées sur les modèles R284-S91 et R263-Z39, comprennent :
．DRAM du CPU et des DIMM : accès le plus rapide via la mémoire traditionnelle.
．DRAM connectée via PCIe : les serveurs GIGABYTE sont validés pour CXL et prennent en charge l'extension de mémoire via des périphériques E3.S PCIe ou des cartes supplémentaires, pour une plus grande flexibilité.
．Mémoire connectée au stockage : extension de mémoire via des périphériques de stockage, améliorant l'évolutivité et l'allocation des ressources grâce aux SSD et aux disques durs.