Centre de données pour l’IA

Un AIDC ne repose pas sur un seul composant informatique. Il intègre plutôt des CPU, des GPU et d’autres accélérateurs d’IA avec de la mémoire, du stockage, des réseaux, de l’alimentation, du refroidissement et des logiciels de gestion, en fonction des exigences des différents types de charges de travail liées à l’IA. De l’entraînement de modèles à grande échelle et de l’inférence en temps réel jusqu’à l’IA agentique, qui effectue continuellement des raisonnements, accède à des données et fait appel à des outils externes, chaque application impose des exigences différentes aux ressources informatiques et à l’architecture des systèmes.

Contrairement aux centres de données traditionnels, qui prennent principalement en charge des charges de travail polyvalentes comme les TI d’entreprise, les bases de données et la virtualisation, les AIDC accordent davantage d’importance à l’informatique haute densité, au déplacement des données à haute vitesse et à la conception coordonnée des infrastructures informatiques, de stockage, de réseau et d’alimentation. Cette approche permet d’allouer les ressources et d’en accroître la capacité plus efficacement en fonction des exigences des charges de travail liées à l’IA. Dans le secteur, on utilise aussi couramment le terme « AI Factory » pour désigner ce type d’infrastructure, qui transforme les données et les ressources informatiques en services et applications propulsés par l’IA.

Les premières applications d’IA générative reposaient principalement sur des invites et des réponses individuelles. Avec le développement de l’IA de raisonnement et de l’IA agentique, les systèmes d’IA peuvent devoir effectuer des raisonnements en plusieurs étapes, appeler des outils externes, collaborer avec d’autres agents d’IA et fonctionner en continu pendant de longues périodes. Par conséquent, l’informatique liée à l’IA évolue au-delà des interactions ponctuelles vers des charges de travail plus complexes et automatisées.

Les différentes applications d’IA ont également des besoins variables en ressources de calcul, de mémoire, de stockage et de réseau. Les centres de données doivent donc offrir une plus grande flexibilité dans l’allocation des ressources et une meilleure évolutivité afin de répondre à la demande croissante en informatique liée à l’IA.McKinseyestime que les dépenses d’investissement cumulées dans les centres de données à l’échelle mondiale pourraient approcher 7 billions de dollars américains d’ici 2030, la demande en informatique liée à l’IA étant l’un des principaux facteurs de cette croissance.

À mesure que les grappes d’IA gagnent en taille et en densité de puissance, leurs besoins en électricité et en refroidissement augmentent eux aussi. L’électricité devient donc une contrainte de plus en plus importante à l’expansion des centres de données d’IA.Deloitteestime que la demande d’électricité des centres de données d’IA aux États-Unis pourrait passer d’environ 4 GW en 2024 à 123 GW d’ici 2035, soit une hausse de plus de 30 fois.

Alors que les ressources énergétiques et les infrastructures sont de plus en plus limitées, le développement des centres de données d’IA ne consiste plus simplement à déployer davantage de GPU ou à adopter du matériel haut de gamme. Le principal défi consiste plutôt à améliorer l’efficacité globale des systèmes afin de traiter davantage de charges de travail d’IA avec les mêmes ressources disponibles, tout en réduisant les coûts d’exploitation.

Dans le cas de l’inférence d’IA générative, par exemple, le nombre de jetons par watt peut servir à mesurer l’efficacité de production des jetons par rapport à la consommation d’énergie, tandis que le coût par million de jetons reflète le coût de génération d’un million de jetons d’IA. Ensemble, ces indicateurs offrent une vue plus complète des performances en conditions réelles, car ils tiennent compte des effets combinés des ressources informatiques, de la mise en réseau, de la mémoire, de l’optimisation logicielle, de l’efficacité énergétique et de l’utilisation du système.

La solution GIGAPOD utilise des architectures d’interconnexion à haute vitesse pour intégrer un grand nombre de processeurs, de GPU et d’accélérateurs d’IA au sein de grappes de calcul haute performance, prenant en charge le calcul parallèle à grande échelle et les charges de travail d’IA. Elle prend également en charge les configurations refroidies à l’air et celles refroidies par liquide, ce qui permet aux clients d’équilibrer les performances, l’efficacité énergétique et le coût total de possession.

Au-delà des serveurs de calcul équipés de GPU, GIGAPOD peut également assurer la gestion centralisée des systèmes de refroidissement et des équipements de distribution électrique. Utilisé avec GIGABYTE POD Manager (GPM), il offre en outre des fonctionnalités comme la gestion de l’infrastructure des centres de données (DCIM), la planification des charges de travail et la surveillance des systèmes.

Des serveurs individuels et grappes de calcul aux déploiements à l’échelle des racks et des centres de données, GIGABYTE propose des solutions complètes pour les centres de données d’IA qui aident les entreprises à accélérer le déploiement d’usines d’IA adaptées à leurs exigences particulières et à préparer leur infrastructure à la prochaine étape de l’adoption et de l’expansion de l’IA.