Neocloud
Néocloud
Qu’est-ce qu’un néocloud ?
Un néocloud est un service infonuagique conçu spécialement pour les charges de travail liées à l’intelligence artificielle (IA) et au calcul haute performance (HPC). Contrairement aux plateformes infonuagiques traditionnelles, qui prennent en charge un large éventail d’applications TI d’entreprise, les néoclouds accordent une plus grande importance aux ressources de calcul accéléré, comme les GPU, ainsi qu’aux réseaux haute vitesse, au stockage haute performance et à une infrastructure conçue pour le calcul IA à grande échelle.
L’essor des néoclouds est étroitement lié à la demande croissante en GPU, stimulée par l’IA générative. Les entreprises, les jeunes pousses en IA et les développeurs de modèles peuvent accéder à d’importantes capacités de calcul GPU pour l’entraînement, le réglage fin et l’inférence des modèles d’IA sans avoir à construire d’abord un centre de données IA complet. Le GPU en tant que service (GPUaaS) est donc devenu une offre importante pour de nombreux fournisseurs de néoclouds.
Gartner estime que, d’ici 2030, les fournisseurs de néoclouds devraient détenir 20 % du marché de l’infonuagique IA, évalué à 267 milliards de dollars.
Gartner estime que, d’ici 2030, les fournisseurs de néoclouds devraient détenir 20 % du marché de l’infonuagique IA, évalué à 267 milliards de dollars.
Nuage traditionnel ou néocloud
Les nuages publics traditionnels fournissent des machines virtuelles, du stockage, des bases de données, des capacités d’analytique et une vaste gamme de services gérés. Les principaux fournisseurs de services infonuagiques offrent maintenant aussi une gamme étendue de services GPU et d’IA. La distinction entre les nuages traditionnels et les néoclouds ne tient donc pas simplement à la disponibilité des GPU, mais plutôt à la façon dont l’infrastructure sous-jacente est conçue.
Les néoclouds sont généralement conçus dès le départ pour les charges de travail à forte intensité de GPU. Ils mettent l’accent sur les grappes de GPU denses, les réseaux à large bande passante et à faible latence, ainsi que sur un accès plus direct aux ressources de calcul. Certains fournisseurs proposent également des serveurs bare metal ou des grappes de GPU dédiées aux utilisateurs qui ont besoin d’un meilleur contrôle sur la configuration matérielle ou qui effectuent un entraînement distribué de modèles d’IA à grande échelle.
Les nuages publics hyperscale, quant à eux, offrent des écosystèmes logiciels plus vastes, des services gérés et une disponibilité mondiale. Les néoclouds ne visent pas à remplacer toutes les charges de travail traditionnellement exécutées dans le nuage, mais constituent une option plus spécialisée pour les applications exigeantes d’IA et de calcul haute performance.
Quels sont les avantages du Néocloud?
L’un des principaux avantages du Néocloud est l’accès rapide à des capacités de calcul GPU avancées. Les organisations peuvent acquérir les ressources nécessaires à l’entraînement des modèles, à l’inférence ou à des projets individuels sans devoir d’abord acheter et déployer un grand nombre de GPU.
Comme l’infrastructure est conçue pour les charges de travail d’IA, les serveurs GPU haute densité, les interconnexions à haute vitesse et le stockage haute performance peuvent être optimisés comme un système intégré. Cela contribue à réduire les goulots d’étranglement liés aux communications dans les charges de travail d’IA distribuées. Les utilisateurs peuvent également passer d’instances GPU individuelles à des grappes dédiées, selon leurs besoins en capacité de calcul.
Modèles courants de services Néocloud
Les fournisseurs de Néocloud proposent différentes façons d’accéder aux ressources de calcul pour l’IA selon la durée des charges de travail, la capacité requise et les habitudes d’utilisation.
・Instances réservées — Ressources de calcul réservées pour les charges de travail prévisibles
Conçues pour les charges de travail d’IA prévisibles et de longue durée. Les utilisateurs réservent à l’avance une capacité GPU ou des ressources de calcul afin de bénéficier d’une disponibilité et de performances plus constantes. Ce modèle convient aux entraînements de modèles à grande échelle ou à l’inférence d’IA soutenue.
・Instances à la demande — Accès avec paiement à l’utilisation aux ressources de calcul partagées pour l’IA
Les utilisateurs obtiennent des GPU et d’autres ressources de calcul à partir de pools partagés au gré de leurs besoins et paient en fonction de leur utilisation réelle, sans engagement à long terme. Ce modèle convient particulièrement au développement et aux essais d’applications d’IA, à l’affinage des modèles et aux charges de travail dont la demande varie.
・Plateformes sans serveur — Services d’IA sans gestion directe de l’infrastructure
Le fournisseur gère le matériel sous-jacent, le provisionnement, la mise à l’échelle et la gestion du cycle de vie. Les développeurs peuvent ainsi accéder aux modèles d’IA et aux ressources de calcul par l’intermédiaire d’une plateforme gérée ou d’une API, sans gérer directement les serveurs. Ce modèle convient particulièrement à l’intégration rapide de modèles d’IA dans des applications de production.
Comment GIGABYTE peut-il vous aider ?
La mise à l’échelle d’un néocloud ne se résume pas à ajouter des GPU. Le réseau, le stockage, l’alimentation, le refroidissement et la gestion des systèmes doivent évoluer au même rythme que la capacité de calcul.
GIGABYTE propose un vaste portefeuille allant des serveurs GPU haute densité aux plateformes de calcul IA à l’échelle du rack pour l’entraînement des modèles d’IA et l’inférence à grande échelle. GIGAPOD intègre le calcul GPU, les réseaux haute vitesse et l’infrastructure au sein d’une plateforme évolutive, tandis que GIGABYTE POD Manager (GPM) assure la surveillance centralisée des systèmes et la gestion des ressources.
À mesure que la puissance des GPU et la densité thermique continuent d’augmenter, des technologies de refroidissement avancées comme le refroidissement liquide direct (DLC) peuvent davantage soutenir les déploiements haute densité et aider les fournisseurs de néocloud et de services infonuagiques à bâtir une infrastructure d’IA évolutive.
