Neocloud
Was ist eine Neocloud?
Eine Neocloud ist ein Cloud-Service, der speziell für Workloads im Bereich künstliche Intelligenz (KI) und High-Performance Computing (HPC) entwickelt wurde. Im Vergleich zu herkömmlichen Cloud-Plattformen, die ein breites Spektrum an Enterprise-IT-Anwendungen unterstützen, legen Neoclouds größeren Wert auf beschleunigte Computing-Ressourcen wie GPUs sowie auf Hochgeschwindigkeitsnetzwerke, leistungsstarken Speicher und eine Infrastruktur für KI-Berechnungen in großem Maßstab.
Der Aufstieg der Neoclouds steht in engem Zusammenhang mit der steigenden GPU-Nachfrage infolge generativer KI. Unternehmen, KI-Start-ups und Modellentwickler können umfangreiche GPU-Rechenleistung für das Training und die Feinabstimmung von Modellen sowie für KI-Inferenz nutzen, ohne zunächst ein vollständiges KI-Rechenzentrum aufbauen zu müssen. GPU as a Service (GPUaaS) ist daher zu einem wichtigen Angebot vieler Neocloud-Anbieter geworden.
Gartnerschätzt, dass Neocloud-Anbieter bis 2030 einen Marktanteil von 20 % am 267 Milliarden US-Dollar großen KI-Cloud-Markt erreichen werden.
Gartnerschätzt, dass Neocloud-Anbieter bis 2030 einen Marktanteil von 20 % am 267 Milliarden US-Dollar großen KI-Cloud-Markt erreichen werden.
Traditionelle Cloud vs. Neocloud
Traditionelle Public Clouds bieten virtuelle Maschinen, Speicher, Datenbanken, Analysen und eine breite Palette verwalteter Services. Große Cloud-Anbieter bieten inzwischen auch umfangreiche GPU- und KI-Services an. Der Unterschied zwischen traditionellen Clouds und Neoclouds besteht daher nicht einfach darin, ob GPUs verfügbar sind, sondern darin, wie die zugrunde liegende Infrastruktur konzipiert ist.
Neoclouds werden von Anfang an in der Regel für GPU-intensive Workloads konzipiert. Sie setzen auf dichte GPU-Cluster, Netzwerke mit hoher Bandbreite und niedriger Latenz sowie einen direkteren Zugriff auf Rechenressourcen. Einige Anbieter stellen außerdem Bare-Metal-Server oder dedizierte GPU-Cluster für Nutzer bereit, die eine größere Kontrolle über Hardwarekonfigurationen oder umfangreiche, verteilte KI-Trainings benötigen.
Hyperscale-Public-Clouds bieten dagegen umfassendere Software-Ökosysteme, verwaltete Services und globale Verfügbarkeit. Neoclouds sind nicht darauf ausgelegt, jeden Workload traditioneller Clouds zu ersetzen, sondern bieten eine stärker spezialisierte Option für anspruchsvolle KI- und HPC-Anwendungen.
Welche Vorteile bieten Neoclouds?
Ein wesentlicher Vorteil einer Neocloud ist der schnelle Zugriff auf leistungsfähige GPU-Computing-Ressourcen. Unternehmen können die für das Training und die Inferenz von Modellen oder für einzelne Projekte benötigten Ressourcen nutzen, ohne zunächst große Mengen an GPUs kaufen und bereitstellen zu müssen.
Da die Infrastruktur auf KI-Workloads ausgelegt ist, lassen sich dicht bestückte GPU-Server, schnelle Interconnects und leistungsfähiger Speicher als Gesamtsystem optimieren. Dadurch können Kommunikationsengpässe in verteilten KI-Workloads reduziert werden. Je nach Rechenanforderungen können Nutzer außerdem von einzelnen GPU-Instanzen auf dedizierte Cluster skalieren.
Gängige Neocloud-Servicemodelle
Neocloud-Anbieter bieten je nach Laufzeit, Kapazitätsbedarf und Nutzungsmuster unterschiedliche Möglichkeiten für den Zugriff auf KI-Rechenressourcen.
・Reservierte Instanzen – Reservierte KI-Rechenkapazität für planbare Workloads
Dieses Modell ist für planbare, langfristig laufende KI-Workloads ausgelegt. Nutzer reservieren GPU-Kapazität oder Rechenressourcen im Voraus und profitieren dadurch von einer höheren Verfügbarkeit und konsistenteren Leistung. Damit eignet sich dieses Modell insbesondere für das Training umfangreicher Modelle oder kontinuierliche KI-Inferenz.
・On-Demand-Instanzen – Nutzungsbasierter Zugriff auf gemeinsam genutzte KI-Rechenkapazität
Nutzer beziehen GPUs und andere Rechenressourcen bei Bedarf aus gemeinsam genutzten Ressourcenpools und zahlen entsprechend der tatsächlichen Nutzung – ohne langfristige Bindung. Dieses Modell eignet sich besonders für die KI-Entwicklung, Tests, die Feinabstimmung von Modellen sowie Workloads mit schwankendem Bedarf.
・Serverless-Plattformen – KI-Services ohne direkte Infrastrukturverwaltung
Der Anbieter verwaltet die zugrunde liegende Hardware, Bereitstellung, Skalierung und den Lebenszyklus. Entwickler greifen über eine verwaltete Plattform oder API auf KI-Modelle und Rechenressourcen zu, ohne Server direkt verwalten zu müssen. Dieses Modell eignet sich besonders für die schnelle Integration von KI-Modellen in Produktionsanwendungen.
Wie unterstützt GIGABYTE?
Die Skalierung einer Neocloud erfordert mehr als die Erweiterung der GPU-Kapazität. Netzwerk, Speicher, Stromversorgung, Kühlung und Systemmanagement müssen parallel zur Rechenkapazität skaliert werden.
GIGABYTE bietet ein umfassendes Portfolio – von GPU-Servern mit hoher Packungsdichte bis hin zu Rack-Scale-Plattformen für KI-Computing für das KI-Training und groß angelegte Inferenz. GIGAPOD integriert GPU-Computing, Hochgeschwindigkeitsnetzwerke und Infrastruktur in einer skalierbaren Plattform, während der GIGABYTE POD Manager (GPM) eine zentrale Systemüberwachung und Ressourcenverwaltung ermöglicht.
Da GPU-Leistung und thermische Packungsdichte weiter zunehmen, können fortschrittliche Kühltechnologien wie die direkte Flüssigkeitskühlung (DLC) den Betrieb hochverdichteter Umgebungen zusätzlich unterstützen. So können Neocloud- und Cloud-Service-Provider eine skalierbare KI-Infrastruktur aufbauen.
