Neocloud
¿Qué es una neocloud?
Una neocloud es un servicio en la nube diseñado específicamente para cargas de trabajo de inteligencia artificial (IA) y computación de alto rendimiento (HPC). A diferencia de las plataformas de nube tradicionales, que admiten una amplia variedad de aplicaciones de TI empresariales, las neocloud ponen mayor énfasis en recursos de computación acelerada, como las GPU, además de redes de alta velocidad, almacenamiento de alto rendimiento e infraestructura diseñada para la computación de IA a gran escala.
El auge de las neocloud está estrechamente relacionado con el aumento de la demanda de GPU impulsado por la IA generativa. Las empresas, las startups de IA y los desarrolladores de modelos pueden acceder a grandes cantidades de capacidad de cómputo con GPU para entrenar, ajustar y ejecutar inferencias de modelos de IA sin tener que construir primero un centro de datos de IA completo. Por ello, GPU como servicio (GPUaaS) se ha convertido en una oferta importante para muchos proveedores de neocloud.
Gartner estima que, para 2030, los proveedores de neocloud podrían alcanzar una participación del 20 % en el mercado de nube para IA, valuado en 267 mil millones de dólares.
Gartner estima que, para 2030, los proveedores de neocloud podrían alcanzar una participación del 20 % en el mercado de nube para IA, valuado en 267 mil millones de dólares.
Nube tradicional vs. neocloud
Las nubes públicas tradicionales ofrecen máquinas virtuales, almacenamiento, bases de datos, analítica y una amplia variedad de servicios administrados. Actualmente, los principales proveedores de nube también ofrecen amplios servicios de GPU e inteligencia artificial. Por lo tanto, la diferencia entre las nubes tradicionales y las neoclouds no radica simplemente en si hay GPU disponibles, sino en cómo está diseñada la infraestructura subyacente.
Por lo general, las neoclouds se diseñan desde el inicio para cargas de trabajo con un uso intensivo de GPU. Su propuesta se centra en clústeres densos de GPU, redes de alto ancho de banda y baja latencia, y un acceso más directo a los recursos de cómputo. Algunos proveedores también ofrecen servidores bare metal o clústeres de GPU dedicados para usuarios que requieren mayor control sobre la configuración del hardware o que ejecutan entrenamientos distribuidos de IA a gran escala.
Por su parte, las nubes públicas de hiperescala ofrecen ecosistemas de software más amplios, servicios administrados y disponibilidad global. Las neoclouds no buscan reemplazar todas las cargas de trabajo de las nubes tradicionales, sino ofrecer una opción más especializada para aplicaciones exigentes de IA y HPC.
¿Cuáles son los beneficios de las neoclouds?
Uno de los principales beneficios de una neocloud es el acceso rápido a capacidades avanzadas de cómputo con GPU. Las organizaciones pueden adquirir los recursos necesarios para el entrenamiento de modelos, la inferencia o proyectos específicos sin tener que comprar e implementar primero grandes cantidades de GPU.
Como la infraestructura está diseñada para cargas de trabajo de IA, los servidores con alta densidad de GPU, las interconexiones de alta velocidad y el almacenamiento de alto rendimiento pueden optimizarse como un sistema integral. Esto ayuda a reducir los cuellos de botella de comunicación en las cargas de trabajo de IA distribuidas. Los usuarios también pueden escalar desde instancias individuales de GPU hasta clústeres dedicados, según sus necesidades de cómputo.
Modelos comunes de servicios neocloud
Los proveedores neocloud ofrecen distintas formas de acceder a recursos de cómputo para IA, según la duración de las cargas de trabajo, la capacidad requerida y los patrones de uso.
・Instancias reservadas — Cómputo reservado para IA en cargas de trabajo predecibles
Diseñadas para cargas de trabajo de IA predecibles y de larga duración. Los usuarios reservan con anticipación capacidad de GPU o recursos de cómputo para obtener mayor consistencia en la disponibilidad y el rendimiento. Este modelo es adecuado para el entrenamiento de modelos a gran escala o la inferencia de IA continua.
・Instancias bajo demanda — Acceso de pago por uso a recursos de cómputo compartidos para IA
Los usuarios obtienen GPU y otros recursos de cómputo de grupos compartidos según sus necesidades y pagan de acuerdo con el uso real, sin compromisos a largo plazo. Este modelo es ideal para el desarrollo y las pruebas de IA, el ajuste fino de modelos y las cargas de trabajo con demanda variable.
・Plataformas serverless — Servicios de IA sin administrar directamente la infraestructura
El proveedor administra el hardware subyacente, el aprovisionamiento, el escalamiento y la gestión del ciclo de vida. Esto permite a los desarrolladores acceder a modelos de IA y recursos de cómputo mediante una plataforma administrada o una API, sin administrar servidores directamente. Este modelo es ideal para integrar rápidamente modelos de IA en aplicaciones de producción.
¿Cómo ayuda GIGABYTE?
Escalar una neocloud requiere más que agregar GPU. La red, el almacenamiento, la energía, la refrigeración y la gestión de sistemas también deben escalar junto con la capacidad de cómputo.
GIGABYTE ofrece un amplio portafolio que va desde servidores GPU de alta densidad hasta plataformas de cómputo de IA a escala de rack para el entrenamiento de IA y la inferencia a gran escala. GIGAPOD integra el cómputo con GPU, redes de alta velocidad y la infraestructura en una plataforma escalable, mientras que GIGABYTE POD Manager (GPM) proporciona monitoreo centralizado de sistemas y gestión de recursos.
A medida que la potencia de las GPU y la densidad térmica continúan aumentando, las tecnologías avanzadas de refrigeración, como la refrigeración líquida directa (DLC), pueden contribuir aún más a las implementaciones de alta densidad y ayudar a los proveedores de neocloud y servicios en la nube a desarrollar una infraestructura de IA escalable.
