Niveles de fabricación de servidores

L6 generalmente se refiere a la etapa de barebones del servidor, en la que la tarjeta madre, el chasis, la fuente de alimentación, los componentes de refrigeración, el backplane y las funciones básicas de E/S se integran en una plataforma de hardware.

En esta etapa, es posible que el sistema aún no incluya el conjunto completo de CPU, GPU, memoria, dispositivos de almacenamiento ni tarjetas de expansión. Por lo tanto, puede considerarse una estructura básica de servidor que todavía debe configurarse de acuerdo con los requisitos del cliente.

Durante las siguientes etapas de fabricación, se agregan procesadores, memoria, dispositivos de almacenamiento, aceleradores, tarjetas de red y otros componentes de expansión según el diseño del producto y las especificaciones del pedido. Posteriormente, el sistema pasa a L10 para completar la integración del servidor. Dado que los fabricantes pueden definir los niveles intermedios de forma diferente, la secuencia exacta de instalación y el alcance de las pruebas deben determinarse conforme a las especificaciones del proveedor o del proyecto.

L10 es la etapa en la que un sistema barebones de servidor se configura como un servidor completo y operativo de forma independiente. Los procesos habituales incluyen la instalación de CPU, GPU, memoria, dispositivos de almacenamiento, tarjetas de red, DPU y otros componentes de expansión. Según los requisitos de entrega, también pueden configurarse el BIOS, el BMC, el firmware, los controladores, la imagen del sistema operativo y el entorno básico de software.

Después del ensamblaje del hardware, el sistema se somete a pruebas de funcionalidad, compatibilidad y estabilidad a nivel de servidor. Estas pueden incluir la validación del arranque, la verificación de las versiones del firmware, la detección de componentes, pruebas de funcionamiento de la red y el almacenamiento, pruebas de funcionamiento continuo y pruebas de estrés de las CPU, GPU, memoria y sistema de alimentación.

En los sistemas con refrigeración líquida directa, las placas frías internas, los circuitos de refrigeración líquida y los acoplamientos de desconexión rápida generalmente se ensamblan y validan a nivel de servidor durante esta etapa. Al completar L10, se obtiene un servidor completo con capacidades integradas de cómputo, almacenamiento, conectividad de red y software básico. Puede entregarse como servidor independiente o avanzar a la integración a escala de rack en L11.

L11 integra varios servidores completos en un sistema de rack listo para implementar. Además de instalar servidores, switches de red y unidades de distribución de energía en el rack, esta etapa puede incluir la configuración de la alimentación eléctrica y de la red de administración, el tendido y etiquetado de cables, la homologación de las versiones de firmware entre los dispositivos y la validación térmica y del sistema a nivel de rack.

A medida que aumentan el consumo de energía y la densidad de los racks de los servidores GPU avanzados, las configuraciones de alta densidad pueden superar los límites prácticos de enfriamiento y suministro eléctrico de los centros de datos tradicionales con enfriamiento por aire. Por lo tanto, puede ser necesario utilizar enfriamiento líquido directo u otras soluciones avanzadas de enfriamiento. Según la arquitectura de enfriamiento y el alcance del proyecto, L11 también puede incluir manifolds de rack, tuberías de enfriamiento líquido, unidades de distribución de refrigerante (CDU) y sistemas de detección de fugas, seguidos de la validación del caudal, la presión, la alimentación eléctrica y la capacidad de enfriamiento.

Al concluir L11, se obtiene un sistema de rack completo con alimentación eléctrica, conectividad de red, enfriamiento y cableado integrados. En comparación con la instalación individual de servidores en el centro de datos, la entrega a escala de rack reduce el trabajo de integración en sitio, acorta el tiempo de implementación y disminuye el riesgo de errores de configuración y de coordinación entre varios proveedores.

L12 integra varios racks en un clúster que puede operar como un sistema coordinado. Esta etapa generalmente incluye conexiones de red entre racks, configuración de la red de administración, validación de InfiniBand o Ethernet de alta velocidad, así como la implementación uniforme de sistemas operativos, controladores, firmware y entornos de software básicos.

Según los requisitos del proyecto, L12 también puede incluir la administración del clúster, la programación de recursos, plataformas de contenedores, almacenamiento paralelo y pruebas de integración con cargas de trabajo especificadas por el cliente. La validación puede abarcar la comunicación entre nodos, el rendimiento y la latencia de la red, el rendimiento del almacenamiento, la comunicación colectiva de GPU, pruebas de estrés de larga duración y la optimización general del rendimiento del clúster.

La escala de un sistema L12 no es fija. Puede incluir varios racks o ampliarse hasta formar un clúster de gran tamaño con cientos o miles de GPU. Su objetivo principal es garantizar que todos los componentes de cómputo, red, almacenamiento, energía, enfriamiento y administración funcionen de manera confiable en un entorno de varios racks y cumplan con los objetivos de rendimiento y confiabilidad establecidos. Una vez completadas la integración y validación en fábrica, el sistema L12 puede enviarse al centro de datos para su conexión en sitio y despliegue final.

La plataforma de computación en clúster GIGAPOD puede escalar desde un solo servidor con GPU hasta ocho racks con 32 nodos GPU y un total de 256 GPU. Al combinarse con GPM (GIGABYTE POD Manager), permite supervisar en tiempo real el estado del hardware y la utilización de los recursos. Los recursos de cómputo también pueden asignarse dinámicamente según los requisitos de la carga de trabajo, lo que mejora la eficiencia de gestión y la utilización general de los recursos.

Para la refrigeración, GIGABYTE ofrece soluciones de refrigeración por aire, refrigeración líquida directa y refrigeración por inmersión. La arquitectura de refrigeración adecuada puede seleccionarse según el consumo de energía de los chips, la densidad de servidores, la configuración de los racks y las condiciones del centro de datos. Al integrar los sistemas de hardware, software, redes, alimentación eléctrica y refrigeración, GIGABYTE ayuda a las empresas a reducir el tiempo de implementación de la infraestructura de IA y, al mismo tiempo, mejorar la estabilidad, escalabilidad y eficiencia operativa de los clústeres a gran escala.