LLM (Large Language Model)
Modelo de lenguaje grande
¿Qué es un LLM (modelo de lenguaje grande)?
Un modelo de lenguaje grande (LLM, por sus siglas en inglés) es un modelo de inteligencia artificial (IA) capaz de comprender el lenguaje humano sin necesidad de programación adicional y de generar texto indistinguible del escrito por una persona mediante un proceso conocido como procesamiento de lenguaje natural (NLP). Entre los LLM más populares del mercado se encuentran la serie GPT de OpenAI, la familia LLaMA de Meta y BLOOM, un modelo de código abierto. Muchos servicios de IA generativa basados en lenguaje se han desarrollado a partir de los LLM, como ChatGPT de OpenAI, Google Bard y Bing Chat de Microsoft.
En esencia, un LLM es una red neuronal artificial (ANN) que emplea un tipo de arquitectura de aprendizaje profundo conocida como «transformer». El mecanismo de cómputo paralelo de los transformers permite entrenar modelos de IA con enormes corpus de datos lingüísticos —como toda Wikipedia— y con parámetros de datos que pueden contarse por miles de millones o incluso billones. Durante el entrenamiento, el modelo de IA intenta predecir la respuesta correcta para una entrada determinada —por ejemplo, la siguiente palabra de una oración o la respuesta adecuada a una consulta— y después verifica sus resultados. Según haya acertado o no, el modelo de IA ajusta los «sesgos» o «pesos» de sus parámetros, hasta que logra generar prácticamente siempre el resultado correcto. Por eso, los servicios de IA basados en LLM pueden comprender y responder al lenguaje humano con facilidad. Algunos ejemplos de la vida real son un chatbot de atención al cliente que proporciona respuestas precisas a quejas con errores ortográficos o gramaticales, y ChatGPT redactando poemas y currículums en cuestión de segundos.
Más información: ¿Qué es RAG y cómo funciona?
En esencia, un LLM es una red neuronal artificial (ANN) que emplea un tipo de arquitectura de aprendizaje profundo conocida como «transformer». El mecanismo de cómputo paralelo de los transformers permite entrenar modelos de IA con enormes corpus de datos lingüísticos —como toda Wikipedia— y con parámetros de datos que pueden contarse por miles de millones o incluso billones. Durante el entrenamiento, el modelo de IA intenta predecir la respuesta correcta para una entrada determinada —por ejemplo, la siguiente palabra de una oración o la respuesta adecuada a una consulta— y después verifica sus resultados. Según haya acertado o no, el modelo de IA ajusta los «sesgos» o «pesos» de sus parámetros, hasta que logra generar prácticamente siempre el resultado correcto. Por eso, los servicios de IA basados en LLM pueden comprender y responder al lenguaje humano con facilidad. Algunos ejemplos de la vida real son un chatbot de atención al cliente que proporciona respuestas precisas a quejas con errores ortográficos o gramaticales, y ChatGPT redactando poemas y currículums en cuestión de segundos.
Más información: ¿Qué es RAG y cómo funciona?
¿Cuáles son las aplicaciones de los LLM?
Sin los LLM, comunicarse con una computadora requeriría usar comandos (¿recuerda MS-DOS?) o una interfaz gráfica de usuario (GUI) prediseñada. Esperar que la computadora respondiera en lenguaje humano habría sido una quimera. Gracias a la proliferación de los LLM, ahora existen muchos servicios nuevos basados en IA:
● Motores de búsqueda y chatbots: la tecnología de los LLM ha incorporado capacidades de IA en estas funciones tan populares. Los motores de búsqueda y los chatbots no solo pueden comprender nuestras consultas con una precisión extraordinaria, sino que estas funciones también han dado origen a una nueva generación de computadoras personales y dispositivos con IA.
● IA generativa: herramientas como ChatGPT pueden hacer de todo, desde resumir y traducir documentos hasta crear contenido completamente nuevo, como cartas y guiones para televisión.
● Atención médica y medicina: las aplicaciones inteligentes de atención médica basadas en LLM pueden generar expedientes médicos electrónicos (EHR), lo que reducirá la carga administrativa del personal médico y permitirá crear bases de datos para análisis del sector salud.
● Programación y desarrollo de IA: GitHub Copilot, desarrollado por Microsoft y OpenAI, puede escribir código en JavaScript, Python y otros lenguajes de programación. Esto es especialmente notable porque, en la práctica, los LLM han permitido que la IA cree la programación de futuras herramientas de IA.
● Motores de búsqueda y chatbots: la tecnología de los LLM ha incorporado capacidades de IA en estas funciones tan populares. Los motores de búsqueda y los chatbots no solo pueden comprender nuestras consultas con una precisión extraordinaria, sino que estas funciones también han dado origen a una nueva generación de computadoras personales y dispositivos con IA.
● IA generativa: herramientas como ChatGPT pueden hacer de todo, desde resumir y traducir documentos hasta crear contenido completamente nuevo, como cartas y guiones para televisión.
● Atención médica y medicina: las aplicaciones inteligentes de atención médica basadas en LLM pueden generar expedientes médicos electrónicos (EHR), lo que reducirá la carga administrativa del personal médico y permitirá crear bases de datos para análisis del sector salud.
● Programación y desarrollo de IA: GitHub Copilot, desarrollado por Microsoft y OpenAI, puede escribir código en JavaScript, Python y otros lenguajes de programación. Esto es especialmente notable porque, en la práctica, los LLM han permitido que la IA cree la programación de futuras herramientas de IA.
¿Cómo ayuda GIGABYTE?
GIGABYTE Technology ofrece soluciones de hardware y software para trabajar con modelos de lenguaje de gran escala (LLM) y servicios de IA generativa basados en LLM.
En cuanto al hardware, GIGABYTE ofreceservidores de IAespecialmente diseñados para las necesidades de cómputo y almacenamiento de datos del entrenamiento de modelos de IA. Por ejemplo, elG593-SD0de GIGABYTE es el primer servidor HGX™ H100 8-GPU SXM5 con certificación de NVIDIA disponible en el mercado. Integra el módulo de cómputo NVIDIA HGX™ H100 8-GPU, lo que lo convierte en una plataforma de cómputo para IA de alto rendimiento. Otros productos de la línea deservidores GPU G-Seriesde GIGABYTE también pueden equiparse con aceleradores de GPU avanzados, como NVIDIA L40S, para admitir cargas de trabajo de LLM. Para el almacenamiento de datos, elservidor de almacenamiento S-SeriesS183-SH0 de GIGABYTE está diseñado especialmente para LLM. Proporciona almacenamiento all-flash (AFA) mediante la implementación de unidades de estado sólido (SSD) EDSFF E1.S, que aprovechan las tecnologías de interfaz PCIe Gen5 y NVMe. De este modo, el servidor puede satisfacer los requisitos de alta velocidad para el almacenamiento y la recuperación de datos durante el desarrollo de LLM.
En cuanto al software, la empresa participada por GIGABYTE, MyelinTek Inc., ofrece elsistema de entrenamiento DNN MLSteam, una “plataforma de MLOps” compatible con aplicaciones de NLP y LLM. El sistema de entrenamiento DNN MLSteam puede optimizar LLM de código abierto, como BLOOM, para la plataforma de software de aceleración de GPU que el cliente elija, como AMD ROCm o NVIDIA CUDA.
En cuanto al hardware, GIGABYTE ofreceservidores de IAespecialmente diseñados para las necesidades de cómputo y almacenamiento de datos del entrenamiento de modelos de IA. Por ejemplo, elG593-SD0de GIGABYTE es el primer servidor HGX™ H100 8-GPU SXM5 con certificación de NVIDIA disponible en el mercado. Integra el módulo de cómputo NVIDIA HGX™ H100 8-GPU, lo que lo convierte en una plataforma de cómputo para IA de alto rendimiento. Otros productos de la línea deservidores GPU G-Seriesde GIGABYTE también pueden equiparse con aceleradores de GPU avanzados, como NVIDIA L40S, para admitir cargas de trabajo de LLM. Para el almacenamiento de datos, elservidor de almacenamiento S-SeriesS183-SH0 de GIGABYTE está diseñado especialmente para LLM. Proporciona almacenamiento all-flash (AFA) mediante la implementación de unidades de estado sólido (SSD) EDSFF E1.S, que aprovechan las tecnologías de interfaz PCIe Gen5 y NVMe. De este modo, el servidor puede satisfacer los requisitos de alta velocidad para el almacenamiento y la recuperación de datos durante el desarrollo de LLM.
En cuanto al software, la empresa participada por GIGABYTE, MyelinTek Inc., ofrece elsistema de entrenamiento DNN MLSteam, una “plataforma de MLOps” compatible con aplicaciones de NLP y LLM. El sistema de entrenamiento DNN MLSteam puede optimizar LLM de código abierto, como BLOOM, para la plataforma de software de aceleración de GPU que el cliente elija, como AMD ROCm o NVIDIA CUDA.
