LLM (Large Language Model)
대규모 언어 모델
LLM(대규모 언어 모델)이란?
대규모 언어 모델(LLM)은 추가 프로그래밍 없이도 인간의 언어를 이해하고, 자연어 처리(NLP)를 통해 사람이 작성한 것과 구별하기 어려운 텍스트를 생성할 수 있는 인공지능(AI) 모델입니다. 대표적인 LLM으로는 OpenAI의 GPT 시리즈, Meta의 LLaMA 계열, 오픈소스 BLOOM이 있습니다. OpenAI의 ChatGPT, Google Bard, Microsoft Bing Chat 등 다양한 언어 기반 생성형 AI 서비스가 LLM을 기반으로 구축되었습니다.
LLM의 핵심은 ‘트랜스포머(transformer)’라는 딥러닝 아키텍처를 사용하는 인공신경망(ANN)입니다. 트랜스포머의 병렬 컴퓨팅 메커니즘을 활용하면 전체 Wikipedia와 같은 방대한 언어 기반 빅데이터를 수십억 또는 수조 개에 이르는 데이터 파라미터와 함께 사용해 AI를 학습시킬 수 있습니다. 학습 과정에서 AI 모델은 문장의 다음 단어나 질문에 대한 적절한 답변처럼 특정 입력에 대응하는 올바른 출력을 예측한 뒤, 자신의 답을 검증합니다. 예측이 맞았는지에 따라 데이터 파라미터의 ‘편향(bias)’ 또는 ‘가중치(weight)’를 조정하며, 거의 항상 올바른 출력을 생성할 수 있을 때까지 이 과정을 반복합니다. 이 때문에 LLM 기반 AI 서비스는 인간의 언어를 자연스럽게 이해하고 응답할 수 있습니다. 예를 들어 철자가 틀리거나 문법적으로 부정확한 불만 사항에도 고객 지원 챗봇이 정확히 답변할 수 있으며, ChatGPT는 몇 초 만에 시나 이력서를 작성할 수 있습니다.
자세히 알아보기: RAG란 무엇이며 어떻게 작동하나요?
LLM의 핵심은 ‘트랜스포머(transformer)’라는 딥러닝 아키텍처를 사용하는 인공신경망(ANN)입니다. 트랜스포머의 병렬 컴퓨팅 메커니즘을 활용하면 전체 Wikipedia와 같은 방대한 언어 기반 빅데이터를 수십억 또는 수조 개에 이르는 데이터 파라미터와 함께 사용해 AI를 학습시킬 수 있습니다. 학습 과정에서 AI 모델은 문장의 다음 단어나 질문에 대한 적절한 답변처럼 특정 입력에 대응하는 올바른 출력을 예측한 뒤, 자신의 답을 검증합니다. 예측이 맞았는지에 따라 데이터 파라미터의 ‘편향(bias)’ 또는 ‘가중치(weight)’를 조정하며, 거의 항상 올바른 출력을 생성할 수 있을 때까지 이 과정을 반복합니다. 이 때문에 LLM 기반 AI 서비스는 인간의 언어를 자연스럽게 이해하고 응답할 수 있습니다. 예를 들어 철자가 틀리거나 문법적으로 부정확한 불만 사항에도 고객 지원 챗봇이 정확히 답변할 수 있으며, ChatGPT는 몇 초 만에 시나 이력서를 작성할 수 있습니다.
자세히 알아보기: RAG란 무엇이며 어떻게 작동하나요?
LLM의 활용 분야는 무엇인가요?
LLM이 없었다면 컴퓨터와 상호작용하려면 명령 프롬프트(MS-DOS를 기억하시나요?)를 사용하거나 미리 설계된 그래픽 사용자 인터페이스(GUI)를 이용해야 했습니다. 컴퓨터가 사람의 언어로 응답할 것이라고 기대하는 것은 꿈도 꾸기 어려운 일이었습니다. LLM이 확산되면서 이제 다양한 AI 기반 서비스가 등장했습니다.
● 검색 엔진 및 챗봇: LLM 기술은 널리 사용되는 이러한 기능에 AI를 접목했습니다. 검색 엔진과 챗봇은 사용자의 질의를 매우 정확하게 이해할 뿐 아니라, 이러한 기능을 기반으로 AI를 활용하는 차세대 개인용 컴퓨터와 디바이스도 등장하고 있습니다.
● 생성형 AI: ChatGPT와 같은 도구는 문서 요약 및 번역부터 편지나 TV 대본과 같은 새로운 콘텐츠 작성까지 다양한 작업을 수행할 수 있습니다.
● 헬스케어 및 의료: LLM 기반의 스마트 헬스케어 애플리케이션은 의료 종사자의 행정 부담을 줄이는 전자 건강 기록(EHR)을 생성하고, 의료 분석에 활용할 데이터베이스를 구축할 수 있습니다.
● 프로그래밍 및 AI 개발: Microsoft와 OpenAI가 개발한 GitHub Copilot은 JavaScript, Python 등 다양한 프로그래밍 언어로 컴퓨터 코드를 작성할 수 있습니다. 특히 LLM은 미래 AI 도구를 위한 프로그래밍을 AI가 직접 생성할 수 있게 했다는 점에서 주목할 만합니다.
● 검색 엔진 및 챗봇: LLM 기술은 널리 사용되는 이러한 기능에 AI를 접목했습니다. 검색 엔진과 챗봇은 사용자의 질의를 매우 정확하게 이해할 뿐 아니라, 이러한 기능을 기반으로 AI를 활용하는 차세대 개인용 컴퓨터와 디바이스도 등장하고 있습니다.
● 생성형 AI: ChatGPT와 같은 도구는 문서 요약 및 번역부터 편지나 TV 대본과 같은 새로운 콘텐츠 작성까지 다양한 작업을 수행할 수 있습니다.
● 헬스케어 및 의료: LLM 기반의 스마트 헬스케어 애플리케이션은 의료 종사자의 행정 부담을 줄이는 전자 건강 기록(EHR)을 생성하고, 의료 분석에 활용할 데이터베이스를 구축할 수 있습니다.
● 프로그래밍 및 AI 개발: Microsoft와 OpenAI가 개발한 GitHub Copilot은 JavaScript, Python 등 다양한 프로그래밍 언어로 컴퓨터 코드를 작성할 수 있습니다. 특히 LLM은 미래 AI 도구를 위한 프로그래밍을 AI가 직접 생성할 수 있게 했다는 점에서 주목할 만합니다.
GIGABYTE는 어떤 도움을 제공하나요?
GIGABYTE Technology는 LLM 작업 및 LLM 기반 생성형 AI 서비스에 필요한 하드웨어와 소프트웨어 솔루션을 모두 제공합니다.
하드웨어 측면에서 GIGABYTE는 AI 모델 학습에 필요한 연산 및 데이터 스토리지 요구 사항에 최적화된 AI 서버를 제공합니다. 예를 들어 GIGABYTE G593-SD0는 시장 최초의 NVIDIA 인증 HGX™ H100 8-GPU SXM5 서버입니다. NVIDIA HGX™ H100 8-GPU 컴퓨팅 모듈을 통합해 탁월한 성능의 AI 컴퓨팅 플랫폼을 제공합니다. GIGABYTE의 G-Series GPU 서버 제품군은 NVIDIA L40S와 같은 고급 GPU 가속기를 구성하여 LLM 워크로드를 지원할 수도 있습니다. 데이터 스토리지용으로는 GIGABYTE의 S183-SH0 S-Series 스토리지 서버가 LLM 환경을 위해 특별히 설계되었습니다. PCIe Gen5 및 NVMe 인터페이스 기술을 지원하는 EDSFF E1.S SSD를 적용하여 올 플래시 어레이(AFA) 스토리지를 제공하므로, LLM 개발에 필요한 고속 데이터 저장 및 검색 요구 사항을 충족할 수 있습니다.
소프트웨어 측면에서는 GIGABYTE의 투자사인 MyelinTek Inc.가 NLP 및 LLM 애플리케이션을 지원하는 MLOps 플랫폼인 MLSteam DNN Training System을 제공합니다. MLSteam DNN Training System은 BLOOM과 같은 오픈 소스 LLM을 AMD ROCm 또는 NVIDIA CUDA 등 고객이 선택한 GPU 가속 소프트웨어 플랫폼에 맞게 최적화할 수 있습니다.
하드웨어 측면에서 GIGABYTE는 AI 모델 학습에 필요한 연산 및 데이터 스토리지 요구 사항에 최적화된 AI 서버를 제공합니다. 예를 들어 GIGABYTE G593-SD0는 시장 최초의 NVIDIA 인증 HGX™ H100 8-GPU SXM5 서버입니다. NVIDIA HGX™ H100 8-GPU 컴퓨팅 모듈을 통합해 탁월한 성능의 AI 컴퓨팅 플랫폼을 제공합니다. GIGABYTE의 G-Series GPU 서버 제품군은 NVIDIA L40S와 같은 고급 GPU 가속기를 구성하여 LLM 워크로드를 지원할 수도 있습니다. 데이터 스토리지용으로는 GIGABYTE의 S183-SH0 S-Series 스토리지 서버가 LLM 환경을 위해 특별히 설계되었습니다. PCIe Gen5 및 NVMe 인터페이스 기술을 지원하는 EDSFF E1.S SSD를 적용하여 올 플래시 어레이(AFA) 스토리지를 제공하므로, LLM 개발에 필요한 고속 데이터 저장 및 검색 요구 사항을 충족할 수 있습니다.
소프트웨어 측면에서는 GIGABYTE의 투자사인 MyelinTek Inc.가 NLP 및 LLM 애플리케이션을 지원하는 MLOps 플랫폼인 MLSteam DNN Training System을 제공합니다. MLSteam DNN Training System은 BLOOM과 같은 오픈 소스 LLM을 AMD ROCm 또는 NVIDIA CUDA 등 고객이 선택한 GPU 가속 소프트웨어 플랫폼에 맞게 최적화할 수 있습니다.
