머신러닝 운영

머신러닝 운영을 의미하는 MLOps는 DevOps(소프트웨어 개발 및 IT 운영)와 ModelOps(모델 운영)의 원칙을 인공지능(AI)이라는 새롭게 발전하는 분야에 적용하고, 혁신적인 지능형 방식을 활용해 머신러닝 또는 딥러닝 모델을 더욱 효과적이고 안정적으로 배포할 수 있도록 합니다. MLOps는 단순히 ML 모델을 개발하는 데 그치지 않고, 사용자 피드백을 바탕으로 모델을 지속적으로 학습, 통합, 제공할 수 있는 파이프라인 또는 수명 주기를 구축합니다. 이를 통해 ML 모델은 점점 더 최적화되고, 개발 목적에 맞는 사용자 시나리오에 더욱 적합해집니다.

최종 사용자에게 제공되는 솔루션인 머신러닝 운영은 고객이 비즈니스에 머신러닝을 효과적으로 도입할 수 있도록 지원하는 다양한 서비스를 포괄합니다. 머신러닝 운영 솔루션에는 소프트웨어만 포함될 수도 있고, 하드웨어와 함께 제공되는 소프트웨어, 솔루션 사용에 필요한 교육, 고객을 대신한 솔루션의 원격 운영까지 포함될 수 있습니다. Amazon, Google, Microsoft 등 3대 클라우드 서비스 제공업체(CSP)도 퍼블릭 클라우드에서 머신러닝 운영 서비스를 제공합니다. 규모가 작은 머신러닝 운영 업체는 자체 하드웨어가 아닌 다른 회사의 소프트웨어와 하드웨어를 기반으로 서비스를 제공할 수도 있습니다.

머신러닝 운영의 혜택을 누릴 수 있는 최종 사용자의 범위는 매우 넓습니다. 제조, 물류, 운송, 상업, 소매, 교육, 의료 등 어느 분야에서든 최적화된 머신러닝 모델을 활용하면 업무 효율을 높일 수 있을 뿐 아니라, 보유한 방대한 축적 데이터를 통해 추가적인 가치를 창출할 수도 있습니다. 이러한 이유로 자체 ML 모델을 개발하고 배포하기 위해 머신러닝 운영 서비스를 도입하는 기업과 기관이 점점 늘고 있습니다.

GIGABYTE는 머신러닝 운영 솔루션 공급업체와 사용자 모두를 위해 하드웨어와 소프트웨어를 제공합니다.

하드웨어: GIGABYTE의 G-Series GPU 서버는 여러 그래픽 카드를 고밀도 컴팩트 섀시에 탑재해 AI 및 딥러닝을 위한 확장 가능한 HPC 솔루션을 제공합니다. 따라서 머신러닝 운영 솔루션 공급업체가 가장 선호하는 서버 제품입니다. GPU 서버의 병렬 컴퓨팅 성능은 컴퓨터 비전, 필기 인식(HWR), 자연어 처리(NLP)와 같은 최신 기술을 활용하는 머신러닝 모델을 설계하는 데 적합합니다.

소프트웨어: 머신러닝 운영의 중요한 요소 중 하나는 딥러닝이며, 딥 신경망 학습을 통해 구현할 수 있습니다. GIGABYTE의 DNN Training Appliance에 포함된 Myelintek MLSteam DNN Training System은 사전 탑재되고 검증 및 최적화된 하드웨어·소프트웨어 환경을 제공하는 턴키 DNN 학습 플랫폼입니다. 여기에는 여러 가지 범용 프레임워크와 라이브러리도 포함되어 있습니다. 이 머신러닝 운영 솔루션의 백엔드 역시 GIGABYTE의 G-Series GPU 서버입니다. 시중에서 가장 높은 수준의 GPU 집적도를 제공하는 구성 중 하나이기 때문입니다.