머신러닝 운영(MLOps)

MLOps는 머신러닝 운영(Machine Learning Operations)의 약어로, DevOps(소프트웨어 개발 및 IT 운영)와 ModelOps(모델 운영)의 방식을 아직 초기 단계인 인공지능(AI) 분야에 확장 적용한 것입니다. 혁신적이고 지능적인 방식을 활용해 머신러닝 또는 딥러닝을 더욱 효과적이고 안정적으로 배포할 수 있도록 지원합니다. MLOps는 단순히 ML 모델을 개발하는 데 그치지 않고, 사용자 피드백을 바탕으로 모델을 지속적으로 학습, 통합, 제공할 수 있는 파이프라인 또는 라이프사이클을 구축합니다. 이를 통해 ML 모델은 점차 최적화되며, 설계 목적에 맞는 사용자 시나리오에 더욱 적합해집니다.

최종 사용자에게 제공되는 솔루션인 MLOps는 고객이 비즈니스 환경에 머신러닝을 효과적으로 도입할 수 있도록 지원하는 폭넓은 서비스를 포괄합니다. MLOps 솔루션은 소프트웨어만으로 구성될 수도 있고, 하드웨어와 소프트웨어를 함께 제공할 수도 있으며, 솔루션 활용에 필요한 교육이나 고객을 위한 원격 운영 서비스까지 포함할 수 있습니다. 3대 클라우드 서비스 제공업체(CSP)인 Amazon, Google, Microsoft 역시 퍼블릭 클라우드에서 MLOps 서비스를 제공합니다. 규모가 작은 MLOps 공급업체는 자체 하드웨어와 소프트웨어 대신 이들 업체의 소프트웨어와 하드웨어를 활용할 수 있습니다.

MLOps의 혜택을 누릴 수 있는 최종 사용자의 범위는 사실상 무한합니다. 제조, 물류, 운송, 상거래, 리테일, 교육, 의료 등 어떤 분야에 종사하든 최적화된 머신러닝 모델은 업무 효율을 높일 뿐 아니라, 보유하고 있는 방대한 누적 데이터에서 추가적인 가치를 창출할 가능성도 제공합니다. 이러한 이유로 자체 ML 모델을 개발하고 배포하기 위해 MLOps 서비스를 도입하는 기업과 기관이 점점 늘고 있습니다.

GIGABYTE는 MLOps 솔루션 공급업체와 사용자 모두를 위한 하드웨어 및 소프트웨어를 제공합니다.

하드웨어: 여러 그래픽 카드를 고밀도 컴팩트 섀시에 탑재하여 AI 및 딥러닝을 위한 확장 가능한 HPC 솔루션을 제공하는 GIGABYTE의G-Series GPU 서버는 MLOps 공급업체가 주로 선택하는 서버 제품입니다. GPU 서버의 병렬 컴퓨팅 기능은 머신 비전, 필기 인식(HWR), 자연어 처리(NLP)와 같은 첨단 기술을 활용하는 ML 모델을 설계하는 데 이상적입니다.

소프트웨어: MLOps의 핵심 요소인 딥러닝은 심층 신경망(DNN) 학습을 통해 구현할 수 있습니다. GIGABYTE DNN Training Appliance의 일부인Myelintek MLSteam DNN Training System은 여러 주요 프레임워크와 라이브러리를 포함한 검증 및 최적화 완료 하드웨어·소프트웨어 환경을 사전 탑재한 턴키 DNN 학습 플랫폼입니다. 이 MLOps 솔루션의 백엔드 역시 시장 최고 수준의 GPU 고밀도 구성을 제공하는 GIGABYTE G-Series GPU 서버입니다.