Neocloud
네오클라우드
기존 클라우드와 네오클라우드
기존 퍼블릭 클라우드는 가상 머신, 스토리지, 데이터베이스, 분석 및 다양한 관리형 서비스를 제공합니다. 주요 클라우드 공급업체는 이제 광범위한 GPU 및 AI 서비스도 제공합니다. 따라서 기존 클라우드와 네오클라우드의 차이는 단순히 GPU를 사용할 수 있는지 여부가 아니라, 기반 인프라가 어떻게 설계되었는지에 있습니다.
네오클라우드는 일반적으로 처음부터 GPU 집약적 워크로드를 중심으로 구축됩니다. 고밀도 GPU 클러스터, 고대역폭·저지연 네트워킹, 컴퓨팅 리소스에 대한 보다 직접적인 액세스를 중점적으로 제공합니다. 일부 공급업체는 하드웨어 구성을 보다 세밀하게 제어하거나 대규모 분산 AI 학습을 수행해야 하는 사용자를 위해 베어메탈 서버 또는 전용 GPU 클러스터도 제공합니다.
한편 하이퍼스케일 퍼블릭 클라우드는 더욱 폭넓은 소프트웨어 생태계와 관리형 서비스, 글로벌 리전을 제공합니다. 네오클라우드는 모든 기존 클라우드 워크로드를 대체하기 위한 것이 아니라, 고성능 AI 및 HPC 애플리케이션을 위한 보다 전문화된 선택지를 제공합니다.
네오클라우드의 이점은 무엇인가요?
네오클라우드의 주요 이점 중 하나는 고급 GPU 컴퓨팅에 빠르게 액세스할 수 있다는 것입니다. 조직은 대규모 GPU를 먼저 구매하고 배포하지 않아도 모델 학습, 추론 또는 개별 프로젝트에 필요한 리소스를 확보할 수 있습니다.
인프라가 AI 워크로드를 중심으로 설계되므로 고밀도 GPU 서버, 고속 인터커넥트, 고성능 스토리지를 하나의 시스템으로 최적화할 수 있습니다. 이를 통해 분산 AI 워크로드에서 발생하는 통신 병목을 줄일 수 있습니다. 또한 사용자는 컴퓨팅 요구 사항에 따라 개별 GPU 인스턴스에서 전용 클러스터까지 확장할 수 있습니다.
일반적인 네오클라우드 서비스 모델
네오클라우드 제공업체는 워크로드의 지속 시간, 용량 및 사용 패턴에 따라 AI 컴퓨팅 리소스에 액세스하는 다양한 방식을 제공합니다.
・예약형 인스턴스 — 예측 가능한 워크로드를 위한 예약형 AI 컴퓨팅
예측 가능하고 장기간 실행되는 AI 워크로드에 적합합니다. 사용자는 GPU 용량 또는 컴퓨팅 리소스를 사전에 예약하여 보다 안정적인 가용성과 성능을 확보할 수 있으므로, 대규모 모델 학습이나 지속적인 AI 추론에 적합합니다.
・온디맨드 인스턴스 — 공유 AI 컴퓨팅에 대한 종량제 액세스
사용자는 필요할 때 공유 리소스 풀에서 GPU 및 기타 컴퓨팅 리소스를 할당받고, 장기 약정 없이 실제 사용량에 따라 비용을 지불합니다. AI 개발, 테스트, 모델 파인튜닝 및 수요 변동이 큰 워크로드에 적합한 모델입니다.
・서버리스 플랫폼 — 인프라를 직접 관리하지 않는 AI 서비스
제공업체가 기본 하드웨어, 프로비저닝, 확장 및 수명 주기 관리를 담당하므로, 개발자는 서버를 직접 관리하지 않고 관리형 플랫폼 또는 API를 통해 AI 모델과 컴퓨팅 리소스에 액세스할 수 있습니다. AI 모델을 프로덕션 애플리케이션에 신속하게 통합하는 데 적합한 모델입니다.
GIGABYTE는 네오클라우드에 어떻게 기여하나요?
네오클라우드를 확장하려면 GPU를 추가하는 것만으로는 충분하지 않습니다. 네트워킹, 스토리지, 전력, 냉각 및 시스템 관리도 컴퓨팅 용량과 함께 확장되어야 합니다.
GIGABYTE는 고밀도 GPU 서버부터 AI 학습 및 대규모 추론을 위한 랙 스케일 AI 컴퓨팅 플랫폼까지 폭넓은 제품 포트폴리오를 제공합니다. GIGAPOD는 GPU 컴퓨팅, 고속 네트워킹 및 인프라를 확장 가능한 플랫폼으로 통합하며, GIGABYTE POD Manager(GPM)는 중앙 집중식 시스템 모니터링 및 리소스 관리를 제공합니다.
