GIGABYTE AI TOP
데스크 위에서 AI 트레이닝을 실행합니다.
로컬 AI 시대에 GIGABYTE AI TOP은 전통적인 AI 트레이닝 방법보다 우위를 점할 수 있는 전방위 솔루션입니다. GIGABYTE AI TOP은 입문자와 전문가 모두 쉽게 적용할 수 있는 다양한 혁신 기술을 갖추고 있으며, 일반적인 오픈 소스 LLM에서 사용 가능하며, 나아가 데스크 위에서도 AI 트레이닝을 실행할 수 있습니다.
GIGABYTE AI TOP의 장점
236B LLM 로컬 트레이닝 지원
직관적인 설정
유연성 및 업그레이드 가능
개인 정보 보호 및 보안
가정용으로 적합
AI TOP Utility
AI 트레이닝의 재정의
AI TOP 유틸리티는 혁신적인 워크플로우, 사용자 친화적인 인터페이스와 사용 경험, 실시간 진행 모니터링을 통해 로컬 AI 모델 트레이닝을 획기적으로 실현한 것입니다. AI TOP Utility는 입문자도 AI 프로그래밍 기술 없이 쉽게 AI 프로젝트를 시작할 수 있도록 다양한 신뢰할 수 있는 오픈 소스 AI 모델을 지원합니다.
혁신적인 작업 흐름
AI TOP Utility는 사용자 친화적인 인터페이스와 실시간 모니터링을 통해 로컬 AI 모델 트레이닝 및 미세 조정에 혁신적인 변화를 제공합니다.
메모리 오프로드
AI TOP Utility를 사용하여 VRAM 크기의 한계를 극복하고 데이터를 시스템 메모리 및 SSD로 오프로드할 수 있습니다.
사전 설정 전략
Standard, Fast Speed, High Precision 등 다양한 미세 조정 전략을 제공하여 서로 다른 요구와 기술 수준을 가진 사용자에게 맞춤형 솔루션을 제공합니다.
실시간 대시보드 모니터링
CPU, GPU, VRAM, DRAM, SSD 등 시스템 하드웨어의 실시간 상태를 시각화된 대시보드를 통해 제공합니다.
트레이닝 일정 관리
전기 요금이 저렴한 비수기와 같은 시간에 트레이닝 실행을 예약함으로써 작업 효율성을 극대화할 수 있습니다.
AI TOP Hardware
AI 트레이닝을 위한 성능 향상
GIGABYTE AI TOP 하드웨어는 AI 트레이닝에 최적화된 전력 효율성과 내구성을 최적화했습니다. GIGABYTE AI TOP 제품은 업그레이드 가능한 컴포넌트를 포함하며, 집에서 쉽게 조립할 수 있습니다.
최적화된 전력 효율성
AI 트레이닝을 위한
울트라 듀러블
업그레이드 가능한
컴포넌트
집에서 쉽게 조립 가능
AI TOP 메인보드
CPU, GPU, 메모리, SSD 등을 종합적으로 최적화하여 AI 모델 트레이닝을 극대화하도록 설계되었습니다.
자세히 보기
AI TOP 그래픽 카드
최적의 쿨링 솔루션, 내구성이 뛰어난 디자인, 그리고 VRAM을 통한 즉각적인 데이터 교환으로 AI 컴퓨팅의 잠재력을 발휘할 수 있습니다.
자세히 보기
AI TOP SSD
RAID 기술을 지원하는 여러 SSD를 장착하여 대규모 AI 트레이닝을 실행할 수 있습니다.
자세히 보기
AI TOP PSU
서버급의 컴포넌트를 사용하여 AI 모델 트레이닝의 엄격한 시뮬레이션에서 테스트하여 안정성과 신뢰성을 제공합니다.
자세히 보기AI TOP Recommendations
사용에 알맞은 최적의 설정을 선택하세요.
 교육 프로젝트 AI TOP은 작은 AI 모델을 처음부터 트레이닝하여 AI 모델 트레이닝을 포괄적으로 이해하는데 완벽합니다. |
 개별 AI 개발자 AI TOP은 즉각적인 결과를 제공하며, 가장 적합한 시점에 트레이닝을 예약할 수 있는 LLM을 미세 조정하는 최상의 도구입니다. |
 소규모 스튜디오 AI TOP은 소규모 스튜디오에 적합하며, 독점 데이터셋에 대한 절대적인 개인 정보 보호 및 보안을 제공합니다. |
 중소기업을 위한 AI 워크플로우 AI TOP은 중소기업이 AI 모델을 워크플로우에 배포하고 생산성을 향상시키는 데 필요한 총소유비용(TCO)이 낮은 이상적인 플랫폼입니다. |
|
| 미세 조정을 위한 최적의 모델 크기(parameters) |
8 B | 13 B | 30 B | 70 B |
| 100K 샘플의 훈련 시간 |
288 Hours | 32 Hours | 17 Hours | 15 Hours |
| 추천 세트 |
|
|
|
|
Performance
AI 트레이닝을 위한 고성능과 효율성
트레이닝 시간이 짧을수록 좋습니다. 전력 효율이 높을수록 좋습니다.
(memory offloading: DRAM+SSD)
(memory offloading: SSD+SSD)
13B
70B
AI TOP PC: TRX50 AI TOP 메인보드와 Ryzen Threadripper 7985WX 프로세서, GIGABYTE AI TOP 그래픽 카드 솔루션, 2TB의 시스템 메모리, 그리고 RAID0으로 구성된 1TB SSD 2개가 포함되어 있습니다.
일반 PC: Z790 AORUS MASTER 메인보드와 Intel Core i9 13세대 프로세서, RTX 4090 그래픽 카드 1개, 64GB의 시스템 메모리, 그리고 2TB SSD 1개로 구성되어 있습니다.
Training configs: AI TOP Utility 1.0.1, Batch size: 4, Epochs: 1, Finetuning type: Full and LoRA. 트레이닝 시간: AI TOP Utility의 대시보드에 표시된 ETA에서 계산되었습니다. 실제 데이터는 하드웨어, 시스템 및 트레이닝 구성에 따라 다를 수 있습니다.
전력 효율성: 측정된 토큰 수를 와트로 나누어 계산되었습니다. 실제 데이터는 하드웨어, 시스템 및 트레이닝 구성에 따라 다를 수 있습니다.
GIGABYTE Advantages
GIGABYTE AI TOP을 선택하는 이유는?
최첨단 AI 분야의
선두주자
2023년, GIGABYTE는 AI 전문팀을 구성하였으며, 이후 Intel, AMD, NVIDIA와 같은 파트너업체와 긴밀하게 협력해 왔습니다. GIGABYTE는 제품을 위한 첨단 AI 기술 개발을 선도하고 있습니다.
지속 가능한 기술 성공
1986년에 설립된 GIGABYTE는 최첨단 기술을 제공하기 위해 많은 노력을 기울여왔으며, 제품과 영향력을 꾸준하게 확장시켜 고객이 AI를 구현할 수 있도록 지원하고 있습니다.
다양한 구성 요소를
아우르는 제품 라인업
GIGABYTE는 컴퓨터 하드웨어 솔루션의 선두 주자로서, 하드웨어 전문 지식과 특허받은 혁신 기술을 활용하여 최고의 PC 제품과 주변 장치를 제공합니다.
생산 전문성과 품질
GIGABYTE의 생산 라인은 우수한 공급과 품질 등급을 유지하고 있으며, 혁신과 디자인에 대해 20,000건에 가까운 수상 경력을 갖고 있습니다.
FAQs
- AI TOP은 무엇인가요?
AI TOP은 로컬 AI 모델 트레이닝, 미세 조정 및 추론을 위한 전방위 솔루션입니다. AI TOP은 최대 236B LLM을 지원하는 소프트웨어인 AI TOP Utility와 AI 트레이닝 작업을 위해 전력 효율성과 내구성을 최적화한 일련의 PC 제품인 AI TOP 하드웨어로 구성되어 있습니다.
- AI TOP을 사용하면 어떤 장점이 있나요?
AI TOP은 최대 236B 파라미터의 대형 언어 모델(LLM)을 지원하며, 로컬 트레이닝 방법을 통해 데이터의 보안과 개인 정보를 보호합니다. 가정용 전기 시스템에서 구축할 수 있으며, 향후 업그레이드에 대한 유연성도 제공합니다.
- AI TOP Utility는 무엇인가요?
AI TOP Utility는 대형 언어 모델(LLM) 트레이닝을 위해 설계된 소프트웨어입니다. 사용자 친화적이고 직관적인 경험을 통해 로컬 AI 트레이닝을 쉽게 시작하게 도와주는 그래픽 사용자 인터페이스(GUI)를 제공합니다.
- AI TOP Utility의 시스템 요구 사항은 무엇인가요?
AI TOP Utility는 AI TOP Hardware에서만 실행할 수 있습니다. 지원되는 하드웨어 목록은 여기에서 확인할 수 있습니다. 2024년 8월 현재, AI TOP Utility는 Linux에서만 사용 가능합니다.
- AI TOP Utility에서 지원하는 대형 언어 모델(LLM)은 무엇인가요?
AI TOP Utility는 Llama, Qwen, DeekSeek와 같은 여러 상위 랭킹의 오픈 소스 LLM들과 함께 테스트되어 신뢰성을 입증했습니다. 지원되는 LLM의 자세한 목록은 AI TOP Utility 매뉴얼에서 확인할 수 있으며, 해당 목록은 파일 패키지에 포함되어 있습니다.
- AI TOP Utility에서 Memory Offloading은 어떻게 작동하나요?
Memory Offloading은 시스템의 LLM 크기와 같은 성능을 크게 향상시키는 최첨단 기술입니다. 트레이닝을 실행하는 과정에서 생성된 데이터를 VRAM에서 시스템 DRAM 및/또는 SSD로 오프로드할 수 있으며, 이는 현재의 전략에 따라 달라집니다. 트레이닝 또는 미세 조정할 LLM에 따라 오프로드 메모리 전략(Offloading Memory Strategy)을 선택할 수 있습니다.
- AI TOP Hardware란 무엇인가요?
AI TOP Hardware는 메인보드, 그래픽 카드, 전원 공급장치 및 SSD를 포함합니다. 이들 제품은 강력한 AI 훈련을 위해 전력 효율성과 내구성을 최적화하여 설계되었습니다.
- AI TOP Hardware는 일반 PC와 어떤 차이가 있나요?
AI TOP Hardware는 GPU, 시스템 메모리 및 SSD의 호환성을 극대화하고, 일반 PC에 비해 더 높은 전력 효율성을 제공합니다. 모든 AI TOP Hardware는 고품질 구성 요소로 제작되며, 엄격한 시뮬레이션 테스트를 통해 검증된 신뢰성을 확보합니다.
- AI TOP Hardware의 적절한 구성을 선택하는 방법에는 어떤 것이 있나요?
AI TOP Hardware는 높은 유연성과 업그레이드 가능성을 제공합니다. 실제 사용에 따라 설정을 구성할 수 있습니다. 추천 설정의 일부는 여기에서 확인할 수 있습니다.