Представленный на COMPUTEX 2024, GIGABYTE AI TOP — это полное настольное решение для локальной разработки ИИ. Сочетая утилиту AI TOP Utility с оборудованием AI TOP, оно позволяет «Создавать ИИ на своём столе». При поддержке моделей до 685 млрд параметров оно обеспечивает производительность корпоративного уровня при питании от стандартной сети.

С GIGABYTE AI TOP вы получаете свободу разрабатывать и запускать ИИ локально без использования облачных решений. Ключевые преимущества включают:
— Обучение моделей до 685 млрд параметров
— Хранение данных в безопасности и конфиденциальности на вашей собственной системе
— Работа от стандартного электропитания, специальная настройка не требуется
— Лёгкое масштабирование с помощью гибких обновлений и кластеризации
— Доступ к расширенным функциям и более широкой поддержке моделей благодаря регулярным обновлениям

AI TOP Utility — это эксклюзивное программное обеспечение GIGABYTE, созданное для того, чтобы сделать разработку ИИ доступной для всех. Оно включает:
— Простой и интуитивно понятный интерфейс с панелями управления в реальном времени
— Технологию выгрузки данных из памяти для поддержки больших моделей с открытым исходным кодом
— Встроенные инструменты для работы с наборами данных и предустановленные стратегии обучения для быстрого старта
— Поддержку генерации изображений, видео и мультимодального контента
Будь вы новичок или эксперт, AI TOP Utility поможет вам легко запускать ИИ-проекты. [Скачать здесь]

AI TOP Utility предназначена для работы на оборудовании AI TOP. Она работает с Linux и подсистемой Windows для Linux (WSL2) на Windows 11. Смотрите [список поддерживаемого оборудования] для получения полной информации о совместимости.

AI TOP Utility поддерживает ведущие модели генерации текста с открытым исходным кодом (LLM) и модели создания изображений и видео (LMM). Она может работать с широким спектром моделей: от популярных сегодня до моделей нового поколения с 685 млрд параметров. Подробный список доступен в руководстве пользователя программного обеспечения.

Выгрузка данных из памяти позволяет обучать более крупные модели без ограничения объёмом видеопамяти GPU. Она работает путём перемещения данных обучения из VRAM в системную память (DRAM) или SSD, в зависимости от выбранной стратегии. Это обеспечивает стабильную производительность даже с огромными LLM.

Оборудование AI TOP — это экосистема компонентов и систем GIGABYTE, разработанных для ИИ-нагрузок, включая материнские платы, видеокарты, блоки питания, SSD и готовые ПК AI TOP, обеспечивающие производительность корпоративного уровня прямо на вашем рабочем столе.

Оборудование AI TOP создано с учётом ИИ-нагрузок, включая:
— Поддержку конфигураций с несколькими GPU для требовательных задач
— Усовершенствованное охлаждение для длительных ИИ-операций
— Сверхнадёжную конструкцию с ресурсом корпоративного уровня
— Возможность кластеризации для масштабируемых вычислений

GIGABYTE предлагает ПК AI TOP для удовлетворения различных потребностей:
AI TOP 500: Наш флагманский продукт с общей системной памятью до 800 ГБ, поддерживающий модели размером до 685 млрд параметров. Масштабируемый и созданный для продвинутых исследователей и специалистов, работающих со сверхкрупными моделями.

AI TOP 100: Сбалансированное настольное решение с общей системной памятью 160 ГБ, поддерживающее модели до 200 млрд параметров. Универсальный, настраиваемый и готовый для разработчиков, творческих специалистов и корпоративного развёртывания.

AI TOP ATOM: Компактный и эффективный, обеспечивающий производительность до 1 петафлопса — идеален для начинающих разработчиков и периферийного ИИ.

Примечание. Доступность, технические характеристики и внешний вид продукта могут отличаться в зависимости от региона. Пожалуйста, уточните детали у местного представителя GIGABYTE.