CREATE YOUR OWN AI ON YOUR DESK
GIGABYTE AI TOP

在桌上實現 AI 訓練

技嘉 AI TOP 是一款突破性的桌上型 AI 訓練解決方案,重新定義了本地模型開發方式。採用先進的記憶體擴充技術並支援頂尖開源 AI 模型,在桌上型運算環境中實現企業級效能,讓初學者和專家都能以更完善的資料隱私及安全性進行精密的 AI 訓練。

技嘉 AI TOP 的優勢

支援 685B 參數模型

靈活擴充升級

本地隱私安全

標準電力相容

記憶體擴充技術

直覺安裝控制

AI TOP Utility

你的完整本地 AI 創作軟體套件

GIGABYTE 的 AI TOP Utility 讓 AI 應用變得簡單又強大,重點是完全不依賴雲端。從億級參數模型的建立,到即時生成與推論,它都能一手包辦。無論是 AI 愛好者還是開發者,都能透過直覺化介面輕鬆上手,不需要任何程式背景。

創建 & 自訂

資料集產生器

將雜亂無章的資料自動轉換為結構化的問答清單,立即可用於模型優化。

LLM / LMM 自訂化

支援最新的 405B 參數模型,同時能生成文字(LLM)與圖片 / 影片(LMM)。

預設模式

提供多種優化選項,從標準到高精度,並支援 Linux 與 Windows Subsystem for Linux。

智慧資料工具

透過 RAG 技術管理資料集,協助挑選最合適的模型並即時檢視效能。

模型轉換器

將模型(.safetensors, .bin)轉換為 GGUF 格式,並提供 f32、f16、bf16、8-bit 等多種精度選項,兼顧效能與容量。

優化 & 擴展

記憶體擴充

透過系統記憶體與 SSD 分擔運算,最高可處理 685B 參數模型,突破硬體限制。

SSD 加速

可自動掛載 1–2 顆 NVMe SSD,讓大型模型運行更穩定、更快速。

多 GPU 效率

在多顯示卡或叢集環境下運行時,能降低 VRAM 負載並加速運算。

多模態 RAG

提供更精準的模型選擇與即時驗證,加速調整與改進流程。

運行 & 體驗

即時生成

支援 safetensors、GGUF 等多種模型格式,可透過 QR Code 從手機、筆電或平板直接使用,全程離線、安全又私密。

即時監控面板

即時檢視 CPU、GPU、VRAM、DRAM 與 SSD 使用狀況。

驗證工具

快速檢測 LLM 與 LMM 模型的品質。

模型下載

可自動從 Hugging Face 下載模型,立即使用。

機器學習範本

提供完整的 ML 專案範本,讓你零程式基礎就能快速上手。

立即開始!

在您的 AI TOP 硬體上執行 AI TOP Utility

*支援 Linux 與 Windows 11 的 WSL2 環境

AI TOP Hardware

企業級桌上型 AI 方案

從單一零組件到整機,AI TOP Hardware 專為 AI 訓練工作負載所設計,提供企業級效能,同時相容一般標準電力系統。

最佳化能源效率

AI 訓練超耐久

靈活配置設計

標準電力相容

AI TOP 主機板

專為 AI 開發所需的硬體組態而打造,支援最適的 CPU、GPU、記憶體與 SSD。

進一步了解

AI TOP 顯示卡

透過最佳化的散熱方案、超耐久硬體設計、及 VRAM 帶來的高速資料交換以釋放 AI 運算的全部潛力。

進一步了解

AI TOP 固態硬碟

提供高達 109,500 TBW 耐用度,較企業級 SSD 提升 20 倍,支援 RAID 技術,確保穩定存儲與高效運算。

進一步了解

AI TOP 電源供應器

功能強大的 ATX 3.1 與 PCIe 5.1 電源供應器,專為多顯示卡配置打造,並支援即時電力監控。

進一步了解

AI TOP PC

專為 AI 運算而生的超級電腦,兼具效能、可靠性與擴充性,輕鬆應對最嚴苛的 AI 工作負載。

進一步了解

AI TOP PC

專為各種 AI 應用而生的桌上型電腦,提供強大的企業級效能,並可透過乙太網路或 Thunderbolt 連結多台裝置,搭配 AI TOP Clustering 技術,進一步強化效能,輕鬆應對更大型的工作負載。

VRAM 顯存 - 32GB 32GB
系統記憶體 128GB 128GB 768GB
固態硬碟 最高 4TB 320GB 1TB
AI 效能 1 petaFLOP 3,000 TOPS 3,000 TOPS
支援 LLM 模型大小 (微調) 最高 100B 最高 110B 最高 405B
支援 LLM 模型大小 (推論) 最高 200B 最高 200B 最高 685B
適用對象 / 用途 小巧高效,專為入門開發者與邊緣運算所設計 平衡型桌上型方案,適合開發者和因應企業級部署 專為進階研究人員與開發者人員設計,可處理超大規模的AI運算

註:各地區供應狀況與產品規格可能有所不同,外觀亦可能因地區而異,詳情請洽當地技嘉業務代表。

AI TOP 叢集系統

突破 AI 訓練極限

透過 Ethernet 或 Thunderbolt 連接埠串接多台 AI TOP 主機,突破單機系統限制。隨著 AI 模型規模與複雜度提升,特別是在 LMM 應用上,擴充運算能力完整支援您的目標。

效能提升 1.6 倍

  • 雙機配置提供高達 1.6 倍訓練速度
  • 擴增記憶體容量支援更大模型
  • 智慧工作負載分配

多元連接方案

  • Thunderbolt 5 (80Gbps) 極速傳輸
  • 10GbE 遠距叢集支援
  • Thunderbolt 4 相容
GIGABYTE Advantages

為何您應該選擇技嘉 AI TOP?

引領先進 AI 科技開發

2023 年,技嘉科技成立了專業的 AI 開發團隊,並與 Intel、AMD 和 NVIDIA 等供應商夥伴密切合作,共同引領在我們的產品中開發並導入先進 AI 科技。

長期的市場投入

技嘉科技自 1986 年成立以來,致力於提供尖端技術,並不斷擴展產品與影響力,協助客戶實現 AI 的落地應用。

完整的解決方案

技嘉科技作為電腦硬體解決方案的領導創新者,利用硬體的專業知識和專利創新,提供頂級的 PC 產品與周邊設備。

金獎級的品質保證

技嘉科技的生產線供應充足且品質優良,迄今為止已獲得近 20,000 項創新與設計獎項及榮譽。

常見問題

  • 什麼是 GIGABYTE AI TOP?

    GIGABYTE AI TOP 是一款於 COMPUTEX 2024 所發表的桌上型 AI 解決方案,透過 AI TOP Utility 與 AI TOP Hardware 完整的軟硬體生態系,讓您在一般標準電力環境下,就能在本地端執行模型訓練、微調與推論等開發功能,支援高達 685B 參數模型,實現「Create Your Own AI on Your Desk」的願景。

  • AI TOP 可以為我帶來什麼好處?

    GIGABYTE AI TOP 提供完整的本地 AI 開發功能,主要優勢包括:
    - 支援訓練高達 685B 參數模型
    - 確保完整資料隱私與安全
    - 相容一般標準電力
    - 靈活的升級選項與叢集支援
    - 2025 年 7 月更新強化功能與擴充模型支援

  • 什麼是 AI TOP Utility?

    AI TOP Utility 以直覺式操作介面革新本地 AI 訓練,支援大語言模型(LLM)與大型多模態模型(LMM)模型訓練。具備進階記憶體擴充技術、即時系統監控,以及客製化訓練策略,實現高效能模型開發。 [下載 AI TOP Utility]

  • AI TOP Utility 有什麼系統配備需求?

    "AI TOP Utility 需在 AI TOP Hardware 配置上運行。支援 Linux 與 Windows 11 的 WSL2 環境。完整支援硬體清單請參考[支援硬體清單]。 "

  • AI TOP Utility 支援哪些模型?

    AI TOP Utility 支援頂尖開源的文字生成(LLM)與影像/視訊創作(LMM)模型。可處理多種模型架構,包含最新的 685B 參數模型。詳細支援模型清單請參考軟體包內的使用手冊。

  • AI TOP Utility 中的 Memory Offloading 是什麼功能?

    Memory Offloading 是一項顯著提升系統對於大語言模型參數量支援能力的先進科技。它可根據當前選定的策略,將訓練過程中所產生的大量資料,從圖形記憶體 (VRAM) 分配至系統記憶體 (system DRAM) 和/或固態硬碟 (SSD) 中。您可根據待訓練或微調的大語言模型特性,來選擇適用的策略 (Offloading Memory Strategy)。

  • 什麼是 AI TOP Hardware?

    AI TOP Hardware 是一套專為 AI 工作負載優化的完整硬體生態系,包含主機板、顯示卡、電源供應器、固態硬碟和預組裝的 AI TOP 電腦,將企業級AI運算效能帶至您的桌面。

  • AI TOP Hardware 跟其他硬體有什麼不同?

    AI TOP Hardware 具備專為 AI 工作負載設計的特色:
    - 支援多 GPU 配置
    - 進階散熱設計確保持久運算
    - 超耐久設計提供企業級耐用度
    - 支援叢集系統擴充效能

  • 如何挑選適合我的 AI TOP PC?

    技嘉提供多款 AI TOP 電腦,依照不同需求打造:
    AI TOP 500:系列旗艦款,支援最高 800GB 系統記憶體,可支援高達 685B 參數模型。專為進階研究人員與開發者人員設計,能處理超大規模的微調與推論,是可持續擴充的旗艦級解決方案。

    AI TOP 100:平衡型桌上型方案,搭載 160GB 系統記憶體,可支援高達 200B 參數模型,不僅適合開發者,也能滿足遊戲玩家需求,同時能因應企業級部署。

    AI TOP ATOM:小巧高效,提供最高 1 petaFLOP 運算效能,是入門開發者與邊緣運算的理想選擇。

    註:各地區供應狀況與產品規格可能有所不同,外觀亦可能因地區而異,詳情請洽當地技嘉業務代表。