Banner ImageMobile Banner Image

引領 AI 新時代:技嘉 NVIDIA Blackwell 架構解決方案

探索技嘉針對 NVIDIA Blackwell 架構優化的解決方案,提供無與倫比的擴展性、靈活性與效能,專為加速 AI、高效能運算 (HPC) 以及 GPU 驅動的工作負載而設計,打破加速運算和生成式人工智慧面臨的阻礙,為生成式人工智慧開創全新篇章。

GPU 加速時代

專用圖形元件的發展歷程始於 1970 年代,並最終催生了 GPU 這一顛覆性的創新。經過半個世紀的演進,GPU 已從簡單的電路發展為獨立的板卡,進一步演化為嵌入於高密度計算基礎架構中的模組。隨著生成式人工智慧和大型訓練模型的應用日益普及,GPU 強大的算力在各產業中扮演著不可或缺的角色,也進一步推動了 AI 工廠的廣泛部署與運營。

如今,加速器引領各式產業與人們工作、日常生活革新:從修復影片至提升解析度,到氣候地理模擬預測,再到驅動 ChatGPT 生成式 AI 模型的大規模使用。隨著對 GPU 計算資源需求的指數級增長,技嘉與產業領導者攜手合作,實現超越摩爾定律的效能提升。作為 GPU 創新領導者,NVIDIA 一直致力於突破極限,現在更推出新世代 Blackwell 架構,推動產業革新進入全面生產階段。

突破加速運算與生成式 AI 的界限

在 NVIDIA Hopper 架構取得巨大成功的基礎上,Blackwell 架構更進一步,為因應 AI 模型日益成長的複雜度和參數量而設計。採用台積電 4 奈米製程技術 (4NP),Blackwell GPU 集成了數十億個晶體管,並導入了更快速、更高頻寬的 NVIDIA NVLink™ 和第二代 Transformer Engine 等創新技術。提供了比起前一代倍數等級的效能提升,讓 Blackwell 為生成式人工智慧開創全新篇章。 

NVIDIA Blackwell ArchitectureBlackwell 架構 GPU

包含2080億個電晶體,採用台積電 4NP 製程製造

第二代 Transformer Engine

實現4位元浮點 (FP4) AI,效能加倍

第五代 NVLink 和 NVLink Switch

1.8 TB/s GPU-GPU 互連頻寬

可靠性、可用性、可維護性 (RAS) 引擎

100% 系統內自我檢測

安全的人工智慧

高效能加密與TEE

解壓縮引擎

800 GB/s

技嘉致力於提供靈活且可擴展的解決方案

Feature Icon

短上市週期以實現敏捷部署

技嘉與產業領導廠商密切合作,快速推出新一代產品,全面因應快速成長的運算需求。技嘉洞悉產業趨勢與用戶需求,憑藉對企業級產品領域的豐富經驗,透過模組化設計降低成本;簡化設計流程並實現彈性客製的可能性,旨在讓用戶即時採用最新一代的技術與效能優勢。
Feature Icon

靈活擴充,適應多元場景

為滿足用戶對運算需求與日俱增的基礎建設升級需求,技嘉伺服器產品配備充足擴充插槽,強化節點間連結效能;特別在 GPU 應用方面,確保巨量資料能在 GPU 之間實現高效傳輸。

完整的一站式服務

隨著計算架構規模擴展,且應用日益朝向專業領域發展,最佳的系統配置對於實現高效能與高效率至關重要。技嘉提供完整的一站式服務協助用戶打造AI工廠並協助快速啟動維運,服務範圍涵蓋專業諮詢、量身訂製的環境架構規劃、資料中心佈署到認證驗收以及後續服務。透過技嘉擁有的 Know-How,確保用戶獲得完全符合其營運要求和績效目標的端到端解決方案。

欲了解更多技嘉的一站式解決方案:GIGAPOD – AI 資料中心解決方案

NVIDIA GB300 NVL72:專為 AI 推理時代而生

隨著 AI 應用進入大規模推理的新階段,企業需要能同時兼顧效能、效率與擴展性的基礎架構。NVIDIA GB300 NVL72 採用機櫃級全液冷設計,將 72 顆 NVIDIA Blackwell Ultra GPU 與 36 顆 Arm® 架構的 NVIDIA Grace™ CPU 整合於單一平台,專為測試階段推理擴展 (test-time scaling inference) 而優化。

在 AI 工廠部署上,NVIDIA GB300 NVL72 搭配 NVIDIA Quantum-X800 InfiniBand 或 Spectrum™-X Ethernet,並結合 NVIDIA ConnectX®-8 SuperNIC™,可提供比 NVIDIA Hopper™ 平台 高出 50 倍的推理效能,讓模型在大規模應用中能更快產出結果,實現生成式 AI 與智慧應用的落地。

Content Image

高速記憶體

60X

vs. NVIDIA H100 HGX

HBM 頻寬

20X

vs. NVIDIA H100 HGX

網路頻寬

18X

vs. NVIDIA H100 HGX

XN15-CB0-LA01 運算節點

  • 2 x NVIDIA GB300 Grace™ Blackwell Ultra 超級晶片
  • 4 x 288GB HBM3E GPU 記憶體
  • 2 x 480GB LPDDR5X CPU 記憶體
  • 8 x E1.S Gen5 NVMe SSD 硬碟
  • 4 x NVIDIA ConnectX®-8 SuperNIC™ 800 Gb/s OSFP 連接埠
  • 1 x NVIDIA® BlueField®-3 資料處理器

NVIDIA HGX™ B300 / B200:為 AI 與高效能運算而生

NVIDIA HGX™ B300 與 B200 皆採用先進的 NVIDIA Blackwell 架構,為資料中心與生成式 AI 帶來新世代的加速運算效能。NVIDIA HGX™ B300 更進一步整合 Blackwell Ultra GPU 與超高速互連技術,效能大幅躍升,相較前一代推理效能高達 11 倍,為生成式 AI、資料分析與高效能運算樹立全新標竿。

透過進階網路選項 NVIDIA Quantum-X800 InfiniBand 或 Spectrum™-X 乙太網路,提供高達 800 Gb/s 的網路頻寬速度,實現無與倫比的資訊吞吐效能。同時也採用 NVIDIA® BlueField®-3 資料處理器 (DPU),支援雲端網路、組合式儲存空間、零信任安全性,以及超大規模人工智慧雲端中的 GPU 運算彈性。

為在每個資料中心加速推動進階 AI,技嘉專為 NVIDIA HGX™ B300 與 B200 打造最佳化平台,提供 8U 空氣冷卻和 4U 液體冷卻兩種配置選擇。技嘉伺服器融合多項創新設計,全面提升效能與使用體驗,包括:
  1. 全面支援全高擴展卡,能容納多組 DPU 和 SuperNIC。
  2. 後抽式 PCIe 擴充槽固定架與前抽式主機板與 GPU 托盤設計,簡化維護流程。
  3. 可熱插拔、完全冗餘的電源供應器,並提供多種電源連接埠選項,增加靈活性。

這些創新設計不僅因應大規模 AI 基礎架構日益嚴峻的功耗與散熱挑戰,更能靈活部署於各種環境,包括 NeoCloud 資料中心與高效能運算設施。
Flexible Scalability

NVIDIA HGX™ B300

  • 8 x NVIDIA Blackwell Ultra GPUs
  • 最多 2.1TB GPU 記憶體
  • 105 petaFLOPS 訓練效能
  • 144 petaFLOPS 推論效能
  • 1.8TB/s GPU-to-GPU 頻寬與 NVIDIA NVLink™ 及 NVSwitch™
Flexible Scalability

G894-SD3-AAX7

  • NVIDIA HGX™ B300
  • 內建 NVIDIA ConnectX®-8 SuperNIC™,支援 8 組 800 Gb/s OSFP InfiniBand XDR,或雙 400 Gb/s 乙太網路連接埠
  • 支援 NVIDIA® BlueField®-3 資料處理器
  • 雙 Intel® Xeon® 6700/6500 系列可擴展處理器
  • 2 x 10Gb/s LAN 連結埠
  • 8 x 2.5" Gen5 NVMe 熱插拔硬碟槽
  • 4 x 全高半長 PCIe Gen5 x16 插槽
  • 12 x 3000W 80 PLUS 鈦金冗餘電源供應器
Flexible Scalability

G4L3 4U HPC/AI 伺服器

  • 液冷 NVIDIA HGX™ B200
  • 雙 5th/4th Gen Intel® Xeon® 可擴展 或 雙 AMD EPYC™ 9005/9004 系列處理器
  • 2 x 10 Gb/s LAN 連接埠
  • 8 x 2.5" Gen5 NVMe 熱插拔硬碟槽
  • 12 x 全高半長 PCIe Gen5 x16 插槽
  • 8 x 3000W 80 PLUS 鈦金冗餘電源供應器

Blackwell 下一代人工智慧超級晶片

高效能運算

在高效能運算 (HPC) 應用中,關鍵在於透過數值分析、模擬和運算來解決複雜問題以獲取洞見。雖然傳統上對加速器的依賴性低,但近年通用圖形處理器 (GPGPU) 的強大平行運算能力在近年來大幅推動了高效能運算的發展,混合配置亦成為現代超級計算機的重要趨勢。

人工智慧

隨著人工智慧 (AI) 技術的迅速發展,從一般應用到不斷演進的深度學習,通用圖形處理器 (GPGPU) 已成為改變產業遊戲規則的關鍵技術。GPGPU 的平行處理能力能高效處理龐大數據集和複雜演算法,這對 AI 模型的訓練與部署至關重要。AI 技術幫助各行各業在生產、營收與工作效率上實現更快速且更智慧的目標,成為產業升級的核心動力。

自然科學及工程模擬

科學研究涵蓋從物理、化學到地理、生物科學等多元學科,對算力的需求極為廣泛。借助 GPU 加速運算叢集,仿真模擬和建模工作在平行處理能力的支援下實現飛躍發展。更快速的運算與精確的結果,使研究人員能有效分析大量數據,進行深入實驗,推動科學領域的創新與突破。

技嘉 AI 伺服器

G894-SD3-AAX7

HPC/AI Server - Intel® Xeon® 6 Processors - 8U DP NVIDIA HGX B300

G894-AD1-AAX5

HPC/AI Server - Intel® Xeon® 6 Processors - 8U DP NVIDIA HGX B200

G894-SD1-AAX5

HPC/AI Server - Intel® Xeon® 6 Processors - 8U DP NVIDIA HGX B200

G4L3-SD1-LAX5

HPC/AI Server - 5th/4th Gen Intel® Xeon® Scalable - 4U DP NVIDIA HGX™ B200 DLC

G4L3-ZD1-LAX5

HPC/AI Server - AMD EPYC™ 9005/9004 - 4U DP NVIDIA HGX™ B200 DLC

G893-ZD1-AAX5

HPC/AI Server - AMD EPYC™ 9005/9004 - 8U DP NVIDIA HGX™ B200

G893-SD1-AAX5

HPC/AI Server - 5th/4th Gen Intel® Xeon® Scalable - 8U DP NVIDIA HGX B200
NVIDIA Logo

了解更多AI秘辛

Resource Image

支援 NVIDIA HGX B200 平台,技鋼科技為次世代 AI 工作負載打造全新 GIGABYTE AI 伺服器

Resource Image

NVIDIA Blackwell 產品線再擴展 技鋼科技推出全新 NVIDIA HGX™ B200 平台伺服器

Resource Image

NVIDIA Grace™ CPU 超級晶片和 GH200 Grace Hopper 超級晶片

Resource Image

GIGAPOD - AI 資料中心解決方案

Resource Image
Article

如何透過GIGAPOD一站式服務,加速AI時代的全面革新

Resource Image

GIGABYTE POD Manager

Resource Video

GIGAPOD, the Turnkey AI Supercomputing Solution

Resource Video

GIGAPOD: The Future of AI Computing in Data Centers

Resource Video

GIGABYTE POD Manager - Streamlined POD Monitoring & Automation