Banner ImageMobile Banner Image

形塑新世代 AI: 技嘉 NVIDIA Rubin 平台解決方案

技嘉解決方案以 NVIDIA Rubin 平台為核心,全面開啟代理型 AI 新時代,加速智慧推理、自主決策能力與可擴展 AI 基礎架構的部署

專為代理型 AI 與 AI 推理而打造

隨著代理型 AI 時代正式來臨,過去被視為未來藍圖的自主智慧應用已逐步落地成真。 NVIDIA Rubin 平台專為代理型 AI 與推論工作負載最佳化而設計;技嘉以此為核心,致力於打造橫跨多元產業的高效能解決方案,全面支援各類部署場域,加速企業建構具備智慧推理與自主決策能力的 AI 應用。

NVIDIA Rubin 平台不僅僅是單純的 GPU 升級,而是透過軟硬體整合的極致協同設計所打造的全新運算架構。此平台導入六大核心晶片,包括 CPU、GPU、NVLink 交換器、DPU、NIC 與乙太網路交換器,全面強化運算、互連與資料傳輸效能,加速 AI 工作負載的每一個關鍵環節。


五大技術突破

第六代 NVLink & NVLink 交換器

每顆 GPU 提供 3.6 TB/s 頻寬,專為 AI 推論等高頻寬需求應用而設計,並支援 NVIDIA® SHARP™ 技術。

Vera CPU

採用 88 顆 NVIDIA 設計的核心,LPDDR5X 記憶體頻寬最高 1.2 TB/s,搭配 NVIDIA Scalable Coherency Fabric,為資料密集型與記憶體密集型工作負載實現可預測的節能效能。

新款 Transformer Engine

採用硬體加速的自適應壓縮技術大幅提升 NVFP4 效能並兼顧準確性,NVFP4 推論最高可達 50 petaFLOPS。

第三代機密運算

全球首度實現跨 CPU、GPU 與 NVLink™ 的機櫃級機密運算,全面強化資料安全。

第二代可靠、可用性與維修性引擎

提供系統內持續健康監控、自我診斷與 SRAM 修復能力,確保運作穩定與可靠度。

NVIDIA Vera Rubin NVL72

無與倫比的高密度效能

於單一機櫃內實現極致 GPU 部署密度,為兆級參數 AI 模型與大規模訓練工作負載提供強大運算效能。

專為新世代 AI 工廠打造

針對 AI 訓練效率提升與推論成本優化而設計,並為大型模型與高吞吐量工作負載進行最佳化調校,在分秒必爭的運算環境中實現極致效能與效率。

高度整合機櫃系統

高度整合機櫃級系統交付,涵蓋客製化散熱設計、電力分配與網路架構,實現快速部署與無佈線的大規模建置。
Content Image

NVIDIA Vera Rubin NVL72 規格1

NVFP4 推論3,600 PFLOPS
NVFP4 訓練22,520 PFLOPS
FP8 / FP6 訓練21,260 PFLOPS
INT8218 POPS
FP16 / BF162288 PFLOPS
TF322144 PFLOPS
FP329,360 TFLOPS
FP642,400 TFLOPS
FP32 SGEMM328,800 TFLOPS
FP64 DGEMM314,400 TFLOPS
GPU 記憶體20.7 TB HBM4
頻寬1,580 TB/s
NVLink 頻寬260 TB/s
NVLink-C2C 頻寬65 TB/s

1 初步資訊。所有數值皆為最大值,日後可能變更。

2 高密度規格。

3 以 Tensor 核心為基礎的模擬演算法所達到的峰值效能。

NVIDIA Rubin NVL8

彈性擴展,滿足多元部署需求

支援從單機到多節點 GPU 叢集的彈性擴展,無需立即建置叢集資料中心,適用於漸進式擴充策略與多樣化 AI 工作負載部署。

降低基礎設施資本

相容於標準伺服器與資料中心架構,無需大規模電力與冷卻系統升級或機房重建,協助企業降低基礎設施投資與部署複雜度。

高度靈活擴充性

支援多樣化系統配置、網路選項與工作負載類型,能靈活整合於各式工作場域中,滿足從 AI 訓練、推論到 HPC 高效能運算的多元需求。
Content Image
GPU8x NVIDIA Rubin GPUs
GPU 記憶體總計 | 頻寬2.3 TB | 160 TB/s
CPU2x Intel® Xeon® 6 處理器
NVIDIA NVLink 交換器系統4倍
NVIDIA NVLink 頻寬總頻寬達每秒 28.8 TB/s
網路

8x OSFP 連接埠,可連接 8 個單連接埠 NVIDIA® ConnectX®-9 VPI

- 高達每秒 800 Gb 的 NVIDIA InfiniBand 和乙太網路

2x 400G QSP112 NVIDIA BlueField®-4 DPUs

- 高達每秒 800 Gb 的 NVIDIA InfiniBand 和乙太網路

為何選擇技嘉?

Feature Icon

Quick

短上市週期以實現敏捷部署
Feature Icon

Expansion

靈活擴充,適應多元場景
Feature Icon

Combination

一站式整合部署,化繁為簡
Feature Icon

Dashboard

集中化管理,簡化維運流程
Feature Icon

Friendly

深度合作夥伴關係,全方位支援
Feature Icon

Global Service

深厚全球經驗,實現最大部署彈性

完整的一站式服務

隨著計算架構規模擴展,且應用日益朝向專業領域發展,最佳的系統配置對於實現高效能與高效率至關重要。技嘉提供完整的一站式服務協助用戶打造AI工廠並協助快速啟動維運,服務範圍涵蓋專業諮詢、量身訂製的環境架構規劃、資料中心佈署到認證驗收以及後續服務。透過技嘉擁有的 Know-How,確保用戶獲得完全符合其營運要求和績效目標的端到端解決方案。

欲了解更多技嘉的一站式解決方案:GIGAPOD – AI 資料中心解決方案
Content Image

即時可部署的軟體生態系統

透過彈性且經預先驗證的軟體堆疊,加速價值實現(Time-to-Value)。從單節點管理到 POD-scale 協同編排,實現高效部署與彈性化資源調度,滿足多樣化工作負載場景。
GIGABYTE POD Manager (GPM)

GIGABYTE POD Manager (GPM)

Total POD-level orchestration for infrastructure provisioning and environmental monitoring
NVIDIA AI Enterprise

NVIDIA AI Enterprise

The end-to-end software suite for developing and deploying production-grade AI