性能與效率全方位提升
基於在加速器設計方面的豐富經驗以及在微架構和軟體開發領域的專業知識，Intel 開發了第三代Gaudi AI加速器 – Intel® Gaudi® 3，實現了突破性的性能和效率。Intel® Gaudi® 3 AI 加速器達到了可與產業領導者相媲美的競爭力，同時提供使用者在乎的擴充靈活性需求。Intel® Gaudi® 3 AI 加速器高度重視採用業界標準 Ethernet 網路和開放式系統架構，為真實世界對 AI 的需求設計，使企業能夠靈活擴展並面對未來AI持續演進的挑戰。
採用搭載 Intel Gaudi 3 AI 加速器的技嘉伺服器擴大AI應用規模
為了在效能、效率、穩定性和擴展性之間達到絕佳平衡，技嘉推出多款支援加速器的伺服器產品，以因應人工智慧時代，需要GPU強大算力的各種應用場景。針對此款搭載 Intel® Gaudi® 3 AI 加速器的G系列伺服器新成員，其擁有8U機箱空間，提供優化的散熱能力藉此充分釋放運算效能。這也是技嘉首款採用8U機身設計的氣冷解方案伺服器，可無縫部署於標準氣冷基礎架構資料中心。
技嘉最佳化且經過驗證的 – GIGAPOD 人工智慧資料中心解決方案亦為以 Ethernet 網路為核心的可擴充解決方案；支援最新的 Intel® Gaudi® 3 AI 加速器伺服器產品，由於其採開放式軟體與業界標準 Ethernet 網路，在佈署時可大量減少驗證的前置作業時程。於 GIGAPOD 資料中心解決方案中，單一機櫃將配置四台搭載 Intel® Gaudi® 3 AI 加速器伺服器以及後門熱交換器（RDHx），提供最高密度的算力與最佳化的空間部署。
想了解有關 GIGAPOD 的更多信息，請參閱：GIGAPOD 整合式人工智慧資料中心解决方案
專為真實世界對 AI 的需求設計
輕鬆採用
輕鬆啟用新模型或轉移現有代碼至Intel Gaudi軟體，專為提供生成式 AI 效能、效率而設計，提升開發者的使用便利性與生產力
輕鬆擴充
使用已擁有的網路基礎架構，24 個 200 Gigabit 乙太網路（RoCE）連接埠整合至 Intel Gaudi 3 AI 加速器，即使是最大、最複雜的部署也能以具成本效益的方式進行擴展。
靈活且強大的運算能力
由兩個互連晶片與以 8 個矩陣乘法引擎 (MME) 和 64 Tensor處理器核心 (TPC)所組成，可於各式工作負載中提供最佳效能。
高效記憶體密集型運算
內建128GB HBM和96MB的L2快取，有效解決AI訓練和推理工作中常見記憶體瓶頸，加速大型語言模型（LLM）記憶體密集型應用。
Intel Gaudi 3 AI 加速器規格
| Model | Intel® Gaudi® 3 Accelerator |
|---|---|
| BF16/FP8 MME TFOPs | 1835 |
| BF16 Vector TFLOPs | 28.7 |
| MME Units | 8 |
| TPC Units | 64 |
| HBM Capacity | 128 GB |
| HBM Bandwidth | 3.7 TB/s |
| On-die SRAM Capacity | 96 MB |
| On-die SRAM Bandwidth | 12.8 TB/s |
| Networking | 1200 GB/s bidirectional |
| Host Interface | PCIe Gen5 x16 |
| Media | 14 Decoders |
應用領域
高效能運算
在高效能運算（HPC）應用中，需依賴數值分析、模擬和運算來解決複雜問題以獲取洞見。雖然傳統上對加速器的依賴較少，但通用圖形處理器（GPGPU）的強大平行運算能力在近年來大幅加速了高效能運算的發展，使得混合配置成為現代超級計算機的一大趨勢。
人工智慧
隨著AI的快速普及，從一般應用到快速演進的深度學習，通用圖形處理器（GPGPU）已成為改變產業遊戲規則的重要技術。GPGPU的平行處理能力使其能夠處理大量數據集和複雜演算法，這對訓練和部署AI模型至關重要。因此，人工智慧（AI）已成為使各產業領域於生產、營利、工作效率更快、更“智慧”的關鍵，並且以最有效的方式實現目標。
數據分析
在數據密集型應用中，例如大數據和電腦模擬。工作負載高度依賴通用圖形處理器（GPGPU）平行運算處理、低延遲和高頻寬來挖掘數據和大規模數據處理。通用圖形處理器（GPGPU）同時處理大量數據的能力，不僅加速海量數據集工作負載，亦能提供準確且及時見解，尤其在金融、醫療和科學研究等領域更仰賴資料的處理與應用。
主打新品
G893-SG1-AAX1
HPC/AI Server - 5th/4th Gen Intel® Xeon® Scalable - 8U DP Intel® Gaudi® 3
資源中心
GIGAPOD: The Future of AI Computing in Data Centers
觀看影片
Article
如何透過GIGAPOD一站式服務，加速AI時代的全面革新
Topic
AI伺服器與AI PC解決方案，全面加速人工智慧運算
Article
什麼是HPC高效能運算？ 技嘉科技《科技指南》系列文章
Article
如何挑選您的AI伺服器？（上）CPU和GPU
Article
CPU vs. GPU：淺談伺服器的兩大運算力
Article
帶您快速跟上人工智慧AI趨勢的十大問答
Article
如何挑選您的AI伺服器？（下）記憶體、儲存裝置和其他元件
Article
如何將人工智慧導入醫療保健業
Article