Heterogeneous Computing | 異質運算

  • 異質運算是什麼?
    一般來說,異質運算是指系統使用不同種類的計算單元,例如CPUGPUDPU、VPU、FPGA或ASIC。不同運算工作交由符合需求的專用處理器來執行,大幅提升運算效能、改善能源使用效率,計算單元之間透過高流量、低延遲的通道互相串聯,就如一個大型處理器。

    近年來,異質運算的定義變得更廣泛,包含使用不同架構的處理器,例如Arm架構處理器,其運算核心數量較多、功耗較低,也比較容易與Arm架構行動裝置互相「溝通」。使用不同處理器架構的伺服器解決方案,有可能更快解決特殊的工作負載。

  • 為何需要?
    如果您的伺服器解決方案使用CPU以外的協同處理器,例如GPU或是DPU,這就是所謂的異質運算,使用協同處理器大幅提升運算效能,減少完成運算所需的時間。尤其是運用機器視覺或深度學習開發人工智慧(AI),伺服器必須處理大量的視覺資訊,適合用頻率較低、核心數量較多的GPU產品,輔助CPU快速完成運算工作。

    使用不同的處理器架構,等於是進階版的異質運算,最近的趨勢是找尋x86架構以外的替代方案,例如Arm架構處理器,可開發新的運算產品,充分發揮異質運算的潛能。如果您目前使用的處理器和協同處理器不足以滿足您的運算需求,那使用不同處理器架構的異質運算解決方案,可能就是您所需要的產品。

  • 技嘉的特色
    技嘉科技旗下的伺服器解決方案,幾乎都能實現狹義的異質運算,就是將CPU與GPGPU等協同處理器結合,進行平行運算機器學習等特殊運算工作。主要的處理器可採用最新的Intel® Xeon® 可擴充處理器或AMD EPYC™處理器,並透過新一代的PCIe Gen 4.0連接顯示卡、儲存裝置、高速網路卡等零組件,PCIe Gen 4.0最高頻寬64GB/s,是PCIe Gen 3.0的兩倍快。

    技嘉長年開發Arm架構系統,推出一系列支援Ampere® Altra®處理器的Arm架構伺服器,適合高效能運算(HPC)雲端運算邊緣運算,所提供的高擴充性能協助使用者滿足各種運算需求。NVIDIA®發表 NVIDIA® Arm HPC 開發套件,包含支援單顆Ampere® Altra®處理器的技嘉G242伺服器、兩張NVIDIA A100 Tensor核心運算卡、一張NVIDIA® BlueField® 2資料處理器以及NVIDIA® HPC軟體開發套件,為高效能運算和AI應用開發者提供另類的開發平台選項,運用最適當的異質運算方案解決困難的運算問題。

    免費下載Tech Guide:《How to Build Your Data Center with GIGABYTE?

  • WE RECOMMEND
    RELATED ARTICLES
    如何將人工智慧導入醫療保健業

    AI & AIoT

    如何將人工智慧導入醫療保健業

    從事醫療與健康產業的讀者,請花幾分鐘閱讀本篇文章,了解人工智慧(AI)為這個領域所帶來的嶄新商機,並認識能助您從中受益的AI工具。本篇是技嘉科技「Power of AI」系列文章,目的是介紹不同產業的最新AI趨勢,鼓勵前瞻者把握AI浪潮,找尋自己的機會。
    如何挑選您的AI伺服器?(上)CPU和GPU

    Tech Guide

    如何挑選您的AI伺服器?(上)CPU和GPU

    生成式人工智慧和其他AI工具盛行的當下,挑選合適的AI伺服器成為各產業的首要任務。技嘉科技最新發表《科技指南》,帶領讀者認識AI伺服器的八個關鍵零組件,本篇從最重要的元件開始,即中央處理器(CPU)和圖形處理器(GPU)。挑選適當的運算晶片,打造量身訂做的人工智慧超算平台,可以讓工作事半功倍,為使用者開創全新的巔峰。
    帶您快速跟上人工智慧AI趨勢的十大問答

    AI & AIoT

    帶您快速跟上人工智慧AI趨勢的十大問答

    大家都在談人工智慧(AI),您是否也希望擁有基本的知識,參與這個話題的討論?別擔心,技嘉科技為您準備了介紹AI趨勢的十大問答,讓您能快速理解人工智慧的概念!
    如何將人工智慧導入汽車和運輸產業

    AI & AIoT

    如何將人工智慧導入汽車和運輸產業

    若您從事汽車與運輸業,請花幾分鐘閱讀本篇文章,了解人工智慧(AI)所開拓的嶄新機會,認識能助您拓展更多可能性與商機的科技工具。本篇是技嘉科技「Power of AI」系列文章,目的是介紹不同產業的AI趨勢,協助具有先見之明的前瞻者利用AI創造自己的機會。
    技嘉伺服器算力爆發 助西班牙胡安卡洛斯國王大學抗老研究

    Success Case

    技嘉伺服器算力爆發 助西班牙胡安卡洛斯國王大學抗老研究

    想高效且精準地處理龐大的數據,需要強大的平行運算能力。胡安卡洛斯國王大學的研究人員Sergio Muñoz、Luis Bote與SIE和技嘉合作,創建了一個由GPU、儲存、運算和首節點組成的叢集系統。
    技嘉PILOT自動駕駛控制主機 開啟台灣自駕公車的AI科技之旅

    Success Case

    技嘉PILOT自動駕駛控制主機 開啟台灣自駕公車的AI科技之旅

    由財團法人車輛研究測試中心ARTC打造的MIT自駕電動小型巴士WinBus,是台灣首輛實現SAE Level 4高度自動駕駛技術的無人駕駛公車。WinBus的控制主機是GIGABYTE PILOT,這是技嘉科技專為次世代自動駕駛車輛設計的車載決策控制平台,三大特色包括:大幅提升AI演算性能的高效處理器組合,支援高速介面與各式車用裝置的超強連接性,及能承受不同天氣與道路狀況的強固型設計。技嘉PILOT自動駕駛控制主機(ADCU)不僅適用於自駕車,也可提供自駕船、自駕卡車、無人農耕機及自主移動機器人(AMR)等領域的自駕任務所運用。
    零百加速3.3秒的熱情奔放!技嘉工作站成就清大賽車工廠    揮舞方格旗的夢想!!

    Success Case

    零百加速3.3秒的熱情奔放!技嘉工作站成就清大賽車工廠 揮舞方格旗的夢想!!

    清大賽車工廠是國際級的學生方程式賽車團隊,旗下「清華四號」(TH04)電動賽車於2019年在日本舉辦的學生方程式賽車競賽Formula SAE奪下亞軍。2022年八月,派出100%台灣製的「清華六號」(TH06),勇往德國Formula Student Germany賽事角逐冠軍。 代表台灣登上國際舞台的「清華六號」,由技嘉科技W771-Z00與W331-Z00工作站助力打造,從設計階段的有限元素法分析、流體力學模擬與分析等步驟,到賽前駕駛模擬與新科技應用,皆使用技嘉工作站提供的超級運算力完成。「清華六號」從時速0加速到100公里只需3.3秒,越來越接近特斯拉Model S零百加速2.6秒的業界高標。
    技嘉藉由單相浸沒式液冷技術 助力日本電信龍頭KDDI開發新世代資料中心

    Success Case

    技嘉藉由單相浸沒式液冷技術 助力日本電信龍頭KDDI開發新世代資料中心

    日本電信業界龍頭KDDI,因應新世代需求,積極研發對環境友善、便於移動的「貨櫃型浸沒式液冷小型資料中心」,此資料中心採用「單相浸沒式液冷」技術,可減少43%的總耗能,並將PUE改善至1.07以下。技嘉科技於浸沒式液冷解決方案擁有豐富的研發與部署經驗,提供機架式伺服器R282-Z93與R182-Z91,肩負資料中心管理節點和GPU運算節點的任務。技嘉伺服器的強項,是在有限空間內部署高密度、高擴充性的處理器配置,其優異的機構設計,能發揮第三代AMD EPYC™中央處理器及NVIDIA® GPU加速器的最大運算力。協助客戶開發「浸沒式液冷資料中心」,亦是技嘉深耕環境、社會與治理的ESG長期努力目標,技嘉攜手產業夥伴和客戶,積極實踐「創新科技,美化人生」的企業使命。