什麼是HPC高效能運算? 技嘉科技《科技指南》系列文章

科技指南 by GIGABYTE
隨著伺服器解決方案變得更為普及,常有人提起高效能運算(HPC);內行人把這個字掛在嘴邊,好像只要是伺服器產品,就應該提供HPC功能,HPC可以解決所有運算問題……您可能想要知道,HPC真正的優勢是什麼?您能如何應用? 技嘉科技是高性能伺服器產品的業界領袖,本次發表《科技指南》文章,目的是清楚解釋HPC定義,並透過真實世界HPC成功案例介紹,希望能夠幫您評估,HPC是否符合您的需求?如果需要HPC,技嘉科技能為您提供什麼服務?
什麼是HPC高效能運算? 技嘉科技《科技指南》系列文章
預計閱讀時間:13 分鐘

HPC高效能運算:方便取得、容易操作的「超級電腦」

HPC是high performance computing(高效能運算)的簡稱,泛指各種潛力無窮的先進運算方式,可處理更多資訊、執行更複雜的運算,效能與速度超過一般個人電腦。因此,高效能運算常被用來當作「超級電腦」的代名詞。目前,全世界有許多知名高效能運算系統,已突破一千兆每秒浮點運算次數(petaFLOPS),甚至達到一百萬兆浮點運算次數(exaFLOPS)的超級電腦等級,登上Top 500 超級電腦排行榜。值得高興的是,一般企業(或任何組織)也有辦法使用HPC,甚至能建造自己的高效能運算系統,駕馭超級電腦等級的運算潛能。

超越一般電腦的秘訣,不只是設計一台「更強大」的電腦,而是連結許多不同運算資源,建立所謂的「運算叢集」。不同類型的處理器之間,能達到異質運算的綜效;安全、可靠的儲存裝置,可透過內網互聯,提升效率;高吞吐量的資訊傳輸技術,可解決延遲問題……諸如此類的眾多優勢,讓由多台電腦所組成的高效能運算系統,發揮超級電腦的威力。

PACT:簡單四個英文字母,幫您牢記高效能運算的優勢

高效能運算有很多強項。在此,我們列出四個重大優勢,您可透過一個簡單的英文縮寫來記憶:PACT,代表效能(performance)、可用性(availability)、成本(costs)、時間(time)。

Performance 效能

高效能運算的功力,遠勝過一般個人電腦,這點不用多解釋;我們在此所指的效能,是整個組織採用HPC之後,各方面表現都會勝過沒有使用HPC的組織,因為可以透過高效能運算更快完成工作,甚至發現之前未被發掘的價值。

想想看,設計一款新產品,例如一台轎車;或是一套新的作業流程,例如避免航班誤點的SOP,以往要花費多少功夫?一切都要反覆測試,才有可能成功;甚至有時候,推出新產品或新制度之後,還會發現有問題,需要持續微調,因為實在是有太多難以預測的不確定性因素。但是,如果採用高效能運算,就有辦法執行嚴密、仿真的電腦模擬測試,在新產品或新制度的開發階段,看到各種變因,提前做出調整,確保新品發表或新制度實施順利。

了解更多:

處理既有的工作項目之外,高效能運算也能掃過手上掌握的大數據,發現之前沒有被發掘的新價值。令人期待的實例之一,包括使用HPC系統搭載人工智慧(AI)技術,檢查診所和醫院累積的病人病歷,找出疾病的共同徵候,協助其他病人提早治療,不只幫助醫生護士工作更有效率,還可以開創新的醫療服務。

Availability 可用性

可用性即「高可用性」的概念。現代世界,日常生活充滿數位資訊,因此,資訊科技(IT)設備盡量不要「下線」,好讓用戶能隨時盡情使用。對現在的電腦和伺服器而言,「高可用性」幾乎是基本條件。

Costs 成本

好幾台伺服器產品,怎麼會比一台電腦更節省成本?這似乎不符合邏輯,但實際上,讓不同運算資源來分攤運算工作,是HPC系統「可擴充性」優於單一電腦系統的重要因素。也就是說,您可依照實際需求,即時進行「垂直擴充」(在系統內增加更多CPU、GPU、記憶體等資源),或「水平擴充」(在伺服器內增加虛擬化節點,或是將節點移至另一台伺服器)。這有別於傳統IT管理者的習慣,必須一開始就購入超過實際需求的電腦設備,提前為未來做準備。高效能運算系統還有另一種增加資源的方式,就是接洽雲端服務供應商(CSP),租用雲端資源,這一樣有助於降低成本,加強可擴充性。
簡單四個英文字母,幫您牢記高效能運算重要性。P代表performance效能,運用高效能運算可提升整體組織表現:A代表availability可用性,HPC系統較不會有「當機」、「下線」等問題;C代表costs成本,HPC系統可擴充性佳,因此較節省成本;T代表time時間,運用高效能運算執行任務效率更佳、更節省時間。
簡單四個英文字母,幫您牢記高效能運算重要性。P代表performance效能,運用高效能運算可提升整體組織表現:A代表availability可用性,HPC系統較不會有「當機」、「下線」等問題;C代表costs成本,HPC系統可擴充性佳,因此較節省成本;T代表time時間,運用高效能運算執行任務效率更佳、更節省時間。

Time 時間

高效能運算的速度,和一般電腦不可同日而語。前面提到,HPC系統每秒浮點運算次數已突破一千兆,邁向一百萬兆境界;一般個人電腦,只有十億浮點運算次數(gigaFLOPS)或一兆浮點運算次數(teraFLOPS)的等級。原本需要好幾天、甚至好幾個月才能完成的運算工作,現在也許只需要幾分鐘、幾小時就能完成,可見高效能運算的爆發力。

就用電腦動畫產業來舉例:渲染動畫每一格畫面需要很多時間,嚴重壓縮編劇撰寫故事、畫家設計角色和場景的時間。如果能建立自己的「算圖農場」,或是連接雲端算圖服務,渲染時間就會縮短,讓創作家有更多時間,創造更優質的動畫作品。

了解更多:

HPC成功案例:現實世界運用高效能運算的實例

高效能運算擁有這麼多優勢,也難怪在現實世界當中,已有許多運用HPC解決方案的實際案例。我們當中每一個人,都體驗過高效能運算,以下是不同垂直領域的應用實例,可突顯高效能運算帶給人們多大的幫助。

天氣模擬和災害防治

氣候變遷導致海嘯、暴潮等天然災害變得更加嚴峻,人類急需想出辦法,了解未來可能發生的災情,改良我們的居住環境,抵抗極端氣候肆虐。日本早稻田大學有「全球災害防治中心」的美譽,隸屬於早稻田大學創造理工學部社會環境工學科和持續未來社會研究所的柴山研究室,運用技嘉科技G221-Z30及 W291-Z00兩款伺服器,建造強大的運算叢集,快速進行高解析度的災害模擬,並透過平行運算,同時模擬不同災情和應變措施。

了解更多:

自駕車

自駕車是令人期待的創新發明,透過電腦視覺、深度學習等嶄新技術,人工智慧可以學習辨識路況,做出正確的判斷和反應,就跟真人駕駛一樣。高效能運算可加速自駕車AI的訓練過程。

專攻自動駕駛技術的以色列自駕車公司,購買技嘉G291-281和R281-NO0兩款伺服器,協助訓練自駕車車隊的人工智慧。海量資料交給HPC快速處理,自駕車越來越接近可以真正上路的那一天。
Renowned research institutes are using HPC to achieve astounding breakthroughs. For example, CERN uses GIGABYTE G482-Z51 to process the 40 terabytes of data generated by the Large Hadron Collider every second to search for the beauty quark.
Renowned research institutes are using HPC to achieve astounding breakthroughs. For example, CERN uses GIGABYTE G482-Z51 to process the 40 terabytes of data generated by the Large Hadron Collider every second to search for the beauty quark.

能源

包括石油與天然氣的能源產業,可利用高效能運算提升探勘效率;採集地質資訊過程中蒐集的大量數據資料,及平面與3D立體影像,可透過HPC快速、精準的分析,判斷哪裡是最佳鑽探位置,降低探勘成本。實用案例包括法國一間地質科學研究公司,運用技嘉G系列GPU協同運算伺服器,提升圖像辨識、影像及數據解析的處理效能,且更精確並即時地提供探勘資訊,應用於地球科學、石油與天然氣勘探產業。技嘉伺服器在1U(一個機架單位)規格的機身內,安裝高達六張GPGPU(通用圖形處理器)加速卡,高密度設計提供絕佳高效能運算能力。

虛擬與擴增實境

虛擬實境(VR)、擴增實境(AR)和混合實境(MR)技術已融入日常生活,全球科技巨頭宣布投入建造「元宇宙」,也很仰賴高效能運算。

在此分享兩個實例:2020年正式開幕的臺北流行音樂中心(北流),購買技嘉G481-HA0伺服器,建造支援5G通訊技術和邊緣運算的微型資料中心,提供觀眾「沉浸式360度虛擬演唱會」的精采體驗,也就是8K畫質、360度全景環繞的現場演唱會直播。美國矽谷科技公司ArchiFiction,則運用技嘉W281-G40伺服器和MW51-HP0伺服器主機板,創造市面上罕見的全集成空間裸眼混合現實產品n’Space,讓使用者不需戴上頭戴式裝置,也能體驗虛擬實境。

太空探索、量子力學和其他科學領域

因為HPC是最先進的運算方式之一,許多促進人類知識進展的學術單位和科學研究機構,積極採用高效能運算。比方說,美國亞利桑那州的洛厄爾天文台,曾經在1930年發現了冥王星,如今,洛厄爾天文台投入尋找人類可居住的「系外行星」,他們使用技嘉G482-Z50伺服器,研究太陽產出的光譜數據,排除恆星間的「太空噪音」,加速尋獲「第二顆地球」。再舉一個實例,操作大型強子對撞機(LHC)的歐洲核子研究組織(CERN),採用技嘉G482-Z51處理每秒產出的40 TB原始數據串流,偵測名為底夸克的次原子粒子,增加人類對於量子力學的認識。
Whether it is research in climate change, the COVID-19 virus, space exploration, or any other field of human knowledge, HPC has a role to play. This is why enterprises and universities alike are building their own HPC systems or renting HPC services.
Whether it is research in climate change, the COVID-19 virus, space exploration, or any other field of human knowledge, HPC has a role to play. This is why enterprises and universities alike are building their own HPC systems or renting HPC services.
高效能運算對科學研究有很大的幫助,也難怪,全球知名大學和研究機構,都積極建立自己專屬的HPC系統。2020年,西班牙巴塞隆納大學的理論與計算化學研究所,購入幾十台技嘉伺服器產品,擴展校園資料中心,建造名為「IQTC09」的最新叢集。臺灣師範大學理學院購買數款技嘉伺服器,在校內建置「雲端運算平台」,並開設「HPC管理課程」,培訓更多高效能運算人才。歐洲一間頂尖理工學院則採用技嘉H262-Z63高密度伺服器,擴建校園資料中心,推動工程科學、化學與應用生物、自然科學、建築土木及數學等領域的科學研究。

高效能運算系統內,包含哪些軟硬體元件?

說穿了,一套高效能運算系統的內部元件,和一座資料中心或伺服器機房大同小異,包含好幾台(可能上百、上千台)伺服器和其他設備。依照裝置所扮演的角色,又可分為三大類型的節點:運算節點、儲存節點和網路節點。運算節點相當於HPC系統的大腦,負責執行運算工作、執行指令。儲存節點負責儲存運算工作的結果。網路節點連結系統內不同的裝置,並和外部世界做連結。因為每個節點都有清楚的分工,高效能運算系統就如一台巨大的超級電腦,性能超越單一電腦系統。
This simple infographic shows that an HPC system is generally composed of the same three primary layers as a data center. There is the networking node, which connects the nodes to each other and the entire system to the outside world. There is the computing node, which performs the calculations. And, there is the storage node, which stores all the data.
This simple infographic shows that an HPC system is generally composed of the same three primary layers as a data center. There is the networking node, which connects the nodes to each other and the entire system to the outside world. There is the computing node, which performs the calculations. And, there is the storage node, which stores all the data.
為了達到高效能運算的層級,運算節點和內部處理器所提供的運算能力,變得非常關鍵。兩大中央處理器(CPU)製造商AMD和Intel陸續推出核心數、執行緒數更高的CPU,這些產品能快速執行大量運算工作。x86架構以外,還有採用ARM架構的處理器,所使用的精簡指令集架構,代表單一處理器能包含更多核心、更多執行緒。ARM架構處理器還有一項優勢,就是功耗較低、散熱較不成問題。總而言之,您的HPC系統採用哪種中央處理器產品,取決於您希望系統處理哪些類型的運算工作。

除了CPU之外,圖形處理器(GPU),或稱通用圖形處理器(GPGPU)也是關鍵。這是一種不同種類的處理器,特別適用於平行運算、網格計算等不同的分散式運算方法。如果您手上的運算工作可經過優化,透過GPU加速器縮短運算時間,那對您來說,達到高效能運算的途徑不一定是購買更強大的中央處理器,而是添加適當的圖形處理器。NVIDIA、AMD和其他科技公司皆推出很具有競爭力的GPU產品,可供您參考。

接下來,我們來看看儲存節點。前面提到,高可用性是HPC系統必備條件,不但不能發生「下線」、「當機」問題,務必要安全保管儲存資料,讓擁有權限的使用者能隨時索取。RAID(容錯式獨立磁碟陣列)是普遍使用的虛擬化儲存技術,整合許多不同硬碟,成為一個儲存裝置,藉此提升系統可用性和可靠程度,常見於高效能運算系統當中。NVMe(非揮發性記憶體)是邏輯裝置的介面規範,可加速資料傳輸速度,避免運算節點的強大處理器,因為儲存節點無法快速傳輸數據而無法發揮。總而言之,儲存節點或許不是高效能運算系統的「主力」,但也必須挑選適當的儲存裝置,才能提升整體運算效能。

網路節點可用網路伺服器建構,這類型伺服器專門支援內外部網路,也可用來提供VPN服務。網路伺服器可搭配網路交換器、路由器和防火牆等裝置,並採用乙太網路(Ethernet)、Infiniband (IB)等電腦網路通信標準,確保高效能運算系統的節點之間,及系統與用戶之間,達成暢通無阻的資料傳輸。

硬體設備之外,高效能運算系統使用的軟體也是重點,必須挑選適當的HPC平台軟體、運算框架及資料函式庫,讓您的高效能運算系統,可以達成最大效益。如同硬體一樣,關鍵在於挑選對的工具,只要軟硬體方案都符合您希望HPC執行的工作,您就能充分體會高效能運算的優勢。

三個撇步,教您如何判斷是否該用HPC?

閱讀到此,希望您對高效能運算的定義、使用情境和內部元件,已經有些初步的想法。您可能注意到,幾乎每個垂直領域都能用上HPC,而HPC系統的軟硬體元件,跟現有的資料中心和伺服器機房沒有太大的差別。您可以建造自己的高效能運算系統,或是透過雲端,租用HPC服務。接下來,您要做的就是評估自己的需求,仔細想一想,您是否需要HPC?能如何導入HPC?

個別使用者的需求,當然有所不同,不過,我們將需要評估的問題,盡量濃縮成三個簡單的題目。如果您看完以下三題,心中答案都是「Yes」,那恭喜您:您確實有機會,採用高效能運算開發新的機會、創造新的價值。

1. 您的工作內容,是否充滿資料密集型運算工作,可藉由更快的運算速度,大幅提升效率?
2. 您是否已經採用、或是有計畫採用嶄新的科技發明,例如人工智慧(AI)、物聯網(IoT)和機器學習作業(MLOps)?
3. 無論是自己建設的HPC系統,或是透過雲端取得的HPC服務,您能不能投入開發和管理HPC 的人力?這包含調整目前手上的工作項目,使其更符合高效能運算執行方式。

這些問題需要謹慎思考。如您所見,高效能運算不只是運算速度更快,還有機會創造新的價值。使用這種運算方式,手上的資料和工作項目進行必要的調整,當您的IT團隊完全熟悉HPC,高效能運算完全融入您的工作,您就會看見很大的改變,甚至無法回想,以前沒有HPC,到底是怎麼辦事的!

延伸閱讀

6大關鍵知識助企業打造強大運算力

6大關鍵知識助企業打造強大運算力

6大關鍵知識助企業打造強大運算力
ARM架構處理器的由來與優勢:從智慧型手機到超級電腦

ARM架構處理器的由來與優勢:從智慧型手機到超級電腦

ARM架構處理器的由來與優勢:從智慧型手機到超級電腦
淺談大數據分析應用,掌握先機的關鍵鑰匙

淺談大數據分析應用,掌握先機的關鍵鑰匙

淺談大數據分析應用,掌握先機的關鍵鑰匙
技嘉科技宣布推出一系列支援第四代Intel Xeon可擴充處理器的伺服器產品

技嘉科技宣布推出一系列支援第四代Intel Xeon可擴充處理器的伺服器產品

唯一搭載內建加速器的處理器,提供更強大的運算效能
CSR、ESG實踐案例:技嘉助攻成功大學 勇奪亞太HPC-AI電腦競賽冠軍

CSR、ESG實踐案例:技嘉助攻成功大學 勇奪亞太HPC-AI電腦競賽冠軍

CSR、ESG實踐案例:技嘉助攻成功大學 勇奪亞太HPC-AI電腦競賽冠軍
AMD EPYC 伺服器處理器的崛起過程

AMD EPYC 伺服器處理器的崛起過程

AMD EPYC 伺服器處理器的崛起過程
什麼是邊緣運算(Edge Computing)?

什麼是邊緣運算(Edge Computing)?

什麼是邊緣運算(Edge Computing)?
西班牙IFISC用技嘉伺服器 為新冠肺炎、氣候變遷尋求解方

西班牙IFISC用技嘉伺服器 為新冠肺炎、氣候變遷尋求解方

西班牙IFISC用技嘉伺服器 為新冠肺炎、氣候變遷尋求解方
技嘉Super Computing超進化 展出先進的散熱技術和可擴展資料中心基礎設施產品

技嘉Super Computing超進化 展出先進的散熱技術和可擴展資料中心基礎設施產品

NVIDIA精粹而生 技嘉伺服器平台搭載下一代AI處理器技術
OCP 開放機架標準v3 解決方案

OCP 開放機架標準v3 解決方案

高效節能伺服器解決方案的替代選項