什麼是HPC高效能運算？ 技嘉科技《科技指南》系列文章

HPC是high performance computing（高效能運算）的簡稱，泛指各種潛力無窮的先進運算方式，可處理更多資訊、執行更複雜的運算，效能與速度超過一般個人電腦。因此，高效能運算常被用來當作「超級電腦」的代名詞。目前，全世界有許多知名高效能運算系統，已突破一千兆每秒浮點運算次數(petaFLOPS)，甚至達到一百萬兆浮點運算次數(exaFLOPS)的超級電腦等級，登上Top 500 超級電腦排行榜。值得高興的是，一般企業（或任何組織）也有辦法使用HPC，甚至能建造自己的高效能運算系統，駕馭超級電腦等級的運算潛能。

超越一般電腦的秘訣，不只是設計一台「更強大」的電腦，而是連結許多不同運算資源，建立所謂的「運算叢集」。不同類型的處理器之間，能達到異質運算的綜效；安全、可靠的儲存裝置，可透過內網互聯，提升效率；高吞吐量的資訊傳輸技術，可解決延遲問題……諸如此類的眾多優勢，讓由多台電腦所組成的高效能運算系統，發揮超級電腦的威力。

詞彙學習：
《常聽別人說運算叢集，你知道那是什麼嗎？》
《花你一分鐘，一次看懂關於異質運算》

高效能運算有很多強項。在此，我們列出四個重大優勢，您可透過一個簡單的英文縮寫來記憶：PACT，代表效能(performance)、可用性(availability)、成本(costs)、時間(time)。

高效能運算的功力，遠勝過一般個人電腦，這點不用多解釋；我們在此所指的效能，是整個組織採用HPC之後，各方面表現都會勝過沒有使用HPC的組織，因為可以透過高效能運算更快完成工作，甚至發現之前未被發掘的價值。

想想看，設計一款新產品，例如一台轎車；或是一套新的作業流程，例如避免航班誤點的SOP，以往要花費多少功夫？一切都要反覆測試，才有可能成功；甚至有時候，推出新產品或新制度之後，還會發現有問題，需要持續微調，因為實在是有太多難以預測的不確定性因素。但是，如果採用高效能運算，就有辦法執行嚴密、仿真的電腦模擬測試，在新產品或新制度的開發階段，看到各種變因，提前做出調整，確保新品發表或新制度實施順利。

了解更多：
《享受極速駕馭，技嘉伺服器成就迎風馳騁的汽車設計》
《西班牙IFISC用技嘉伺服器，企圖解決「航機誤點延滯擴散」問題》

處理既有的工作項目之外，高效能運算也能掃過手上掌握的大數據，發現之前沒有被發掘的新價值。令人期待的實例之一，包括使用HPC系統搭載人工智慧(AI)技術，檢查診所和醫院累積的病人病歷，找出疾病的共同徵候，協助其他病人提早治療，不只幫助醫生護士工作更有效率，還可以開創新的醫療服務。

詞彙學習：
《技嘉小百科，告訴你大數據是什麼》
《常聽別人說人工智慧，你知道那是什麼嗎？》

可用性即「高可用性」的概念。現代世界，日常生活充滿數位資訊，因此，資訊科技(IT)設備盡量不要「下線」，好讓用戶能隨時盡情使用。對現在的電腦和伺服器而言，「高可用性」幾乎是基本條件。

詞彙學習：
《花你一分鐘，一次看懂關於高可用性》
《技嘉小百科，告訴你資訊科技是什麼》

由於高效能運算系統的每一個節點，大多是由許多電腦或伺服器所組成，節點之間能夠分攤工作、彼此支援，因此，高效能運算系統的可用性，優越於單一電腦系統。《詞彙學習：常聽別人說節點，你知道那是什麼嗎？》

好幾台伺服器產品，怎麼會比一台電腦更節省成本？這似乎不符合邏輯，但實際上，讓不同運算資源來分攤運算工作，是HPC系統「可擴充性」優於單一電腦系統的重要因素。也就是說，您可依照實際需求，即時進行「垂直擴充」（在系統內增加更多CPU、GPU、記憶體等資源），或「水平擴充」（在伺服器內增加虛擬化節點，或是將節點移至另一台伺服器）。這有別於傳統IT管理者的習慣，必須一開始就購入超過實際需求的電腦設備，提前為未來做準備。高效能運算系統還有另一種增加資源的方式，就是接洽雲端服務供應商(CSP)，租用雲端資源，這一樣有助於降低成本，加強可擴充性。

詞彙學習：
《常聽別人說可擴充性，你知道那是什麼嗎？》
《花你一分鐘，一次看懂關於GPU》
《技嘉小百科，告訴你雲端運算是什麼》

高效能運算的速度，和一般電腦不可同日而語。前面提到，HPC系統每秒浮點運算次數已突破一千兆，邁向一百萬兆境界；一般個人電腦，只有十億浮點運算次數(gigaFLOPS)或一兆浮點運算次數(teraFLOPS)的等級。原本需要好幾天、甚至好幾個月才能完成的運算工作，現在也許只需要幾分鐘、幾小時就能完成，可見高效能運算的爆發力。

就用電腦動畫產業來舉例：渲染動畫每一格畫面需要很多時間，嚴重壓縮編劇撰寫故事、畫家設計角色和場景的時間。如果能建立自己的「算圖農場」，或是連接雲端算圖服務，渲染時間就會縮短，讓創作家有更多時間，創造更優質的動畫作品。

了解更多：
《詞彙學習：常聽別人說算圖農場，你知道那是什麼嗎？》
《技嘉伺服器加持，國研院國網中心與冉色斯引導台灣動畫走向國際》

高效能運算擁有這麼多優勢，也難怪在現實世界當中，已有許多運用HPC解決方案的實際案例。我們當中每一個人，都體驗過高效能運算，以下是不同垂直領域的應用實例，可突顯高效能運算帶給人們多大的幫助。

氣候變遷導致海嘯、暴潮等天然災害變得更加嚴峻，人類急需想出辦法，了解未來可能發生的災情，改良我們的居住環境，抵抗極端氣候肆虐。日本早稻田大學有「全球災害防治中心」的美譽，隸屬於早稻田大學創造理工學部社會環境工學科和持續未來社會研究所的柴山研究室，運用技嘉科技G221-Z30及 W291-Z00兩款伺服器，建造強大的運算叢集，快速進行高解析度的災害模擬，並透過平行運算，同時模擬不同災情和應變措施。

了解更多：
《關於技嘉G系列GPU協同運算伺服器產品的更多介紹》
《關於技嘉W系列工作站產品的更多介紹》
《花你一分鐘，一次看懂關於平行運算》
《暴風解碼，技嘉運算叢集協助早稻田大學研究氣候變遷》

自駕車是令人期待的創新發明，透過電腦視覺、深度學習等嶄新技術，人工智慧可以學習辨識路況，做出正確的判斷和反應，就跟真人駕駛一樣。高效能運算可加速自駕車AI的訓練過程。

詞彙學習：
《技嘉小百科，告訴你電腦視覺是什麼》
《常聽別人說深度學習，你知道那是什麼嗎？》

專攻自動駕駛技術的以色列自駕車公司，購買技嘉G291-281和R281-NO0兩款伺服器，協助訓練自駕車車隊的人工智慧。海量資料交給HPC快速處理，自駕車越來越接近可以真正上路的那一天。

了解更多：
《關於技嘉R系列機架式伺服器產品的更多介紹》
《技嘉HPC伺服器，協助科技創新者發展自駕車演算法》

包括石油與天然氣的能源產業，可利用高效能運算提升探勘效率；採集地質資訊過程中蒐集的大量數據資料，及平面與3D立體影像，可透過HPC快速、精準的分析，判斷哪裡是最佳鑽探位置，降低探勘成本。實用案例包括法國一間地質科學研究公司，運用技嘉G系列GPU協同運算伺服器，提升圖像辨識、影像及數據解析的處理效能，且更精確並即時地提供探勘資訊，應用於地球科學、石油與天然氣勘探產業。技嘉伺服器在1U（一個機架單位）規格的機身內，安裝高達六張GPGPU（通用圖形處理器）加速卡，高密度設計提供絕佳高效能運算能力。

詞彙學習：
《技嘉小百科，告訴你機架單位是什麼》
《花你一分鐘，一次看懂關於GPGPU通用圖形處理器》
《技嘉GPU協同運算伺服器，提升油氣產業的探勘效率》

金融業也受惠於高效能運算解決方案，舉例來說，一間知名的財經資訊公司採用技嘉R181-NA0機架式伺服器，處理世界各地股價、企業財報數據債券、匯率、期貨等資料，為全球企業、金融專業人士等，提供最新行情和即時走勢，精準掌握交易時機。

了解更多：
《金融業大數據遇到難題？技嘉伺服器能快速解決》

虛擬實境(VR)、擴增實境(AR)和混合實境(MR)技術已融入日常生活，全球科技巨頭宣布投入建造「元宇宙」，也很仰賴高效能運算。《常聽別人說元宇宙，你知道那是什麼嗎？》

在此分享兩個實例：2020年正式開幕的臺北流行音樂中心（北流），購買技嘉G481-HA0伺服器，建造支援5G通訊技術和邊緣運算的微型資料中心，提供觀眾「沉浸式360度虛擬演唱會」的精采體驗，也就是8K畫質、360度全景環繞的現場演唱會直播。美國矽谷科技公司ArchiFiction，則運用技嘉W281-G40伺服器和MW51-HP0伺服器主機板，創造市面上罕見的全集成空間裸眼混合現實產品n’Space，讓使用者不需戴上頭戴式裝置，也能體驗虛擬實境。

了解更多：
《常聽別人說資料中心，你知道那是什麼嗎？》
《花你一分鐘，一次看懂關於5G第五代行動通訊技術》
《技嘉小百科，告訴你邊緣運算是什麼》
《裸眼3D技術讓虛擬真實補強現實世界未竟之業》

因為HPC是最先進的運算方式之一，許多促進人類知識進展的學術單位和科學研究機構，積極採用高效能運算。比方說，美國亞利桑那州的洛厄爾天文台，曾經在1930年發現了冥王星，如今，洛厄爾天文台投入尋找人類可居住的「系外行星」，他們使用技嘉G482-Z50伺服器，研究太陽產出的光譜數據，排除恆星間的「太空噪音」，加速尋獲「第二顆地球」。再舉一個實例，操作大型強子對撞機(LHC)的歐洲核子研究組織(CERN)，採用技嘉G482-Z51處理每秒產出的40 TB原始數據串流，偵測名為底夸克的次原子粒子，增加人類對於量子力學的認識。

了解更多：

高效能運算對科學研究有很大的幫助，也難怪，全球知名大學和研究機構，都積極建立自己專屬的HPC系統。2020年，西班牙巴塞隆納大學的理論與計算化學研究所，購入幾十台技嘉伺服器產品，擴展校園資料中心，建造名為「IQTC09」的最新叢集。臺灣師範大學理學院購買數款技嘉伺服器，在校內建置「雲端運算平台」，並開設「HPC管理課程」，培訓更多高效能運算人才。歐洲一間頂尖理工學院則採用技嘉H262-Z63高密度伺服器，擴建校園資料中心，推動工程科學、化學與應用生物、自然科學、建築土木及數學等領域的科學研究。

了解更多：
《關於技嘉H系列高密度伺服器產品的更多介紹》
《技嘉伺服器加持，巴塞隆納大學超前部署全新運算叢集》
《臺灣師範大學建置雲端運算平台，開創科學研究更多可能》
《歐洲理工學院鑽研科學知識，高密度伺服器是加速運算的關鍵》

說穿了，一套高效能運算系統的內部元件，和一座資料中心或伺服器機房大同小異，包含好幾台（可能上百、上千台）伺服器和其他設備。依照裝置所扮演的角色，又可分為三大類型的節點：運算節點、儲存節點和網路節點。運算節點相當於HPC系統的大腦，負責執行運算工作、執行指令。儲存節點負責儲存運算工作的結果。網路節點連結系統內不同的裝置，並和外部世界做連結。因為每個節點都有清楚的分工，高效能運算系統就如一台巨大的超級電腦，性能超越單一電腦系統。《常聽別人說伺服器機房，你知道那是什麼嗎？》

為了達到高效能運算的層級，運算節點和內部處理器所提供的運算能力，變得非常關鍵。兩大中央處理器(CPU)製造商AMD和Intel陸續推出核心數、執行緒數更高的CPU，這些產品能快速執行大量運算工作。x86架構以外，還有採用ARM架構的處理器，所使用的精簡指令集架構，代表單一處理器能包含更多核心、更多執行緒。ARM架構處理器還有一項優勢，就是功耗較低、散熱較不成問題。總而言之，您的HPC系統採用哪種中央處理器產品，取決於您希望系統處理哪些類型的運算工作。

了解更多：
《關於技嘉ARM伺服器產品的更多介紹》
《花你一分鐘，一次看懂關於核心》
《技嘉小百科，告訴你執行緒是什麼》

除了CPU之外，圖形處理器(GPU)，或稱通用圖形處理器(GPGPU)也是關鍵。這是一種不同種類的處理器，特別適用於平行運算、網格計算等不同的分散式運算方法。如果您手上的運算工作可經過優化，透過GPU加速器縮短運算時間，那對您來說，達到高效能運算的途徑不一定是購買更強大的中央處理器，而是添加適當的圖形處理器。NVIDIA、AMD和其他科技公司皆推出很具有競爭力的GPU產品，可供您參考。

詞彙學習：
《常聽別人說網格計算，你知道那是什麼嗎？》
《花你一分鐘，一次看懂關於分散式運算》

接下來，我們來看看儲存節點。前面提到，高可用性是HPC系統必備條件，不但不能發生「下線」、「當機」問題，務必要安全保管儲存資料，讓擁有權限的使用者能隨時索取。RAID（容錯式獨立磁碟陣列）是普遍使用的虛擬化儲存技術，整合許多不同硬碟，成為一個儲存裝置，藉此提升系統可用性和可靠程度，常見於高效能運算系統當中。NVMe（非揮發性記憶體）是邏輯裝置的介面規範，可加速資料傳輸速度，避免運算節點的強大處理器，因為儲存節點無法快速傳輸數據而無法發揮。總而言之，儲存節點或許不是高效能運算系統的「主力」，但也必須挑選適當的儲存裝置，才能提升整體運算效能。

詞彙學習：
《技嘉小百科，告訴你容錯式獨立磁碟陣列是什麼》
《常聽別人說非揮發性記憶體，你知道那是什麼嗎？》

網路節點可用網路伺服器建構，這類型伺服器專門支援內外部網路，也可用來提供VPN服務。網路伺服器可搭配網路交換器、路由器和防火牆等裝置，並採用乙太網路(Ethernet)、Infiniband (IB)等電腦網路通信標準，確保高效能運算系統的節點之間，及系統與用戶之間，達成暢通無阻的資料傳輸。

硬體設備之外，高效能運算系統使用的軟體也是重點，必須挑選適當的HPC平台軟體、運算框架及資料函式庫，讓您的高效能運算系統，可以達成最大效益。如同硬體一樣，關鍵在於挑選對的工具，只要軟硬體方案都符合您希望HPC執行的工作，您就能充分體會高效能運算的優勢。

閱讀到此，希望您對高效能運算的定義、使用情境和內部元件，已經有些初步的想法。您可能注意到，幾乎每個垂直領域都能用上HPC，而HPC系統的軟硬體元件，跟現有的資料中心和伺服器機房沒有太大的差別。您可以建造自己的高效能運算系統，或是透過雲端，租用HPC服務。接下來，您要做的就是評估自己的需求，仔細想一想，您是否需要HPC？能如何導入HPC?

個別使用者的需求，當然有所不同，不過，我們將需要評估的問題，盡量濃縮成三個簡單的題目。如果您看完以下三題，心中答案都是「Yes」，那恭喜您：您確實有機會，採用高效能運算開發新的機會、創造新的價值。

1. 您的工作內容，是否充滿資料密集型運算工作，可藉由更快的運算速度，大幅提升效率？
2. 您是否已經採用、或是有計畫採用嶄新的科技發明，例如人工智慧(AI)、物聯網(IoT)和機器學習作業(MLOps)？
3. 無論是自己建設的HPC系統，或是透過雲端取得的HPC服務，您能不能投入開發和管理HPC 的人力？這包含調整目前手上的工作項目，使其更符合高效能運算執行方式。

詞彙學習：
《花你一分鐘，一次看懂關於物聯網》
《技嘉小百科，告訴你機器學習作業是什麼》

這些問題需要謹慎思考。如您所見，高效能運算不只是運算速度更快，還有機會創造新的價值。使用這種運算方式，手上的資料和工作項目進行必要的調整，當您的IT團隊完全熟悉HPC，高效能運算完全融入您的工作，您就會看見很大的改變，甚至無法回想，以前沒有HPC，到底是怎麼辦事的！

高效能運算系統的運算或控制節點，可選用技嘉H系列高密度伺服器，適合HPC和超融合基礎架構(HCI)使用。產品特色是小而美的機殼內，能容納大量的運算資源。舉例來說，如果使用雙CPU設計的2U規格伺服器，搭載最新AMD EPYC™系列中央處理器，一台伺服器就可提供512顆核心、1,024條執行緒；再使用這樣配置的伺服器，將標準42U規格的機架裝滿，僅保留空間給網路設備使用，就可達到10,240顆核心、20,480條執行緒的無比效能。《詞彙學習：常聽別人說超融合基礎架構，你知道那是什麼嗎？》

前面提到，邁向高效能運算的途徑，不一定是透過更強大的中央處理器。使用圖形處理器(GPU)，能輕鬆處理經優化的分散式運算工作。技嘉G系列GPU協同運算伺服器正是為此而設計，規格較大的幾款產品，可容納高達十張PCIe Gen4加速卡，或八張雙插槽加速卡。使用NVIDIA® NVLink™等GPU互連技術，可擴充多GPU系統內的資料流通量，優化GPU間加速效果，並且增加頻寬、連結數量和加強可擴充性。《詞彙學習：花你一分鐘，一次看懂關於PCIe》

高密度伺服器和GPU協同運算伺服器是專才，而R系列機架式伺服器是通才，適合各種需求，可用來達成效率和可靠度之間的理想平衡。機架式伺服器擅長處理關鍵的運算工作，並可搭配其他類型伺服器使用，讓您的HPC系統，同時達到高效能和低成本的雙目標。

S系列儲存伺服器的插槽密度很高，適合扮演高效能運算系統的儲存節點。技嘉伺服器不只使用容錯式獨立磁碟陣列(RAID)技術，還提供專屬的智慧型危機管理與防護(SCMP)、電壓瞬間調頻、雙唯讀記憶體架構功能，確保可用性和可靠度。

前面幾款伺服器產品，都安裝在標準規格的伺服器機架中使用。相較下，W系列塔式伺服器（工作站）產品，採用直立式獨立機殼，可安裝在機架之外。外觀類似個人電腦，內部卻搭載最先進的伺服器主機板和處理器，深受沒有伺服器機房的工作環境，例如大學實驗室、動畫工作室的使用者愛戴。使用技嘉W系列產品，就像在您的書桌上架設高效能運算系統。

希望本篇《科技指南》，有助於說明高效能運算HPC的定義、使用方法和優勢。如果希望進一步了解HPC，歡迎您透過server.grp@gigacomputing.com電子信箱聯絡技嘉科技業務窗口，我們將協助您挑選適合您的高效能運算HPC解決方案。