Tech-Guide

深究伺服器運算效能的核心關鍵:伺服器處理器

by GIGABYTE
伺服器處理器(Server CPU)如何運作?與一般電腦的處理器有什麼不同?不同的Server CPU如何影響您的伺服器?技嘉科技為伺服器與尖端科技解決方案的知名品牌,發表本篇《科技指南》,目的是介紹伺服器處理器的基本知識與原理,比較不同處理器的優勢與差異,並且協助您選擇合適的技嘉科技伺服器產品,讓您在了解伺服器處理器之餘,更能清晰掌握自我需求,獲得最理想的伺服器解決方案。
資訊科技(IT)加持的數位時代,許多企業認知到數位轉型的重要性,紛紛追求運算效能更高、穩定性更好,甚至是能源消耗更低的伺服器解決方案,以至於超級電腦、資料中心建置如雨後春筍般不斷冒出,其中影響伺服器效能的核心關鍵,便是伺服器處理器(Server CPU)。

了解更多:
《詞彙學習:常聽別人說IT資訊科技,你知道那是什麼嗎?
《詞彙學習:花你一分鐘,一次看懂關於資料中心
技嘉藉由單相浸沒式液冷技術,助力日本電信龍頭KDDI開發新世代資料中心
什麼是伺服器處理器Server CPU?
Server CPU 顧名思義,是伺服器使用的中央處理器(Central Processing Unit,CPU),其在伺服器所扮演的角色如同人類的大腦一般,主要功能是接收與詮釋指令,並與內部作業系統進行互動,進而控制著整個伺服器系統的運作,內部數據的邏輯運算、存儲、指令輸入與輸出,這些都是Server CPU的處理範疇。

別看CPU雖然只有小小一片,但內部就如同一個工廠般擁有許多元件,像是程式計數器(program counter,PC)、暫存器(register)與算術邏輯單元(arithmetic logic unit,ALU)等讓CPU得以運行,其中運作過程大致可分為提取(fetch)、解碼(decode)、執行(execute)以及寫回(write back)等四階段。當我們開啟一個程式的時候,CPU會根據指示從「隨機存取記憶體」(Random Access Memory,RAM,俗稱記憶體)中「提取」執行程式所需要的指令與數據,進行「解碼」;依據CPU指令集架構(ISA) 的設計方式,可分為複雜指令集(CISC)與精簡指令集 (RISC)兩類,CPU提取的指令經過解碼之後,才知道「需要完成的工作是什麼」?

詞彙學習:
技嘉小百科,告訴你複雜指令集(CISC)是什麼
常聽別人說精簡指令集 (RISC),你知道那是什麼嗎?

「執行」階段,CPU的數據暫存器會將需要應用的資料從RAM提取出來,連接到CPU內部的算數邏輯單元進行運算,產出結果。最後「寫回」的階段,是將運算完成的數據資料結果記錄回暫存器中,至此CPU算是跑完一次運作流程。這些就是CPU一直不斷重複循環的工作,而且可能是以一秒數十億次的頻率進行運算。

補充一下關於指令集架構(ISA),如前面所說,主要分為CISC與RISC兩類型,影響伺服器處理器決定該以何種模式執行指令,也關係到支援的數據類型和暫存模式。CISC的指令設計較為複雜、指令編碼也較長,可藉由一次指令完成多項工作,至今仍是企業IT架構與伺服器處理器的主流,市面上常見的產品就是所謂的「x86」處理器,其中又以英特爾Intel、超微AMD兩家公司的處理器為代表。RISC的指令設計比較單純,只能處理一個時脈週期的指令,但在開發與設計成本上相對便宜,功耗與廢熱也較低,多應用在智慧手機等行動裝置上,而近年來許多企業也將其應用於伺服器處理器,最具代表性的產品就是ARM處理器架構。

了解更多:
《關於技嘉GIGABYTE x86伺服器系列產品的更多介紹》
《關於技嘉GIGABYTE ARM伺服器系列產品的更多介紹》
《科技指南系列文章:ARM處理器架構的由來與優勢
伺服器處理器與一般桌機CPU的差異為何?又有哪些因素影響其效能?
不知道您是否留意到,剛剛介紹處理器時都少以「CPU」單獨稱呼,而是稱為伺服器處理器或Server CPU,為了避免讀者將它與一般桌機CPU產生混淆,那這兩者間有什麼不同呢?
伺服器處理器與個人電腦處理器之所以不同,因為它們的工作性質有很大的差異。伺服器處理大量數據、必須服務眾多使用者,因此講究可用性與穩定性,搭載企業級的CPU快取和較多的CPU插槽。個人電腦處理器處理較少數據、服務較少使用者,所以它的屬性比較接近「消費電子」的等級。
● 使用人數與處理數據的規模不同
雖然同樣作為處理器使用,但伺服器與一般桌機在運作上可是大不相同,動輒就需容許數十人至數百、數千人的訪問使用,數據資訊的處理規模也遠遠高於一般桌機,所以伺服器處理器需要比一般桌機CPU具備更高效的資料運算能力,甚至能達到HPC高效能運算的境界。《詞彙學習:花你一分鐘,一次看懂關於HPC高效能運算

● 對於穩定性的要求不同
伺服器處理器在運作上需要有極高的穩定性,並且要能應付長時間的運行訴求,基本上Server CPU在設計時便是以全年無休、連續運作為考量,好讓資料中心能滿足「高可用性」條件,因為伺服器處理器若不夠穩定,不但會影響眾多用戶,甚至會造成難以估計的財產損失。相較之下,桌機對CPU的要求較低,並未要求其全年無休連續運作。《詞彙學習:技嘉小百科,告訴你高可用性是什麼

● 對於CPU快取(cache size)的要求不同
CPU快取位於伺服器處理器與記憶體之間,可減少處理器在存取記憶體時所需花費的平均時間,增加伺服器處理器的運作效能,當Server CPU發出記憶體存取請求時,可以先從快取中尋找是否有對應的資料,如果有即可直接從其中存取,不用再經過記憶體,通常分為一級快取(L1)、二級快取(L2)與三級快取(L3),一級快取容量最小、但存取效果最快,二級快取次之,三級快取則是容量最大但存取效果較慢。伺服器處理器對於運算效能有極高的要求,所以通常會以多級配置到三級的CPU快取,以對應不同的存取需求,而一般桌機CPU則無須耗費如此規模的快取配置。

● 伺服器處理器具備多個CPU插槽(CPU Socket)
伺服器處理器直接關係到伺服器的運算效能,俗話說「團結力量大」,伺服器主機板可支援多個Server CPU,讓多個處理器同時作業,以獲得更強大的運算能力,反觀一般桌機因考量到設備配置、需求與成本,多數不會使用多個CPU進行運算作業。而伺服器主機板上的CPU插槽,可輕鬆簡易插拔伺服器處理器,並分為「插針網格陣列封裝(PGA)」和「平面網格陣列封裝(LGA)」兩種,主要差異在於針腳放置的位置不同,而不同種類的CPU針腳數量與排列方式都不盡相同,要留意其CPU插槽的相容性。

了解更多:
《詞彙學習:花你一分鐘,一次看懂關於CPU插槽
《關於技嘉GIGABYTE 伺服器主機板系列產品的更多介紹》

由此可見,伺服器處理器與一般桌機在運算效能有著本質上的差異,所以延伸出不同的性能要求以及功能配置。而關係到伺服器處理器效能的因素,除了上述提及的CPU快取配置要求,以及支援多個CPU Socket數量之外,伺服器處理器核心數(core)、執行緒(thread)以及時脈速度(clock speed)等規格,都會影響Server CPU的效能。

詞彙學習:
常聽別人說核心,你知道那是什麼嗎?
花你一分鐘,一次看懂關於執行緒
影響伺服器處理器效能的三大要素:核心、執行緒、時脈速度
 ● 核心
CPU核心的功能在於接收和執行指令,以往一顆CPU只能有一顆核心,而隨著科技飛速進步,多核心處理器儼然已成為基本配備。多核心的優勢在於,每個核心都能獨立作業,各自執行並完成多項工作,用以提升伺服器處理器的運算效能,甚至透過平行運算,使多顆核心攜手完成同一項工作。但並非核心數多,運算效能就一定更好,還需要考量執行緒以及時脈速度。《詞彙學習:技嘉小百科,告訴你平行運算是什麼
伺服器處理器的性能,決定於它的核心數量、執行緒數量與時脈速度。一般而言,核心和執行緒越多、時脈速度越高,伺服器處理器越強大;但實際的使用效果,決定於您用來處理什麼樣的工作負載?
● 執行緒
執行緒,或稱線程,是作業系統進行運算排程的最小單位,為每顆核心處理指令的流程,若是處理器的工作負荷過重,便能透過多執行緒的技術讓一顆核心同時處理兩個指令。若核心數再往上增加,執行緒數量便同樣以倍數成長,讓伺服器處理器的運算效能再往上提升一個層級。今日許多超級電腦等級的運算功能,如高效能運算,就是借助伺服器處理器擁有高核心數及高執行緒數的加持之下順利運行。

● 時脈速度
時脈速度同樣是衡量伺服器處理器運算效能的指標之一,簡單而言,就是計算伺服器處理器在一秒的時間內可以處理幾個運算單位,即為每秒執行的週期數;一個週期指的是處理器內部的一次同步脈衝,測量單位為GHz (gigahertz),通常時脈速度越高,表示一秒可處理的運算單位越多,伺服器處理器的效能就會越好,不過整體效能仍是需要多方衡量。
技嘉伺服器解決方案,支援伺服器處理器的最佳盟友
前面提及,處理器的指令集架構可分為CISC與RISC兩類型,x86處理器是常見的CISC產品,其中又以英特爾、超微兩家公司作為代表;ARM處理器是RISC產品的代表,明星品牌包括安培運算(Ampere Computing)。兩大「派系」的伺服器處理器運算性能都十分優越,端看使用者的需求而定,一般而言,x86產品受益於Intel和AMD在電腦市場的長期投入,其強項是縮短服務反應時間和密集資料處理的優異單執行緒效能,累積數十年的完整軟體生態系統,及適用於各類應用場域的通用特性,導致其至今仍主導企業IT架構與資料中心的建置;異軍突起的ARM產品,則主打著高性能、散熱強與低功耗,並強調是絕大多數行動裝置使用的雲端原生處理器,提供更多核心數、效能功耗比更佳、降低總體擁有成本與提高投報率等特性,未來勢必會持續為伺服器市場注入更多驚喜。

但話說回來,不論是多麼強大的Server CPU,若沒有可配合搭載的伺服器支援,豈不是「英雄無用武之地」?而在技嘉科技的伺服器解決方案中,無論是Intel® Xeon®、AMD EPYC™,甚至是ARM架構的 Ampere® Altra®中央處理器,我們都能全方位支持各式不同需求的Server CPU,協助您找出最合適的伺服器方案。
如果您想使用RISC指令集架構的ARM伺服器處理器,可挑選搭載Ampere® Altra®、Ampere® Altra® Max CPU的技嘉科技伺服器產品。而如果您想使用CISC指令集架構的x86伺服器處理器,技嘉提供搭載Intel® Xeon®或AMD EPYC™ CPU的全系列伺服器解決方案。
● ARM架構:Ampere® Altra®、Ampere® Altra® Max伺服器處理器
ARM 架構的伺服器處理器採用RISC作為指令集架構,指令編碼較為單純,讓處理器在運行時可擁有高效率、低熱耗、效能功耗比更佳等優勢,廣泛應用在智慧型行動裝置上。雖然ARM架構處理器指令編碼較精簡,但大多擁有較多核心數,使其在運算能力上不遜於x86架構的伺服器處理器。尤其在低耗能訴求日漸受到重視的當下,越來越多企業在選擇伺服器解決方案或是建置資料中心時,會考量ARM架構的Server CPU。

技嘉於2013年便開始著手於ARM伺服器解決方案的技術研發,成功案例包括台灣大學電機資訊學院使用技嘉G242-P32伺服器及Arm HPC Developer Kit,開發能精準模擬路況的「高精準車流模型」。由於台大團隊路測使用的工業電腦同樣採用RISC架構,搭載Ampere® Altra® Server CPU的G242-P32可徹底移除資料中心與邊緣裝置溝通的延遲,而G242-P32的運算效能絲毫沒有因為使用RISC架構而打折扣,歸功於Ampere® Altra® CPU內部搭載高達80顆核心,可輕鬆應付平行運算的演算任務,藉以應付龐大車流數據的運算作業。

了解更多:
技嘉ARM伺服器發威!協助台大「高精準車流模型」開發效率提升200%
《詞彙學習:常聽別人說邊緣運算,你知道那是什麼嗎?
● x86架構:AMD EPYC™、Intel® Xeon® Scalable伺服器處理器
x86架構的伺服器處理器仍是市場的主流,與ARM處理器最大的不同在於使用CISC架構,可執行需要好幾個時脈週期才能完成的複雜指令,強大的運算效能與優越的穩定性,雖說部分處理器的核心數可能較少,但可透過多執行緒技術加以彌補,且x86架構處理器出現時間較早,在經過長時間開發研究與改良下,不論是設備的可擴充性或系統操作的兼容性上都佔有一定的優勢,也是其受企業青睞有加、屹立不搖的原因之一。《詞彙學習:花你一分鐘,一次看懂關於可擴充性

在技嘉科技的伺服器解決方案中,無論是擅長高效能運算的H系列高密度伺服器G系列GPU協同運算伺服器,通用性R系列機架式伺服器,邊緣運算使用的E系列邊緣運算伺服器,儲存使用的S系列儲存伺服器或工作站類型的W系列伺服器,基本上都支援x86架構伺服器處理器,許多企業、學術單位進行評估時會將其穩定性、後期兼容的優勢進行權衡考量,如協助巴賽隆納大學部署全新運算叢集一案中,選用了技嘉R182-Z90G292-Z42伺服器,其搭載的AMD EPYC™處理器支援64顆核心與128條執行緒,優異的運算效能可協助大專院校進行大量的數據分析。

了解更多:
技嘉伺服器加持,巴塞隆納大學超前部署全新運算叢集
《詞彙學習:技嘉小百科,告訴你運算叢集是什麼

除此之外,技嘉也與開發自動駕駛技術的以色列自駕車公司攜手,客戶為了要讓專案順利進行,並考量到自動駕駛技術所訴求的高可用性以及高可擴充性,多方評估後挑選擇技嘉G291-281R281-NO0伺服器,作為研發自動駕駛技術的利器。兩者皆配置Intel® Xeon® 可擴充平台,並採用雙插槽配置,可兼容不同規格的處理器,讓工作負載得到最佳化,每個處理器最多可支援28顆核心與56個執行緒,用以支援不同領域應用,如資料庫、雲端運算,和HPC的工作負載等作業行為。

了解更多:
打造自動駕駛的大腦 技嘉高密度伺服器,協助科技創新者發展自駕車演算法
《詞彙學習:常聽別人說雲端運算,你知道那是什麼嗎?

看完本篇科技指南,希望各位對於伺服器的大腦Server CPU有更進一步的認識。若對於伺服器處理器或是伺服器解決方案有任何疑問,技嘉科技將提供您最適宜的諮詢服務,歡迎您透過marketing@gigacomputing.com 電子信箱聯絡技嘉科技業務窗口,我們將協助您挑選適合的伺服器解決方案。

同場加映:
《科技指南系列文章:淺談大數據分析應用,掌握先機的關鍵鑰匙?
《更多成功案例:零百加速3.3秒的熱情奔放!清大賽車工廠選技嘉,建造國際級方程式賽車
Realtion Tags
雲端運算
可擴充性
邊緣運算
高效能運算
資料中心
平行運算
運算叢集
CPU插座
資訊科技
高可用性
核心
執行緒
複雜指令集
精簡指令集
WE RECOMMEND
RELATED ARTICLES
什麼是HPC高效能運算? 技嘉科技《科技指南》系列文章

Tech Guide

什麼是HPC高效能運算? 技嘉科技《科技指南》系列文章

隨著伺服器解決方案變得更為普及,常有人提起高效能運算(HPC);內行人把這個字掛在嘴邊,好像只要是伺服器產品,就應該提供HPC功能,HPC可以解決所有運算問題……您可能想要知道,HPC真正的優勢是什麼?您能如何應用? 技嘉科技是高性能伺服器產品的業界領袖,本次發表《科技指南》文章,目的是清楚解釋HPC定義,並透過真實世界HPC成功案例介紹,希望能夠幫您評估,HPC是否符合您的需求?如果需要HPC,技嘉科技能為您提供什麼服務?
如何挑選您的AI伺服器?(上)CPU和GPU

Tech Guide

如何挑選您的AI伺服器?(上)CPU和GPU

生成式人工智慧和其他AI工具盛行的當下,挑選合適的AI伺服器成為各產業的首要任務。技嘉科技最新發表《科技指南》,帶領讀者認識AI伺服器的八個關鍵零組件,本篇從最重要的元件開始,即中央處理器(CPU)和圖形處理器(GPU)。挑選適當的運算晶片,打造量身訂做的人工智慧超算平台,可以讓工作事半功倍,為使用者開創全新的巔峰。
CSR、ESG實踐案例:技嘉助攻成功大學 勇奪亞太HPC-AI電腦競賽冠軍

Success Case

CSR、ESG實踐案例:技嘉助攻成功大學 勇奪亞太HPC-AI電腦競賽冠軍

技嘉科技是高性能伺服器解決方案的知名品牌,並且長期投入企業社會責任(CSR),環境、社會和企業治理(ESG)等永續經營目標。2020年,技嘉提供四台G482-Z50伺服器產品給台灣成功大學的超級電腦團隊,協助同學在當年的亞太地區「高速運算暨人工智慧(HPC-AI)學生競賽」上榮獲冠軍。技嘉伺服器的平行運算能力,伺服器之間的高效率資料傳輸,及長時間運作也不會出錯的穩定特性,讓這些伺服器能扮演參賽同學的神隊友。技嘉促進新一代HPC與AI人才培育,同時藉此機會回饋社會,透過高科技產品增進人類福祉。
帶您快速跟上人工智慧AI趨勢的十大問答

AI & AIoT

帶您快速跟上人工智慧AI趨勢的十大問答

大家都在談人工智慧(AI),您是否也希望擁有基本的知識,參與這個話題的討論?別擔心,技嘉科技為您準備了介紹AI趨勢的十大問答,讓您能快速理解人工智慧的概念!
想要掌握最新科技動向?馬上訂閱!
訂閱電子報