Success-Case

技嘉ARM伺服器發威 協助台大「高精準車流模型」開發效率提升200%

台灣大學施吉昇教授率領的研究團隊,使用技嘉科技G242-P32伺服器及Arm HPC Developer Kit,開發能夠準確模擬路況的「高精準車流模型」。尖端科技加持的智慧交通解決方案,可用來測試即將上市的自駕車,也能用來觀察易肇事路段,找出引發事故的背後因素。以ARM處理器做為基石的這套開發平台,讓科學家工作效率提升200%,成功因素包括:「雲端原生」處理器和路測裝置使用相同的「指令語法」,減少裝置間溝通的延遲;Ampere® Altra®處理器內含八十顆核心,適合進行平行運算;CPU和GPU間可發揮異質運算的綜效,提升運算效率。ARM產品符合ISO 26262標準要求,這表示台大推出的電腦模型可以快速應用於車廠和政府機關,協助開創智慧型運輸的大未來。
台灣大學電機資訊學院資訊網路與多媒體研究所所長施吉昇教授,率領研究團隊建造台灣道路的「高精準車流模型」,這是一套尖端科技加持的智慧型運輸解決方案,主要提供兩大功能:第一,電腦模型可為自駕車和ADAS(先進駕駛輔助系統)「出考題」,確保產品能夠在台灣安全上路,政府單位也能用來檢驗進入台灣市場的自駕車產品;第二,可透過電腦模型分析出台灣易肇事的地點,找出引發事故的真正因素,避免造成更多傷亡。研發當中的「高精準車流模型」,已經在台灣的北、中兩部進行路測,研究團隊也已與日本自駕技術新創公司Tier IV, Inc.接洽,商討如何將電腦模型導入Autoware;Autoware是全球首推的自駕車開源軟體平台,台大「高精準車流模型」若能和Autoware結合,就有機會受到更多自駕技術開發廠商的青睞,逐步邁向商轉的可能性。

了解更多: 
技嘉協助以色列業者發展自駕車演算法,打造自動駕駛大腦

台灣大學是如何開發這套「高精準車流模型」?首先,研究員將三到四組感測器(每組感測器包含一套光達、三套攝影機)安裝在一到兩百公尺長的道路上,一批次測試花大約兩小時的時間。感測器蒐集路上車流資訊,包括車流數量、車輛速度、車間距離,等等。接著,研究團隊將資料帶回台大電腦實驗室,產出一套能夠精確模擬路況的「數位分身」,提供智慧交通解決方案採用。《詞彙學習:技嘉小百科,告訴你數位分身是什麼

施教授說:「研究計畫的目標,是要成為路上自駕車的千里眼和順風耳。」電腦模型可用來提升自駕車的定位精確度(positioning accuracy)和安全性,也可用來分析交通情形、改善道路設計,這對自駕車和非自駕車來說,都是莫大的幫助。

2021年,台大團隊歡迎最新一名成員加入:科技巨頭輝達(Nvidia)的Arm HPC Developer Kit(簡稱Arm HPC DevKit),這是一套結合軟硬體的開發平台,可用來建造、評估、測試高效能運算(HPC)和人工智慧(AI)加持的電腦模型和軟體程式。Arm HPC DevKit使用的硬體裝置,正是技嘉科技的G系列GPU協同運算伺服器G242-P32,其所使用的Ampere® Altra® CPU,則是基於ARM處理器架構設計的中央處理器。

了解更多: 
《關於技嘉GIGABYTE GPU協同運算伺服器系列產品的更多介紹》 
《關於技嘉GIGABYTE ARM伺服器系列產品的更多介紹》
 《科技指南系列文章:ARM處理器架構的由來與優勢

台大團隊導入Arm HPC DevKit,讓科學家們能精益求精、如虎添翼。施教授估算出開發「高精準車流模型」所需的時間,因為使用這套產品而減少一半以上,等於效率大幅提升200%。研究團隊將技嘉提供的ARM產品稱為「機器學習的水煮鍋」,一站式解決方案同時訓練AI、開發電腦模型、移植數據,用起來省力,也有助於讓智慧型交通在台灣更快落地。《詞彙學習:技嘉小百科,告訴你機器學習是什麼

技嘉G242-P32和Arm HPC DevKit,為何能夠成為台灣大學的神隊友?以下列出四大優點,讓您一睹ARM產品的獨家特色:
一、ARM處理器擁有「雲端原生」特性,伺服器和路測使用的工業電腦一併採用精簡指令集(RISC)晶片架構,徹底移除裝置間溝通的延遲。
二、Ampere® Altra®單顆CPU核心數高達八十顆,適合進行平行運算,提升處理數據的效率。
三、Arm HPC DevKit搭配兩張NVIDIA® A100 GPU加速卡,透過異質運算的分工機制,提升中央處理器的工作效率。G242-P32八通道DDR4 記憶體提供512GB的記憶體容量,確保數據傳輸不受頻寬限制。
四、ARM產品符合ISO 26262標準要求,這是汽車產業中功能安全的國際標準,表示台大開發的電腦模型,能更快速地應用於車廠和相關的政府單位。

詞彙學習: 
技嘉X ARM第一大優勢:採用RISC架構的「雲端原生」處理器
由於ARM處理器功耗低、能源效率佳的特性,早已使其成為行動裝置和邊緣運算的首選,順利登上「全球最普及的電腦晶片」的寶座,而台大團隊進行路測時使用的工業電腦(IPC),就是採用基於RISC指令集架構的ARM處理器。然而,施教授研究團隊原先使用的伺服器產品,是採用基於CISC指令集架構的x86中央處理器;也就是說,研究員在田野蒐集的寶貴資料,還要再用編譯器做「翻譯」,才能讓資料中心的伺服器看得懂,科學家們等於是要編寫兩套不同程式碼。可想而知,這並不是最有效率的工作方式。

詞彙學習:
Arm HPC DevKit的基石,就是技嘉科技這台G242-P32 GPU協同運算伺服器,2U機身內搭載單顆Ampere® Altra®中央處理器,「雲端原生」ARM CPU採用RISC精簡指令集架構,這表示ARM伺服器和絕大多數的行動裝置與邊緣運算產品使用相同的「電腦語言」,不用為其編寫兩套不同的程式碼,或是用編譯器進行複雜指令集和精簡指令集之間的「翻譯」。
導入Arm HPC DevKit是很大的改進,因為技嘉G242-P32和路測所使用的IPC相同,採用基於RISC指令集架構的ARM處理器,這表示伺服器與田野裝置終於能用共通的「語言」溝通,再也沒有必要編寫兩套程式碼。而因為未來部署的智慧型運輸系統,很有可能也是採用ARM CPU,因此「高精準車流模型」的開發環境,若能和日後的應用環境使用相同的處理器架構,將可以省不少麻煩、也可避免導入時發生問題。

「採用技嘉ARM伺服器的初期階段,當然得使用編譯器將原本x86系統的軟體程式,轉換成符合ARM指令集架構,但我們在一個月內就順利完成90%到95%的轉換工作,」施教授說道。「如今,伺服器和感測器都使用ARM,大幅改善我們團隊DevOps的工作效率,減少至少一半的開發時間。」
技嘉X ARM第二大優勢:適合進行平行運算的超高核心數
G242-P32搭載單插槽Ampere® Altra®中央處理器,具備另外一項重大優勢,就是內含八十顆核心;這跟同時期的x86處理器,最多只有六十四顆核心,有很明顯的差距。ARM處理器能將複雜的運算工作,平均分配給功耗較低的許多小型核心,導致ARM提供卓越的能源效率,也可透過平行運算,加快「高精準車流模型」的專案進度。

台大施教授如此解釋:「一批次的路邊測試,大約要花兩小時時間,蒐集約360G的原始數據,而我們建立模型需要同時跑十二套程式、使用五十套資料庫,用來比對、校正、編譯感測器所蒐集的資料。原先使用的系統核心數不夠多,造成我們相當大的困擾。」

ARM處理器還有一項優勢,值得在此說明:「ARM big.LITTLE」是安謀公司(ARM Ltd.)提出的獨特處理器結構設計,將功耗較低、運算力較弱的「LITTLE」核心叢集,與功耗較高、運算能力也相對提高的「big」核心叢集結合。處理器可依照運算工作的特性,將其分配給不同屬性的核心叢集來處理,使得ARM的能源效率再晉級,也不至於犧牲處理器原本的卓越運算效能。

了解更多: 
《科技指南系列文章:什麼是HPC高效能運算?
技嘉X ARM第三大優勢:超強GPU與高頻寬記憶體的完美結合
團結力量更大,伺服器亦是如此,強大CPU如果能獲得GPGPU通用圖形處理器的助攻,必然事半功倍。Arm HPC DevKit搭配兩張NVIDIA® A100 PCIe Gen4加速卡,CPU和GPU兩類型處理器之間的溝通,則由八通道512G DDR4 SDRAM協助媒合。

詞彙學習:
技嘉小百科,告訴你通用圖形處理器(GPGPU)是什麼
常聽別人說PCIe,你知道那是什麼嗎?
研究團隊在道路上蒐集的原始數據,帶回台大實驗室進行比對、校正與編譯。團隊能運用CPU與GPU之間異質運算的綜效,加快開發智慧型運輸解決方案將會使用到的「高精準車流模型」。
路測蒐集的車流資訊,可依照數據屬性,分配給ARM中央處理器或NVIDIA®圖形處理器分頭進行處理。CPU適合解決時序校正比對,GPU則擅於執行影像物件處理和再辨識(re-identification)。也就是說,感測器中光達蒐集的點雲資料、和攝影機蒐集的影像資料,可用兩種處理器來進行校正與配對,達到毫秒等級的準確度。高水平的精準程度非常重要,因為,哪怕只有五十毫秒(二十分之一秒)到一百毫秒(十分之一秒)的誤差,都相當於車輛移動數公分的差距,在現實生活中,這就是「重大事故」和「有驚無險」的差別。智慧交通系統當然不能容許這樣的誤差,使用技嘉ARM伺服器的CPU和GPU進行資料比對,才能在「高精準車流模型」當中,準確判斷車輛軌跡和行駛狀況。《詞彙學習:花你一分鐘,一次看懂關於點雲

G242-P32的八通道512G DDR4 SDRAM,也扮演很關鍵的角色,因為中央處理器和圖形處理器之間的數據吞吐量非常大,舊系統記憶體不足,導致科學家甚至得把數據分成前後兩個階段,分開進行運算。技嘉所提供的ARM產品,數據傳輸頻寬終於和處理器效能平起平坐,有如法拉利車隊終於找到寬闊的道路可以盡情奔馳,這對於「高精準車流模型」的開發,產生很大的幫助。
技嘉X ARM第四大優勢:符合ISO 26262標準要求,方便終端用戶快速導入
ARM產品還有一大特色,就是強調「功能安全」,這是汽車、機器人、工廠等環境內部部署所有系統的關鍵要素,主導ARM相關技術發展的安謀公司,致力於讓ARM產品的設計「不受侷限」,能滿足各垂直產業的應用需求,並且能支援客戶進行其ARM架構裝置的國際安全標準認證程序。對於台大開發「高精準車流模型」的直接影響就是,由於ARM產品符合ISO 26262標準要求(ISO 26262是針對裝設在量產道路車輛的電子電氣系統的國際安全標準),因此台大用ARM開發的「高精準車流模型」,可以讓車廠和政府單位快速導入,也有助於人們所期望的智慧交通大未來更早實現。

技嘉科技樂見G242-P32伺服器和Arm HPC Developer Kit,有助於台灣大學開發嶄新的智慧型運輸解決方案。與行動裝置、邊緣運算早已是形影不離的ARM處理器,採取「農村包圍城市」的戰略反攻資料中心,在伺服器領域中具有極大的優勢與競爭力。除了此成功案例中列出的種種優勢,ARM處理器還提供絕佳的總體擁有成本(TCO)、低廢熱特性、及卓越的可擴充性,都是與資料中心需求完美吻合的產品特性。技嘉科技秉持「創新科技,美化人生」企業宗旨,積極開發適用於不同產業的創新發明,攜手客戶站在尖端科技的最前線。搭載ARM處理器的伺服器產品,能夠協助科學家開發「高精準車流模型」、導入智慧交通方案,等於是讓全人類能更早享受更便利、更安全的全新交通運輸方式。

同場加映:
《詞彙學習:技嘉小百科,告訴你通用可擴充性是什麼
《科技指南系列文章:如何挑選適當的伺服器冷卻方案?
影片加映:台灣大學施吉昇教授講解給您聽
Realtion Tags
可擴充性
邊緣運算
高效能運算
資料中心
機器學習
人工智慧
圖形處理器
平行運算
先進駕駛輔助系統
點雲
異質運算
PCIe
通用圖形處理器
數位分身
核心
複雜指令集
精簡指令集
WE RECOMMEND
RELATED ARTICLES
如何挑選您的AI伺服器?(上)CPU和GPU

Tech Guide

如何挑選您的AI伺服器?(上)CPU和GPU

生成式人工智慧和其他AI工具盛行的當下,挑選合適的AI伺服器成為各產業的首要任務。技嘉科技最新發表《科技指南》,帶領讀者認識AI伺服器的八個關鍵零組件,本篇從最重要的元件開始,即中央處理器(CPU)和圖形處理器(GPU)。挑選適當的運算晶片,打造量身訂做的人工智慧超算平台,可以讓工作事半功倍,為使用者開創全新的巔峰。
如何將人工智慧導入汽車和運輸產業

AI & AIoT

如何將人工智慧導入汽車和運輸產業

若您從事汽車與運輸業,請花幾分鐘閱讀本篇文章,了解人工智慧(AI)所開拓的嶄新機會,認識能助您拓展更多可能性與商機的科技工具。本篇是技嘉科技「Power of AI」系列文章,目的是介紹不同產業的AI趨勢,協助具有先見之明的前瞻者利用AI創造自己的機會。
CPU vs. GPU:淺談伺服器的兩大運算力

Tech Guide

CPU vs. GPU:淺談伺服器的兩大運算力

順應科技趨勢,業界持續追求運算力更強大的伺服器,其中的關鍵元素除了大家熟知的中央處理器CPU之外,圖形處理器GPU近年來也受到重視;但您是否知道,什麼是GPU?它與CPU的差別何在?又該如何運用兩種不同類別的處理器,發揮最強大的運算力?技嘉科技是伺服器與尖端科技解決方案的知名品牌,發表本篇《科技指南》,目的是比較CPU與GPU的原理與功能,進一步協助您挑選合適的技嘉伺服器產品,將「GPU運算力」導入您的伺服器機房與資料中心。
什麼是HPC高效能運算? 技嘉科技《科技指南》系列文章

Tech Guide

什麼是HPC高效能運算? 技嘉科技《科技指南》系列文章

隨著伺服器解決方案變得更為普及,常有人提起高效能運算(HPC);內行人把這個字掛在嘴邊,好像只要是伺服器產品,就應該提供HPC功能,HPC可以解決所有運算問題……您可能想要知道,HPC真正的優勢是什麼?您能如何應用? 技嘉科技是高性能伺服器產品的業界領袖,本次發表《科技指南》文章,目的是清楚解釋HPC定義,並透過真實世界HPC成功案例介紹,希望能夠幫您評估,HPC是否符合您的需求?如果需要HPC,技嘉科技能為您提供什麼服務?
想要掌握最新科技動向?馬上訂閱!
訂閱電子報