Success-Case

CSR、ESG實踐案例:技嘉助攻成功大學 勇奪亞太HPC-AI電腦競賽冠軍

技嘉科技是高性能伺服器解決方案的知名品牌,並且長期投入企業社會責任(CSR),環境、社會和企業治理(ESG)等永續經營目標。2020年,技嘉提供四台G482-Z50伺服器產品給台灣成功大學的超級電腦團隊,協助同學在當年的亞太地區「高速運算暨人工智慧(HPC-AI)學生競賽」上榮獲冠軍。技嘉伺服器的平行運算能力,伺服器之間的高效率資料傳輸,及長時間運作也不會出錯的穩定特性,讓這些伺服器能扮演參賽同學的神隊友。技嘉促進新一代HPC與AI人才培育,同時藉此機會回饋社會,透過高科技產品增進人類福祉。
專精伺服器的行家達人,習慣用產品規格、評測與跑分標準來談論產品屬性;比如說,新一代處理器比上一代添增幾顆核心、幾條執行緒,或是使用某種高速直接互連技術,可以達成每秒幾千兆位元的資料傳輸速率,等等。這些數據必然重要,但它們之所以重要,因為先進運算力和高科技產品能夠改善社會,增進人類的福祉。因此,科技公司除了鑽研技術的研發和發表新產品之外,還要將資源分享給有潛力的年輕新秀,讓他們能掌握尖端科技,嘗試為全世界做出貢獻。

詞彙學習:
技嘉小百科,告訴你核心是什麼
常聽別人說執行緒,你知道那是什麼嗎?

技嘉科技是聞名全球的伺服器解決方案品牌,所服務的客群橫跨不同領域,包括雲端運算、資料中心、邊緣運算、金融業、醫療健保、製造業,等等。技嘉積極投入企業社會責任(CSR)及環境、社會和企業治理(ESG)工作,努力朝向永續發展目標(SDG)邁進。從2001年開始,技嘉教育基金會每年舉辦GIGABYTE Great Design「奇想設計大賽」,表揚年輕學子的創新發明,並鼓勵他們參加德國iF產品設計獎等重大國際賽事。節能減碳方面,技嘉在2009年做出承諾,將於2030年減碳50%;經過全體同仁努力,確認能提早五年,也就是在2025年達成目標。技嘉增進員工的健康福祉,同時貢獻於社會與環境的長期努力備受肯定,2020年入榜《富比士》雜誌「最佳雇主排行榜」,並屢次入選「台灣最佳國際品牌」。

了解更多:
《詞彙學習:花你一分鐘,一次看懂關於雲端運算
《詞彙學習:技嘉小百科,告訴你資料中心是什麼
《詞彙學習:常聽別人說邊緣運算,你知道那是什麼嗎?
經濟部工業局主辦「台灣國際品牌價值調查」,技嘉科技宣布獲獎

當技嘉對CSR與ESG的投入,有機會透過頂尖伺服器產品呈現,會激發出什麼樣的精采火花?在此分享2020年,台灣成功大學榮獲亞太地區「高速運算暨人工智慧學生競賽」(APAC HPC-AI Competition)第一名的有趣歷程。這些同學是代表台灣出征的「超級電腦國手」,而他們的最佳隊友,正是技嘉科技G系列GPU協同運算伺服器當中,G482-Z50這款產品!

了解更多:
《詞彙學習:花你一分鐘,一次看懂關於HPC
《詞彙學習:技嘉小百科,告訴你AI是什麼
《關於技嘉GIGABYTE GPU協同運算伺服器系列產品的更多介紹》
「高速運算暨人工智慧學生競賽」指定考題:AI、氣候變遷、新冠肺炎
由新加坡高速運算暨人工智慧諮詢委員會(HPC-AI Advisory Council),及新加坡國家超級運算中心(NSCC)舉辦的「高速運算暨人工智慧學生競賽」,歷年來由輝達NVIDIA等業界領袖大力贊助,目的是將大專院校與研究單位的人才培育,與現實世界AI和HPC的實際應用接軌,讓潛能無窮的超級電腦生力軍能把握機會,直接挑戰攸關人類安危的重大研究議題。這場活動,不但能激發出年輕學子的潛力,還可以幫助學生做好準備,提早面對未來工作會遇到的複雜運算問題。

「高效能運算和人工智慧是促進科學發展最關鍵的工具,而我們的使命,就是培育下一代的超級電腦技術人才,並且發展新一代的運算平台與知識,」新加坡高速運算暨人工智慧諮詢委員會主席Gilad Shainer表示。

歷年舉辦的「高速運算暨人工智慧學生競賽」當中,成功大學不曾缺席。2020年,成大工程科學系講座教授黃吉川、及助理研究員李朝琴(同學們都叫他Michael),帶領兩支成大學生團隊,出征參與競賽。
成大工程科學系講座教授黃吉川(中)、助理研究員李朝琴(左),率領成大超級電腦學生團隊,使用技嘉科技G482-Z50伺服器做練習,最終在2020年「高速運算暨人工智慧學生競賽」上榮獲冠軍。
主辦單位設計四項困難的運算題目,挑戰參賽的學生團隊。第一題是針對人工智慧應用,要求參賽者使用由Google開發的自然語言處理(NLP)與機器學習訓練技術BERT,突破既有的世界紀錄。第二題針對高效能運算,學生被要求使用氣候模擬軟體NEMO,打破熱洋流循環模擬的世界紀錄。第三、第四題是為當下影響全人類的疫情危機,嚴重特殊傳染性肺炎(俗稱新冠肺炎)所設計,要求學生使用分子動力學模擬軟體NAMD,在最短時間內做出病毒模型的分子模擬,並且提供開放題,讓學生提案,如何使用HPC或AI協助對抗新冠肺炎疫情。

了解更多:
《詞彙學習:常聽別人說自然語言處理,你知道那是什麼嗎?
《詞彙學習:花你一分鐘,一次看懂關於機器學習
西班牙IFISC用技嘉伺服器,為新冠肺炎、氣候變遷尋求解方

技嘉科技積極投入CSR與ESG工作,並且是領先業界的伺服器解決方案品牌,因此能夠成為成功大學出征超級電腦競賽的神隊友。技嘉提供四台G482-Z50伺服器給成大團隊,讓同學們能使用國際水準的頂尖伺服器產品練兵,操作先進的HPC與AI技術,企圖解決棘手的運算問題。

「技嘉科技提供給我們的伺服器產品,完全符合國際競賽需求,感謝技嘉支持成大培育新一代的HPC與AI人才,」助理研究員李朝琴說道。「參加國際比賽獲大獎,不只攸關學校的聲望和學生的生涯發展,重點是栽培超級電腦領域的年輕生力軍,期待他們有一天能貢獻社會,幫助全人類。」
技嘉伺服器提供使用者三大好處:平行運算功能、無縫連結技術、超強穩定性
成大學生團隊將伺服器架設在校園的電腦實驗室當中,再將伺服器串聯組成運算叢集,透過分散式運算技術,達成單一電腦所無法提供的超級電腦運算效能。主辦單位指定使用的軟體程式,皆安裝在伺服器上,在黃教授和「Michael教練」的帶領下,同學們開始長期抗戰,企圖在競賽當天突破HPC與AI的世界紀錄。

了解更多:
《詞彙學習:技嘉小百科,告訴你運算叢集是什麼
《詞彙學習:常聽別人說分散式運算,你知道那是什麼嗎?
技嘉科技指南:關於分散式運算,您不能不知道的叢集運算技術

同學們日以繼夜,利用上課考試外的空檔時間,練習使用技嘉伺服器挑戰電腦競賽的比賽項目。練習過程大致如下:首先,同學一起研究新發表的計算機科學理論文獻,企圖找出可能打破世界紀錄的理論架構。找到有潛力的理論架構,就會約時間與黃教授和李教練開會,確定方向是否正確。接著,他們依照理論架構,在伺服器上調整軟體參數,看看是否能達成更好的運算效果。如果有重大突破,Michael就會帶同學出去吃飯,慶祝一下。如果實驗失敗,同學們也不曾灰心,重新開始討論,尋找新的方向。

開賽前的幾個月內,成大的超級電腦團隊找出突破世界紀錄的運算方法,讓他們得以在競賽當天,勝過其他頂尖學院。漫長的訓練過程中,技嘉伺服器是同學們的好夥伴,先進、可靠的運算設備,能隨時用來測試新的軟體參數。競賽是在2020年十月十五日舉辦,但早在那之前,成大團隊已經獲得了不起的運算成果,一切都是在成大校園的電腦實驗室內,技嘉G482-Z50伺服器上發生。

超級電腦團隊表示,技嘉伺服器提供三項關鍵優勢,有助於他們打破世界紀錄,成為「台灣之光」:

1. 結合先進中央處理器(CPU)及圖形處理器(GPU),提供卓越平行運算效能。
2. 伺服器間無縫串聯,提供高吞吐量、超低延遲的數據傳輸。
3. 高可用性功能,提供無與倫比的穩定特性,伺服器日以繼夜連續運作,也不曾發生問題。

詞彙學習:
花你一分鐘,一次看懂關於圖形處理器GPU
技嘉小百科,告訴你平行運算是什麼
常聽別人說高可用性,你知道那是什麼嗎?
技嘉科技支持成功大學參加國際電腦競賽,提供四台G482-Z50伺服器,讓參賽同學做練習。先進CPU與GPU產品提供卓越的平行運算效能,伺服器間無縫連結組成叢集,高可用性功能確保伺服器穩定運作,對學生來說是很大的優勢。
關鍵優勢之一:先進CPU、GPU產品提供超強平行運算效能
想要打破世界紀錄,就得使用正確的運算工具。有些工作負載適合使用架構較為複雜、功能較為廣泛的中央處理器(CPU)來執行,而有些工作適合使用高效率的通用圖形處理器(GPGPU)加速處理。「高速運算暨人工智慧學生競賽」主辦單位深諳這個道理,因此,某些考題指定使用CPU或GPU來運算。理想的伺服器解決方案,應當搭載CPU和GPGPU加速器等不同處理器選項,並且發揮卓越的平行運算功能,好讓使用者依照狀況彈性使用。《詞彙學習:花你一分鐘,一次看懂關於通用圖形處理器GPGPU

技嘉伺服器搭載最先進的處理器產品:CPU方面,可選擇Intel® Xeon®可擴展平台、AMD EPYC™,或甚至跳脫x86架構,採用ARM架構的Ampere® Altra®處理器。成大使用的G482-Z50伺服器,最多還可添加十張PCIe Gen 3.0 GPGPU加速卡,雙核心中央處理器的每一顆核心,透過PCIe連接五張加速卡,PCIe連接技術有助於降低傳輸數據的延遲。除了成大團隊所使用的NVIDIA® GPU之外,G482-Z50也可搭載其他加速卡產品,例如AMD Radeon Instinct™ MI100。

了解更多:
《關於技嘉Intel® Xeon®伺服器產品的更多介紹》
《關於技嘉AMD EPYC™伺服器產品的更多介紹》
《關於技嘉ARM伺服器產品的更多介紹》
技嘉小百科,告訴你PCIe是什麼
關鍵優勢之二:叢集內達成高吞吐量、超低延遲的數據傳輸
高效能運算的實用案例當中,使用者常將伺服器串聯在一起,組成叢集。成大團隊採用100 Gbps InfiniBand (IB)交換器連接四台伺服器,IB交換器的特性是吞吐量高、延遲低。技嘉伺服器也支援其他網路技術,例如乙太網路(Ethernet),透過無遮蔽雙絞線(UTP)或光纖技術傳輸數據。

成大團隊在伺服器上安裝Linux作業系統,再灌入OpenZFS檔案系統,及Open MPI訊息傳遞介面。OpenZFS檔案系統的優勢,就是類似更進階的網路附加儲存裝置(NAS),檔案分散儲存在數台伺服器上,而非單一伺服器上,如此一來,能大幅提升檔案系統的讀取速度。Open MPI的好處是,同學們能使用任何一台伺服器與整個叢集連線,Open MPI可依照每一台伺服器的資源使用狀況,自動分配運算工作,達成最優化的效益。技嘉G482-Z50也支援Red Hat Enterprise Linux (RHEL)、SUSE Linux Enterprise Server (SLES),還有其他不同作業系統。

了解更多:
常聽別人說網路附加儲存裝置,你知道那是什麼嗎?
技嘉科技指南:什麼是HPC高效能運算?您能如何應用?
關鍵優勢之三:高可用性功能,確保持續、可靠的長時間運作
準備參加競賽的期間,成大同學們馬不停蹄,不斷在技嘉伺服器上調整參數,測試新的演算模式。對技嘉伺服器而言,不停機完全不構成問題,關鍵在於獨家開發的高可用性功能。

高可用性功能首推智慧型危機管理與防護(SCMP),這是技嘉的專利功能,應用在使用非完全冗餘電源設計的伺服器上,如果有一部電源供應器(PSU)出現故障或過熱狀況,SCMP將自動讓中央處理器進入超低頻模式以降低電力負載,避免系統因意外瞬間停機,而導致硬體損壞或資料遺失。

電壓瞬間調頻(SmaRT)是技嘉全系列伺服器產品共有的特殊配備,為防止停電導致硬體損壞或資料遺失,當交流電中斷時,SmaRT將自動讓系統進入超低頻模式,降低電力負載,維持可用性,並且利用PSU裡面的電容,維持十到二十毫秒的供電,直到備用電源啟動,確保硬體穩定運作及資料安全。

技嘉伺服器亦搭載雙唯讀記憶體架構,能確保伺服器運作不中斷,當主要BMC或BIOS因硬體損壞而無法開機時,系統會由備援的BMC或BIOS接手啟動。備援BMC能透過同步功能,在使用者更新主要BMC時自動更新;BIOS則由用戶自行選擇想更新的軟體版本與媒體。備援機制啟動時,系統以原廠設定狀態來維持運作。
競賽結果揭曉:成大團隊打破全球紀錄,勇奪HPC-AI電腦競賽冠軍
2020年亞太地區「高速運算暨人工智慧學生競賽」當天,成大學生團隊憑藉著使用技嘉伺服器訓練出來的HPC與AI運算技能,還有自己長期不懈的辛苦努力,終於找到絕佳的機會,在國際舞台上發光發熱。成大贏得當年亞太區競賽冠軍,勝過南京大學、新加坡南洋理工大學、澳洲新南威爾斯大學等許多頂尖的大專院校。成大不但勝過其他學校,學生們的運算結果,甚至超越當時的全球紀錄。例如比賽的第一題,要求學生用BERT突破自然語言處理訓練紀錄,成大團隊以正確率87.7%的MultiNLI語意資料庫判讀結果,領先其他國際研究團隊,包括美國聖地牙哥加利福尼亞大學所達成的87.2%正確率,及史丹佛大學達成的87.16%正確率。

「全球人類的共同未來,仰賴我們開發每一位優秀學子的潛能,尤其在現今充滿挑戰的世界當中,」新加坡國家超級運算中心主任陳定煒教授直言。「今年參賽團隊的熱情與毅力,提醒我們大家要保持彈性、迎頭面對挑戰,才有機會適應全球的新常態。」

2021年亞太地區「高速運算暨人工智慧學生競賽」當中,成大超級電腦團隊再度表現優異,黃吉川教授說,競賽期間特別感謝成功大學工學院、成功大學工程科學系、及技嘉科技提供的運算資源與幫助。

技嘉科技樂見台灣的頂尖研究型大學,使用技嘉伺服器產品,培育下一代的AI與HPC人才。技嘉推出先進伺服器解決方案,不但協助科學家面對二十一世紀最具挑戰性的研究問題(包括人工智慧、氣候變遷、新冠肺炎,等等),還可提供給初露鋒芒的年輕新秀使用,證明只要投資下一代的人才,我們就有機會克服當下的難題,迎向更光明的明日。這符合技嘉科技投入CSR、ESG的長期努力目標,也呼應技嘉科技的企業宗旨:「創新科技,美化人生」,相信高科技解決方案只要能用對地方,明日世界將會更美好,全人類都能過著更幸福的生活。

同場加映:
台師大建置雲端運算平台,開創科學研究更多可能
暴風解碼,技嘉運算叢集協助早稻田大學研究氣候變遷
Realtion Tags
雲端運算
邊緣運算
網路附加儲存裝置
高效能運算
資料中心
機器學習
人工智慧
圖形處理器
平行運算
運算叢集
PCIe
通用圖形處理器
高可用性
核心
分散式運算
執行緒
WE RECOMMEND
RELATED ARTICLES
什麼是HPC高效能運算? 技嘉科技《科技指南》系列文章

Tech Guide

什麼是HPC高效能運算? 技嘉科技《科技指南》系列文章

隨著伺服器解決方案變得更為普及,常有人提起高效能運算(HPC);內行人把這個字掛在嘴邊,好像只要是伺服器產品,就應該提供HPC功能,HPC可以解決所有運算問題……您可能想要知道,HPC真正的優勢是什麼?您能如何應用? 技嘉科技是高性能伺服器產品的業界領袖,本次發表《科技指南》文章,目的是清楚解釋HPC定義,並透過真實世界HPC成功案例介紹,希望能夠幫您評估,HPC是否符合您的需求?如果需要HPC,技嘉科技能為您提供什麼服務?
CPU vs. GPU:淺談伺服器的兩大運算力

Tech Guide

CPU vs. GPU:淺談伺服器的兩大運算力

順應科技趨勢,業界持續追求運算力更強大的伺服器,其中的關鍵元素除了大家熟知的中央處理器CPU之外,圖形處理器GPU近年來也受到重視;但您是否知道,什麼是GPU?它與CPU的差別何在?又該如何運用兩種不同類別的處理器,發揮最強大的運算力?技嘉科技是伺服器與尖端科技解決方案的知名品牌,發表本篇《科技指南》,目的是比較CPU與GPU的原理與功能,進一步協助您挑選合適的技嘉伺服器產品,將「GPU運算力」導入您的伺服器機房與資料中心。
ARM架構處理器的由來與優勢:從智慧型手機到超級電腦

Tech Guide

ARM架構處理器的由來與優勢:從智慧型手機到超級電腦

ARM架構處理器是主流x86處理器架構以外的不同選擇,原本在行動裝置上穩居市占龍頭,如今,也逐漸在伺服器和資料中心產品中出現。技嘉科技是高性能伺服器產品的知名品牌,發表本篇《科技指南》文章,回顧ARM處理器的發展過程,介紹ARM產品的優勢與特性,並且推薦適用於不同領域的技嘉科技伺服器解決方案,協助您解決在工作上可能遇到的問題。
如何將人工智慧導入醫療保健業

AI & AIoT

如何將人工智慧導入醫療保健業

從事醫療與健康產業的讀者,請花幾分鐘閱讀本篇文章,了解人工智慧(AI)為這個領域所帶來的嶄新商機,並認識能助您從中受益的AI工具。本篇是技嘉科技「Power of AI」系列文章,目的是介紹不同產業的最新AI趨勢,鼓勵前瞻者把握AI浪潮,找尋自己的機會。
想要掌握最新科技動向?馬上訂閱!
訂閱電子報