DCIM x AIOps：助力AI持續翻新的關鍵趨勢

DCIM（資料中心基礎設施管理）軟體是另一個焦點，IBM將DCIM視為生成式AI盛行的當下，資料中心脫穎而出、全面升級的重要管道，DCIM大廠施耐德電機則將DCIM軟體定義為能夠協助克服IT挑戰的關鍵工具。

什麼是DCIM和AIOps？顧名思義，DCIM管理資料中心的整體設備，透過監測、控管與遠端遙控，確保IT設施與設備達到最高效率及可用性。AI時代，串聯數十台、甚至數百台伺服器的運算叢集持續進行垂直擴充和水平擴充，以便處理「兆級」參數的龐大AI模型，用戶急需便利且直覺性的中央控管軟體，確保超級電腦可發揮最大算力和維持營運穩定性。

AIOps延伸機器學習作業(MLOps)樹立的典範，為AI產品在生命週期不同階段創造理想的作業環境，容納標準化框架、流程管道、典範實務(best practice)及資料中心整體營運的各項微調和改善，讓經營者從開發AI（即進行AI訓練）到部署AI（即進行AI推論）各階段都有充足的資源和充分的支援。AIOps的最新趨勢，就是利用AI工具持續優化環境，可想像是透過AI協助，以更智能、更有效率的方式開發新AI。

「這裡所謂的AI軟體，並非生成式AI，而是DCIM和AIOps的軟體平台，能夠提升硬體效能，加速產出造福人類的AI產品與服務」，陳博士補充。

技嘉科技走在趨勢尖端，提供獨特DCIM與AIOps加值軟體解決方案，其中GIGABYTE POD Manager (GPM)是次世代 DCIM 軟體產品，協助用戶完全掌控資料中心硬體的「資源池」，並且追加工作負載排程與管理功能。MLSteam是技嘉的AIOps平台，不只創造AI開發與部署的理想環境，還可扮演使用者的智慧助理，驅使AI願景從構想一步步邁向現實，從AI的發想與設計到創作與推廣，從頭到尾都是順暢且無痛的歷程。

了解更多：

《線上瀏覽技嘉全系列AI伺服器及解決方案》

《科技指南：如何升級資料中心，為AI時代做好完善準備？叢集運算是關鍵》

打開GPM，你會看到即時性的遠端操控平台，便於監測運算叢集或資料中心的整體概況，例如硬體設備的健康狀況和使用率，還附加智慧警示機制、事件管理和主動式問題排除功能，進一步確保運算設備符合高可用性的標準。透過GPM，IT團隊能統一控管不同廠牌提供的異質運算資源，還有網路交換器與儲存設備，實現硬體資源池的完整中央監控。GPM還能自動偵測新設備並簡化安裝流程，透過視覺化管理工具大幅改善日常維運效率，「Infrastructure Management」模組等擴充功能則讓用戶掌控資料中心的供電、散熱及資料安全。

技嘉GPM勝過市面上其他DCIM軟體之處，就是除了提供叢集管理功能之外，還追加工作負載管理功能，使用者藉此橫跨不同節點進行工作編程、資源分配與負載管理，讓運算資源的投報率最佳化。這之所以重要，因為AI訓練需要動用大量運算資源，開發大型語言模型(LLM)是透過多台伺服器進行平行運算處理兆級參數大數據，為不同產業開發AI也得面對不同性質的資料，例如智慧醫療的運算需求不可能和智慧交通的需求一樣。GPM的強項就是已為不同屬性的工作負載做好準備，不僅支援NVIDIA AI Enterprise (NVAIE)等主流軟體套件，還整合技嘉精心研發的AIOps軟體平台MLSteam，此項產品將在下一章節進一步介紹。使用者可運用GPM貼心準備的Apache Hadoop管理大數據並進行分散式運算，用Kubernetes整理和部署容器化應用程式，用Slurm進行HPC工作編程。GPM提供預設和可自訂的快速作業系統部署，可分批次部署韌體更新，還可遠端進行伺服器開通，也就是架設好軟體環境，為伺服器指派工作。

見證技嘉運算叢集實用案例：

創造AI模型時，MLSteam提供的開發環境有如設備齊全又附贈顧問服務的工作室，因為MLSteam統整AI訓練所使用的主流軟體套件，例如前述的NVAIE，然後搭配詳細的資料庫，充滿業界常用的典範實務和標準化框架，當作開發者的參考對象。假如銀行想利用深度學習和自然語言處理(NLP)技術開創金融科技服務，MLSteam準備好完整的工具包和模板資料庫，包括信用評分系統、合約解析、客服自動化等相關AI產品的現成範例。或是說，如果醫院想運用電腦視覺實現醫療影像解析和疾病偵測等智慧醫療服務，MLSteam也有提供卷積神經網路(CNN)模型，可直接選用。若沒有MLSteam，光是籌備作業環境就要搜尋各種開源軟體資源，前後可能有十幾個準備步驟，MLSteam把這一切整合成便利使用、可客製化的圖形化操作介面，讓使用者能輕易上手，馬上開始工作，不但省時省力，還有助於提升AI模型的準確率。