AI-AIoT

GIGABYTE 全面支援 Nemotron 3.5 Lightning|以 AI TOP ATOM 重塑自主 Agentic AI 新紀元

驅動邊緣與企業地端自主 AI Agent 運算的新典範

隨著生成式 AI 快速邁入 Agentic AI 時代,企業與開發者正積極尋求能在地端以極低延遲執行複雜、多步驟任務的混合運算架構。為滿足市場對高效能、高隱私地端 AI 運算的需求,GIGABYTE 宣布旗下 AI TOP ATOM 硬體平台全面支援最新發布的 NVIDIA Nemotron 3.5 Lightning 模型與 NVIDIA NeMo Switchyard 開源路由庫,為全球客戶提供具備極致效能與完整資料主權的 AI 運算解決方案。

擁抱 Agentic AI 時代:Systems of Models 的崛起

在全天候運行的 Agent 應用場景中,工作流程的每一個步驟——從收集 Context、觀察環境,到進行 Reasoning 並採取 Action——都需要語言模型來驅動執行。然而,並非每一個步驟都需要龐大的旗艦級 Frontier Models。面對高流量、重複性高且具備領域專業性的任務,專用模型(Specialized Models)更能發揮最高運算效率並大幅降低延遲。NVIDIA Nemotron 3.5 Lightning 正是專為處理 Agentic AI 系統中這類重度執行層而打造。結合 NeMo Switchyard 開源模型路由庫,能建立一套 Systems of Models,根據工作流需求為 Agent 的每個步驟選擇最合適的模型,讓 AI Agent 以最高效率與精準度完成專門任務。

NVIDIA Nemotron 3.5 Lightning 的核心技術與優勢

Nemotron 3.5 Lightning 承襲自 NVIDIA 前沿的 Nemotron 3 Ultra 模型精華而成,是一款專為全天候運行 AI Agent 所設計的高可客製化 Open Model:
● 高達 4 倍吞吐量,最快完成任務
採用混合專家架構(Mixture-of-Experts, MoE),擁有 30B 參數與 3B Active 參數,Nemotron 3.5 Lightning 與同級模型相比,可實現高達 4 倍的 Throughput。其最快的 Token Generation 與 Token Rollout 速度,大幅縮短了複雜多輪對話與自動化工作流的響應時間。

● 領先業界的 Out-of-the-Box (OOTB) 精準度
針對主流 Agent Harnesses 進行深度訓練,該模型在 Coding、Tool Calling 及 Instruction Following 方面提供業界領先的即用型精準度。支援高達 1M Context Length,可輕鬆應對長文本檢索與多輪工作流。

● 完整模型控制權與極致資料隱私
作為一款 Open Model,企業可以在地端、Edge 或 Cloud 自由控制、客製化並部署 Nemotron 3.5 Lightning,並具備完整進行領域專屬 Post-Training 的能力。敏感資料在 Training 與 Inference 期間均保留於內部網路中,確保最高等級的隱私與企業安全控管。

● 廣泛的硬體生態系與彈性部署
Nemotron 3.5 Lightning 支援廣泛的硬體生態系——從邊緣端的 NVIDIA Jetson 設備、地端個人系統(NVIDIA RTX / RTX PRO)、工作站(NVIDIA DGX Spark / NVIDIA DGX Station),到資料中心伺服器(NVIDIA HGX H100 / HGX H200 / GB200 NVL72 / GB300 NVL72),讓企業能在任何地方運行 AI Agent。

產業應用:賦能多樣化 Agentic 工作流程

在 NVIDIA Nemotron 3.5 Lightning 與 NeMo Switchyard 路由技術的賦能下,跨核心產業的專用 AI Agent 工作流得到全面釋放:
● Personal Agents: 於 PC 或工作站在地端運行的個人助理,能在保障個人隱私的同時,高效處理 Email、Calendar、專案與預訂等日常任務。
● Software Development: 聚焦於 PR Summarization、Code Classification 與 Test Triage 等專門任務。
● Cybersecurity Operations: 支援 Agent 進行 Alert Enrichment、Incident Classification、Log Query 以及生成結構化報告。
● Financial Services & Healthcare Administration: 自動化執行跨文件資料擷取、Policy Rule 驗證、門診預約、帳務處理及標準化通訊等日常工作流。
● Telecom & Retail: 進行網路告警分類(Network Alarms Triage)、解答帳務問題、處理訂單與庫存異常,並豐富產品目錄。

GIGABYTE 硬體強勢賦能:Nemotron 3.5 Lightning 的絕配組合

透過彈性的硬體設計與優異的系統散熱效能,GIGABYTE 在多元地端場景中完全釋放 NVIDIA Nemotron 3.5 Lightning 的巨大潛能。針對桌面與個人 AI 超級運算需求,GIGABYTE 將其 AI TOP ATOM 桌面 AI 超級電腦搭配 NVIDIA GB10 Grace Blackwell Superchip,讓開發者能在案頭輕鬆部署、進行 Post-Training 並運行 Nemotron 3.5 Lightning——完美銜接 Edge 與企業運算生態系。

GIGABYTE 官方聲明:
「我們深感榮幸能持續與 NVIDIA 保持緊密合作,為最新發布的 Nemotron 3.5 Lightning 模型與 NeMo Switchyard 模型路由庫提供即時支援。無論是在資料中心伺服器,還是精巧的 AI TOP ATOM 桌面平台上,GIGABYTE 都能提供優異的硬體支援,協助全球企業與開發者建構安全、高效能且自主的 Agentic AI 基礎設施。」
核心優勢一覽
想要掌握最新科技動向?馬上訂閱!
訂閱電子報
想要掌握最新科技動向?馬上訂閱!
訂閱電子報