「AI 代理」：繼生成式 AI 之後，勢不可擋且極具潛力的下一步發展
ChatGPT、Copilot、Gemini、Grok…生成式 AI 的誕生，觸發了目前席捲全球的人工智慧 AI 熱，科技巨頭紛紛推出以大型語言模型 (LLM) 為基礎的 AI 服務，用來生成生動有趣的 AIGC，或是協助人類完成各種繁雜瑣碎的差事。有了 AI，生活變得更便利，但我們應該留意，科技前進的步伐不會就此停住。
事實上，生成式 AI 只是階段性的科技應用，同樣的自然語言處理 (NLP) 技術，將促成代理式 AI (agentic AI) 的誕生：這是一種高度自動化的人工智慧，不僅能理解人類的指令，還能自行發想如何解決問題，成為人類工作和生活上的好幫手，提升人們整體的生產力與生活品質。
業界已有大量資金流向代理式 AI。研調機構 IDC 預測，在代理式 AI投資的推動下，人工智慧支出將在 2029 年達到 1.3 兆美元，佔全球 IT 支出的 26% 以上，並在 2025 年至 2029 年期間實現 31.9% 的複合年均成長率 (CAGR)。
BCG 預測 2024 年至 2030 年，AI 代理人市場將呈現 45% 的複合年均成長率。專家強調 AI 代理不是曇花一現，IDC 調查發現逾八成企業相信 AI 代理人是企業級軟體 (EAS) 的替代品，顧能 Gartner 則預測到了 2029 年，代理式 AI 將自行解決八成的客服問題，完全不需要人類員工介入。
到底什麼是代理式 AI？AI 代理人又是什麼？AI 代理究竟哪方面勝過生成式 AI，以至於輝達 NVIDIA 執行長黃仁勳在CES 2025 演說中直言，AI 代理將會是人工智慧發展的下一波巨浪？
了解更多：
生成式 AI、代理式 AI 與 AI 代理人：一次看懂不同人工智慧的長處
生成式 AI、代理式 AI 和 AI 代理人讓你感到困惑嗎？我們整理出這三個名詞的定義、組成、自主性和產出上的差異，協助你在工作上挑選合適的智慧工具。
生成式 AI (GenAI)
定義
透過自然語言處理接收指令，產出文字或影音的人工智慧
組成
大型語言模型 (LLM)，可搭配其他模型將文字轉換成影音
自主性
被動，需使用「提示工程」提升產出品質
產出
文字或影音內容
代理式 AI (Agentic AI)
定義
多模態人工智慧架構，指導生成式 AI 完成複雜長期性任務
組成
核心是 AI 模型，透過稱為「駕馭」(harness) 的軟體層與外部系統互動
自主性
主動並且懂得推理，能根據大方向指示提供合適回應，自發性完成任務
產出
自動完成工作，將人為介入降至最低
AI 代理人 (AI Agent)
定義
與代理式 AI 意思相近，專指賦予特殊功能或任務的代理式 AI
組成
同代理式 AI
自主性
同代理式 AI
產出
完成指定工作，協助整個代理式 AI 架構達成目標
代理式 AI 和生成式 AI 的主要差異，就是代理式 AI 不是單一的 AI 模型，而是包含許多模型的軟體系統（或稱架構 framework），透過 NLP 與人類互動，並透過應用程式介面 (API) 支配系統外部的軟硬體。代理式 AI 的核心還是 LLM，但它透過軟體層（或稱作業環境）與外部系統連接，這種支援性的框架又稱「駕馭」(harness)，能分擔 AI 模型部分的工作，例如脈絡（上下文）管理、工具使用和反饋迴路，讓核心模型能將資源花在刀口上。Harness 是在不更改模型的前提之下微調代理式 AI 的渠道，亦可用來規範模型，作為人工智慧的安全護欄──因此，可將其想像成撐起 AI 代理人的「支架」。開發資源應該集中在模型發展上，還是用來幫模型設計支撐的「駕馭」，業界專家持不同看法；然而，目前對於代理式 AI 普遍的共識是：「代理＝模型＋駕馭」。
這一切所代表的是，代理式 AI 能理解大方向的指令（比如說，主管能這樣交代代理式 AI：「幫新產品設計一套行銷計畫」），它能提出各種解決方法，然後將工作分配給其他 AI 模型執行（相同案例中，代理式 AI 可能指示 ChatGPT 撰寫文案，指揮 Midjourney 製圖，再利用 API 在不同社群平台下廣告，最後向人類主管回報結果）。AI 代理的自主性遠勝過生成式 AI，用戶體驗更直覺、更有效率，它不需要鉅細靡遺的詳細指令，只需要知道你想達成什麼目標，就能自行完成任務。
「AI 代理人」和「代理式 AI」兩個名詞常被混著用，意思大致相同，不過AI 代理人可說是代理式 AI 的個別應用，也就是被指派工作的代理式 AI ，企業可能需要一個「行銷 AI 代理人」，一個「業務 AI 代理人」，等等。所有代理人串聯起來，就是組織的 AI 代理框架，代理人之間的工作調配稱為「協作」(orchestration)。
代理式 AI 和生成式 AI 還有一個重要的差別，就是代理式 AI 解決問題的程序，可細分為以下四個步驟：
2. 推理
透過「檢索增強生成」(RAG) 技術，代理式 AI 能取得訓練資料以外的數據，確保工作產出符合實際需求。舉例來說，如果用代理式 AI 製作休旅車廣告，代理式 AI 會先參考銷售數據，了解客戶群的年齡層、是否擁有家庭等屬性，再產出內容。
3. 執行
代理式 AI 的 AI 模型透過「駕馭」支配外部系統，因此它能獨立完成專案內的各項工作，而不是只能完成部分工作，待人類幫它做整合。
4. 學習
代理式 AI 利用「資料飛輪」(data flywheel) 的循環機制不斷自我強化，持續進修和提升產出品質，就跟人類員工一樣。
因為多了這四個步驟，代理式 AI 的能力超越生成式 AI，也因此，業界期待它能解決管理顧問公司麥肯錫所謂的「生成式 AI 的矛盾」(gen AI paradox)。下一個章節，我們將解釋這個矛盾的定義，並透過代理式 AI 在自動化、商業及醫療健保領域的實用案例，示範代理式 AI 能如何突破障礙，創造真正的價值。
了解更多：
自動化、商業及醫療健保領域的代理式 AI 成功案例
「生成式 AI 的矛盾」，指的是企業廣泛導入 AI 工具，卻又對生成式 AI 所帶來的經濟效益表示懷疑，呈現一種「使用者無感」的狀態。麥肯錫認為，目前生成式 AI 的導入雖有「廣度」卻沒有「深度」，個別員工使用聊天機器人或其他工具輔助工作，企業本質上卻沒有太大改變，商業模式跟導入 AI 工具之前沒有兩樣。麥肯錫警告，如果企業無法實施根本性的革新，將無法真正發揮生成式 AI 的潛力。
代理式 AI 可突破「生成式 AI 的矛盾」，它的自主性及反應力代表它能掌管公司的核心業務，讓 AI 不再只是選擇性的工具，而是直接影響企業決策的戰略資源。
代理式 AI 才問世不久，自動化、商業及醫療健保等領域，已經有先進者發表頗具啟發性的成功案例。透過他們的經驗分享，或許你也能想像一下，代理式 AI能如何融入你的工作，幫助你提升競爭力？
自動化：從生產線的機器人到高速公路上的自駕車
目前的 AI 浪潮，若要能走出雲端，直接和真實世界互動，就需要化身為所謂的物理 AI (physical AI)，實際型態可能是人形機器人或自駕車。AI 代理扮演的角色可分為二：第一，它能優化真實世界的環境，促進物理 AI 的順利導入；第二，它能扮演機器人或自駕車的大腦，確保物理 AI 安全並有效率地和人類共事。
「優化真實世界」的範例，就是由 AI 代理加強電腦模擬的真實性與準確度，創造數位孿生，進行 AI 導入的沙盤推演。德國跨國物料搬運設備公司凱傲集團 (KION Group) 用NVIDIA Omniverse模擬倉庫環境，台灣大學則採用技嘉G242-P32 ARM 伺服器和NVIDIA Arm HPC Developer Kit創造「高精準車流模型」以推動自駕車在台灣上路，這些都是先進 AI 優化環境的案例，代理式 AI 能主動建議如何改造環境，交由人類主管來做抉擇。
至於扮演物理 AI 的「大腦」，AI 代理人能部署於邊緣裝置，直接操控AGV、AMR與自駕車，邊緣 AI 特別仰賴 AI 代理的自主性特色，因為邊緣裝置來不及等待資料中心傳達指令，就得自己做出決定。輝達發表NVIDIA® Jetson Orin™、Thor™等邊緣 AI 平台，目的就是要搭載代理式 AI，實現通用型機器人等其他高度自動化的安全智慧工具。
了解更多：
自動化
- 使用情境：自駕車、機器人、智慧工廠
- 代理式 AI 透過「數位分身」模擬自動化環境，智慧推動自駕車與機器人落地
- AI 代理人可直接操控自駕車、機器人
商務
- 使用情境：客服、軟體開發等
- 利用企業資料庫訓練代理式 AI，透過檢索增強生成（RAG）技術即時考量大環境因素，擬定和執行複雜商業計畫
- 「數位員工」補滿職缺，提升企業戰力
醫療健保
- 使用情境：診斷、治療、照護等
- 代理式 AI 能協助醫護人員看診並且減輕行政作業
- AI 代理人能扮演長期看護者
- 智慧醫療器材可導入代理式 AI，新增功能
代理式 AI 創造價值的前提，就是產業必須重新思考工作流程，為 AI 代理的導入做好準備。業界傳出自動化、商業及醫療健保領域已有代理式 AI 的成功案例，這些都是值得參考的對象，可幫助你審視你的工作，迎接新類別的 AI 助手。
商業：從智慧助理晉升成為數位員工
辦公環境內，AI 代理人能化身為數位員工，在不提高人力成本的前提下改善公司的戰力。就如真人員工，AI 代理人能被指派任務，目前可使用生成式 AI 完成的工作，有一天都能交由代理式 AI 統整，一次搞定。蓄勢待發的應用情境，包含軟體開發、工作流程管理、業務、行銷、財務和客服等。
客服是很具參考性的典範，因為工作繁忙且壓力大，又會影響公司獲利與形象。代理式 AI 能使用長年累積的客服紀錄進行訓練，然後透過「檢索增強生成」(RAG) 技術確保推論階段產出的回應符合最新的客服規章和疑難排除指南；代理式 AI 還能參考過去顧客碰到的問題，更快找出當下疑問的解答，而且它不會勞累或失去耐心，絕對會盡心竭力讓客戶感到滿意。除了客服以外，只要把公司各業務拆解成不同步驟，找出痛點所在和未實現的價值，就能發現代理式 AI 的切入點。
顧能 Gartner 預測到了 2028 年，15% 以上的商業事務都會交給代理式 AI 處理，相較 2024 年的 0%。其中有個但書，就是超過四成的代理式 AI 計畫到了 2027 年會終止，原因是真正能起作用的 AI 代理，必須有感改善企業營運，客服是AI 代理人相較容易發揮的領域，其他部門必須深思如何善用代理式 AI 工具，才能確切實現智慧升級。
醫療健保：即時性的長期照顧者
生成式 AI 在醫療健保的使用情境，包括數據分析、諮詢服務、精準醫療、藥物研發和病患監護。代理式 AI 能進一步解析醫療大數據，產生有用資訊給醫護人員參考，可能是單純建議如何更有效安排看診，也有可能攸關病患安危，例如發現療程中的疏失。尤其在病患監護這方面，AI 代理人可扮演長期照顧者的角色，自動觀察病人狀況，提醒用藥，並在發生危險時第一時間通知人類醫護者前來救助。企業運用AI 代理人優化工作流程或客戶服務的實例，也可應用於大型醫院或診所。
有些醫材公司甚至將 AI 代理直接置入醫療設備：IBM 服務的一間智慧吸入器廠商，在產品中安裝 AI 代理系統，可即時監測生命徵象和空氣品質等外在因素，自動評估使用者身體狀況，有必要時還會聯繫醫護人員求助。以上這些案例證明，代理式 AI 不僅能接手現有的工作，還能開創商機。到了最後章節，我們將介紹技嘉科技的軟硬體解決方案，它們能協助你將 IT 架構進化到「AI 基礎建設」的境界，確保你能充分把握代理式 AI 所帶來的新契機。
了解更多：
攜手技嘉進化 IT 架構，迎接 AI 代理時代的新商機
代理式 AI 的基石，就是由生成式 AI 模型組成的網絡，而生成式 AI 必須運用組織內部資料進行訓練，產出才會吻合組織真正的需求。因此，迎接 AI 代理的第一步，就是要完善「AI 基礎建設」，開發組織獨享的 AI 模型與工具。也就是說，沒有辦法偷吃步，想受惠於 AI 代理，就要先導入生成式 AI 的軟硬體設備。
在資料中心或伺服器機房的生命週期中，技嘉扮演你的信賴合作夥伴，提供 L12 等級全流程服務，涵蓋初期諮詢、機房規劃、系統整合、現場部署至後續營運管理，系統產品包括模組化伺服器及機櫃等級的運算叢集。全球各地不同客戶，都找技嘉協助啟動數位轉型，如果針對資料中心建造營運有相關問題，歡迎拜訪我們的專屬網站，一覽技嘉的全方位資料中心建設產品與服務。
如果你已經擁有 IT 基礎建設，但想將其升級成為「AI 基礎建設」，技嘉提供不同等級的 AI 運算平台。若想購買可擴展的 GPU 運算叢集產品，可考慮技嘉的 GIGAPOD，這套產品整合數十台技嘉 G 系列 GPU 協同運算伺服器，透過先進氣冷或直接液體冷卻發揮最大算力，是眾多 AI 資料中心的基本配備。技嘉亦攜手輝達推出 NVIDIA Vera Rubin NVL72，採用機櫃級全液冷設計，集結六大核心產品──CPU、GPU、NVLink 交換器、DPU、NIC 與乙太網路交換器，整合於單一平台，專為推理型的人工智慧代理人所設計。
單一系統方面，技嘉與晶片供應商 AMD、Intel 及 NVIDIA 密切合作，不但能第一時間取得先導性的 AMD Instinct™、Intel® Gaudi® 和 NVIDIA HGX Rubin NVL8 GPU 模組，還透過精心打造的 AI 伺服器產品，確保客戶能取得貼切實際需求的運算利器。技嘉推出採用 MGX 架構的 XL44-SX2-AAS1 伺服器，最多可支援八張NVIDIA RTX PRO™ 6000 Blackwell Server Edition GPU，適合偏好 PCIe 介面高彈性與高可擴充性的用戶使用。技嘉的 B 系列刀鋒伺服器，3U 機台可容納 10 個運算節點，達到難以匹敵的超高 CPU 密度，對於導入代理式 AI 極為重要，因為在資料檢索及處理、工作負載排程及編排調度等方面，還是仰賴多功能、擅於多步驟指令的中央處理器來執行。也因此，技嘉為企業提供搭載 NVIDIA Grace 或 Vera 超級晶片的 CPU 運算伺服器，新推出的 G295-D21-AP1 則利用氣冷系統將 AMD EPYC™ 9006 的超強算力發揮得淋漓盡致，完美落實 AI 代理人的廣泛應用。
了解更多：
GIGABYTE offers a total solution portfolio for the age of agentic AI. From building infrastructure from scratch to upgrading existing AI pipelines, from data center hardware and software to AI applications on the edge, GIGABYTE can transform you into an AI leader.
光是算力強大，無法保證 AI 基礎建設有效運行，代理式 AI 須串聯海量數據才能創造價值，技嘉 S 系列儲存伺服器提供高頻寬、低延遲的全快閃記憶體陣列 (AFA)， 確保數據傳輸速度不落後於 AI 晶片的超強算力。記憶體共享是另一種突破瓶頸的技術，技嘉 R284-S91-AAJ2 這款 R 系列機架式伺服器搭配 Compute Express Link (CXL) 高速互連，構成記憶共享池支援中央處理器和圖形處理器，G494-SB4-AAP2 則透過 PCIe 介面搭載 CXL 擴充卡擴展記憶體容量，提升處理器與加速卡之間的數據交換效率。
針對中小企業的運算需求，技嘉發表 W 系列工作站及 AI TOP ATOM 產品，讓小組織也能開發專屬的 AI 模型，駕馭即將到來的代理式 AI 浪潮。來到網路邊緣，技嘉不但提供適用於邊緣資料中心的 E 系列邊緣運算伺服器，集團旗下技宸亦提供工業電腦 IPC、嵌入式系統與自駕車產品，推動物理 AI 落地。技嘉眾多解決方案結合NVIDIA® Jetson Orin™、Thor™ 等邊緣 AI 系統，將代理式 AI 的使用情境擴展到工業自動化、智慧監控和通用型機器人等不同領域。
講了這麼多硬體，當然也要花點篇幅介紹軟體，才能說技嘉為客戶準備了代理式 AI 的全套解決方案。GIGABYTE POD Manager (GPM) 是技嘉推出的全堆疊軟體套件，不只結合NVIDIA AI Enterprise (NVAIE) 等主流軟體系統，還追加資料中心基礎設施管理 (DCIM) 和人工智慧 IT 維運 (AIOps) 功能，讓使用者能透過單一介面監控基礎建設每一環節，從資料中心到網路邊緣都能進行資源配置、工作編程、負載管理等工作。技嘉和專業軟體供應商密切合作，助使用者打造最佳化的人工智慧開發環境。
謝謝你閱讀技嘉科技介紹「代理式 AI」的趨勢文，我們希望對你有幫助。若對於技嘉代理式 AI 或生成式 AI 產品有任何疑問，歡迎透過 marketing@gigacomputing.com 聯絡我們，我們將協助你挑選合適的軟硬體解決方案。
延伸閱讀：
References:
2. BCG, AI Agents
5. Business Insider, Nvidia's CEO says we're in the age of 'agentic' AI — here's what that word means
6. McKinsey, Seizing the agentic AI advantage
7. KION Group, KION Teams with NVIDIA and Accenture to Optimize Supply Chains with AI-Powered Robots and Digital Twins
9. IBM, Agentic AI vs. generative AI
