TechNews Logo

代理式 AI 興起如何帶動伺服器硬體升級?

Answer | Powered by TechNews Smart AI

代理式 AI(Agentic AI)的興起正引發資料中心架構的劇烈變革,運算重心從單純的 GPU 擴張轉向 CPU 的戰略回歸。不同於傳統生成式 AI,代理式 AI 具備自主規劃與工具調用能力,這些「編排」工作使 CPU 負擔劇增,處理延遲甚至佔總延遲九成以上。市場數據顯示,伺服器內 CPU 與 GPU 的配置比例正從過去的 1:8 快速拉近至 1:1 或 1:2。為因應此趨勢,Nvidia 與 Arm 於 2026 年進軍獨立 CPU 市場,Intel 與 AMD 也因需求爆發調漲價格。此外,單一機櫃功耗飆升至 200 瓩,迫使硬體設計全面轉向液冷散熱與高壓直流供電,並帶動 BMC 管理晶片與高頻寬記憶體的需求同步噴發。

這場硬體重構的深層動機,在於解決代理式 AI 在動態互動時產生的能耗與延遲瓶頸,並重新定義系統級的定價權。當算力瓶頸從矩陣運算轉向邏輯編排,晶片巨頭紛紛跨足對手領域,旨在建立能與 GPU 深度整合的異質運算環境。雲端服務商(CSP)加速自研 Arm 架構 CPU 並外包 ASIC 設計,不僅是為了降低對單一供應商的依賴,更是透過軟硬體高度整合來優化每瓦效能。未來競爭關鍵將不再僅限於單一晶片的算力峰值,而是封裝技術、高速互連與電力效率的整合能力。這不僅是技術規格的升級,更預示著供應鏈權力結構的重新洗牌,台廠如創意、信驊等 ASIC 與管理晶片業者將在這一波架構轉型中扮演關鍵角色。

back_icon 解鎖更多問題

參考資料