TechNews Logo

Agent 消耗 30 倍 Token,硬體商是否為最大贏家?

Answer | Powered by TechNews Smart AI

隨著生成式 AI 從單純對話演進為具備自主執行能力的「AI 代理(Agent)」,單次任務的 Token 消耗量正從數百飆升至上萬,漲幅高達 30 倍。儘管 OpenAI 等模型廠持續調降 API 單價,但因 Agent 需頻繁進行任務編排、工具調用與深度推理,導致企業總體算力支出不降反升。這股浪潮直接灌溉了硬體供應鏈,不僅 NVIDIA 的 GPU 供不應求,連帶負責邏輯調度的 CPU 需求也預計爆發四倍,甚至推升了探針卡、測試載板等半導體測試介面廠商的營收創下歷史新高,顯示硬體端已率先收割 Agent 經濟的首波紅利。

硬體商確實是這波「Token 膨脹」初期的最大獲益者,但產業紅利正從單純的算力提供轉向結構性變革。Agent 運作邏輯改變了伺服器內 CPU 與 GPU 的配置比,從過去的 1:8 趨向 1:1,這讓 Intel 與 AMD 重新奪回資料中心的話語權。對企業而言,硬體成本的激增迫使商業模式必須從「節省成本」轉向「極大化產出」,未來競爭力將取決於如何將廉價但海量的 Token 轉化為高價值的決策品質。同時,雲端巨頭為擺脫硬體商制約,正加速研發自研晶片(ASIC),這將帶動設計服務業迎來長線商機,硬體贏家的定義正從通用晶片擴展至客製化生態系。

back_icon 解鎖更多問題

參考資料