TechNews Logo

Token 處理量年增七倍,對資料中心能耗與成本有何影響?

Answer | Powered by TechNews Smart AI

隨著生成式 AI 應用與 AI Agent 爆發,全球 Token 處理量正以年增七倍的驚人速度攀升,直接衝擊資料中心的電力負載與營運成本。根據台積電與國際能源總署(IEA)數據,Token 需求每三個月即翻倍,帶動單一機櫃功耗從傳統的 20kW 飆升至 300kW 以上,迫使資料中心必須從傳統氣冷全面轉向液冷技術。這股浪潮不僅推升了企業的 API 帳單,更讓電力與散熱成本佔資料中心營運支出(OPEX)比重突破 40%,甚至引發部分地區電價上漲與碳排增加的連鎖反應。

企業將 Token 消耗量視為績效指標(KPI)的「Tokenmaxxing」熱潮,反映出管理層對 AI 轉型投資報酬率(ROI)的集體焦慮,試圖以高昂算力成本換取生產力躍升。然而,這種「單價跌、總價漲」的成本悖論,正迫使產業競爭核心從單純的消耗量轉向「Token 密度」與運算能效比。未來,雲端巨頭將加速垂直整合能源與自研晶片,而企業端則會轉向模型微調與私有化部署,以打破按量計費的財務束縛。掌握綠電供應與極致散熱方案的廠商,將在這場算力馬拉松中掌握實質的定價權。

back_icon 解鎖更多問題

參考資料