訓練能耗降至 1%，是否會引發 AI 算力市場的投資轉向？

NVIDIA 執行長黃仁勳指出，AI 運算效率在過去八年提升千倍，以 Blackwell 訓練 GPT-4 等級模型的能耗已降至 Pascal 世代的 0.3%，這項數據顯示「訓練能耗降至 1%」已非預言而是現實。隨著單位運算成本大幅下降，AI 市場正經歷結構性轉變，運算重心正從一次性的模型訓練轉向高頻發生的推論階段。與此同時，代理式 AI（Agentic AI）的崛起正重新定義資料中心架構，帶動 CPU 需求呈現四倍速成長，並促使雲端服務供應商（CSP）加速自研晶片，以應對日益嚴峻的電力與散熱挑戰。

硬體能效的飛躍並未減緩市場對算力的渴求，反而因「智慧成本」下降誘發了更龐大的應用需求，導致投資重心從單純追求 GPU 算力總量，轉向優化總體擁有成本（TCO）與能源韌性。當訓練能耗不再是絕對門檻，企業的競爭核心將轉向推論效率與邊緣運算的佈局。我們看到微軟、亞馬遜等巨頭正透過自研 ASIC 與液冷技術，試圖在電力供應吃緊的環境下維持擴張。未來算力市場的勝負手將不再僅限於晶片效能，而是誰能整合便宜能源、高效散熱與異構運算架構，將 AI 價值穩定且低成本地交付給終端使用者。