人工智慧的運算瓶頸從訓練轉向推論

隨著使用者與 AI 代理大規模執行模型，AI 運算需求正從模型訓練轉向推論。目前，訓練約占 AI 運算需求的一半，但較低的代幣價格預期將加速應用程式與代理的使用。高盛預測，到 2030 年，代幣消耗量可能增加 24 倍。由於 AI 代理會執行多步驟任務，其使用的代幣可能是標準聊天機器人的 5 至 50 倍。 主要限制來自實體基礎設施供應鏈。大型 AI 資料中心所需的電力相當於小型城市的用電量，而到 2030 年，資料中心可能占美國新增電力需求約 50%。電網併網排隊、許可、技術人才短缺、變壓器、冷卻系統與先進網路都限制了擴張。部分變壓器的交貨時間已超過三年，而 SK 海力士預期高效能記憶體短缺將持續到 2030 年。 持續的 AI 運算短缺可能使運算價格維持高位，並讓電力供應商、資料中心營運商與 AI 雲端服務供應商受益。CME Group 與 Silicon Data 計畫於 2026 年 10 月推出以 H100 與 B200 為基礎的運算期貨，但須獲得監管核准。據報，最大的雲端服務供應商控制全球約 70% 的運算容量。其 2026 年合計 EBITDA 預計超過 8,300 億美元，資本支出約為 7,300 億美元。摩根士丹利預期，2026 年全球 AI 相關債務發行額將超過 5,700 億美元，可能提高私人信貸在 AI 基礎設施融資中的作用。