調查：企業的 GPU 有 79% 時間處於半閒置狀態

VentureBeat Intelligence 的一項調查發現，在 218 間於生產環境中運行 AI 的企業中，有 79% 在 7 月至 9 月期間使用 GPU 的負載不超過 50%。在 9 月的調查中，這個比例為 81%；另有 31% 的受訪者表示，其 GPU 每次只有不多於四分之一的時間在執行有用工作。 儘管 GPU 使用率偏低，報告硬件未獲充分使用的受訪者中，仍有 70% 表示計劃在 12 個月內採用新的、額外的或替代現有方案的 AI 運算平台。在 9 月一輪調查中，102 名符合資格的受訪者有 63% 計劃更換或增添平台。只有 10% 的受訪者擁有經財務部門審核的現有基建投資回報計算，另有 12% 表示使用 CoreWeave 或 Lambda 等專門提供 AI 雲端服務的供應商。 調查結果顯示，GPU 使用率與持續投入 AI 基建之間存在落差。部分計劃中的變動可能是為了更換不合適的系統，而非增加容量。這個趨勢或會為提供更佳工作負載最佳化方案或替代運算模式的供應商帶來機會。未來的 GPU 使用率及支出數據將顯示，企業能否減少閒置容量，並更清楚地證明投資回報。