ผลสำรวจ: GPU ขององค์กร 79% ว่างงานไปครึ่งหนึ่ง

ผลสำรวจของ VentureBeat Intelligence พบว่า ในบรรดาองค์กร 218 แห่งที่ใช้งาน AI ในระบบจริง มี 79% ที่ใช้ GPU ไม่เกิน 50% ของกำลังการประมวลผลในช่วงเดือนกรกฎาคมถึงกันยายน ในการสำรวจเดือนกันยายน ตัวเลขดังกล่าวอยู่ที่ 81% ขณะที่ผู้ตอบแบบสำรวจ 31% ระบุว่า GPU ของตนทำงานที่เป็นประโยชน์ไม่เกินหนึ่งในสี่ของเวลา แม้การใช้งาน GPU จะอยู่ในระดับต่ำ แต่ 70% ของผู้ตอบที่ระบุว่าฮาร์ดแวร์ถูกใช้งานไม่เต็มประสิทธิภาพกล่าวว่า มีแผนจะนำแพลตฟอร์มประมวลผล AI ใหม่ มาเพิ่มเติม หรือมาแทนของเดิมมาใช้ภายใน 12 เดือน ในการสำรวจรอบเดือนกันยายน ผู้ตอบที่ผ่านเกณฑ์ 63% จากทั้งหมด 102 รายวางแผนจะเปลี่ยนหรือเพิ่มแพลตฟอร์ม มีเพียง 10% ที่มีการคำนวณผลตอบแทนจากการลงทุนในโครงสร้างพื้นฐานปัจจุบันซึ่งผ่านการตรวจสอบจากฝ่ายการเงิน และ 12% รายงานว่าใช้ผู้ให้บริการคลาวด์เฉพาะทางด้าน AI เช่น CoreWeave หรือ Lambda ผลการสำรวจชี้ให้เห็นถึงความไม่สอดคล้องระหว่างการใช้ GPU กับการลงทุนด้านโครงสร้างพื้นฐาน AI ที่ยังดำเนินต่อไป การเปลี่ยนแปลงที่วางแผนไว้บางส่วนอาจเป็นการเปลี่ยนระบบที่ไม่เหมาะสม แทนที่จะเพิ่มกำลังการประมวลผล แนวโน้มนี้อาจเปิดโอกาสให้ผู้ให้บริการที่นำเสนอการปรับแต่งเวิร์กโหลดให้มีประสิทธิภาพยิ่งขึ้น หรือรูปแบบการประมวลผลทางเลือก ข้อมูลในอนาคตเกี่ยวกับการใช้ GPU และการใช้จ่ายจะชี้ให้เห็นว่าองค์กรต่าง ๆ สามารถลดกำลังการประมวลผลที่ไม่ได้ใช้งานและแสดงผลตอบแทนที่ชัดเจนขึ้นได้หรือไม่