סקר: 79% מהמעבדים הגרפיים של ארגונים אינם פעילים במשך מחצית מהזמן

סקר של VentureBeat Intelligence מצא כי 79% מתוך 218 ארגונים שמריצים AI בסביבת ייצור השתמשו ב-GPU שלהם ב-50% מהקיבולת או פחות בין יולי לספטמבר. בסקר של ספטמבר הנתון עמד על 81%, ואילו 31% מהמשיבים אמרו שה-GPU שלהם ביצעו עבודה מועילה לא יותר מרבע מהזמן. למרות השימוש הנמוך ב-GPU, 70% מהמשיבים שדיווחו על חומרה שאינה מנוצלת במלואה אמרו שהם מתכננים לאמץ בתוך 12 חודשים פלטפורמת מחשוב AI חדשה, נוספת או חלופית. בגל הסקר של ספטמבר, 63% מתוך 102 משיבים שעמדו בתנאי הסף תכננו להחליף או להוסיף פלטפורמה. רק ל-10% היה חישוב של התשואה על ההשקעה בתשתית הקיימת, שנבדק בידי מחלקת הכספים, ו-12% דיווחו שהם משתמשים בספקיות ענן AI מתמחות כמו CoreWeave או Lambda. הממצאים מצביעים על חוסר התאמה בין ניצולת ה-GPU לבין המשך ההשקעה בתשתיות AI. ייתכן שחלק מהשינויים המתוכננים נועדו להחליף מערכות שאינן מתאימות, ולא להוסיף קיבולת. המגמה עשויה ליצור הזדמנויות לספקיות שמציעות אופטימיזציה טובה יותר של עומסי עבודה או מודלים חלופיים של מחשוב. נתונים עתידיים על ניצולת GPU והוצאות יראו אם ארגונים יצליחו לצמצם קיבולת שאינה בשימוש ולהציג תשואה ברורה יותר.