גילוי מאפיינים עצביים על ידי אנתרופיק עשוי להפחית הזיות של AI

דריו אמודי, מייסד שותף ומנכ"ל Anthropic, הודיע בכנס ויוה טק פריז 2024 כי תכונות נוירוניות שהתגלו לאחרונה במערכות בינה מלאכותית עשויות להפחית משמעותית הזיות AI, בהן המודלים מייצרים מידע שגוי שלא נמצא במערכי הנתונים שלהם. תגלית זו כוללת 30 מיליון תכונות, מה שמאפשר למפתחים לשנות את התנהגות המודל לקבלת תוצאות מדויקות יותר. Anthropic בדקה תכונות אלו בעוזר שלה, Claude. בנוסף, אמודי ציין כי האתגר המרכזי של תעשיית ה-AI הוא צורך בכשרונות מפתחים ולא בנתונים, בסיוע מערכי נתונים סינתטיים. התפתחות זו מתרחשת כאשר תחום ה-AI מושך השקעות מוגברות ומסמנת התקדמות מהירה בתעשייה.