סיכוני הבינה המלאכותית מובילים לקריאות להאטת פיתוח מערכות החזית

מנכ״ל אנתרופיק, דריו אמודיי, קרא להאטה מדודה בפיתוח בינה מלאכותית מתקדמת, והזהיר שיכולות הבינה המלאכותית מתקדמות מהר יותר מתשתיות הבטיחות. במאמר בן 3,800 מילים ובריאיון המשך ל-CBS הוא אמר שסוכני AI אוטונומיים יותר ויותר עלולים לנצל חולשות ואף לשלוט בחלקים מהאינטרנט בתוך שישה עד 12 חודשים. הוא גם הזהיר שכבר נעשה ניסיון להשתמש לרעה ב-AI לצורך נשק ביולוגי, ושסיכוני AI בלתי מבוקרים עלולים לגרום נזק של מאות מיליארדי דולרים. אמודיי הציע מעריכים עצמאיים מצדדים שלישיים, שיקבלו גישה לחברות AI, תקני בטיחות והשקה משותפים, פיקוח ממשלתי חזק יותר ושיתוף פעולה בינלאומי. אנתרופיק שואפת לפתח עד 2027 כלים שיוכלו לזהות את רוב הבעיות במודלים. הוא תומך גם במחקר פרשנות, בשכבות הגנה מרובות ובמתג חירום אפשרי ל-AI, אך מודה שמערכות מתקדמות עלולות לעקוף ניסיונות לכבותן. לפי דיווחים, מנכ״ל OpenAI סם אלטמן, אילון מאסק וראש Google DeepMind דמיס האסביס תומכים בפיקוח חזק יותר, אך מזהירים שהגבלות מוגזמות עלולות לפגוע בתחרותיות של מדינות שמעניקות עדיפות לבטיחות AI. אמודיי דחה איסור גורף, וציין את היתרונות הרפואיים האפשריים ואת הסיכון שהפיתוח יעבור למקום אחר. עבור סוחרי קריפטו, הוויכוח על סיכוני AI עשוי להשפיע על חברות הקשורות ל-AI, ספקיות אבטחת סייבר, תשתיות ענן והסנטימנט במגזר הטכנולוגיה. רגולציה חדשה עלולה ליצור תנודתיות קצרת טווח בטוקנים ובמניות הקשורים ל-AI. עם זאת, הדיווחים אינם מכריזים על מדיניות קריפטו או על זרז ספציפי לפרויקט. לכן ההשפעה הישירה על מחירי הקריפטו צפויה להישאר מוגבלת ונייטרלית.