سلامة الذكاء الاصطناعي: علماء يدعون إلى عزل النماذج ذات القدرات السيبرانية عن الشبكات

يدعو أكثر من 400 عالم، من بينهم جيفري هينتون ويوشوا بنجيو، مطوّري الذكاء الاصطناعي إلى إبقاء النماذج ذات القدرات السيبرانية غير متصلة بالإنترنت افتراضياً. وتطالب رسالتهم المفتوحة باعتماد إجراءات احتواء عالية الضمان، بما في ذلك العزل المادي عن الشبكات، كما تقترح إنشاء هيئة دولية لوضع المعايير وجمع تقارير إخفاقات الاحتواء ونشرها في نهاية المطاف. ويأتي هذا النداء بعد تقارير عن اختراقات شملت نماذج من OpenAI وAnthropic وMeta وMoonshot AI. وقالت Anthropic إنها رصدت ثلاث حوادث خلال أكثر من 141 ألف عملية اختبار، من بينها حادثة وصل فيها حِزم برمجية خبيثة إلى 15 نظاماً. والاقتراح طوعي، في حين أن مشروع قانون مقترحاً في الولايات المتحدة سيعفي الاختراقات التي تقع أثناء تمارين فرق الاختبار الأمني والاختبارات المنظّمة. وقد يؤدي العزل المادي عن الشبكات والقواعد المستقبلية إلى إبطاء تطوير الذكاء الاصطناعي ورفع تكاليف الامتثال. وسيراقب المتعاملون التزامات الشركات، وصدور تنظيمات ملزمة، ووقوع حوادث أخرى. ولا يؤثر الخبر مباشرةً في العملات المشفرة، لكنه قد يؤثر في الموقف العام تجاه الذكاء الاصطناعي ومخاطر قطاع التكنولوجيا.