اے آئی کی حفاظت: سائنس دانوں کا سائبر صلاحیتوں کے حامل ماڈلز کو نیٹ ورک سے الگ رکھنے کا مطالبہ

جیفری ہنٹن اور یوشوا بینجیو سمیت 400 سے زیادہ سائنس دانوں نے اے آئی ڈویلپرز پر زور دیا ہے کہ سائبر صلاحیت رکھنے والے ماڈلز کو بطورِ ڈیفالٹ آف لائن رکھا جائے۔ ان کے کھلے خط میں اعلیٰ درجے کی یقین دہانی کے ساتھ انہیں محدود رکھنے کا مطالبہ کیا گیا ہے، جس میں نیٹ ورک سے مکمل طور پر الگ رکھنا بھی شامل ہے۔ خط میں معیارات طے کرنے، محدود رکھنے میں ناکامی کی رپورٹس جمع کرنے اور بالآخر انہیں عام کرنے کے لیے ایک بین الاقوامی ادارہ قائم کرنے کی تجویز بھی دی گئی ہے۔ یہ مطالبہ OpenAI، Anthropic، Meta اور Moonshot AI کے ماڈلز سے متعلق رپورٹ شدہ سکیورٹی خلاف ورزیوں کے بعد سامنے آیا ہے۔ Anthropic نے کہا کہ اسے 141,000 سے زیادہ ٹیسٹ رنز میں تین واقعات ملے، جن میں ایک ایسا واقعہ بھی شامل تھا جس میں ایک بدنیتی پر مبنی پیکیج 15 سسٹمز تک پہنچ گیا۔ یہ تجویز رضاکارانہ ہے، جبکہ امریکہ میں زیرِ تجویز ایک بل ریڈ ٹیم اور منظم ٹیسٹنگ کے دوران ہونے والی خلاف ورزیوں کو مستثنیٰ قرار دے گا۔ نیٹ ورک سے الگ رکھنا اور مستقبل کے قواعد اے آئی کی ترقی سست کر سکتے ہیں اور تعمیل کے اخراجات بڑھا سکتے ہیں۔ ٹریڈرز کمپنیوں کے وعدوں، پابند ضوابط اور مزید واقعات پر نظر رکھیں گے۔ اس خبر کا کرپٹو کرنسی پر براہِ راست اثر نہیں، تاہم یہ اے آئی اور ٹیکنالوجی کے شعبے کے خطرات کے بارے میں وسیع تر رجحان پر اثرانداز ہو سکتی ہے۔