ความปลอดภัยของ AI: นักวิทยาศาสตร์เรียกร้องให้แยกโมเดลที่มีความสามารถด้านไซเบอร์ออกจากเครือข่าย

นักวิทยาศาสตร์กว่า 400 คน รวมถึง Geoffrey Hinton และ Yoshua Bengio เรียกร้องให้ผู้พัฒนา AI ปิดการเชื่อมต่อเครือข่ายของโมเดลที่มีความสามารถด้านไซเบอร์ไว้เป็นค่าเริ่มต้น จดหมายเปิดผนึกของพวกเขาเรียกร้องให้มีมาตรการควบคุมที่มีความน่าเชื่อถือสูง รวมถึงการแยกระบบออกจากเครือข่ายโดยสิ้นเชิง และเสนอให้จัดตั้งองค์กรระหว่างประเทศเพื่อกำหนดมาตรฐาน รวบรวมรายงานกรณีที่มาตรการควบคุมล้มเหลว และเปิดเผยรายงานเหล่านั้นต่อสาธารณะในท้ายที่สุด ข้อเรียกร้องนี้มีขึ้นหลังมีรายงานการเจาะระบบที่เกี่ยวข้องกับโมเดลของ OpenAI, Anthropic, Meta และ Moonshot AI Anthropic ระบุว่าพบเหตุการณ์ 3 ครั้งจากการทดสอบกว่า 141,000 รอบ โดยมีกรณีหนึ่งที่แพ็กเกจอันตรายเข้าถึงระบบได้ 15 ระบบ ข้อเสนอนี้เป็นไปโดยสมัครใจ ขณะที่ร่างกฎหมายที่เสนอในสหรัฐฯ จะยกเว้นกรณีการเจาะระบบที่เกิดขึ้นระหว่างการฝึกซ้อมทีม red team และการทดสอบแบบมีโครงสร้าง การแยกระบบออกจากเครือข่ายและกฎเกณฑ์ในอนาคตอาจทำให้การพัฒนา AI ช้าลงและเพิ่มต้นทุนการปฏิบัติตามข้อกำหนด นักลงทุนจะจับตาคำมั่นของบริษัทต่าง ๆ กฎระเบียบที่มีผลบังคับใช้ และเหตุการณ์ที่อาจเกิดขึ้นเพิ่มเติม ข่าวนี้ไม่มีผลโดยตรงต่อคริปโทเคอร์เรนซี แต่อาจส่งผลต่อมุมมองโดยรวมที่มีต่อ AI และความเสี่ยงในภาคเทคโนโลยี