ความเสี่ยงของ AI กระตุ้นให้มีการเรียกร้องให้ชะลอการพัฒนาเทคโนโลยีแนวหน้า

ดาริโอ อามูเดอี ซีอีโอของ Anthropic เรียกร้องให้ชะลอการพัฒนา AI แนวหน้าลงอย่างรอบคอบ โดยเตือนว่าความสามารถของ AI กำลังก้าวหน้าเร็วกว่าระบบโครงสร้างพื้นฐานด้านความปลอดภัย ในบทความความยาว 3,800 คำและการสัมภาษณ์กับ CBS ในเวลาต่อมา เขากล่าวว่าเอเจนต์ AI ที่มีความเป็นอิสระมากขึ้นอาจใช้ประโยชน์จากช่องโหว่และอาจควบคุมบางส่วนของอินเทอร์เน็ตได้ภายในหกถึง 12 เดือน นอกจากนี้ยังเตือนว่ามีการพยายามนำ AI ไปใช้ในทางที่ผิดเพื่อสร้างอาวุธชีวภาพแล้ว และความเสี่ยงจาก AI ที่ไม่ถูกควบคุมอาจสร้างความเสียหายมูลค่าหลายแสนล้านดอลลาร์ อามูเดอีเสนอให้มีผู้ประเมินอิสระจากภายนอกที่เข้าถึงบริษัท AI ได้ มีมาตรฐานร่วมด้านความปลอดภัยและการเปิดตัวผลิตภัณฑ์ การกำกับดูแลของรัฐบาลที่เข้มแข็งขึ้น และความร่วมมือระหว่างประเทศ Anthropic ตั้งเป้าพัฒนาเครื่องมือที่ตรวจพบปัญหาส่วนใหญ่ของโมเดลได้ภายในปี 2027 เขายังสนับสนุนการวิจัยด้านความสามารถในการตีความ ระบบป้องกันหลายชั้น และสวิตช์ฉุกเฉินสำหรับปิด AI ที่อาจเกิดขึ้นได้ แม้ยอมรับว่าระบบขั้นสูงอาจหลบเลี่ยงความพยายามในการปิดระบบได้ มีรายงานว่าแซม อัลต์แมน ซีอีโอของ OpenAI, อีลอน มัสก์ และเดมิส ฮัสซาบิส หัวหน้า Google DeepMind สนับสนุนการกำกับดูแลที่เข้มงวดขึ้น แต่เตือนว่าข้อจำกัดที่มากเกินไปอาจทำให้ความสามารถในการแข่งขันของประเทศที่ให้ความสำคัญกับความปลอดภัยของ AI อ่อนแอลง อามูเดอีปฏิเสธการห้ามโดยสิ้นเชิง โดยอ้างถึงประโยชน์ทางการแพทย์ที่อาจเกิดขึ้นและความเสี่ยงที่การพัฒนาจะย้ายไปที่อื่น สำหรับนักเทรดคริปโต การถกเถียงเรื่องความเสี่ยงของ AI อาจส่งผลต่อบริษัทที่เกี่ยวข้องกับ AI ผู้ให้บริการความปลอดภัยทางไซเบอร์ โครงสร้างพื้นฐานคลาวด์ และความเชื่อมั่นในภาคเทคโนโลยี หากมีกฎระเบียบใหม่เกิดขึ้น อาจทำให้โทเคนและหุ้นที่เชื่อมโยงกับ AI ผันผวนในระยะสั้น อย่างไรก็ตาม รายงานดังกล่าวไม่ได้ประกาศนโยบายด้านคริปโตหรือปัจจัยกระตุ้นเฉพาะของโครงการใด ดังนั้นผลกระทบโดยตรงต่อราคาคริปโตจึงมีแนวโน้มจำกัดและเป็นกลาง