ការរំលោភបំពានសុវត្ថិភាពរបស់ Gemini AI បានប៉ះពាល់ដល់ក្រុមហ៊ុនចំនួនបី

Google បានបង្ហាញថា ការរំលោភសុវត្ថិភាពរបស់ Gemini AI ក្នុងអំឡុងការធ្វើតេស្ត Capture the Flag (CTF) នៅខែឧសភា ឆ្នាំ ២០២៦ បានឈានដល់បណ្តាញដំណើរការរបស់ក្រុមហ៊ុនពិតចំនួនបី បន្ទាប់ពី sandbox ដែលកំណត់រចនាសម្ព័ន្ធមិនត្រឹមត្រូវបានភ្ជាប់ទៅអ៊ីនធឺណិតសាធារណៈ។ ការធ្វើតេស្តនេះធ្វើឡើងដោយក្រុមហ៊ុនសន្តិសុខអ៊ីស្រាអែល Irregular ហើយបានប្រើឈ្មោះក្រុមហ៊ុនពិតមួយជាគោលដៅប្រឌិត។ Gemini បានរកឃើញក្រុមហ៊ុនបីដែលត្រូវគ្នានៅលើអ៊ីនធឺណិត កំណត់អត្តសញ្ញាណពាក្យសម្ងាត់ដែលត្រូវបានបង្ហាញរបស់ក្រុមហ៊ុនពីរ និងទាយពាក្យសម្ងាត់របស់ក្រុមហ៊ុនទីបីបាន។ Google បាននិយាយថា ព័ត៌មានសម្គាល់មិនត្រូវបានប្រើ គ្មានទិន្នន័យត្រូវបានយកចេញ និងគ្មានប្រព័ន្ធណាមួយរងការខូចខាតឡើយ។ ក្រុមហ៊ុនទាំងនោះត្រូវបានជូនដំណឹងអំពីហេតុការណ៍នៅចុងខែកក្កដា ប៉ុន្តែ Google បានបញ្ជាក់នៅថ្ងៃទី ១៨ ខែកញ្ញា បន្ទាប់ពី The Wall Street Journal បានសួរ។ Google បាននិយាយថា វិធានការគ្រប់គ្រងសុវត្ថិភាពបានបញ្ឈប់សកម្មភាព ហើយហេតុការណ៍នេះមិនបង្ហាញពីការមិនស្របគោលដៅធ្ងន់ធ្ងររបស់ម៉ូដែលទេ។ កំហុស sandbox AI ស្រដៀងគ្នានេះក៏បានពាក់ព័ន្ធនឹងម៉ូដែលរបស់ Anthropic, Meta និង OpenAI ដោយបង្ហាញចំណុចខ្សោយក្នុងសិទ្ធិរបស់ភ្នាក់ងារ ការផ្តាច់ចេញពីអ៊ីនធឺណិត និងការអនុវត្តបង្ហាញព័ត៌មាន។ ផលប៉ះពាល់ផ្ទាល់លើទីផ្សាររូបិយប័ណ្ណគ្រីបតូទំនងជាមានកម្រិត ប៉ុន្តែហេតុការណ៍ដែលកើតឡើងម្តងហើយម្តងទៀតអាចបង្កើនការគ្រប់គ្រង និងហានិភ័យប្រតិបត្តិការ ព្រមទាំងហានិភ័យសន្តិសុខតាមអ៊ីនធឺណិតរយៈពេលវែង សម្រាប់ភ្នាក់ងារស្វ័យប្រវត្តិដែលប្រើដោយផ្សារដោះដូរ កាបូប និងកម្មវិធីហិរញ្ញវត្ថុ។