សុវត្ថិភាព AI៖ អ្នកវិទ្យាសាស្ត្រអំពាវនាវឱ្យដាក់ម៉ូដែលដែលមានសមត្ថភាពសាយប័រឱ្យនៅដាច់ដោយឡែកពីបណ្តាញ

អ្នកវិទ្យាសាស្ត្រជាង ៤០០ នាក់ រួមទាំង Geoffrey Hinton និង Yoshua Bengio កំពុងអំពាវនាវឱ្យអ្នកអភិវឌ្ឍ AI ទុកម៉ូដែលដែលមានសមត្ថភាពផ្នែកសាយប័រឱ្យនៅក្រៅបណ្ដាញជាលំនាំដើម។ លិខិតចំហរបស់ពួកគេអំពាវនាវឱ្យមានវិធានការទប់ស្កាត់ដែលមានភាពធានាខ្ពស់ រួមទាំងការផ្ដាច់ប្រព័ន្ធចេញពីបណ្ដាញដោយផ្ទាល់ និងស្នើឱ្យបង្កើតស្ថាប័នអន្តរជាតិមួយ ដើម្បីកំណត់ស្តង់ដារ ប្រមូលរបាយការណ៍អំពីការបរាជ័យនៃវិធានការទប់ស្កាត់ ហើយនៅទីបំផុតផ្សព្វផ្សាយរបាយការណ៍ទាំងនោះជាសាធារណៈ។ ការអំពាវនាវនេះកើតឡើងបន្ទាប់ពីមានសេចក្ដីរាយការណ៍អំពីការរំលោភប្រព័ន្ធដែលពាក់ព័ន្ធនឹងម៉ូដែលរបស់ OpenAI, Anthropic, Meta និង Moonshot AI។ Anthropic បាននិយាយថា ខ្លួនបានរកឃើញឧប្បត្តិហេតុបីក្នុងការដំណើរការសាកល្បងជាង ១៤១,០០០ លើក រួមទាំងករណីមួយដែលកញ្ចប់កម្មវិធីព្យាបាទបានទៅដល់ប្រព័ន្ធចំនួន ១៥។ សំណើនេះមានលក្ខណៈស្ម័គ្រចិត្ត ខណៈសេចក្ដីព្រាងច្បាប់មួយដែលបានស្នើនៅសហរដ្ឋអាមេរិកនឹងលើកលែងករណីរំលោភប្រព័ន្ធដែលកើតឡើងក្នុងអំឡុងពេលលំហាត់ red team និងការធ្វើតេស្តមានរចនាសម្ព័ន្ធ។ ការផ្ដាច់ប្រព័ន្ធចេញពីបណ្ដាញដោយផ្ទាល់ និងច្បាប់នាពេលអនាគតអាចបន្ថយល្បឿនការអភិវឌ្ឍ AI និងបង្កើនចំណាយលើការអនុលោមតាមបទប្បញ្ញត្តិ។ អ្នកជួញដូរនឹងតាមដានការប្ដេជ្ញាចិត្តរបស់ក្រុមហ៊ុន បទប្បញ្ញត្តិដែលមានកាតព្វកិច្ច និងឧប្បត្តិហេតុបន្ថែមទៀត។ ព័ត៌មាននេះមិនមានផលប៉ះពាល់ដោយផ្ទាល់ដល់រូបិយប័ណ្ណគ្រីបតូទេ ប៉ុន្តែអាចជះឥទ្ធិពលលើមនោសញ្ចេតនាទូទៅចំពោះ AI និងហានិភ័យក្នុងវិស័យបច្ចេកវិទ្យា។