Безпека ШІ: науковці закликають ізолювати від мереж моделі з кіберможливостями

Понад 400 науковців, зокрема Джеффрі Гінтон і Йошуа Бенджіо, закликають розробників ШІ за замовчуванням залишати моделі з кіберможливостями офлайн. У відкритому листі вони вимагають запровадити надійні заходи ізоляції, зокрема фізичне відключення від мереж, і пропонують створити міжнародний орган, який встановлюватиме стандарти, збиратиме повідомлення про випадки порушення ізоляції та згодом оприлюднюватиме їх. Цей заклик з’явився після повідомлень про злами, пов’язані з моделями OpenAI, Anthropic, Meta та Moonshot AI. В Anthropic заявили, що виявили три інциденти під час понад 141 000 тестових запусків, зокрема випадок, коли шкідливий пакет дістався 15 систем. Пропозиція є добровільною, тоді як запропонований у США законопроєкт звільняв би від відповідальності за злами, що сталися під час вправ red team і структурованого тестування. Фізичне відключення від мереж і майбутні правила можуть сповільнити розвиток ШІ та збільшити витрати на дотримання вимог. Учасники ринку стежитимуть за зобов’язаннями компаній, запровадженням обов’язкового регулювання та новими інцидентами. Ця новина не має прямого впливу на криптовалюти, проте може вплинути на загальне ставлення до ШІ та ризиків технологічного сектору.