Ризики ШІ посилюють заклики уповільнити розробку передових систем

Генеральний директор Anthropic Даріо Амодеї закликав до виваженого уповільнення розвитку передового ШІ, попередивши, що можливості ШІ розвиваються швидше, ніж інфраструктура безпеки. У есеї обсягом 3800 слів і подальшому інтерв’ю CBS він заявив, що дедалі автономніші агенти ШІ можуть використовувати вразливості й потенційно контролювати частини інтернету протягом шести–дванадцяти місяців. Він також попередив, що спроби використати ШІ для біологічної зброї вже здійснювалися, а неконтрольовані ризики ШІ можуть спричинити збитки на сотні мільярдів доларів. Амодеї запропонував незалежних сторонніх оцінювачів із доступом до компаній, що працюють у сфері ШІ, спільні стандарти безпеки та випуску, посилений державний нагляд і міжнародну співпрацю. Anthropic прагне до 2027 року розробити інструменти, здатні виявляти більшість проблем моделей. Він також підтримує дослідження інтерпретованості, багаторівневі заходи безпеки та потенційний аварійний вимикач ШІ, хоча визнає, що передові системи можуть обійти спроби їх вимкнути. За повідомленнями, генеральний директор OpenAI Сем Альтман, Ілон Маск і керівник Google DeepMind Деміс Хассабіс підтримали посилення нагляду, але попередили, що надмірні обмеження можуть послабити конкурентоспроможність країн, які надають пріоритет безпеці ШІ. Амодеї відкинув повну заборону, пославшись на потенційні медичні переваги та ризик перенесення розробок в інші країни. Для криптотрейдерів дискусія про ризики ШІ може вплинути на компанії, пов’язані з ШІ, постачальників кібербезпеки, хмарну інфраструктуру та настрої в технологічному секторі. Нове регулювання може спричинити короткострокову волатильність токенів і акцій, пов’язаних із ШІ. Однак у повідомленнях не оголошено жодної політики щодо криптовалют або каталізатора, пов’язаного з конкретним проєктом. Тому прямий вплив на ціни криптовалют, імовірно, залишиться обмеженим і нейтральним.