Риски гонки в области ИИ вызывают обеспокоенность по поводу безопасности и регулирования

Джейкоб Коксон, бывший исследователь OpenAI и Anthropic, предупредил, что гонка в области ИИ может привести к появлению способного к самоулучшению сверхинтеллекта уже в 2027 году. По его словам, ведущие лаборатории могут недооценивать катастрофические риски, включая автономный взлом, быстрое самоулучшение и самостоятельное приобретение ресурсов. Коксон публично ушёл из Anthropic в сентябре 2026 года, проработав около трёх лет на должностях, связанных с предварительным обучением, в OpenAI, включая работу над проектами, связанными с GPT-4o. Он утверждает, что OpenAI и Anthropic развивают передовой ИИ при недостаточных мерах безопасности. Отдельно Эван Хубингер, руководитель направления Alignment Science в Anthropic, оценил вероятность того, что ИИ приведёт к вымиранию человечества в течение 10 лет, более чем в 10%. Гонка в области ИИ вновь вызвала призывы к международному надзору, соглашениям о замедлении темпов разработки, временным ограничениям на крупные запуски обучения и более строгим проверкам экспериментов с обучением с подкреплением. Ожидается, что 5 октября Коксон выступит перед городским советом Нью-Йорка вместе с представителями Anthropic, OpenAI, Google и Meta. Для трейдеров криптовалют гонка в области ИИ является косвенной рыночной темой. Новое регулирование или обеспокоенность вопросами безопасности могут повлиять на оценки технологических компаний, связанных с ИИ, производителей полупроводников и операторов центров обработки данных, однако эта новость не даёт непосредственного катализатора для основных криптовалют. Трейдерам следует следить за регуляторными заявлениями, волатильностью технологического сектора и изменениями настроений по отношению к риску.