Sécurité de l’IA : des scientifiques réclament l’isolation des modèles dotés de capacités cyber

Plus de 400 scientifiques, dont Geoffrey Hinton et Yoshua Bengio, exhortent les développeurs d’IA à garder par défaut hors ligne les modèles dotés de capacités cyber. Dans leur lettre ouverte, ils réclament des mesures de confinement assorties de garanties élevées, notamment une isolation complète des réseaux, et proposent de créer un organisme international chargé d’établir des normes, de recueillir les signalements de défaillances du confinement et, à terme, de les rendre publics. Cet appel fait suite à des violations signalées impliquant des modèles d’OpenAI, d’Anthropic, de Meta et de Moonshot AI. Anthropic a déclaré avoir détecté trois incidents sur plus de 141 000 essais, dont un au cours duquel un paquet malveillant a atteint 15 systèmes. La proposition est volontaire, tandis qu’un projet de loi américain prévoirait une exemption pour les violations survenues lors d’exercices de red team et de tests structurés. L’isolation des réseaux et de futures règles pourraient ralentir le développement de l’IA et accroître les coûts de mise en conformité. Les traders surveilleront les engagements des entreprises, l’adoption de règles contraignantes et la survenue d’autres incidents. Cette nouvelle n’a pas d’incidence directe sur les cryptomonnaies, mais elle pourrait influencer le sentiment général à l’égard des risques liés à l’IA et au secteur technologique.