Des groupes jihadistes exploitent les failles des intelligences artificielles

Une enquête approfondie menée par des chercheurs de Cambridge révèle une utilisation alarmante des plateformes d’intelligence artificielle par des organisations terroristes. Boko Haram, notamment, se sert de chatbots comme ChatGPT, Claude et Gemini pour systématiser la préparation d’attaques et la fabrication d’explosifs. Ces outils, initialement conçus pour assister les utilisateurs, sont ainsi détournés à des fins criminelles, posant un défi majeur aux autorités et aux fournisseurs de services.

L’État islamique forme ses cadres à contourner les sécurités

Depuis 2023, des membres de l’État islamique (ISIS) ont développé des méthodes pour franchir les barrières de sécurité intégrées dans les chatbots. Cette stratégie permet aux commandants de ces groupes de planifier des opérations en exploitant les failles des systèmes, malgré les mécanismes de protection censés limiter les abus. Les résultats de cette formation sont visibles dans l’efficacité accrue des attaques menées par ces organisations.

L’autorégulation des géants de l’IA en question

Les investigations confirment que les filtres de sécurité des chatbots sont régulièrement contournés, révélant l’insuffisance de l’autorégulation appliquée par les entreprises du secteur. Face à cette faille, les spécialistes appellent à une régulation plus stricte et à des contrôles renforcés pour empêcher l’exploitation malveillante de ces technologies. La question de la sécurité des outils d’IA devient un enjeu central pour les gouvernements et les organisations internationales.