// FRANCEINFO FAITS DIVERS — CRONACA

Un rapport pointe les protections insuffisantes de l’IA face aux demandes terroristes

Published: 10/11/2026, 05:53 AM

Des tests menés sur plus de 160 modèles révèlent que certains peuvent répondre à des questions liées à des projets terroristes, notamment lorsque les demandes sont formulées dans un cadre de "recherches en sécurité". Pour sauvegarder cet article, connectez-vous ou créez un compte franceinfo Et si l’intelligence artificielle aidait aussi les terroristes dans leurs projets ? De nombreux modèles d’IA disposent aujourd’hui de protections insuffisantes contre les demandes d’ "aide à une opération terroriste", selon un rapport que vient de publier Tech Against Terrorism, une initiative internationale à but non lucratif soutenue par les Nations unies. Un test a été mené sur plus de 160 modèles d’intelligence artificielle. Quel est le résultat ? "L'attaquant connaît souvent mieux le système que sa victime" : pourquoi la France semble-t-elle si vulnérable en matière de cybersécurité ? Tout dépend de la façon de poser les questions. Lorsqu’un utilisateur indique clairement son "intention terroriste", ChatGPT, Claude ou Gemini, les modèles d’IA les plus répandus, répondent en moyenne à 2% des demandes, soit 12 réponses sur plus de 600 questions posées. Le résultat monte à 17%, soit plus d’une réponse sur six, quand la demande indique un cadre plus large de "recherches en sécurité". Plus inquiétant : 13 modèles d’IA débridés ont été testés, c’est-à-dire modifiés pour faire tomber les paramètres de sécurité et ne pas refuser certaines demandes. Dans ce cas, le taux moyen de réponse aux questions en lien avec une "activité terroriste" a dépassé les 85%, voire les 90%. Il y a un mois, Anthropic avait révélé que le groupe des Houthis, au Yémen, classé comme terroriste par les États-Unis, avait utilisé son modèle d’IA, Claude, pour tenter de fabriquer des roquettes et des missiles. Une alerte, déjà, sur les limites des systèmes de protection des intelligences artificielles. Vous pouvez désormais privilégier l'affichage des articles de franceinfo dans les résultats de recherche Google. Comment ça marche ? Une chanson, accusée de faire l'apologie du terrorisme et mise en cause dans plusieurs affaires judiciaires, retirée de Spotify et Deezer Une dizaine de jeunes se filment dans une église de Vendée en train de chanter un morceau faisant l'apologie du terrorisme