// LES NUMÉRIQUES — INTELLIGENZA ARTIFICIALE
Actualité : “Vous n’êtes jamais véritablement anonymes” : elle planifiait une fusillade dans son “journal intime”, l'IA Claude la dénonce à la police
Convaincue de confier ses pulsions à un simple journal intime en parlant avec l’IA Claude, une Étasunienne a été arrêtée après le signalement de ses menaces armées à l’encontre des forces de l’ordre locales.
© Thrive Studios ID/Shutterstock - La police alertée par Anthropic pour déjouer une attaque préméditée contre un commissariat : la sécurité prend le pas sur la confidentialité.
À force d’interagir tous les jours et pour tout avec les IA, beaucoup finissent par leur confier leurs pires pensées, comme à un confident. Mais derrière l’écran, les garde-fous des modèles veillent au grain. Une internaute d'outre-Atlantique vient de l’apprendre à ses dépens lors de son arrestation alors qu’elle envisageait d’attaquer le bureau du shérif, rappelant que la confidentialité des agents conversationnels s’arrête là où commence le risque d’un passage à l’acte.
Selon le rapport d’arrestation révélé par la chaîne locale WINK News, Carli Michelle Heller, 30 ans, a écrit à l'IA Claude le 26 septembre qu’elle comptait ouvrir le feu sur les locaux des forces de l’ordre, avant d’affirmer le lendemain qu’elle s’était procuré une nouvelle arme à feu. Face à cette situation, les systèmes d’Anthropic ont transmis les messages à des modérateurs humains.
Conformément à la politique d’urgence du groupe, autorisant la levée de confidentialité en cas de risque létal, l’entreprise a immédiatement alerté la police. La suspecte a ensuite été interpellée sans incident chez elle à Bonita Springs (Floride) dans la foulée du signalement, sous le coup d’une inculpation criminelle pour menace terroriste électronique.
Interrogée après son arrestation, la suspecte a affirmé qu’elle utilisait l'intelligence artificielle d'Antrhopic comme un simple “journal intime”. De son côté, le shérif Carmine Marceno a rappelé les règles du jeu auprès de WINK News : “L’intelligence artificielle est un outil puissant, et comme toute technologie, elle peut être détournée. Quand quelqu’un utilise l’IA pour proférer ou faciliter une menace, nous devons la prendre au sérieux. Vous n’êtes jamais véritablement anonymes”.
Pour la chercheuse Chrissann Ruehle de la Florida Gulf Coast University, l’interface trompe la vigilance : “Les gens ont l’impression que la machine ne va pas les juger, mais l’IA n’est pas votre meilleure amie”. Ian Marlow, dirigeant de FITECH, rappelle aussi que le ton conversationnel fait vite oublier l’archivage des données, occultant le fait que chaque mot reste stocké sur les serveurs et peut être examiné à tout moment par l’éditeur.
Il s’agit déjà du troisième signalement de ce type transmis à la police par Anthropic depuis août. Des faits divers qui illustrent la responsabilité accrue pesant sur les développeurs d’IA, engagés dans un intense lobbying pour prôner la prudence, tout en déployant leurs modèles à vitesse grand V pour ne pas se laisser distancer par la concurrence.
Suivez toute l'actualité des Numériques sur Google Actualités et sur la chaîne WhatsApp des Numériques
Envie de faire encore plus d'économies ? Découvrez nos codes promo sélectionnés pour vous.