// CLUBIC — INTELLIGENZA ARTIFICIALE
Une IA a piraté une entreprise toute seule, cette fois en Espagne, et c'est carrément la CNIL locale qui le révèle !
Une entreprise a été piratée de bout en bout par une intelligence artificielle livrée à elle-même, comme le révèle la CNIL espagnole, qui évoque un premier cas du genre officiellement recensé en Europe.
Le 14 septembre, l'Agence espagnole de protection des données (AEPD) a publié la toute première notification officielle d'une brèche causée par un agent d'intelligence artificielle agissant en toute autonomie. Ce dernier a scanné seul, infiltré puis exploité le système d'une entreprise. Pour les experts, cet épisode confirme une bascule déjà observée sur le terrain, symbolisée par Hugging Face notamment, que ce soit avec du pentest automatisé ou de l'attaque éclair menée sans supervision humaine constante. Les précédents commencent sérieusement à s'accumuler.
Rien, dans le mode opératoire décrit par l'AEPD, ne relève d'une technique révolutionnaire ou futuriste. c'est justement ce qui rend l'affaire troublante. L'agent IA a d'abord passé le système au crible à la recherche de failles, avant de trouver un moyen de s'y connecter. Une fois à l'intérieur, il a continué seul son exploration jusqu'à dénicher une vulnérabilité exploitable dans l'application visée, lui permettant d'aller modifier des données personnelles et de consulter des factures. Autrement dit, chaque étape d'une cyberattaque classique a été franchie sans qu'un humain n'ait besoin de lui tenir la main. L'AEPD dit que l'intelligence artificielle n'invente aucune nouvelle méthode de piratage. Elle se contente de rendre les techniques existantes beaucoup plus rapides, plus étendues et plus capables de s'adapter en temps réel à ce qu'elle découvre. Du coup, la fenêtre dont disposent les équipes de sécurité pour repérer l'intrusion avant qu'elle ne cause de dégâts se réduit dangereusement. L'agence craint que si un tel agent parvient à mettre la main sur un compte ou une clé d'accès disposant de droits trop généreux, il puisse alors agir à une vitesse que même le meilleur analyste ne pourrait suivre, bien avant qu'une alarme ne se déclenche quelque part.
L'AEPD précise tout de même que tout ce qu'elle sait de cet incident provient uniquement du signalement fait par l'entreprise concernée. Personne d'extérieur n'a encore pu vérifier ni confirmer ces éléments de façon indépendante, et l'agence elle-même appelle à la prudence en attendant une analyse plus poussée. Elle ajoute aussi que ce n'est pas parce qu'un modèle d'IA bien connu a été utilisé dans cette attaque que son éditeur a été piraté, ni que l'outil en question a été conçu pour faire du mal. N'importe quel modèle grand public peut, entre de mauvaises mains, servir à automatiser une intrusion, sans que ses créateurs n'y soient pour quoi que ce soit.
Sur LinkedIn, l'expert français en cybersécurité Gérôme Billois, associé chez Wavestone, a réagi à cette révélation espagnole. « Ce fonctionnement ne me surprend pas du tout », écrit-il, expliquant observer des schémas similaires dans les tests d'intrusion assistés par IA menés par son cabinet. Il salue au passage la démarche de l'agence, ajoutant qu'« on ne peut pas accuser l'AEPD d'être un acteur du marketing cyber ». La démarchage de la CNIL espagnole est en effet intéressante, et pourrait inspirer de l'autre côté de la frontière, suivez notre regard !
Cette notification espagnole n'est que le dernier épisode d'une liste qui s'allonge. Avant l'été déjà, le ransomware JadePuffer avait automatisé une attaque de bout en bout via Langflow, un outil habituellement utilisé pour construire des workflows d'IA. Là où une première tentative de connexion avait échoué, l'agent a réussi, en seulement 31 secondes, à trouver un moyen de contourner cet échec et d'accéder quand même au système, une vitesse d'exécution impossible à atteindre pour un humain, au passage. Les experts restent partagés sur le niveau réel d'autonomie de cette attaque, d'autant que l'IA a commis une erreur assez révélatrice en inventant purement et simplement une fausse adresse Bitcoin censée recevoir