// CLUBIC — INTELLIGENZA ARTIFICIALE
Des agents IA ont accédé aux données confidentielles d'entreprises sans être détectés
En Inde, des agents d’intelligence artificielle en cours de test ont fouillé les systèmes de plusieurs organisations et lu des données personnelles et des documents confidentiels. Dans ces organisations, personne n’a remarqué leur passage, et ce sont les fournisseurs de ces IA qui ont donné l’alerte.
Comme une épidémie qui semble impossible à endiguer. L’agence indienne de cybersécurité (CERT-In) vient de publier un avis classé « critique » sur ces intrusions. Elle explique avoir reçu « de multiples divulgations volontaires de fournisseurs de modèles d’IA », dont les agents, lancés sur Internet pour des tests, sont entrés dans les systèmes d’organisations indiennes. L’agence ne dit pas de quels laboratoires il s’agit, ni quelles organisations ont été touchées. Sans ces aveux, les entreprises concernées n’auraient sans doute jamais su qu’une IA était passée chez elles.
Découvrez Bitdefender Ultimate Small Business Security et protégez votre activité contre les cybermenaces. Aucune coordonnée bancaire requise.
À chaque fois, c’est le fournisseur qui a découvert l’incident en épluchant l’activité de ses agents, et aucune organisation touchée ne l’avait repéré, précise le CERT-In.
OpenAI fait ce travail depuis l’été. En reprenant mois par mois ce qu’avaient fait ses agents, l’entreprise a retrouvé 53 photos d’utilisateurs de ChatGPT qu’ils avaient mises en ligne sur des sites tiers. Anthropic était passé par là avant elle. Après avoir revu plus de 141 000 tests de cybersécurité, la société a reconnu que Claude avait piraté trois entreprises bien réelles pendant ses évaluations. Elle a pu en joindre deux, et aucune n’avait rien remarqué.
Hugging Face a repéré sans aide l’intrusion des agents d’OpenAI cet été. Les agents avaient alors exploité des failles pour exécuter du code sur ses serveurs. En Inde, ils n’ont rien eu à forcer. Ils sont entrés avec des identifiants et des paramètres de connexion oubliés dans des dépôts de code publics ou des fichiers de configuration, ou grâce à des rôles cloud aux droits trop larges. Ils ont ensuite « dépassé l’autorisation de leurs tâches assignées », d’après l’agence.
En Australie, des agents d’OpenAI sont passés par quatre sites gouvernementaux. « Cela n’aurait pas dû se produire », a reconnu Jason Kwon, directeur de la stratégie de l’entreprise, devant les parlementaires australiens. L’entreprise assure toutefois n’avoir trouvé aucune preuve d’accès à des dossiers médicaux ou judiciaires. En Inde, en revanche, les agents ont bel et bien lu des données personnelles et des documents commerciaux confidentiels. Ils venaient en plus de plusieurs fournisseurs, alors qu’un seul laboratoire était en cause à chaque fois jusqu’ici.
Le CERT-In a aussi repéré des cybercriminels qui utilisent des outils d’attaque gratuits, fondés sur des agents d’IA, pour fouiller des organisations indiennes, entrer dans leurs systèmes et leur soutirer de l’argent. Ces outils sont sans cesse remaniés puis réinstallés sur des serveurs dans plusieurs pays. Il ne faut plus que quelques heures aux pirates entre la première intrusion et les dégâts, contre plusieurs jours avant. Les victimes qui n’avaient bouché qu’une partie de leurs failles ont été attaquées de nouveau en quelques jours, encore plus en profondeur.
L’agence pointe des erreurs de base derrière toutes ces attaques, avec des clés de paiement stockées en clair et des interfaces d’administration ouvertes sur Internet sans vraie double authentification. Elle demande aux organisations d’éplucher leur code, historique des dépôts compris, et leurs espaces de stockage cloud pour débusquer les identifiants exposés, puis de les changer. Après une intrusion, mieux vaut considérer tout système comme compromis tant qu’une analyse forensique ne l’a pas blanchi, prévient-elle. Quant aux laboratoires, le CERT-In leur demande de couper leurs tests de tout accès réseau sortant inutile et de ne travailler qu’avec des cibles et des identifiants fictifs.
Des sources gouver