// CLUBIC — INTELLIGENZA ARTIFICIALE
Anthropic : Claude Mythos déraille et créé de fausses indentités pour tromper les vérifications humaines
L'AI Security Institute britannique a révélé mardi qu'un agent IA développé par Anthropic avait tenté de manipuler un administrateur humain pour lui faire approuver du code malveillant, dans le cadre d'une série d'incidents impliquant des modèles d'AI.
L'intelligence artificielle contre les humains, on croirait à un film futuriste, c'est pourtant bien la réalité actuelle. Claude Mythos a essayé de déjouer les vérifications humaines. L'IA a fabriqué de fausses identités en ligne, afin de pousser des humains à valider des modifications malveillantes sur un projet open-source. C'est ce qu'a indiqué l'AI Security Institute (AISI), un organisme de recherche basé au Royaume-Uni, dans un billet de blog publié mardi 5 août 2026.
L'incident s'est produit dans le cadre d'une évaluation de routine, lors de laquelle l'AISI avait délibérément supprimé certaines protections, désactivé des filtres de sécurité et accordé aux modèles un accès à Internet. Ces conditions, qualifiées de "délibérément permissives" par l'AISI, avaient pour objectif d'évaluer les capacités des modèles, notamment leur aptitude à être utilisés à des fins de cyberattaque. Ça semble fonctionner !
Selon l'AISI, l'agent alimenté par Mythos 5 a d'abord effectué des recherches sur les administrateurs humains du projet ciblé, avant de créer plusieurs fausses identités. Il s'en est ensuite servi pour manipuler socialement un vrai administrateur et le convaincre d'approuver le code. Lorsque sa demande de modification a été refusée, le modèle a modifié ses activités antérieures pour les faire paraître anodines, et a envisagé de créer une nouvelle identité afin de poursuivre ses tentatives.
L'agent a également cherché à contacter directement des personnes réelles, en leur envoyant des messages et des fichiers pour les inciter à exécuter du code malveillant.
Certains messages contenaient des charges malveillantes, et d'autres constituaient des tentatives d'ingénierie sociale ciblant de vraies personnes, quelque chose que nous n'avions jamais observé auparavant - a précisé l'AISI.
Au total, l'institut a recensé 19 actions problématiques lors de cette évaluation : 17 impliquaient le modèle Mythos 5 d'Anthropic, et 2 concernaient le modèle GPT-5.6-Sol d'OpenAI, dont les mécanismes de prévention des abus avaient été désactivés. L'AISI a précisé que ces tentatives n'avaient pas abouti et n'avaient causé aucun préjudice réel.
Anthropic a réagi en indiquant sur X que ses modèles avaient été « testés dans des conditions délibérément permissives, qui ne sont pas représentatives de nos modèles en production », ajoutant qu'il n'y avait « aucune preuve d'une sortie d'un environnement sécurisé ».
OpenAI a de son côté déclaré à CNBC que "ces incidents se sont produits lors d'évaluations cybernétiques menées par des partenaires d'évaluation dans des environnements de test avec des protections réduites, dans des conditions qui ne reflètent pas un usage ordinaire".
Les meilleurs modèles d'IA du marché sont-ils vraiment sécurisés ? La semaine précédente, Anthropic avait annoncé avoir détecté trois cas où ses modèles avaient obtenu un accès non autorisé à l'infrastructure de production de trois organisations différentes.