// CLUBIC — INTELLIGENZA ARTIFICIALE
L'agence de cybersécurité européenne teste les "dangereux" Claude Mythos 5 et GPT‑6 Astra
L'Union européenne passe enfin au banc d'essai les "meilleurs modèles d'IA" américains, réputés comme "dangereux". Toutefois, l'institution souhaite améliorer sa propre sécurité, elle emploie alors les grands moyens.
L'ENISA, l'agence de cybersécurité de l'Union européenne, a obtenu l'accès au modèle Mythos 5 d'Anthropic et le teste actuellement aux côtés de GPT-6 Astra d'OpenAI, a confirmé jeudi un porte-parole de la Commission européenne.
L'accès à ces deux modèles s'est déroulé selon des calendriers très différents. OpenAI a lancé GPT-6 Astra le 3 septembre, en émettant des avertissements sur ses capacités dans le domaine cybernétique. L'ENISA a obtenu l'accès à ce modèle environ une semaine plus tard.
Pour Mythos 5, le processus a pris cinq mois à compter de l'annonce initiale d'Anthropic en avril, lorsque l'entreprise affirmait que son modèle pouvait surpasser les capacités humaines pour détecter et exploiter des vulnérabilités de sécurité. Anthropic avait donné son accord de principe en juin, mais la transmission effective n'a eu lieu qu'en septembre.
Entre-temps, plusieurs démarches politiques ont eu lieu. En mai, 30 députés européens issus de six groupes politiques ont écrit à la vice-présidente exécutive Henna Virkkunen, avertissant que les règles de cybersécurité de l'UE n'étaient pas adaptées à cette nouvelle génération d'outils et demandant que l'ENISA puisse y accéder. La commission du marché intérieur du Parlement européen a également invité Anthropic à une audition publique, une invitation refusée par l'entreprise en raison d'un délai trop court.
Le 2 août, les obligations de l'AI Act relatives aux risques systémiques des modèles d'IA à usage général sont devenues exécutoires, la Commission déclarant qu'elle demanderait l'accès aux modèles si nécessaire. La Commission n'a pas précisé si cette pression politique avait déterminé l'obtention de l'accord ou si celui-ci serait intervenu indépendamment.
La remise du modèle à l'ENISA coïncide avec la publication, mercredi, d'une évaluation par Anthropic révélant que quatre de ses modèles avaient atteint l'internet ouvert lors de tests mal configurés. Parmi eux, Mythos 5 a téléversé un paquet malveillant sur le répertoire de logiciels PyPI.
Ce cas constitue l'une des premières applications pratiques de l'article 55 de l'AI Act, qui donne aux régulateurs le pouvoir d'examiner directement les modèles présentant des risques systémiques, plutôt que de s'en remettre uniquement aux informations fournies par les concepteurs.
Ces tests interviennent dans un contexte où les règles européennes sur l'IA subissent des pressions externes et internes : la Commission a accepté d'alléger certaines parties de l'AI Act pour des raisons de compétitivité, tandis que les États-Unis traitent les réglementations technologiques européennes comme un enjeu commercial.