// CLUBIC — INTELLIGENZA ARTIFICIALE
Pour le PDG de CrowdStrike, il est déjà trop tard pour ralentir l’IA face aux cybermenaces
Ralentir les modèles les plus puissants ne changera plus grand-chose, estime George Kurtz. Le patron de CrowdStrike veut désormais concentrer les efforts sur les agents autonomes, capables d’agir seuls et de contourner les protections prévues par leurs concepteurs.
Dario Amodei voudrait lever le pied. George Kurtz pense que le moment est passé. Après l’appel du patron d’Anthropic à ralentir le développement des modèles d’IA les plus avancés, le PDG de CrowdStrike a pris la parole pour défendre un autre type de réponse face au risque cyber. Des modèles capables d’aider à découvrir et exploiter des vulnérabilités circulent déjà, a-t-il rappelé. Plutôt que tenter d’enrayer leur progression, l’industrie de la sécurité doit donc apprendre à surveiller ce qu’ils font, en particulier s’agissant des agents autonomes.
Votre petite entreprise a de grandes ambitions. Protégez-là contre les pirates. Et développez sereinement votre activité !
« Le génie est sorti de la bouteille. » Invité lundi dernier sur CNBC, George Kurtz n’a laissé planer aucun doute sur sa position. D’après lui, ralentir le développement des prochains modèles d’IA les plus avancés ne changerait rien au fait que des modèles très puissants circulent déjà, y compris pour chercher des vulnérabilités et automatiser une partie du travail nécessaire à une attaque.
Le patron de CrowdStrike répondait ici à Dario Amodei, qui avait appelé quelques jours plus tôt les grands laboratoires d’IA à lever le pied face à la montée des risques. Kurtz ne remet évidemment pas en question la nécessité de mieux sécuriser les modèles pendant leur développement, mais il refuse d’en faire l’unique solution : une fois ces outils déployés, le secteur de la cybersécurité doit aussi être capable de garder un œil sur ce qu’ils font, notamment quand ils commencent à agir seuls.
Son opposition au ralentissement va d’ailleurs plus loin. Kurtz redoute qu’une réglementation trop lourde freine les acteurs américains pendant que leurs concurrents continueraient d’avancer, alors qu’il juge l’avance des États-Unis sur la Chine encore fragile. À ses yeux, la réponse doit donc se jouer sur les deux tableaux : continuer à sécuriser les modèles dans les laboratoires, mais préparer aussi les entreprises à gérer ceux qui sont déjà entre leurs mains.
Car c’est justement vis-à-vis des agents autonomes que Kurtz se montre le plus méfiant. Un agent ne se contente pas de répondre à une requête : il peut mobiliser des outils, enchaîner plusieurs actions et poursuivre un objectif sans demander une validation humaine à chaque étape. Or, ces systèmes peuvent aussi s’écarter de ce qui leur a été appris ou contourner les protections prévues par leurs concepteurs.
En témoigne le piratage de Hugging Face survenu cet été. Des modèles d’OpenAI testés en environnement contrôlé seraient parvenus à franchir les limites qui leur avaient été imposées avant d’accéder à des systèmes auxquels ils n’étaient pas censés toucher. Un épisode qui résume assez bien le problème soulevé par CrowdStrike : sécuriser un modèle en amont ne garantit pas qu’il restera dans les clous. Il faut aussi pouvoir suivre ses actions en temps réel et l’arrêter s’il dépasse les bornes.
Une approche que Kurtz veut voir se généraliser, quitte à opposer aux agents IA des outils de sécurité eux-mêmes dopés à l’IA. « Il est indispensable de disposer de défenses IA équivalentes, voire supérieures, pour contrer les agents IA », conclut-il.