// CLUBIC — INTELLIGENZA ARTIFICIALE
Dans un texte enflammé la PDG de Trend AI assure pouvoir maitriser les dérives de l'IA
Dans une tribune au ton passionné, Eva Chen, PDG de Trend AI, affirme que les agents IA peuvent être sécurisés, gouvernés et stoppés en cas de dérapage.
Le texte, publié en fin de semaine dernière, tient en à peine 600 mots et, à vrai dire, sort un peu de nulle part. La dirigeante y défend une idée simple : on ne doit pas freiner l'IA, mais plutôt l'encadrer par des garde-fous, comme on l'a fait pour l'électricité en son temps.
Trend AI est la marque que l'éditeur d'antivirus Trend Micro réserve à ses clients professionnels. Eva Chen part de la "guerre des courants". Lorsqu'elle a débarqué dans nos vies, l'électricité était invisible et mortelle. Personne n'a pourtant décidé d'y renoncer. Des ingénieurs ont construit des centrales, des disjoncteurs, des normes. Ils n'ont pas éliminé le danger, ils l'ont rendu gérable. Pour la dirigeante, l'IA devrait suivre une logique assez similaire.
Diplômée de philosophie, la PDG cite Descartes et son "Je pense, donc je suis". Mais, qu'elle soit humaine ou artificielle, on ne maîtrisera sans doute jamais la façon dont une intelligence pense. On peut en revanche encadrer ce qu'elle a le droit de faire. Eva Chen estime ainsi qu'on ne devrait pas avoir besoin de contrôler le raisonnement d'un agent, il suffit de limiter ses actes. Elle termine sur une image, celle d'un pont à construire plutôt que d'un mur à ériger, avec un clin d'œil à une chanson.
Sur le plan pratique, elle énumère également une liste de mesures. Tester et mesurer un agent, c'est observer son comportement avant et pendant son utilisation. L'authentifier, c'est lui donner une identité vérifiable, comme un badge nominatif. Limiter ses permissions, c'est ne lui ouvrir que les accès utiles à sa tâche. L'isoler, c'est le faire tourner dans un espace clos pour contenir ses erreurs. Le surveiller, c'est garder une trace de ses actions. Elle ajoute la gouvernance et la responsabilité, soit la capacité à documenter qui a autorisé quoi. Et surtout, pouvoir l'arrêter dès qu'il dépasse une limite, grâce à des "stop gates" intégrés à l'agent lui-même.
Nous rapportions vendredi comment des agents IA pouvaient mener seuls une attaque complète contre une application mobile, du contournement des protections jusqu'à la fraude à grande échelle. Mais bon, il s'agit plus d'une posture que d'une feuille de route. Trend AI n'explique pas comment l'entreprise souhaite mettre en œuvre sa vision.
Notre avis sur Trend Micro Maximum Security est globalement positif, mais la petite déception que l’on a déjà pu constater demeure : avec une interface aussi réussie et une approche aussi minimaliste, on aimerait pouvoir recommander cette solution pour ceux qui n’ont pas envie de s’embarrasser d’un antivirus trop complexe, ou trop riche en fonctionnalités et en paramètres. Dans l’ensemble, on pourrait le faire. Néanmoins, les petites contre performances du moteur de détection semblent perdurer dans certains scénarios et il est donc difficile pour nous d’être aussi catégorique qu’on le souhaiterait.