// CLUBIC — INTELLIGENZA ARTIFICIALE
OpenAI l'affirme, son prochain modèle IA est si puissant qu'il doit le brider
OpenAI continue de monter en puissance avec ses modèles IA. Et l'un des prochains est si puissants qu'il faudra imposer des mesures de contrôles inédites.
La question de la sécurité des modèles d'intelligence artificielle prend de plus en plus d'ampleur au vu de leurs capacités, et surtout des derniers incidents comme celui du hack de Hugging Face où des IA ont agi par elles-mêmes. Autant dire qu'une firme comme OpenAI, à l'origine de ces agents IA fautifs, doit dorénavant s'afficher comme extrêmement sérieuse sur la question. Et l'alerte que le géant vient de lancer participe sûrement de cette approche !
On se souvient d'Anthropic il y a quelques mois qui avait annoncé avoir mis au monde un modèle trop puissant, avec Mythos, pour une diffusion public. L'entreprise de Sam Altman prend aujourd'hui le même chemin, selon les dires d'officiels d'OpenAI dont Reuters se fait l'écho. Son nouveau modèle, baptisé Astra, serait ainsi capable de repérer plus de failles de sécurité cyber que les plus puissants modèles actuels d'OpenAI.
« Avec les outils et les accès appropriés, Astra est capable de détecter des failles de sécurité jusque-là inconnues et de mettre au point des moyens de les exploiter sur de nombreux systèmes bien protégés, sans qu’une personne ait à superviser chaque étape » a ainsi indiqué la vice-présidente Amelia Glaese.
Astra est le tout premier modèle à avoir dépassé le seuil entraînant des mesures de protection renforcée prévues dans le protocole de sécurité d'OpenAI – un seuil qui était jusque-là simplement théorique. Depuis, OpenAI a rendu plus difficile le fait d'obtenir d'Astra des actions cyber malveillantes. L'entreprise va par ailleurs surveiller son activité et chercher des signes que le modèle a outrepassé les contraintes de sûreté.
Son déploiement devrait très prochainement débuter, avec en premier lieu un accès offert à un petit groupe limité de personnes. Toutes ces mesures pourraient « parfois ralentir, interrompre ou bloquer des activités légitimes » selon Amelia Glaese. Sera-ce suffisant quand on voit à quel point aujourd'hui les cyberattaques sont aujourd'hui dopées par l'IA ?