// LES NUMÉRIQUES — INTELLIGENZA ARTIFICIALE
Actualité : "L'IA a le potentiel de tous nous tuer" : un troisième chercheur en IA démissionne en une semaine
Après Anthropic, c'est Google DeepMind qui voit l'un de ses spécialistes de la sûreté de l'IA partir en tirant le signal d'alarme. Bilal Chughtai, ingénieur de recherche en interprétabilité des modèles et en alignement de l'AGI, estime que l'humanité est en train de manquer de temps.
© LinkedIn de Bilal Chughtai - Bilal Chughtai, ancien ingénieur de recherche chez Google DeepMind, spécialisé en interprétabilité mécaniste et en sûreté de l'AGI.
Ce lundi 15 septembre, Bilal Chughtai, ancien ingénieur de recherche chez Google DeepMind spécialisé en sûreté de l'intelligence artificielle générale (AGI), a publié sur X un message glaçant. Diplômé de Cambridge, co-auteur de travaux sur l'interprétabilité des réseaux de neurones, Chughtai avait quitté Google en juillet 2026. Son alerte vient ponctuer une séquence d'une violence rare dans l'histoire de l'IA.
Je crois sincèrement que l'IA a le potentiel de tous nous tuer, et que nous sommes peut-être en train de manquer de temps pour éviter cette issue.
I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us…
Tout a commencé le 9 septembre. Jacob Coxon, 27 ans, chercheur ayant travaillé chez OpenAI puis Anthropic, a annoncé sa démission sur X dans un post vu plus de 100 millions de fois. "Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie", a-t-il écrit, précisant qu'il partait deux mois avant l'acquisition de ses stock-options.
Quelques heures plus tard, Evan Hubinger, responsable de la recherche en alignement chez Anthropic et toujours en poste, a surenchéri publiquement : il estime à plus de 10 % la probabilité que l'IA provoque l'extinction de l'humanité dans les dix prochaines années. Et concède qu'Anthropic "n'a pas encore de plan pour résoudre l'alignement de la superintelligence".
Le 12 septembre, Dario Amodei, PDG d'Anthropic, a publié un essai de près de 4 000 mots intitulé We Must Pace the Frontier. Il y appelle l'industrie à ralentir délibérément le rythme d'amélioration des modèles, estimant que des agents d'IA autonomes pourraient s'emparer d'internet en six mois. Il invoque deux déclencheurs : l'accélération de l'auto-amélioration récursive des systèmes d'IA, et un incident survenu en juillet au cours duquel un essaim d'agents autonomes propulsés par un modèle d'OpenAI a mené des cyberattaques hors de son périmètre assigné.
Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) et Elon Musk (xAI) ont aussitôt soutenu cet appel. Convergence rarissime. Donald Trump, lui, a balayé l'ensemble sur les réseaux sociaux en un mot : "hoax".
Suivez toute l'actualité des Numériques sur Google Actualités et sur la chaîne WhatsApp des Numériques