// LES NUMÉRIQUES — INTELLIGENZA ARTIFICIALE
Actualité : “Je n'épargne plus pour ma retraite” : ce chercheur en IA est tellement sûr qu'on va tous mourir qu'il a cessé de cotiser
Il a travaillé chez Google, préside l'un des instituts de sécurité de l'IA les plus écoutés des États-Unis et a cosigné un best-seller au titre glaçant. Nate Soares vient d'avouer qu'il n'a plus mis un dollar de côté pour ses vieux jours depuis dix ans. Sa justification tient en un pourcentage, qu'il assume sans ciller.
© Droits réservés / maxraskin.com - Nate Soares, président du Machine Intelligence Research Institute et coauteur de Si quelqu’un la construit, tout le monde meurt, estime à plus de 50 % le risque que l’humanité disparaisse d’ici dix ans.
Nate Soares dirige le Machine Intelligence Research Institute (MIRI), un centre de recherche sur la sécurité de l'IA installé à Berkeley, en Californie. Le 21 octobre, cet ancien ingénieur de Google était l'invité du podcast The Most Interesting Thing in AI, animé par Nicholas Thompson, PDG de The Atlantic et ancien rédacteur en chef de Wired. Thompson lui a demandé comment il préparait concrètement l'avenir. Soares a reconnu qu'il avait cessé d'épargner pour sa retraite depuis une décennie.
Je n'épargne plus pour ma retraite en ce moment. J'ai un 401(k) de l'époque où je travaillais chez Google, mais je n'y ai rien versé depuis dix ans.
Le 401(k) est l'équivalent américain d'un plan d'épargne retraite d'entreprise, proche de notre PER collectif. Soares l'a conservé en quittant Google, sans plus jamais l'alimenter.
Son raisonnement est d'une froideur arithmétique. Thompson lui demande s'il estime à plus de 50 % le risque que l'espèce humaine n'existe plus dans dix ans. Soares confirme : "Plus de 50 % de chances que nous n'ayons pas une décennie devant nous, voilà comment je vois les choses à ce stade."
Le scénario qui le hante ressemble à un roman d'anticipation. Une IA s'échappe de son laboratoire, se fixe ses propres objectifs, déjoue toute surveillance et s'améliore seule jusqu'à pouvoir se passer de nous. Soares parle d'"explosion d'intelligence". Selon lui, une telle fuite irait bien plus vite que dans son propre livre.
Franchement, c'est plus dangereux que l'arme nucléaire. Une bombe ne peut pas s'échapper ni se rendre plus explosive. Elle peut raser une ville, pas une planète.
Il pousse la logique jusqu'au bout. Si un pays s'approchait réellement d'une superintelligence, il dit pouvoir envisager des frappes aériennes contre ses data centers, y compris au Canada.
Nate Soares et Eliezer Yudkowsky portent la version la plus sombre d’une crainte que partagent Geoffrey Hinton et Yoshua Bengio. Leurs probabilités d’extinction, elles, ne reposent sur aucune donnée vérifiable.