// CLUBIC — INTELLIGENZA ARTIFICIALE
Et si le monde se portait mieux sans IA ? Un pionnier de la discipline envisage ce scénario
Prix Nobel de physique pour ses travaux sur les réseaux de neurones, Geoffrey Hinton se demande si l’humanité n’aurait pas mieux fait de ne jamais développer l’intelligence artificielle. Et il annonce un « Tchernobyl » de l’IA pour cette année ou la suivante, sous la forme d’une panne géante de l’électricité ou des banques.
Vous ne le connaissez peut-être pas, alors on va vous le présenter. En 2023, Geoffrey Hinton a quitté Google pour parler librement des dangers de l’intelligence artificielle. Le chercheur britannique de 78 ans ne se dit pas « pessimiste » et croit l’IA capable de mener à un « avenir merveilleux ». Mais il reconnaît, dans un entretien au Guardian, qu’« il se pourrait que nous ayons mieux fait de ne jamais la développer ». D’ici dix ans, voire avant, l’humanité saura selon lui si elle maîtrise les risques de cette technologie ou si elle hérite d’un chômage massif et d’un fossé énorme entre riches et pauvres.
Comme l’explique Geoffrey Hinton, « soit plus tard cette année, soit l’année prochaine, nous verrons Tchernobyl, et cela pourrait suffire à faire prendre conscience aux gens de la gravité de la situation ». Le chercheur ne pense pas à un accident nucléaire, mais à une attaque menée par une IA contre le réseau électrique, avec une panne massive à la clé, ou à une paralysie du système financier pendant une semaine.
Souvenez-vous, cet été, on vous a raconté la saga Hugging Face, dont les serveurs ont été piratés par près de 700 agents d’OpenAI en plein test de cybersécurité. Depuis, OpenAI a décidé d’entraîner ses modèles sans accès à Internet, sur des pages web mises en cache. C’est cet épisode qui a fait réagir Geoffrey Hinton. En 1979, aux États-Unis, le cœur d’un réacteur de la centrale de Three Mile Island avait partiellement fondu, sans faire de victime. Sept ans plus tard, la centrale de Tchernobyl explosait en Ukraine. Pour Geoffrey Hinton, le piratage de Hugging Face est le Three Mile Island de l’IA, et son Tchernobyl arrivera bientôt.
« Vous imaginez ce qui se passerait ? On pourrait s’en remettre, mais ça les ferait réagir ». Les gens qu’il espère réveiller sont « les dirigeants mondiaux autres que Trump ». Le président américain rejette « catégoriquement toute tentative de mise en place d’un système mondialiste » d’encadrement de l’IA. Il préfère laisser les entreprises du secteur s’autoréguler, de peur que des règles freinent les États-Unis dans leur course contre la Chine.
Le chercheur ne fait « pas du tout » confiance à Sam Altman, le patron d’OpenAI, et il trouve « extrêmement préoccupant » de le voir à la tête de l’une des rares entreprises américaines de pointe en IA. « Je pense que Zuckerberg, Musk et Altman sont conscients des risques, mais ils s’en fichent royalement. Ce qui les intéresse, c’est l’argent », tranche-t-il.
Pour encadrer ces entreprises, Geoffrey Hinton défend un système inspiré de la FDA, l’agence américaine du médicament. Avant de sortir un modèle, l’entreprise devrait prouver à une autorité indépendante, statistiques solides à l’appui, qu’il fait plus de bien que de mal. Dans les années 1950, des milliers d’enfants sont nés avec de graves malformations après la prise de thalidomide par leur mère pendant la grossesse. Les familles ont ensuite dû passer par les tribunaux. Selon Hinton, les géants de la tech proposent de régler les dégâts de l’IA de cette manière, une fois les modèles sur le marché.
Il soutient le plan approuvé par la Finlande et 32 autres pays, dont l’Allemagne, le Canada, l’Australie et Singapour. Avec ce texte, les modèles d’IA de pointe passeraient des tests obligatoires, sous le contrôle d’évaluateurs indépendants et selon des normes communes à tous les gouvernements signataires. Au Royaume-Uni, le Premier ministre Andy Burnham compte profiter de la présidence britannique du G20, l’an prochain, pour obtenir un accord sur des règles mondiales.
Malgré ses mises en garde, Geoffrey Hinton garde espoir. « J’ai le sentiment que nous avons encore la s