// FUTURA SCIENCES — SPAZIO & SCIENZA
« 10 % n’est pas déraisonnable » : Geoffrey Hinton, père de l’IA, alerte sur un risque d’extinction et laisse sans voix son interlocutrice
Destruction du travail, de l’économie, de l’esprit et guerres d’une violence excessive… L’un des parrains de l’IA accuse les géants de la tech d’inconscience par appât du gain et dresse un tableau noir d'une humanité dépassée par des IA devenues incontrôlables.... Lire la suite
Les compagnons virtuels, disponibles, flatteurs et sans contradiction, séduisent une jeunesse en quête d’affection. Mais derrière la promesse d’un amour sans conflit se profilent dépendance, intolérance au rejet et fragilité émotionnelle, dans un marché en pleine explosion. Ces relations numériques interrogent : et si l’IA, en comblant nos solitudes, nous éloignait un peu plus de l’humain, bien que prétendant nous en rapprocher ?... Lire la suite
L’idée d’une intelligence artificielle capable de dépasser l’humain alimente depuis plusieurs années les scénarios les plus inquiétants. Mais pour certains des chercheurs qui ont contribué à son développement, le risque ne relève plus seulement de la science-fiction. Car si une IA voulait réellement nous détruire, elle n’aurait peut-être même pas besoin de robots ou d’armes : il lui suffirait de nous parler.
Les pronostics sur l'avenir avec l'intelligence artificielle sont souvent assez sombres. Beaucoup prédisent qu'elle va finir par détruire le travail, modifiant en profondeur la société. Derrière, certains dessinent un avenir où les riches vont découper le monde en fiefs, et le reste de l'humanité vivra dans la pauvreté. Toutefois, même cette vision dystopique a un certain optimisme : l'humanité survivra.
Car le risque que l'intelligence artificielle tue tous les humains serait bien plus élevé que l'on pense. Dans une interview avec BBC Newsnight, Geoffrey Hinton, l'un des pères fondateurs de l'IA, estime à 10 % le risque que l'IA anéantisse l'humanité dans les 10 prochaines années. L'homme, qui a reçu le prix Turing en 2018 aux côtés de Yann LeCun et Yoshua Bengio, et le prix Nobel en 2024, tire la sonnette d'alarme depuis plusieurs années déjà.
Il a souligné qu'il était impossible d'évaluer le risque étant donné que l'humanité n'a encore jamais construit des êtres qui pourraient devenir plus intelligents que nous. Toutefois, il estime que le chiffre de 10 % n'est pas déraisonnable. Et pour lui, l'IA n'aurait même pas besoin d'une présence physique. Elle pourrait devenir assez intelligente pour nous anéantir sans faire appel à des robots pour nous attaquer de front.
Destruction du travail, de l’économie, de l’esprit et guerres d’une violence excessive… L’un des parrains de l’IA accuse les géants de la tech d’inconscience par appât du gain et dresse un tableau noir d'une humanité dépassée par des IA devenues incontrôlables.... Lire la suite
Et il n'est pas le seul à le penser. Jacob Coxon, chercheur en intelligence artificielle, a annoncé sa démission d'Anthropic cette semaine, en déclarant sur X (ex-Twitter) que « les gens qui développent l'IA croient honnêtement qu'elle pourrait nous tuer d'ici la fin de la décennie ». Son collègue Evan Hubinger, toujours chez Anthropic, estime lui aussi à plus de 10 % le risque que cela arrive.
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible - but I hear the same people express fear…
L'IA pourrait concevoir des virus biologiques avec un effet dévastateur, ou des virus informatiques pour paralyser nos infrastructures, comme l'eau, l'électricité et les communications. Toutefois, Geoffrey Hinton souligne aussi qu'il lui suffirait de nous parler. L'humanité n'a pas attendu l'intelligence artificielle pour manipuler les populations avec les mots. La propagande peut être très efficace, et aujourd'hui il devient difficile d'échapper aux chatbots. Désormais, une simple recherche Google affiche une réponse de Gemini au-dessus des résultats. Même en sachant que l'IA a tendance à halluciner,