// CLUBIC — INTELLIGENZA ARTIFICIALE
Le "parrain de l'IA" veut que les nouveaux modèles IA soient soumis aux mêmes autorisations que les médicaments
Une voix importante s'élève aujourd'hui pour pousser à la régulation des modèles IA avancés. Une régulation qui serait calquée sur celle des nouveaux médicaments.
Les modèles d'intelligence artificielle les plus avancés sont aujourd'hui si puissants qu'ils peuvent être franchement dangeureux pour la société. Résultat, de plus en plus de voix, jusqu'à des spécialistes du secteur comme Dario Amodei (PDG d'Anthropic) soutiennent un ralentissement du développement de l'IA. Mais d'autres voix proposent un type de régulation beaucoup plus contraignant.
Le prix Nobel de physique 2024, Geofrrey Hinton, souvent surnommé « le Parrain de l'IA », récidive. L'homme est connu pour être inquiet quant à la question de la sûreté de l'IA, ce dont il avait déjà parlé à l'époque pour critiquer Sam Altman.
Il est revenu sur le sujet dans un podcast en ce début de semaine, et a mis en parallèle le développement de nouveaux modèles IA à celui de nouveaux médicaments. « On ne peut pas simplement mettre au point un nouveau médicament et le commercialiser » a-t-il ainsi avancé, ce qui devrait aussi être le cas pour les IA à son sens.
« Il faut convaincre la FDA [agence américaine qui approuve la commercialisation de nouveaux médicaments]. Et pour cela, il faut fournir un travail considérable, d'un montant d'environ un milliard de dollars » rappelle-t-il. En faire de même avec les nouveaux modèles IA serait, pour lui, « le minimum ».
Plus généralement Geoffrey Hinton, comme d'autres, pointe du doigt le fait que « nous commençons à assister à un processus d'auto-amélioration récursif, car l'IA est utilisée pour améliorer l'IA elle-même de nombreuses façons différentes. » Et cette nouvelle façon d'entraîner l'IA lui permet de s'améliorer beaucoup plus rapidement qu'avant. Résultat, le prix Nobel estime « qu'il nous reste un an ou deux avant que la situation ne devienne bien pire qu'elle ne l'est actuellement. » Ambiance.