// FUTURA SCIENCES — SPAZIO & SCIENZA
Les carnets de Jean-Claude Heudin : les IA vont-elles nous dépasser en s’améliorant elles-mêmes ?
Revenons sur ce sujet qui a fait la une de nombreux médias cette semaine, suite à un article de la revue Science. Tout a commencé avec la publication par Anthropic d’un long texte annonçant que les intelligences artificielles seraient peut-être prochainement capables de s’améliorer elles-mêmes.
A priori non. Les mots clés dans mon introduction sont un vague « peut-être prochainement ». Le long article d'Anthropic est une discussion sur la possibilité, ou pas, d'obtenir une IA suffisamment autonome pour s'améliorer elle-même au moyen de cycles récursifs de développement. Dans les faits, cette idée est aussi ancienne que la discipline. La première mention proviendrait d'une discussion entre John von Neumann (1930-1957) et Stanislaw Ulam (1909-1984) alors qu'ils collaboraient à Los Alamos lors du projet Manhattan. Elle fut reprise ensuite en 1965 par Irving Good (1916- 2009) qui décrivit ce qui allait devenir le concept de « singularité technologique », avec entre autres Vernor Vinge en 1993, Hans Moravec en 1998, et surtout Ray Kurzweil en 2005.
Dans l'article, il n'est aucunement fait mention de l'émergence possible d'une super-intelligence par une amélioration exponentielle due à ce mode d'auto-développement et qui échapperait à notre contrôle. Bien au contraire.
Le premier scénario, selon Anthropic, est le plus improbable, car les récents progrès de Claude en matière de production de code semblent montrer le contraire. Le troisième scénario, selon moi, ne semble pas impossible, mais reste assez peu probable. En effet, cela signifierait que l'on a résolu plusieurs problèmes difficiles :
En conclusion, le second scénario est certainement le plus souhaitable dans l'état actuel de nos connaissances : l'humain et l'IA collaborent étroitement pour développer les successeurs des IA actuelles.