// CLUBIC — INTELLIGENZA ARTIFICIALE
Le CNRS alerte sur l'IA générative, qui menace de faire s'effondrer les publications scientifiques mondiales
Confronté à l'explosion d'études scientifiques dopées à l'intelligence artificielle et aux rétractations en série, le CNRS tire la sonnette d'alarme. L'organisme français riposte pour préserver l'intégrité de la recherche et freiner une dérive éditoriale devenue incontrôlable.
C'est une véritable crise qui secoue actuellement le monde de la recherche et fragilise l'intégrité des publications scientifiques mondiales. Vous pensiez que l’intelligence artificielle générative ne servait qu'à pondre des résumés ou à générer de jolies images ? Dans les laboratoires, certains s'en servent désormais pour fabriquer des articles de toutes pièces, alimentant une machine éditoriale folle où le modèle auteur-payeur pousse à publier n'importe quoi au prix fort, un phénomène puisque l'IA laisse sa trace sur une part croissante des contenus publiés en ligne. Pour éviter que ce déluge de faux contenus n'empoisonne durablement le savoir mondial, le CNRS contre-attaque en déployant des outils de détection inédits et en réformant radicalement l'évaluation de ses scientifiques.
L’affaire avait sidéré la communauté scientifique il y a deux ans. Une revue réputée sérieuse avait publié sans sourciller une étude illustrée par un rat au pénis démesuré et aux organes fantaisistes, entièrement généré par une IA, Midjourney, qui avait le vent en poupe. Si le résultat prête à sourire, il révèle une faille inquiétante du comité de relecture, censé vérifier chaque détail avant publication. Pour débusquer ces faux travaux, des « détecteurs » de fraudes traquent désormais les bavures les plus flagrantes, comme ces fragments de requêtes (« En tant qu’IA ») copiés-collés par inadvertance par des auteurs négligents. Plus grave encore, d'autres chercheurs ont carrément dissimulé des instructions destinées à manipuler l'évaluation par les pairs, une pratique découverte sur la plateforme Arxiv et qui implique des universitaires de 14 établissements prestigieux. Pour le CNRS, le scandale ne réside d'ailleurs pas dans l’usage de ces technologies, mais dans leur dissimulation. Cacher l'intervention d'une machine constitue un manquement éthique majeur, l'humain restant le seul et unique responsable de ses résultats.
Si ces dérapages passent entre les mailles du filet, ce n'est pas un hasard. Ils sont le symptôme d'un système qui a tout intérêt à fermer les yeux. Ce système a un nom, le modèle dit « auteur-payeur ».
Contrairement au schéma classique où les lecteurs payaient un abonnement pour lire une revue, ce sont aujourd'hui les laboratoires qui financent eux-mêmes la parution de leurs recherches via des frais de publication (les APC, pour Article Processing Charges). L'effet d'incitation est redoutable, car plus une maison d'édition accepte d'articles, plus elle engrange de bénéfices. Certaines revues baissent donc la garde et allègent le contrôle par les pairs pour faire du volume, ce qui ouvre grand la porte aux textes vite rédigés, voire entièrement inventés par l'IA. Et cette dérive pèse lourdement sur la recherche publique : la France y a consacré près de 30 millions d’euros en 2020 (dont plus de trois millions pour le seul CNRS). Sans sursaut, cette ponction atteindrait 50 millions d'euros par an d'ici 2030, et pourrait s'envoler jusqu'à 200 millions d'euros si l'ensemble des revues adoptait cette logique mercantile.
Au-delà de la facture, c'est la fiabilité même de la recherche qui est menacée par un dangereux effet domino. La science avance en effet de manière cumulative, comme un mur où chaque découverte est une brique posée sur les précédentes. Si une brique s'avère fausse, tout l'édifice vacille. Or, sur les 4,5 millions d'articles parus dans le monde en 2023, environ 10 000 ont été officiellement rétractés pour fraude ou erreurs majeures. Des scientifiques de bonne foi continuent d'utiliser ces résultats truqués pour nourrir leurs propres travaux, à tel point que près de 640 000 publications citent aujourd'hui au moins une étude discréditée. Pour stop