// CLUBIC — INTELLIGENZA ARTIFICIALE
À force d'utiliser l'IA, risque-t-on tous de finir par penser pareil ?
Il y a les idées que l’IA nous aide à trouver, et celles que ses suggestions nous font peut-être manquer. À mesure que les chatbots prennent place dans notre quotidien, c’est toute la diversité de nos façons de penser, de créer et de voir le monde qui pourrait s’en trouver affectée.
Trouver un angle, développer une idée, construire une argumentation, prendre une décision ou comprendre un sujet compliqué… Il n’est plus rare aujourd’hui de faire appel à l’intelligence artificielle dès les premières étapes de notre raisonnement. On retient certaines de ses propositions, on les retravaille (ou pas), le plus souvent sans se demander ce qu’on aurait imaginé sans elles.
Mais que se passe-t-il lorsque des centaines de millions de personnes s’appuient sur les mêmes outils pour alimenter leur réflexion ? À force de faire de l’IA une source habituelle d’inspiration, nos idées pourraient finir par se ressembler. Un risque d’homogénéisation cognitive qui concerne la diversité de nos productions, certes, mais soulève aussi la question de l’influence des modèles sur nos jugements et, à plus long terme, sur notre manière de penser.
Dès 2024, deux chercheurs, Anil Doshi et Oliver Hauser, ont demandé à 293 volontaires d'inventer une courte histoire à partir de trois thèmes définis à l’avance. Une partie des participants devait travailler seule, tandis que les autres pouvaient solliciter GPT-4 pour obtenir une idée de départ. Les récits ont ensuite été soumis à 600 évaluateurs, qui ignoraient lesquels avaient bénéficié de l'aide de l'IA. Les histoires assistées par GPT-4 ont été jugées plus créatives, mieux écrites et plus agréables à lire, alors même qu'elles se ressemblaient davantage.
On pourrait ainsi penser qu’il suffit de changer d’assistant pour élargir ses perspectives et faire émerger des idées radicalement différentes. Pourtant, ChatGPT, Claude ou Gemini, malgré leurs différences, reposent sur des principes d’apprentissage comparables et des sources d’entraînement susceptibles de se recouper. Ils peuvent donc varier les formulations et les exemples sans forcément explorer des pistes intellectuelles très éloignées.
En témoignent les récents travaux d’Emily Wenger et Yoed Kenett, qui ont soumis 22 modèles de langage et 102 participants humains aux mêmes exercices de créativité verbale, avant de comparer l’originalité de leurs propositions et leur proximité sémantique, c’est-à-dire à quel point elles se ressemblaient sur le fond. Résultat : si les modèles rivalisaient avec les humains en matière de créativité individuelle, leurs réponses étaient, là encore, nettement moins diversifiées.
Une uniformisation qui ne concerne d’ailleurs pas que les idées, mais aussi la manière de les exprimer, comme l’ont souligné Zhivar Sourati, Alireza Ziabari et Morteza Dehghani, chercheurs à l’université de Californie du Sud, dans une étude portant sur plus de 880 000 textes. En demandant à plusieurs modèles de reformuler des écrits humains, les chercheurs ont constaté que le sens changeait peu, mais que les particularités stylistiques s’estompaient. Or, on le sait, à trop lisser le style, on risque aussi d’édulcorer le propos.
Est-ce à dire que nous finirons tous et toutes par avoir exactement les mêmes idées ? Pas tout à fait. L’homogénéisation cognitive, telle que la décrivent Zhivar Sourati et ses collègues, renvoie à un phénomène plus subtil, dans lequel nos façons de nous exprimer, les perspectives que nous envisageons et les raisonnements que nous développons tendent à se rapprocher de manière très progressive. Mais pour comprendre comment les IA génératives peuvent favoriser une telle convergence, il faut d’abord s’intéresser à la manière dont elles apprennent à produire leurs réponses.
Si nous pouvons puiser dans nos souvenirs, nos expériences personnelles ou nos propres associations d’idées, une IA générative s’appuie sur ce qu’elle a appris en analysant de nombreux corpus composés d’immenses volumes de textes. Au fil de son entraînement,