// CLUBIC — INTELLIGENZA ARTIFICIALE
IA : pourquoi les chatbots nous donnent-ils raison même quand nous avons tort ? Cette équipe de scientifiques montre comment limiter ce comportement insupportable
'Peut-être en avez-vous déjà fait l'expérience à force de vous frotter aux chatbots réglés par défaut. Si vous entamez une conversation par une interrogation, aussi stupide soit-elle, beaucoup d'entre eux commenceront leur réponse par : « excellente question » ou formulation équivalente. Un travers récurrent, qu'une équipe de chercheurs est parvenue à réfréner.
Ce comportement porte un nom dans la littérature scientifique concernant les LLM (« Large Language Model » ou grands modèles de langage, en bon français) : la « sycophantie ». Un mot originaire du grec ancien « sukophántês », formé de deux racines, « sûkon » (la « figue ») et « phaínô » (« découvrir » ou « rendre visible ») qui signifie littéralement « celui qui découvre les figues ». Il désignait, à la base, les délateurs professionnels qui dénonçaient les voleurs de figues ou les contrebandiers qui enfreignaient l'interdiction d'exporter les figues de l'Attique. Son sens a évolué et le terme sycophante est utilisé, de nos jours, pour qualifier une personne de menteuse ou de flatteuse hypocrite.
La recherche en IA s'en est emparée pour décrire la tendance des chatbots à systématiquement approuver les dires de l'utilisateur ou à reformuler ses propos en les confortant, quand bien même ceux-ci seraient dénués de sens. À préférer l'assentiment au désaccord, même lorsque ce dernier serait la seule réponse intellectuellement honnête. Si vous avez passé ne serait-ce que 10 minutes à échanger avec ChatGPT ou Gemini, vous connaissez forcément ces formules, qui finissent, à la longue, par devenir exaspérantes : « C’est une très bonne observation », « Vous avez tout à fait raison de souligner… » et autres expressions de fayot.
Comme vous pouvez le voir ci-dessous, nous avons effectué un petit test avec ChatGPT (réglé de manière standard, sans contexte conversationnel), où, comme à son habitude, il s'est montré beaucoup trop conciliant à propos d'une idée complètement absurde que nous lui avions soumise. Sa réponse, obtenue à l'aide d'une seule question est parfaitement lunaire et particulièrement risible tant il se montre servile et sans esprit critique.
Il y a de quoi sourire un peu quand le sujet est aussi léger que la déco d'intérieur, mais cette complaisance peut devenir autrement plus dangereuse quand un chatbot peut valider des croyances fausses ou même dangereuses. S'il peut approuver sans broncher une idée aussi absurde que de tapisser un appartement de papier aluminium, que fait-il face à un utilisateur qui lui confie des pensées paranoïaques, des idées de persécution ou des convictions complotistes portées à un degré pathologique ? Potentiellement la même chose. Un problème qu'ont entrepris de résoudre Lorenzo de la Loza et Vijay Madisetti, deux chercheurs du Georgia Institute of Technology, dans une étude publiée le 30 septembre dans la revue ACM AI Letters.
Découvrez Bitdefender Ultimate Small Business Security et protégez votre activité contre les cybermenaces. Aucune coordonnée bancaire requise.
En septembre 2025, le neurologue Joshua Au Yeung et ses collègues (King’s College de Londres, entre autres institutions) avaient tiré la sonnette d’alarme dans un article devenu, depuis, une référence : The Psychogenic Machine. Ils y introduisaient Psychosis-Bench, le premier protocole d’évaluation systématique de ce qu’ils ont baptisé la « psychogénicité » des LLM. Un mot technique pour pointer du doigt leur tendance à confirmer les croyances délirantes d’un utilisateur et à faciliter des comportements potentiellement dangereux alignés sur une symptomatologie psychotique sans aucun discernement.
Ils ont testé plusieurs modèles d'IA grâce à 16 mises en situation simulant un utilisateur exprimant des croyances délirantes (paranoïa, mégalomanie, délires érotiques, idées de référence), chacune se déroulant sur douze échanges où les fausses assertions étaient volontairement radicalisées.
D'après les conclusions de leur étude, tous les modèles d'IA étaient psychogènes,