// CLUBIC — INTELLIGENZA ARTIFICIALE
ChatGPT, Gemini et Claude peuvent se mélanger les pinceaux à force de tout mémoriser
Les chatbots ChatGPT, Gemini et Claude retiennent de plus en plus d’informations sur leurs utilisateurs. Cette mémoire, censée personnaliser les réponses, finit par les brouiller, à mesure que des souvenirs périmés ou contradictoires s’accumulent.
Andrew Grush, journaliste chez notre confrère américain Android Authority, a testé, il y a plusieurs années, une simulation boursière fictive avec ChatGPT, uniquement pour voir comment l’outil réagirait. Le chatbot a continué de citer cette simulation comme une donnée réelle six mois plus tard, dans des conversations sans rapport avec la bourse.
Ce type d’incident est monnaie courante. Plus un assistant conversationnel accumule d’instructions et de faits sur son utilisateur, plus ces informations risquent de s’entremêler, de se diluer ou d’être tout simplement ignorées par le modèle. La mémoire, pensée à l’origine pour éviter de répéter le même contexte à chaque conversation, produit alors des réponses incohérentes.
En d’autres termes, les chatbots comme ChatGPT, Claude ou Gemini ont la mémoire qui flanche, ils ne se souviennent plus très bien.
Les instructions anciennes sont encore actives même quand la situation de l’utilisateur change, selon Android Authority. Un changement de croyances religieuses peut laisser cohabiter, dans la mémoire du chatbot, un ancien point de vue et le nouveau, et produire des réponses désarticulées lors d’une discussion spirituelle ultérieure. Le nom d’un pays fictif inventé pour un projet d’écriture peut, de la même façon, resurgir des mois plus tard dans un projet sans rapport.
Ce phénomène ressemble à celui que les chercheurs en intelligence artificielle appellent la « pourriture de contexte », que le journaliste spécialisé Timothy B. Lee a expliquée.
L'’an dernier, Anthropic a reconnu, dans une note de recherche, que le contexte doit être traité comme une ressource limitée, aux bénéfices décroissants à mesure qu’elle grossit. Une équipe de chercheurs d’Adobe a mesuré l’ampleur de cette dégradation à mesure qu’un contexte s’allonge. Le taux de bonnes réponses de GPT-4o tombe de 99 % à 70 %, celui de Claude 3.5 Sonnet de 88 % à 30 %, et celui de Gemini 2.5 Flash de 94 % à 48 %.
Une faille plus grave a été détectée en juillet dernier par des chercheurs en sécurité, dont le premier auteur, Yechao Zhang, a publié les travaux sur la plateforme scientifique arXiv. Il suffit d'un simple e-mail, envoyé à un agent conversationnel configuré pour lire sa messagerie, pour lui faire enregistrer un faux souvenir dans sa mémoire persistante. La réponse visible par l'utilisateur ne signale pas cette modification. OpenClaw, l’agent principalement visé par cette démonstration, a contesté la configuration du test. L’entreprise affirme que sa documentation recommande d’isoler les messages non fiables via un lecteur séparé, dépourvu d’outils de mémoire.
OpenAI a doté ChatGPT, en octobre dernier d’un mécanisme de tri automatique. Les informations les moins consultées et les plus anciennes sont supprimées en priorité lorsque la mémoire atteint sa limite. Les abonnés Plus et Pro peuvent aussi marquer certains souvenirs comme importants pour empêcher leur suppression, et cette fonction est réservée à ces deux formules payantes.
Anthropic a élargi au même moment l’accès à la mémoire de Claude aux abonnés Pro et Max, jusque-là limitée aux formules Team et Enterprise. Chaque projet dispose d'un espace de mémoire qui lui est propre et l’utilisateur peut consulter ou modifier les informations que Claude retient, ou activer une conversation incognito, non enregistrée.