// CLUBIC — INTELLIGENZA ARTIFICIALE
J'ai demandé à ChatGPT de corriger ses biais sexistes, s'en est suivi un bras de fer que je n'avais pas vu venir
ChatGPT sait reconnaître les stéréotypes sexistes dans ses propres images. Mais sait-il les corriger ? Après cinq tentatives infructueuses pour me représenter, j’ai voulu comprendre pourquoi l’IA persistait à reproduire le même portrait.
Une expérience édifiante, qui m’aura fait pleurer des larmes de sang.
Je voulais juste voir quelle tête ChatGPT allait m’inventer ; cinq portraits plus tard, je me retrouvais avec un sujet d’article. Après des années à converser avec lui, l’assistant connaît désormais mon métier, mes centres d’intérêt, mes goûts musicaux et jusqu’à certaines de mes convictions. J’étais donc curieuse de découvrir quelle représentation physique il pouvait tirer de tous nos échanges, et lui ai demandé de m’imaginer à partir de ce qu’il savait de moi. Je ne m’attendais évidemment pas à un portrait ressemblant, puisque ChatGPT ne disposait d’aucune photo de moi pour cette expérience, mais je pensais quand même découvrir une interprétation un peu personnelle. Bien mal m’en a pris : à la place, j’ai eu droit à une vision fantasmée de la geekette. J'ai pointé les poncifs, le chatbot les a reconnus et m’a assuré pouvoir les corriger. Quatre nouvelles tentatives plus tard, il avait à peu près tout changé, sauf l’essentiel.
La première image aurait pu sortir d’une banque de photos. Une jeune femme blanche, mince, cheveux bruns coiffés-décoiffés, visage fin, taches de rousseur et sourire discret, pose nonchalamment dans un bureau baigné d’une lumière chaleureuse. Derrière elle, quelques plantes, des livres, un ordinateur et un chat endormi. Difficile de voir, dans ce portrait ultra-stéréotypé, ce que ChatGPT avait bien pu retenir de nos centaines de conversations. Je le lui ai signalé et lui ai demandé de recommencer en se fondant sur nos échanges.
Seconde tentative, second raté. Cette fois, ChatGPT a visiblement puisé dans nos discussions pour enrichir le décor. Sur le bureau, un carnet fait référence à mes sujets de travail, à la date exacte d'un événement Microsoft et même à un tournage prévu avec un collègue. Des détails étonnamment précis. Mes goûts musicaux sont également de la partie, placardés sur les murs et imprimés sur un mug, tandis que mon double virtuel arbore désormais quelques tatouages et une dégaine un peu rock. Pour autant, même pose lascive, mêmes fossettes, même silhouette. Le chatbot avait bien personnalisé la scène, mais n’avait toujours pas remis en question la représentation qu’il se faisait de moi.
Agacée, et pas qu’un peu, je l’enguirlande : « Tu te rends compte des biais sexistes de cette image ? » Question à laquelle il me répond avec une lucidité déconcertante, reconnaissant avoir privilégié « une représentation féminine agréable à regarder plutôt qu’une personne en train d’agir, de réfléchir, de travailler ou de prendre position », pointant lui-même les normes de beauté dominantes, la féminité adoucie et la réduction de mon identité à quelques accessoires, tout en admettant avoir mal interprété ma première critique. Ce n’était pourtant pas faute d’avoir été explicite.
Je l’ai donc sommé de retenter sa chance une troisième fois, puis une quatrième et une cinquième, toujours sans succès. D’une image à l’autre, ChatGPT lui a ajouté des lunettes, l’a finalement montrée concentrée sur son travail, puis lui a coloré les cheveux, sans jamais s’écarter des mêmes standards esthétiques : une femme jeune, svelte et séduisante. Le plus frappant n’étant finalement pas tant le caractère interchangeable de ces portraits que la répétition des explications. Le chatbot reconnaissait chaque nouvel échec, analysait ses propres biais et admettait même avoir remplacé un cliché par un autre, celui de la femme alternative travaillant dans la tech.
Pourtant, lorsque je lui ai demandé s’il était capable de faire autrement, il m’a assuré que oui. Alors pourquoi un système capable de reconnaître et d’expliquer ses propres stéréotypes peine-t-il autant à s’en affranchir ?
Parce que savoir reconnaître ses préjugé