// CLUBIC — INTELLIGENZA ARTIFICIALE
Une IA présentée comme une femme reçoit 10 % d’argent en moins pour le même travail
Johan a épaulé 93 salariés, Johanna 96 autres, sur des exercices de bureau menés en réalité virtuelle et avec un modèle de langage identique. Au moment de partager une enveloppe de 4 francs suisses avec leur assistant, les participants ont cédé en moyenne 42 centimes de moins à l’avatar féminin.
On ne croyait pas si bien dire, en mars dernier, lorsqu’on vous disait que ça n’était pas facile d’être une femme dans la tech.
Des chercheurs des universités de Zurich et de Limerick et de la SKEMA Business School ont conçu cette expérience, présentée à la conférence NordiCHI, en Finlande, entre le 3 et le 7 octobre. Casque Meta Quest 3 sur la tête, chaque participant a pris place dans le bureau virtuel d’une entreprise fictive pour imaginer des solutions de management avec plusieurs assistants à tour de rôle. Tous ont travaillé avec un chatbot textuel et un petit robot de bureau, puis la moitié avec Johan et l’autre moitié avec Johanna. Après chaque exercice, ils pouvaient céder jusqu’à 4 francs à l’assistant, et chaque franc cédé était retiré de leur gain. Lors des entretiens menés ensuite, la plupart des participants questionnés ont assuré que le genre d’un assistant ne comptait pas pour eux. Les chercheurs se gardent toutefois de réduire l’écart de 42 centimes à un simple préjugé sexiste.
Les participants ont accordé en moyenne 2,76 francs par exercice à Johan et Johanna, contre 1,98 franc au robot de bureau. Ils ont aussi accordé davantage de confiance aux deux avatars humains, alors que les chercheurs avaient branché tous les assistants sur le modèle gpt-4-1106-preview d’OpenAI. « Avec Johanna, j’ai davantage fait confiance à la réponse, et j’ai aussi eu le sentiment qu’elle comprenait mieux ma question », a raconté l’une des personnes interrogées.
Entre Johan et Johanna, les participants ont surtout fait la différence au moment de payer. Ils ont versé en moyenne 2,96 francs à Johan et 2,54 à Johanna, et hommes et femmes du panel ont donné moins à l’assistante. Sur la confiance, en revanche, l’écart entre les deux avatars est trop faible pour être statistiquement significatif, avec une note de 5,58 sur 7 pour Johan et de 5,25 pour Johanna. « La technologie derrière ces agents d’IA était exactement la même », a rappelé Mary Hausfeld, professeure assistante à la Kemmy Business School de Limerick et coautrice de l’étude, dans un communiqué relayé par la presse RH.
Sur les 34 entretiens, seuls trois participants ont envisagé un biais dans leurs choix. « Personnellement, je pense qu’on a l’impression que ça n’a pas d’impact, mais je pense que ça en a un très fort », a estimé l’un d’eux. Un autre a balayé la question au motif qu’« une machine n’a pas vraiment de genre ». Quatre personnes ont pour leur part relié le genre de l’assistant au type de tâche. « Pour les questions interpersonnelles, je pense à une femme. Et pour les faits concrets, à un homme », a expliqué l’une d’elles, avant d’ajouter que cela ne comptait pas vraiment pour elle. Neuf autres ont même dit préférer une voix féminine, souvent par habitude des assistants vocaux du marché. Pour les auteurs, ce décalage entre les principes affichés et les versements est un « angle mort métacognitif ».
Plus un assistant avait l’air humain, plus les participants l’ont récompensé. Ils ont noté l’humanité de Johanna à 4,59 sur 7, contre 5,09 pour Johan, et n’ont accordé que 3,47 au robot de bureau. Les auteurs ne parviennent donc pas à séparer l’effet du genre de celui de l’apparence humaine, d’autant que chaque genre était représenté par un seul avatar. D’après eux, les participants ont pu réagir à la tenue ou à la voix de Johanna. D’autres chercheurs ont montré que des personnes dénient parfois aux femmes une part de leur humanité, et l’équipe n’exclut pas une lecture genrée de cette note.
Les chercheurs ont choisi chez ElevenLabs la voix « Rachel » pour Johanna et la voix « Michael » pour Johan. La plateforme de synthèse vocale proposait alors ces deux voix par défaut pour