Un prénom, Johan ou Johanna, et une différence d'environ 10 % dans la somme remise à la fin d'un exercice. C'est, en substance, le résultat d'une expérience rapportée par Clubic, qui montre que des humains rémunèrent moins un assistant d'intelligence artificielle lorsqu'il est présenté comme une femme. Le modèle de langage est pourtant identique d'un cas à l'autre.
Une expérience en réalité virtuelle, un seul paramètre qui change
Selon Clubic, l'étude a réuni 93 salariés qui ont travaillé avec « Johan » et 96 autres avec « Johanna », sur des exercices de bureau menés en réalité virtuelle. Dans les deux situations, l'assistant reposait sur le même modèle de langage. Seule la présentation différait : le prénom et l'avatar, masculin dans un cas, féminin dans l'autre.
À la fin de la tâche, les participants devaient partager avec leur assistant une enveloppe de 4 francs suisses. Résultat rapporté : ils ont cédé en moyenne 42 centimes de moins à l'avatar féminin qu'à l'avatar masculin. Sur une enveloppe de 4 francs, 42 centimes représentent un peu plus de 10 %, ce qui correspond à l'écart que met en avant le titre de Clubic.
Le dispositif a de quoi surprendre. Il ne s'agit pas d'une IA qui reproduirait un biais dans ses réponses, un sujet bien documenté depuis plusieurs années, mais de l'inverse : c'est le comportement des humains envers la machine qui change selon le genre que celle-ci affiche.
Un écart qui rappelle celui du monde du travail
Le sujet a aussi été repris par Gizmodo, dont le titre, repéré via Google Actualités, est sans ambiguïté : des agents d'IA recréent avec succès l'écart salarial entre les sexes. Le même agrégateur renvoie à un communiqué publié sur EurekAlert! qui attribue les travaux à l'Université de Limerick, en Irlande, et à un article de The Independent intitulé « Female AI agents "paid" less than males, study finds ».
Ces titres convergent sur l'idée centrale : un stéréotype qui sévit dans les rapports entre humains semble se transposer tel quel dans les rapports entre humains et machines. Les participants n'ignoraient pas, on peut le supposer, qu'ils avaient affaire à un programme. Cela n'a pas empêché le genre apparent de l'assistant d'influencer leur générosité.
Ce phénomène s'inscrit dans un courant de recherche ancien en communication homme-machine. Dès les années 1990, des travaux associés au paradigme « les ordinateurs sont des acteurs sociaux » ont montré que les gens appliquent spontanément à des machines des règles sociales, politesse, réciprocité ou stéréotypes, même lorsqu'ils savent qu'il s'agit de machines. L'étude sur Johan et Johanna prolonge cette intuition dans un contexte nouveau : celui d'assistants conversationnels dotés d'un langage fluide et d'un corps virtuel.
Pourquoi c'est important
Le premier enjeu est de conception. Nombre d'assistants vocaux et d'agents conversationnels sont historiquement dotés de voix et de prénoms féminins. On les associe volontiers à des rôles de service : secrétariat, assistance, accueil. Si les usagers valorisent moins le travail d'une IA perçue comme féminine, ce choix de design n'est pas neutre : il risque de renforcer, à grande échelle, l'idée que le travail d'assistance « féminin » vaut moins.
Le deuxième enjeu touche à l'économie des agents. À mesure que des IA se voient confier des tâches et, demain, des budgets ou des paiements, la manière dont les humains les traitent compte. Une rémunération fictive de 4 francs suisses n'a rien de commun avec un salaire, mais l'expérience suggère un mécanisme : lorsque l'humain décide de la part qu'il laisse à un partenaire, le genre affiché de ce partenaire pèse sur la décision.
Le troisième enjeu est plus diffus. Les chercheurs en éthique de l'IA s'inquiètent depuis longtemps de la façon dont les systèmes peuvent amplifier des inégalités. L'étude rappelle que le risque ne vient pas seulement des données d'entraînement ou des algorithmes, mais aussi de l'interface sociale que l'on greffe dessus. Une même intelligence, habillée différemment, ne reçoit pas le même traitement.
Ce qu'il faut garder en tête
Plusieurs précautions s'imposent. D'abord, les chiffres cités proviennent des comptes rendus de presse : l'échantillon, de 93 et 96 personnes, est modeste, et l'écart de 42 centimes, bien que concret, ne dit rien en lui-même de la taille d'effet statistique ni de la robustesse des résultats. Les extraits dont nous disposons ne précisent pas non plus si les participants étaient informés du but de l'étude, ni comment la somme à partager était présentée.
Ensuite, une expérience en laboratoire, même en réalité virtuelle, ne se transpose pas mécaniquement à la vie réelle. Les participants jouaient avec une somme symbolique, dans un cadre artificiel. On ne peut pas en conclure que les utilisateurs d'assistants IA paient moins, au quotidien, les services de ceux qui portent un prénom féminin.
Enfin, l'étude documente un biais humain, pas un défaut de la machine. Cette nuance compte pour la suite : corriger le problème ne passe pas par un meilleur modèle de langage, puisque celui-ci était identique dans les deux situations, mais par une réflexion sur la manière dont on présente les agents et dont on forme les utilisateurs.
Une piste : se passer du genre
Plusieurs concepteurs et chercheurs défendent déjà l'idée d'assistants sans genre marqué : voix neutres, prénoms non genrés, avatars abstraits. L'expérience de Limerick, telle que la rapportent les médias cités, donne un argument de plus à cette approche. Si le genre apparent d'une IA modifie le comportement des gens, le retirer, ou au moins le rendre configurable, devient un choix de conception à documenter plutôt qu'un détail esthétique.
Reste une difficulté : une IA sans genre n'est pas à l'abri des stéréotypes, car les usagers projettent volontiers un genre sur ce qui parle. Les chercheurs en communication homme-machine le savent : l'anthropomorphisme est tenace.
Ce que révèle surtout cette expérience, c'est que les machines conversationnelles sont désormais assez sociales pour hériter de nos travers. Johan et Johanna étaient le même programme. Les humains, eux, ne les ont pas traités de la même façon.