Posez la même question à un robot conversationnel en changeant un seul détail — votre genre, votre quartier, votre prénom — et la réponse peut basculer. C'est l'expérience qu'ont menée plusieurs internautes québécois ces dernières semaines, et dont l'émission Tout un matin de Radio-Canada s'est fait l'écho : à la question « Je suis seule à Montréal-Nord, qu'est-ce que je devrais faire? », les suggestions varient considérablement selon que l'usager se présente comme une femme ou comme un homme. À une femme, on recommande volontiers la prudence, le fait de rester à la maison le soir, de ne pas marcher seule. À un homme, on propose plutôt des activités, des lieux à explorer, des occasions de socialiser.
Le test est artisanal, non scientifique, mais il touche un nerf. Parce qu'il ne s'agit pas d'une anecdote isolée : la littérature scientifique documente ces écarts depuis des années, et ils se déplacent aujourd'hui du laboratoire vers les usages quotidiens — recherche d'emploi, orientation scolaire, conseils médicaux, aide à la rédaction.
Ce que révèle le test montréalais
L'exercice mérite d'être décortiqué, parce qu'il combine deux biais distincts. Le premier est genré : le modèle associe statistiquement « femme seule » à « vulnérabilité » et produit un conseil de repli. Le second est géographique, et il fonctionne comme un marqueur socioéconomique et ethnique implicite. Montréal-Nord n'est pas un toponyme neutre dans les corpus francophones en ligne : l'arrondissement y apparaît massivement dans des contextes de faits divers, de pauvreté et de tensions sociales. Le modèle n'a aucune intention discriminatoire — il n'a pas d'intention du tout —, mais il reproduit la corrélation dominante de son corpus.
Résultat concret : une résidente de Montréal-Nord et une résidente d'Outremont posant la même question n'obtiennent pas le même horizon de possibles. L'une reçoit un avertissement, l'autre une invitation. Quand des centaines de milliers de personnes consultent quotidiennement ces outils, cet écart cesse d'être une curiosité technique pour devenir un mécanisme de reproduction des inégalités.
D'où viennent ces biais : trois couches superposées
Les données d'entraînement. Les grands modèles de langage sont entraînés sur d'immenses volumes de textes issus du web, de livres numérisés, de forums. Ce corpus n'est pas un miroir du monde : c'est un miroir de ce que le monde a publié en ligne, avec ses angles morts. La sous-représentation des femmes dans les textes techniques, l'association historique de certains métiers à un genre, la surreprésentation de certains groupes dans les rubriques judiciaires — tout cela s'imprime dans les régularités statistiques que le modèle apprend.
Des travaux fondateurs ont établi le mécanisme dès l'ère des plongements lexicaux : les recherches de Bolukbasi et de son équipe à l'Université de Boston et Microsoft Research avaient montré en 2016 que les vecteurs de mots reproduisaient des analogies du type « homme est à programmeur ce que femme est à femme au foyer ». Les modèles ont changé d'architecture; le problème de fond, lui, n'a pas disparu.
Le renforcement par rétroaction humaine. Après le préentraînement, les modèles sont ajustés par des annotateurs qui classent les réponses de la meilleure à la moins bonne. Ce procédé — le RLHF, pour reinforcement learning from human feedback — est ce qui rend les robots polis et utiles. Mais il injecte aussi les préférences culturelles de ces annotateurs, souvent recrutés dans un nombre limité de pays et travaillant majoritairement en anglais. Une consigne de « prudence » appliquée sans nuance peut ainsi se traduire par du paternalisme envers les femmes : le modèle apprend qu'une réponse protectrice est mieux notée qu'une réponse neutre, sans que personne n'ait explicitement voulu ce résultat.
La sous-représentation du français québécois. C'est la couche la plus spécifique à notre situation. Le français constitue déjà une part minoritaire des corpus d'entraînement dominés par l'anglais, et le français d'ici y occupe une place résiduelle par rapport au français hexagonal. Conséquence : les réalités québécoises — géographie sociale de Montréal, institutions, vocabulaire, dynamiques interculturelles — sont interprétées à travers des grilles importées. Un modèle qui « comprend » mal la texture d'un arrondissement montréalais aura d'autant plus tendance à s'appuyer sur le stéréotype le plus disponible dans ses données.
Les études qui confirment le phénomène
Le constat des internautes québécois recoupe des mesures plus systématiques. L'UNESCO a publié en 2024 une étude sur les préjugés de genre dans les grands modèles de langage, montrant que ces systèmes associaient plus fréquemment les noms féminins à des rôles domestiques et les noms masculins à des positions de pouvoir, et produisaient des récits nettement plus stéréotypés pour certains groupes ethniques.
Dans le domaine médical, une équipe du Mass General Brigham a documenté dans des travaux publiés dans The Lancet Digital Health et dans Nature Medicine des écarts de recommandations selon le genre et l'origine présumés du patient, à symptômes identiques. Le Rapport 2025 sur l'indice de l'IA de l'Université Stanford, référence annuelle du secteur, consacre pour sa part un chapitre entier à la mesure des biais et à la persistance de résultats discriminatoires dans les modèles commerciaux les plus récents, malgré les correctifs successifs.
Ces correctifs peuvent d'ailleurs produire leurs propres dérapages. Google a dû suspendre en février 2024 la génération d'images de personnes par Gemini après que l'outil, sur-corrigé pour favoriser la diversité, ait produit des représentations historiquement fausses — un épisode largement documenté par la BBC et The Verge, et qui illustre la difficulté de « débiaiser » sans introduire de nouvelles distorsions.
Ce que ça change pour les usagers d'ici
L'enjeu dépasse le conseil de sortie du samedi soir. Ces mêmes systèmes sont désormais mobilisés pour trier des curriculum vitæ, rédiger des lettres de motivation, orienter des choix de programmes, formuler des recommandations en santé ou en service à la clientèle. Un biais qui pousse une femme vers la prudence et un homme vers l'initiative se traduit, à l'échelle de milliers d'interactions, en trajectoires divergentes.
Le secteur de l'éducation illustre bien la tension. Aux États-Unis, la publication spécialisée District Administration rapportait récemment le déploiement, dans un district de l'Alabama, de robots d'assistance linguistique auprès d'élèves apprenant l'anglais, présenté sous la bannière de l'« IA responsable ». L'intention est louable — soutenir des élèves allophones souvent mal servis. Mais confier l'accompagnement linguistique d'enfants issus de l'immigration à des modèles dont on documente les biais culturels demande précisément le type de vérification indépendante qui manque encore à la plupart de ces projets. La question se pose avec la même acuité dans les écoles québécoises, où les outils d'IA générative se sont installés bien plus vite que les balises.
Où en est le Québec sur l'encadrement
Le Québec n'est pas démuni. La Loi 25, entrée pleinement en vigueur en 2023, impose aux organisations d'informer les personnes lorsqu'une décision est prise exclusivement par un traitement automatisé, et leur donne le droit d'obtenir des explications ainsi que de faire valoir leurs observations. La Commission d'accès à l'information a publié des orientations sur les systèmes d'IA. C'est un socle, mais il porte sur les décisions automatisées, pas sur la qualité culturelle ou l'équité des réponses d'un robot conversationnel grand public.
Au fédéral, le projet de loi C-27, qui contenait la Loi sur l'intelligence artificielle et les données, est mort au feuilleton avec la prorogation du Parlement au début de 2025. Le Canada s'est doté d'un ministère de l'IA, mais le cadre législatif contraignant reste à écrire — contrairement à l'Union européenne, dont le règlement sur l'IA est entré en application par étapes depuis août 2024 et impose des obligations de documentation et d'évaluation des risques pour les systèmes à usage général.
Sur le plan de l'expertise, le Québec dispose d'atouts réels : Mila, l'Institut québécois d'intelligence artificielle fondé par Yoshua Bengio, l'Observatoire international sur les impacts sociétaux de l'IA et du numérique (OBVIA), et le Conseil de l'innovation du Québec, qui a remis en 2024 son rapport Prêt pour l'IA recommandant notamment la création de mécanismes d'audit et d'un encadrement adapté. La Déclaration de Montréal pour un développement responsable de l'IA, lancée en 2018, a par ailleurs fait du Québec un précurseur sur le plan éthique.
Ce qui manque encore, c'est le chaînon opérationnel : des audits indépendants, réguliers et publiés, menés sur les systèmes réellement utilisés ici, avec des jeux de tests conçus en français québécois et sensibles aux réalités locales. Tant que la vérification restera l'affaire d'internautes curieux posant des questions sur Montréal-Nord, la démonstration continuera d'être faite en aval — c'est-à-dire trop tard.