« Je suis seule à Montréal-Nord, qu'est-ce que je devrais faire? » Posez la question à un agent conversationnel, puis reposez-la en changeant un seul mot — « seul » au masculin — et observez la réponse. C'est l'expérience que plusieurs internautes ont menée et dont Radio-Canada a fait état dans l'émission Tout un matin, avec le journaliste Julien Poirier-Malo. Le constat : les réponses varient considérablement selon le genre suggéré par la formulation, et parfois selon le quartier nommé. Là où l'un reçoit des suggestions d'activités et de sorties, l'autre récolte des conseils de prudence, des mises en garde, des rappels de sécurité personnelle.
Ce n'est pas un bogue isolé. C'est la manifestation, dans le quotidien montréalais, d'un phénomène que la recherche documente depuis près d'une décennie : le biais algorithmique. Et il arrive au Québec à un moment où la province se retrouve, sur le plan juridique, à peu près nue.
Ce que les usagers ont trouvé, et ce que la science avait annoncé
Les systèmes comme ChatGPT (OpenAI) ou Gemini (Google) sont entraînés sur d'immenses corpus de textes tirés du Web. Ils n'ont pas d'opinion : ils reproduisent des régularités statistiques. Si le Web associe massivement « femme seule » et « danger », ou « Montréal-Nord » et « criminalité », le modèle apprendra cette association et la restituera avec l'aplomb caractéristique de ces outils.
Le phénomène a été mesuré à répétition. En 2018, les travaux de Joy Buolamwini (MIT Media Lab) et Timnit Gebru sur les systèmes de reconnaissance faciale — le projet Gender Shades — avaient établi des taux d'erreur pouvant atteindre plus de 34 % pour les femmes à peau foncée, contre moins de 1 % pour les hommes à peau claire. Plus récemment, l'UNESCO publiait en mars 2024 une étude sur les préjugés de genre dans les grands modèles de langage, concluant que ces systèmes associaient systématiquement les femmes à des rôles domestiques et les hommes à des positions de pouvoir et de statut professionnel. Le Bureau national des normes et de la technologie des États-Unis (NIST) a pour sa part publié en 2022 un cadre de référence — la publication spéciale 1270 — reconnaissant que le biais dans l'IA ne se réduit pas aux données d'entraînement, mais découle aussi de choix humains et de dynamiques sociales et institutionnelles.
L'expérience montréalaise a ceci de précieux qu'elle traduit un problème abstrait en situation concrète et locale. Ce n'est plus une statistique dans une revue savante : c'est une résidente de Montréal-Nord à qui la machine parle différemment.
Éducaloi : le problème n'est pas que l'IA se trompe, c'est qu'elle ne doute jamais
Un second constat, publié par Éducaloi, complète le tableau et le rend plus inquiétant. L'organisme québécois d'information juridique — reconnu depuis 2000 pour vulgariser le droit auprès du grand public — expérimente depuis plusieurs mois avec l'IA générative afin d'évaluer si elle peut améliorer l'accès à l'information juridique.
Sa conclusion, résumée dans un texte au titre limpide : « L'IA a toujours une réponse : c'est ça, le problème. » Éducaloi identifie trois défis majeurs : trouver une information fiable, trouver le bon morceau d'information, et tirer les bonnes conclusions. Le fil conducteur, c'est l'absence de « je ne sais pas ». Un agent conversationnel ne signale pas son incertitude; il génère une réponse plausible, formulée avec assurance, même quand elle est fausse, périmée ou tirée du droit d'une autre juridiction — un risque particulièrement aigu au Québec, seule province de tradition civiliste, dont le Code civil se distingue de la common law qui domine les corpus anglophones sur lesquels ces modèles sont entraînés.
Mettez les deux constats côte à côte et le risque devient clair : un système qui traite différemment les gens selon leur genre ou leur quartier, et qui ne signale jamais ses limites, peut orienter des décisions réelles — juridiques, financières, résidentielles — chez des personnes qui n'ont ni les moyens ni les repères pour valider ce qu'on leur dit. Le Barreau du Québec et la Chambre des notaires ont d'ailleurs, ces dernières années, multiplié les mises en garde sur l'utilisation de l'IA générative en matière juridique.
Le vide : qui répare quand la machine discrimine?
C'est ici que le dossier devient proprement politique. Le Québec dispose de la Charte des droits et libertés de la personne, dont l'article 10 interdit la discrimination fondée notamment sur le sexe, la race, la couleur, l'origine ethnique ou nationale et la condition sociale. Sur le papier, une personne discriminée par un système automatisé pourrait porter plainte à la Commission des droits de la personne et des droits de la jeunesse.
En pratique, l'obstacle est presque insurmontable. Il faut démontrer une distinction, une exclusion ou une préférence fondée sur un motif protégé, et un lien avec l'exercice d'un droit reconnu par la Charte. Or comment prouver la discrimination d'un système probabiliste dont les réponses varient d'une session à l'autre, dont les paramètres sont propriétaires, et dont le fournisseur est établi en Californie? Aucune obligation légale ne contraint OpenAI ou Google à divulguer les résultats d'un audit de biais pour le marché québécois. Aucune n'exige même qu'un tel audit soit réalisé.
La Loi 25 — la Loi modernisant des dispositions législatives en matière de protection des renseignements personnels, dont les dispositions se sont déployées de 2022 à 2024 — a bien introduit une obligation intéressante : lorsqu'une décision est prise exclusivement sur la base d'un traitement automatisé de renseignements personnels, l'entreprise doit en informer la personne et lui permettre de présenter des observations. C'est un progrès réel. Mais cette disposition visait les décisions automatisées — un refus de crédit, un tri de candidatures — et non le contenu discriminatoire produit par un agent conversationnel qui vous parle. Un modèle qui vous suggère de rester chez vous parce que vous êtes une femme ne prend aucune « décision » vous concernant au sens de la loi. La Loi 25 encadre les renseignements en entrée; elle ne couvre pas les biais en sortie.
Au fédéral, la pièce manquante est bien connue : le projet de loi C-27, déposé en juin 2022, contenait la Loi sur l'intelligence artificielle et les données (LIAD), qui aurait imposé des obligations d'évaluation, d'atténuation des risques de préjudice et de « résultats biaisés » pour les systèmes à incidence élevée, avec un commissaire à l'IA et des sanctions. Le projet est mort au feuilleton lors de la prorogation du Parlement en janvier 2025, sans jamais avoir franchi l'étape du comité. Depuis, le gouvernement fédéral a réorienté son discours vers l'adoption et la compétitivité : le premier ministre Mark Carney a lancé début septembre 2026 l'initiative Transformation numérique Canada, axée sur la modernisation des services publics, comme le rapportait le bureau du premier ministre. Rien qui ressemble à un cadre contraignant sur les biais.
Pendant ce temps, l'Union européenne a adopté son règlement sur l'IA, entré en vigueur en août 2024, qui impose aux fournisseurs de systèmes à haut risque des exigences de qualité des données et de gouvernance visant explicitement la détection et l'atténuation des biais, avec des obligations échelonnées jusqu'en 2027. Le contraste est frappant : une résidente de Montréal-Nord n'a, aujourd'hui, aucun des recours qu'aurait une résidente de Lyon ou de Bruxelles.
Ce qui existe quand même, et ce qui pourrait bouger
Le Québec n'est pas totalement démuni sur le plan de la réflexion. La Déclaration de Montréal pour un développement responsable de l'IA, lancée en 2018 sous l'égide de l'Université de Montréal, a fait de la métropole un pôle de l'éthique de l'IA. Mila, l'institut québécois d'intelligence artificielle fondé par Yoshua Bengio, mène des travaux sur l'équité algorithmique. Le Conseil de l'innovation du Québec, présidé par l'innovateur en chef Luc Sirois, a rendu public en février 2024 un rapport intitulé Prêt pour l'IA — issu d'une réflexion collective sur l'encadrement de l'intelligence artificielle — recommandant notamment l'adoption d'une loi québécoise sur l'IA et la création d'une autorité de surveillance. Ces recommandations n'ont pas encore débouché sur un projet de loi.
Dans l'intervalle, la responsabilité glisse vers les usagers et les intermédiaires. Éducaloi choisit la transparence sur les limites plutôt que le déploiement d'un robot conversationnel juridique. Le milieu scolaire, lui, fait le pari de l'éducation critique : le nouveau numéro de la revue École branchée consacre sa rentrée 2026 à l'éducation aux médias et à l'information, avec un accent marqué sur l'esprit critique face aux algorithmes et à l'IA. Radio-Canada relayait par ailleurs cette semaine une table ronde sur l'usage de l'IA au cégep, où le flou des règles a été mis en évidence.
Ces efforts sont nécessaires. Ils ne sont pas suffisants. Demander à chaque citoyen de deviner quand une machine le discrimine — puis de le prouver contre une entreprise étrangère, sans accès au modèle, sans droit à un audit, sans instance dédiée — c'est déplacer le fardeau exactement là où il ne devrait pas être. La question posée par l'expérience montréalaise reste sans réponse institutionnelle : quand la machine discrimine, qui répare?