La Société de transport de Montréal a confirmé, après un reportage de Radio-Canada, qu'elle expérimentait depuis plusieurs mois un système d'intelligence artificielle greffé à son parc de caméras pour détecter des comportements jugés anormaux dans le métro — dont le fait de « flâner ». L'information a immédiatement suscité des réserves d'organismes de défense des libertés civiles et de groupes travaillant auprès des personnes en situation d'itinérance. Mais au-delà du débat éthique, une question proprement scientifique se pose : que sait-on réellement de la fiabilité de ces systèmes? Et surtout, sait-on les évaluer?
La réponse courte, à la lecture de la littérature scientifique disponible, est décourageante : la détection automatisée de « comportements anormaux » est l'une des applications les moins bien validées de la vision par ordinateur, et les outils que les concepteurs utilisent pour prouver leur équité mesurent quelque chose de différent de ce que les personnes surveillées appellent, elles, l'équité.
Comment une machine « apprend » qu'un comportement est anormal
Il faut d'abord démonter la mécanique. Un détecteur de flânage ne possède aucune notion de flânage. Techniquement, la plupart de ces systèmes reposent sur une combinaison de trois briques : la détection de personnes dans l'image, le suivi de trajectoire dans le temps, puis une règle ou un modèle appris qui déclenche une alerte.
Dans la version la plus simple — et c'est souvent celle que vendent les fabricants de caméras comme Axis, Hikvision ou Avigilon sous l'étiquette « analytique vidéo » — le flânage est une règle temporelle : une silhouette humaine demeure à l'intérieur d'une zone délimitée par l'opérateur pendant plus de X secondes. Ce n'est pas de l'intelligence artificielle au sens du raisonnement; c'est un chronomètre couplé à un détecteur d'objets. Le seuil est arbitraire, choisi par un humain.
Dans les versions plus élaborées, dites de détection d'anomalies, le modèle est entraîné à partir de vidéos d'une station pour apprendre statistiquement ce qui est « normal » : les gens marchent, montent, descendent, attendent debout près du quai puis partent. Tout écart significatif par rapport à cette distribution est signalé comme anomalie. C'est ici que le raisonnement scientifique se corse. L'anormal n'est pas défini par une définition, mais par une fréquence. Ce qui est rare devient suspect.
Cette confusion entre rareté statistique et danger a des conséquences prévisibles. Une personne qui se déplace en fauteuil roulant, une personne âgée qui s'assoit longuement pour reprendre son souffle, un musicien, un adolescent qui attend un ami, une personne en crise de santé mentale, une personne sans domicile fixe qui se réchauffe : tous produisent des trajectoires statistiquement rares dans un corridor de métro. Le modèle ne les distingue pas d'une menace, parce que rien dans son architecture ne le lui permet.
Les jeux de données qui servent de référence sont faibles
Les chercheurs en vision par ordinateur évaluent ce type de systèmes sur une poignée de jeux de données publics devenus des standards : UCSD Anomaly Detection, CUHK Avenue, ShanghaiTech Campus, plus récemment UBnormal ou UCF-Crime. Or ces corpus posent des problèmes méthodologiques bien documentés dans la littérature.
D'abord, la taille : quelques dizaines de minutes de vidéo pour certains, filmées sur un ou deux sites, avec un nombre très restreint de figurants. Ensuite, la définition des étiquettes : c'est un annotateur humain qui a décidé, image par image, que tel segment était anormal. Les critères varient d'un corpus à l'autre — dans certains, un cycliste sur un trottoir piétonnier constitue une anomalie. Enfin, la représentativité démographique de ces corpus n'est presque jamais documentée : on ignore l'âge, la morphologie, la couleur de peau, la présence d'aides à la mobilité chez les personnes filmées.
Ce dernier point est décisif, parce que les biais démographiques de la vision par ordinateur sont, eux, solidement établis. Les travaux de Joy Buolamwini et Timnit Gebru sur les systèmes commerciaux d'analyse du visage (projet Gender Shades, 2018) avaient montré des écarts de taux d'erreur allant jusqu'à plus de 30 points de pourcentage entre les hommes à peau claire et les femmes à peau foncée. L'évaluation massive du National Institute of Standards and Technology américain sur la reconnaissance faciale, publiée en 2019, a confirmé des différentiels de faux positifs d'un facteur 10 à 100 selon l'origine géographique et l'âge des sujets. D'autres études, comme les travaux sur la détection de piétons menés au milieu des années 2010, ont relevé des écarts de performance liés à la couleur de peau dans les modèles de détection de personnes — la brique de base même d'un détecteur de flânage.
Autrement dit : même si la règle temporelle appliquée était parfaitement neutre, elle s'appuie sur un détecteur de personnes qui, lui, ne l'est pas nécessairement.
L'équité formelle ne dit pas ce que les gens appellent l'équité
C'est le cœur du problème, et c'est précisément ce que documente une contribution récente déposée sur le serveur de prépublications arXiv, dans la section consacrée aux enjeux sociaux de l'informatique. Ses auteurs partent d'un constat : la recherche sur l'équité algorithmique est très largement structurée par l'informatique, ce qui a produit une profusion de métriques formelles — parité démographique, égalité des chances, égalité des taux d'erreur, calibration par sous-groupe — et de techniques d'atténuation des biais.
Leur argument est qu'en se concentrant sur ces mesures, la discipline masque une difficulté fondamentale : l'équité n'est pas seulement une propriété technique, c'est une expérience subjective, socialement située. Les auteurs plaident pour un cadre interdisciplinaire qui articule l'équité formelle et l'équité perçue par les personnes concernées.
Cette tension n'est pas théorique. On sait depuis les travaux de Jon Kleinberg, Sendhil Mullainathan et Manish Raghavan (2016), ainsi que d'Alexandra Chouldechova, qu'il existe des impossibilités mathématiques : plusieurs critères d'équité formelle raisonnables ne peuvent pas être satisfaits simultanément, sauf dans des cas dégénérés. Choisir une métrique, c'est donc déjà faire un choix politique déguisé en choix technique.
Et dans le cas de la STM, aucune de ces métriques ne mesurerait ce qui inquiète les critiques. Un système pourrait afficher un taux de faux positifs rigoureusement identique pour tous les groupes démographiques et demeurer profondément inéquitable : parce que la catégorie même de « flâneur » cible dans les faits ceux qui n'ont nulle part d'autre à aller. L'équité de la mesure n'absout pas l'iniquité de l'objectif.
Ce qui manque au test montréalais pour être scientifiquement évaluable
En l'état des informations publiques, l'expérimentation de la STM ne permet pas d'évaluation indépendante. Plusieurs garanties méthodologiques élémentaires font défaut.
Il n'existe aucune définition opérationnelle publiée du comportement recherché : combien de secondes d'immobilité, dans quelles zones, avec quelles exceptions? Sans cela, impossible de savoir ce qui est mesuré.
Aucun taux d'erreur n'est rendu public. Un détecteur de flânage produit nécessairement des faux positifs et des faux négatifs; leur proportion, et leur ventilation par heure, par station et par type de situation, constitue l'information la plus basique attendue d'un essai.
Aucune évaluation stratifiée n'est annoncée. Or vérifier qu'un système ne discrimine pas exige de comparer ses performances entre sous-groupes — ce qui suppose de collecter des données sensibles, avec les protections afférentes, ou d'utiliser des protocoles d'audit indirects.
Aucun protocole n'est décrit quant au devenir des alertes. Une alerte est-elle un simple signal à un opérateur humain, qui peut l'écarter, ou déclenche-t-elle une intervention? La chaîne décisionnelle détermine l'ampleur du préjudice possible.
Enfin, aucune évaluation des facteurs humains n'est mentionnée. La littérature sur l'automatisation décrit depuis longtemps le biais d'automatisation : les opérateurs tendent à surestimer la fiabilité des recommandations machine, particulièrement en situation de charge de travail élevée.
À cela s'ajoute le cadre juridique québécois. La Loi sur la protection des renseignements personnels dans le secteur public, modifiée par la loi 25, impose aux organismes publics de réaliser une évaluation des facteurs relatifs à la vie privée avant tout projet d'acquisition ou de développement de systèmes impliquant des renseignements personnels. La Commission d'accès à l'information a par ailleurs publié des orientations sur la surveillance par caméra et la biométrie. Rendre publique une telle évaluation constituerait le minimum pour qu'un débat informé soit possible.
Ce que la comparaison internationale enseigne
Montréal n'innove pas. La Régie autonome des transports parisiens et la SNCF ont mené, dans le cadre de la loi française encadrant les Jeux olympiques de 2024, des expérimentations de vidéosurveillance algorithmique portant sur huit cas d'usage, dont la présence prolongée d'une personne dans une zone. Le rapport d'évaluation remis aux autorités françaises a conclu à des performances très inégales selon les cas d'usage, meilleures pour les situations simples et géométriquement bien définies, nettement plus fragiles pour les comportements. Aux États-Unis, la Metropolitan Transportation Authority de New York a également expérimenté des analytiques comportementales, avec des interrogations similaires sur la transparence.
La leçon commune est que les usages les plus fiables techniquement — colis abandonné, franchissement de voie, densité de foule — sont aussi les moins ambigus socialement. Plus le concept à détecter est social, plus la performance chute et plus le risque discriminatoire monte. Le flânage se situe à l'extrémité la plus problématique de ce continuum.
Ce que cela change
L'enjeu dépasse le métro. Le Québec s'apprête à multiplier les usages publics de systèmes prédictifs, et le test de la STM offre un cas d'école : une technologie déployée avant que soient publiés sa définition, ses taux d'erreur, son audit d'équité et son protocole décisionnel.
La recherche sur l'équité algorithmique converge aujourd'hui vers une idée simple : on ne peut pas régler par des mathématiques une question qui est d'abord celle des catégories qu'on choisit de faire surveiller. Aucune métrique ne rendra équitable un système dont la cible est définie par l'absence de destination.