Un médecin accusé, à tort, de crimes sexuels par la machine à résumés d'un moteur de recherche : l'affaire que rapporte le Feuilleton de la Frankfurter Allgemeine Zeitung (FAZ.NET) a de quoi inquiéter bien au-delà du cabinet de l'intéressé. Elle pose une question simple et redoutable : lorsqu'une intelligence artificielle générative colle une étiquette infamante sur un nom, qui en répond? Et surtout, peut-on obtenir qu'elle la retire?
Ce que l'on sait du dossier
Selon la FAZ, l'IA de Google a confondu deux médecins. Les faits reprochés à l'un, des délits sexuels, ont été attribués à l'autre, qui n'avait rien à voir avec l'affaire. Le résultat s'affichait dans les réponses générées par la plateforme, c'est-à-dire à l'endroit même où un patient, un confrère ou un employeur potentiel cherche des renseignements sur un praticien.
Le journal précise un deuxième point, tout aussi important que l'erreur initiale : le groupe n'aurait pas voulu corriger. Le médecin visé a donc dû obtenir la rectification devant un tribunal. C'est cette séquence, une erreur, un refus puis une contrainte judiciaire, qui donne au dossier sa portée. Une confusion d'homonymes, en soi, relève de l'accident technique. Le refus de rectifier relève d'un choix de responsabilité.
Il faut rester prudent sur les détails : à partir des éléments publics dont nous disposons, nous ne pouvons ni nommer les parties ni reconstituer précisément le raisonnement des juges. L'essentiel tient dans le schéma : une personne réelle, un tort réel, et un géant technologique qui n'a pas jugé utile de réparer sans qu'on l'y oblige.
Pourquoi cette erreur n'est pas une simple coquille
Les systèmes de langage ne « savent » rien au sens où un journaliste sait quelque chose. Ils produisent des phrases plausibles à partir de régularités statistiques, puis, dans le cas des résumés de moteurs de recherche, les adossent à des pages repérées sur le web. Quand deux personnes partagent un métier, une région ou un nom proche, le système peut fusionner leurs biographies. L'erreur est connue des spécialistes sous le nom d'« hallucination », terme commode mais trompeur : il laisse entendre un caprice de la machine, alors qu'il s'agit d'un défaut structurel de la méthode.
La gravité du préjudice tient à trois facteurs. D'abord, la nature de l'accusation : une imputation de crimes sexuels détruit une réputation professionnelle en quelques lignes, surtout dans la médecine, où la confiance est le capital premier. Ensuite, l'emplacement : le résumé généré s'affiche en tête de page, avec l'autorité implicite de la marque qui l'héberge. Enfin, l'absence de contradictoire : un article de presse diffamatoire peut être contesté auprès d'un éditeur identifiable, qui a un nom, une adresse, une rédaction. Face à un résumé automatisé, l'interlocuteur est flou.
Un éditeur ou un simple tuyau?
Tout le débat juridique se joue là. Pendant des années, les grandes plateformes se sont abritées derrière un statut d'intermédiaire technique : elles hébergent ou indexent des contenus produits par d'autres et n'en répondent qu'une fois alertées, en retirant ce qui est manifestement illicite. L'IA générative brouille ce schéma. Quand le moteur rédige lui-même la phrase qui accuse, il ne se contente plus de pointer vers le contenu d'un tiers : il en produit un nouveau. La frontière entre l'indexation et la publication devient poreuse.
Le dossier rapporté par la FAZ illustre cette tension. En refusant de corriger, Google se plaçait de fait dans la posture de l'intermédiaire passif. En condamnant la correction, le tribunal, tel que le journal le décrit, a traité le résumé comme une affirmation dont l'entreprise doit assumer l'exactitude. Si cette logique se confirme et se généralise, elle change la donne : l'éditeur d'un moteur de réponses ne pourrait plus invoquer la nature « statistique » de son outil pour échapper à toute obligation de rectification.
Le droit de faire corriger : un levier à double tranchant
Obtenir une rectification est une chose, empêcher qu'une erreur de même nature ne se reproduise en est une autre. Un système génératif ne stocke pas des « faits » que l'on pourrait effacer un à un comme on supprime une page : il recompose ses réponses à chaque requête. Corriger un cas précis par un filtre ou une règle manuelle est possible, mais le procédé ne guérit pas la cause. D'autres homonymes, d'autres confusions, d'autres noms resteront exposés.
C'est pourquoi la question posée par la FAZ, « Que s'ensuit-il? », est moins rhétorique qu'il n'y paraît. Plusieurs pistes se dessinent, sans qu'aucune ne s'impose encore :
- une obligation de procédure, avec un canal de signalement efficace et des délais de réponse contraignants lorsqu'une personne identifiable est mise en cause;
- une prudence renforcée par défaut, c'est-à-dire l'abstention de l'IA sur les accusations pénales visant des particuliers, faute de source solide;
- une traçabilité des sources, afin que le lecteur puisse vérifier d'où vient une affirmation avant de la tenir pour vraie;
- une responsabilité juridique clarifiée, qui reconnaîtrait au fournisseur le statut d'auteur des contenus qu'il génère.
Une même fracture, du côté de la création
Le cas du médecin n'est pas isolé dans l'actualité culturelle et médiatique de la semaine. Le Spiegel rapporte qu'Axel Scheffler, l'illustrateur du Gruffalo, veut s'attaquer aux entreprises d'IA : quelques clics suffisent à obtenir d'un outil une créature qui ressemble fort à son personnage, et l'artiste demande d'où le système tient ce savoir-faire. Les deux affaires diffèrent, l'une relève de la diffamation, l'autre du droit d'auteur, mais elles partagent un nerf commun. Dans les deux cas, des personnes physiques constatent que des systèmes opaques se nourrissent de leur nom, de leur travail ou de leur image, et se heurtent au même mur : l'absence d'interlocuteur et de mécanisme de réparation simple.
Ce parallèle éclaire le mouvement de fond. Après une phase d'enthousiasme technique, les tribunaux deviennent le lieu où se négocie la règle du jeu. Les législateurs avancent à leur rythme, les juges tranchent les cas qui se présentent, et chaque décision fixe un peu plus ce que les entreprises peuvent ou ne peuvent pas faire sans en répondre.
Ce que le dossier dit de la confiance
Le tort le plus insidieux est peut-être moins l'erreur elle-même que l'illusion de fiabilité qui l'accompagne. Un résumé présenté comme une réponse nette, sans réserve ni source visible, se lit comme un fait établi. Quand il est faux, la victime doit non seulement prouver qu'elle n'est pas coupable, mais encore démontrer qu'une machine s'est trompée, ce qui renverse le fardeau d'une manière que le droit de la presse connaît mal.
L'affaire rapportée par la FAZ ne dit pas que ces outils doivent disparaître. Elle rappelle une règle ancienne, qui vaut pour les journaux comme pour les algorithmes : celui qui diffuse une accusation grave doit être en mesure de la vérifier, et de la retirer sans délai lorsqu'elle est fausse. Que cette règle doive être arrachée devant un tribunal en dit long sur le chemin qui reste à parcourir.