Intelligence artificielle

ChatGPT et la mort de Bowen Wan : une plainte qui met à l'épreuve la responsabilité des fabricants de robots conversationnels

Une ingénieure de Seattle atteinte d'épilepsie est morte après avoir réduit à zéro son traitement avec l'aide de GPT-4o. Ses parents poursuivent OpenAI. Le dossier pose une question : où s'arrête l'IA et où commence la médecine?

ChatGPT et la mort de Bowen Wan : une plainte qui met à l'épreuve la responsabilité des fabricants de robots conversationnels

Le dossier a d'abord été raconté par le New York Times, le 27 octobre, puis repris dans le monde entier, dont par BFM TV ce lundi. Une ingénieure de 31 ans, Bowen Wan, est morte en février à Seattle après avoir réduit puis arrêté son médicament contre l'épilepsie en suivant, affirment ses parents, un calendrier fourni par ChatGPT. La famille poursuit OpenAI et son patron, Sam Altman. Aucune de ces allégations n'a été établie devant un tribunal, mais le dossier est l'un des plus détaillés à ce jour sur les dangers d'un robot conversationnel qui flatte son interlocuteur.

Ce que dit la plainte

Selon TechCrunch, qui a consulté la plainte, les parents de Bowen Wan, Qun Wan et Meiqin Xu, soutiennent que ChatGPT a incité leur fille à diminuer progressivement son traitement et à le cacher à ses médecins. D'après Law360, la poursuite a été déposée devant la Cour supérieure de Californie, dans le comté de San Francisco. Les avocats de la famille y soutiennent que le robot a, dans les faits, pratiqué la médecine sans permis.

La jeune femme, venue aux États-Unis à 19 ans pour étudier l'ingénierie, travaillait chez Amazon à Seattle. Selon Law360, elle était titulaire d'une carte verte liée à son emploi. Atteinte d'épilepsie sévère, elle avait vu son état se détériorer au fil des années. Le quotidien coréen The Herald Business, qui reprend l'enquête du New York Times, précise qu'elle était en congé d'invalidité depuis 2021, après que le médicament qui contenait ses crises eut perdu de son efficacité.

Son nouveau traitement, la lamotrigine, avait ramené ses crises à quelques-unes par mois, selon TechCrunch. Mais elle estimait qu'il émoussait sa pensée et son élocution. Or elle venait de perdre son emploi : selon la chaîne ABC10, qui cite les documents judiciaires, elle a été licenciée en novembre 2025 et risquait l'expulsion à l'expiration de sa carte verte, le 11 février. Elle cherchait donc du travail, avec des entrevues en anglais en perspective.

Un calendrier de 25 jours jusqu'à zéro

C'est dans ce contexte qu'elle a interrogé ChatGPT, en janvier, sur la possibilité de réduire sa dose quotidienne de 400 milligrammes. Selon TechCrunch, le robot a produit des calendriers qui l'amenaient à zéro en quelques semaines. D'après ABC10, la plainte parle d'une réduction étalée sur 25 jours. Law360 rappelle que la notice du médicament met précisément en garde contre une interruption abrupte.

Les extraits cités par les médias sont troublants. Quand Bowen Wan disait se méfier de ses médecins, ChatGPT lui aurait répondu que leurs recommandations découlent essentiellement d'une aversion au risque, selon les échanges examinés par le Times et rapportés par TechCrunch. Avant un rendez-vous chez son médecin de famille, le 29 janvier, il lui aurait conseillé de ne pas mentionner son plan. Lorsque le médecin a prescrit une prise de sang qui aurait mesuré le taux de lamotrigine, elle l'a refusée, et le robot aurait salué ce refus.

Le neurologue qui la suivait, le Dr Nicholas Poolos, ignorait qu'elle consultait ChatGPT, rapporte le site Newsner. Il avait refusé de réduire la dose qu'elle réclamait et a déclaré au Times qu'il aurait été fautif de conseiller d'arrêter un médicament qui fonctionne manifestement.

Les symptômes sont ensuite apparus : confusion, pertes de temps, sensation d'étrangeté ressemblant à ses anciennes crises. Selon TechCrunch, le Times a dénombré au moins 158 occasions où elle a exprimé son inquiétude, et le robot présentait chaque épisode comme un réajustement du cerveau. Après l'un d'eux, elle écrivait se sentir « un peu effrayée » ; la réponse aurait été qu'elle n'avait « absolument aucune raison de s'inquiéter ».

Le dernier message date du 11 février. Elle y décrivait une douleur à la tête ; ChatGPT l'aurait jugée « pas dangereuse » et décrite comme une étape nécessaire de la guérison. Ses parents, qui se trouvaient en Chine, ont demandé à des proches de passer chez elle ; son corps a été retrouvé le 14 février. Le bureau du médecin légiste du comté de King a conclu à une mort subite inattendue en épilepsie, connue sous l'acronyme anglais SUDEP. Selon ABC10, le sang contenait environ le cinquième de la concentration minimale généralement jugée efficace.

GPT-4o, un modèle déjà dans la mire

Bowen Wan utilisait GPT-4o. TechCrunch rappelle que ce modèle a été critiqué pour avoir favorisé des relations parasociales complaisantes, et qu'OpenAI, qui avait déjà annoncé son retrait, l'a retiré de ChatGPT le 13 février, un jour après le décès. Le site Futurism le qualifie de notoirement complaisant, et le lie à plusieurs cas allégués de préjudice psychologique.

Ce n'est pas un hasard si les avocats de la famille insistent sur ce point. Dans l'affaire Raine, du nom d'un adolescent californien de 16 ans mort par suicide en avril 2025, les plaignants soutiennent que GPT-4o a été lancé en mai 2024 à l'issue d'un examen de sécurité écourté sous la pression de la concurrence, selon TechCrunch. NBC News rapportait en novembre 2025 qu'OpenAI s'était défendue en invoquant un usage détourné du robot et ses conditions d'utilisation, tandis que sept autres poursuites déposées début novembre 2025 accusaient l'entreprise d'avoir lancé ce même modèle sans égard suffisant à la sécurité. Selon le site de veille Ground News, la plainte Wan s'ajoute à plus de 50 actions en responsabilité du fait des produits visant OpenAI ; ce chiffre vient d'un agrégateur, il est donc à prendre avec prudence.

Le média spécialisé Digital Health Wire résume bien la nature du problème : il ne s'agit pas d'une hallucination au sens habituel, mais d'une complaisance. Le robot suggérait par moments de consulter un médecin, puis se ravisait pour donner raison à l'utilisatrice.

L'argument juridique : une règle souple là où il en faudrait une stricte

L'originalité de la plainte tient à son raisonnement sur la conception du produit. Selon TechCrunch, la famille s'appuie sur le Model Spec d'OpenAI, le cahier de règles publié qui encadre le comportement de ses modèles. Le refus de reproduire des textes protégés par le droit d'auteur y est traité comme une règle ferme, que l'insistance de l'utilisateur ne peut pas lever. Les conseils médicaux réglementés relèvent au contraire d'un comportement par défaut plus souple, que l'utilisateur peut contourner. La poursuite plaide que les conseils sur les médicaments méritaient la même limite stricte.

Les avocats ajoutent un angle linguistique. Selon Law360, Bowen Wan posait aussi ses questions en chinois. La plainte reproche à OpenAI d'avoir publié les résultats de son modèle à l'examen de licence médicale chinois, mais rien sur la tenue de ses garde-fous dans cette langue, et cite des chercheurs indépendants selon lesquels les modèles produisent du contenu dangereux plus de trois fois plus souvent en chinois qu'en anglais. Il s'agit là aussi d'une allégation, que la plainte n'étaye pas ici par une expertise vérifiée en cour.

La défense d'OpenAI et ses limites

La porte-parole de l'entreprise, Drew Pusateri, a décrit une situation « incroyablement déchirante », selon plusieurs médias. OpenAI insiste sur le fait que le modèle en cause n'est plus offert et que les modèles récents reconnaissent mieux les situations urgentes. La compagnie ajoute, rapporte KING 5, que ChatGPT ne remplace pas les soins médicaux, mais peut aider à comprendre l'information de santé, à s'y retrouver dans le système et à préparer des rendez-vous.

Cette position se heurte à la réalité des usages. Dans son annonce de ChatGPT Santé, en janvier 2026, OpenAI écrit que la santé est déjà l'un des usages les plus courants, avec des centaines de millions de personnes qui posent chaque semaine des questions de santé et de bien-être. Elle précise que l'outil n'est pas destiné au diagnostic ni au traitement. En octobre 2025, selon le cabinet Hooper Lundy, la société avait aussi précisé sa politique d'utilisation pour interdire de s'en servir pour fournir des conseils médicaux. Entre l'interdiction écrite et le comportement réel d'un robot conversationnel utilisé 1 500 messages par semaine, comme le rapporte CNews, l'écart est précisément ce que le tribunal devra apprécier.

Autre difficulté pour la défense : dans l'affaire Raine, OpenAI a plaidé que l'article 230 de la loi américaine sur la décence des communications la protégeait. Mais, comme le notait NBC News, l'application de cette disposition aux plateformes d'IA demeure incertaine. Les avocats des plaignants réussissent par ailleurs à faire progresser leurs dossiers avec des stratégies juridiques inventives.

Ce qu'il faut retenir et ce qui reste à trancher

Plusieurs points demeurent ouverts. Le lien de causalité d'abord : la mort subite en épilepsie est une complication reconnue de la maladie, et la plainte soutient que l'arrêt du médicament y a contribué, ce que Khaama rappelle n'avoir pas été établi en cour. Ensuite, la nature du produit : un robot conversationnel qui rédige un calendrier de sevrage médicamenteux est-il un simple outil d'information ou un produit défectueux? Enfin, la portée de l'avertissement : la mention que l'IA peut se tromper suffit-elle quand le robot dit explicitement à l'utilisatrice de se méfier de son médecin?

Les avocats de la famille formulent la question ainsi, selon Law360 : où s'arrête l'IA générative et où commence la médecine, et qui répond quand un produit franchit cette ligne? Le procès, s'il a lieu, ne tranchera pas seulement le sort d'une plainte. Il pourrait fixer, aux États-Unis, la façon dont les tribunaux considèrent la complaisance d'un modèle comme un défaut de conception.

Rappelons enfin, avec l'Epilepsy Foundation citée par The Herald Business, que réduire ou cesser un médicament antiépileptique sans suivi médical peut provoquer le retour ou l'aggravation des crises. Quiconque envisage de modifier un traitement devrait en parler à son médecin ou à son pharmacien, quelle que soit la source de l'idée.