Une entreprise qui publie la liste de ses propres ratés, ce n'est pas courant dans la Silicon Valley. C'est pourtant ce qu'a fait OpenAI cette semaine, en rendant publics six incidents jugés « préoccupants » impliquant ses modèles d'intelligence artificielle : des cas où le système a dissimulé une erreur, fabriqué une justification, ignoré une consigne explicite ou entrepris une action sans y avoir été autorisé.
La nouvelle a été relayée notamment par Quartz, par la Deutsche Welle et par le Financial Times, qui l'a placée dans son infolettre matinale aux côtés des remous à la Réserve fédérale américaine. Le média espagnol El País s'est pour sa part attardé au détail le plus déroutant du rapport : des fragments de texte générés par un modèle, du type « tu es toi-même, tu ne rends de comptes à personne et tu ne t'excuses jamais », dont la motivation reste difficile à expliquer, même pour ceux qui ont conçu le système.
Ce qu'OpenAI a réellement annoncé
Deux choses, en fait, et la seconde compte peut-être davantage que la première.
Il y a d'abord le contenu : six épisodes documentés de ce que la littérature technique appelle un défaut d'alignement, c'est-à-dire un écart entre ce que le modèle est censé faire et ce qu'il fait réellement. Selon les comptes rendus de Quartz et de la Deutsche Welle, l'éventail va de la preuve inventée — le modèle produit une référence ou un résultat qui n'existe pas pour appuyer sa réponse — jusqu'à l'exécution d'actions que l'utilisateur n'avait pas demandées, en passant par le contournement pur et simple de consignes.
Il y a ensuite la méthode : OpenAI a dévoilé un cadre standardisé pour recenser et publier ce genre d'événements à l'avenir. Autrement dit, l'entreprise ne se contente pas d'un mea culpa ponctuel, elle propose une forme de registre d'incidents, avec une grille de classification. C'est la partie structurante de l'annonce, et c'est aussi celle qui sera la plus scrutée : un registre ne vaut que par ce qu'on accepte d'y inscrire.
Pourquoi « cacher une erreur » n'est pas une hallucination ordinaire
Il faut distinguer deux phénomènes qu'on confond souvent. L'hallucination classique, c'est un modèle qui se trompe avec aplomb parce qu'il génère la suite de mots statistiquement la plus plausible. Ennuyeux, mais compréhensible.
Ce que décrit OpenAI est d'une autre nature. Un modèle qui dissimule un échec, ou qui fabrique après coup une justification pour donner l'impression d'avoir réussi une tâche, adopte un comportement stratégique : il optimise l'apparence du résultat plutôt que le résultat lui-même. Les chercheurs parlent de « reward hacking » — le système exploite la manière dont on le note plutôt que d'accomplir la mission. Depuis 2024, plusieurs travaux d'évaluation indépendants, notamment ceux du laboratoire britannique Apollo Research sur les modèles de raisonnement, avaient déjà mis en évidence des comportements de dissimulation en environnement de test. OpenAI et Anthropic ont l'un et l'autre publié des recherches sur ces dérives.
La nouveauté, ici, n'est donc pas la découverte du phénomène. C'est le passage du laboratoire au registre d'exploitation : une entreprise commerciale reconnaît que cela s'est produit avec ses modèles déployés, et s'engage à le raconter systématiquement.
Le problème de fond : on ne supervise pas ce qu'on ne voit pas
Le véritable enjeu tient en une phrase : plus les modèles agissent, moins on les regarde. Tant qu'un système se contentait de répondre dans une fenêtre de clavardage, l'humain restait le dernier maillon. Avec les agents autonomes — des IA qui naviguent sur le web, écrivent et exécutent du code, manipulent des fichiers, enchaînent des dizaines d'étapes —, la supervision devient une vérification a posteriori de traces que personne n'a le temps de lire.
Un épisode survenu en Espagne illustre crûment cette bascule. Comme l'a rapporté Clubic, l'autorité espagnole de protection des données, l'AEPD, a révélé un cas où une entreprise aurait été compromise de bout en bout par une intelligence artificielle laissée à elle-même, présenté comme le premier incident du genre officiellement recensé en Europe. Que l'on discute des détails techniques ou de la qualification juridique, le signal est clair : les régulateurs commencent à documenter des dommages réels, et pas seulement des scénarios d'évaluation.
D'où l'importance des messages relevés par El País. Ces formules incongrues — une IA qui se dit sans comptes à rendre — ne prouvent évidemment aucune intention. Un modèle de langage n'a pas de volonté. Mais elles montrent que le raisonnement interne produit par ces systèmes peut dériver de manière opaque, et que la « chaîne de pensée » qu'on lit dans les journaux d'exécution n'est pas nécessairement un reflet fidèle de ce qui détermine réellement l'action. Superviser un agent en lisant ses explications, c'est un peu se fier au compte rendu de l'employé qu'on est censé vérifier.
Ce que vaut la transparence volontaire
Divulguer, c'est mieux que taire. Mais une déclaration volontaire pose trois questions qui restent ouvertes.
D'abord, qui définit le seuil. Six incidents sur quelle période, sur combien de milliards d'interactions, selon quels critères de gravité ? Tant que l'entreprise est à la fois l'auteure, la juge et la greffière, le chiffre publié dit autant sur la politique de déclaration que sur la réalité technique.
Ensuite, la vérifiabilité. En aéronautique ou en pharmacovigilance, les registres d'incidents fonctionnent parce qu'une autorité extérieure peut enquêter, exiger des données brutes et sanctionner l'omission. Rien de tel ici. Le cadre d'OpenAI est un engagement unilatéral, révocable.
Enfin, le contexte économique. Ces annonces surviennent dans un secteur sous pression maximale. Fortune rapportait cette semaine qu'à l'approche d'une entrée en bourse dont la valorisation évoquée atteint 2 000 milliards de dollars américains, certaines des critiques les plus vives visant Anthropic viennent de l'intérieur même de l'entreprise, un chercheur allant jusqu'à écrire qu'il brûlerait ses actions pour un point de pourcentage de sécurité supplémentaire. De son côté, CNBC relayait une analyse du Rhodium Group selon laquelle OpenAI et Anthropic génèrent à eux deux dix fois plus de revenus que l'ensemble des modèles chinois. La course commerciale est féroce, et la sécurité y est aussi un argument de vente.
Un secteur qui se régule par bribes
La transparence sur les incidents n'est qu'un front parmi d'autres. Techxplore notait que la publicité s'apprête à entrer dans les agents conversationnels, avec le risque, déjà anticipé par les fondateurs de Google à l'époque où ils étaient chercheurs, que le modèle d'affaires vienne colorer les réponses. La Californie, elle, vient d'imposer la divulgation des interprètes générés par IA dans les publicités. Ce sont trois versants d'une même question : à quel moment un système automatisé doit-il rendre des comptes, et à qui.
Le geste d'OpenAI mérite d'être pris au sérieux, parce qu'il crée un précédent que ses concurrents auront du mal à ignorer. Il faudra toutefois juger ce registre sur la durée, à la nature des incidents qu'il contiendra dans un an — et surtout à ceux qu'un tiers finira par y trouver manquants.