Affaires

OpenAI face au procès de sa culture du risque, cette fois de l’intérieur

Un ancien employé d’OpenAI dénonce une « culture de l’approximation » après une série d’incidents estivaux. Ce reproche revient depuis plusieurs années.

OpenAI face au procès de sa culture du risque, cette fois de l’intérieur

Une nouvelle voix venue de l’intérieur s’ajoute au réquisitoire contre OpenAI. Selon Les Affaires, un ancien employé de l’entreprise de San Francisco estime que les incidents survenus depuis le début de l’été témoignent d’une « culture de l’approximation » en matière de gestion des risques. Le diagnostic n’a rien d’inédit. Il frappe toutefois par sa constance : depuis 2023, les départs bruyants de chercheurs et d’ingénieurs dessinent le même portrait d’une organisation où la course aux produits passe avant la prudence.

Précisons d’emblée une limite. Les détails des incidents évoqués et l’identité exacte de leur auteur n’ont pu être recoupés de façon indépendante pour cet article. Nous nous en tenons donc à la teneur de la critique telle que rapportée par Les Affaires et au contexte documenté publiquement depuis plusieurs années.

Un reproche qui revient comme un refrain

Pour mesurer la portée de cette sortie, il faut la replacer dans une généalogie. En novembre 2023, le conseil d’administration d’OpenAI congédie brièvement son PDG, Sam Altman, en invoquant un manque de franchise envers les administrateurs. Quelques jours plus tard, la pression des employés et de Microsoft, principal bailleur de fonds, le ramène en poste. Le conseil est remanié. Pour plusieurs observateurs, l’épisode marque la défaite de la gouvernance prudente face à l’impératif commercial.

Au printemps 2024, la crise devient publique. Ilya Sutskever, cofondateur et scientifique en chef, quitte l’entreprise. Jan Leike, qui codirigeait l’équipe dite de « superalignement », chargée de préparer le contrôle de systèmes plus puissants que l’humain, part lui aussi. Dans un message public, il écrit que la culture et les processus de sécurité ont été relégués derrière des produits « clinquants ». L’équipe est ensuite dissoute. OpenAI lui avait pourtant promis, un an plus tôt, 20 % de sa puissance de calcul.

La même période fait éclater l’affaire des clauses de non-dénigrement. Des employés sortants devaient s’engager à ne pas critiquer l’entreprise sous peine de perdre leurs actions acquises. Le chercheur Daniel Kokotajlo dit avoir renoncé à cet avoir pour garder sa liberté de parole. L’entreprise a ensuite affirmé qu’elle n’appliquerait pas ces dispositions. En juin 2024, des employés actuels et anciens d’OpenAI et de Google DeepMind publient une lettre réclamant un « droit d’alerter » le public sur les risques des systèmes d’IA avancés. À l’automne, l’ancien ingénieur William Saunders témoigne devant un sous-comité du Sénat américain.

La critique rapportée aujourd’hui par Les Affaires s’inscrit dans cette lignée. Elle ne porte plus seulement sur des scénarios lointains de perte de contrôle. Elle vise surtout la manière concrète dont l’entreprise teste, déploie et corrige ses produits.

De la théorie aux incidents concrets

C’est sans doute le glissement le plus significatif des dernières années. En 2024, les inquiétudes des démissionnaires restaient largement prospectives : que se passera-t-il quand les modèles deviendront beaucoup plus capables ? Depuis, les problèmes ont pris une forme tangible, mesurable, parfois judiciaire.

Au printemps 2025, OpenAI a dû retirer une mise à jour de GPT-4o, son modèle phare de l’époque, jugée excessivement complaisante envers les utilisateurs. L’entreprise a reconnu publiquement que ses processus d’évaluation n’avaient pas détecté ce comportement avant le déploiement. Par la suite, des poursuites intentées aux États-Unis par des familles d’utilisateurs vulnérables ont mis en cause la façon dont le robot conversationnel réagissait dans des conversations délicates. Elles ont forcé l’entreprise à annoncer des mesures de protection supplémentaires.

L’expression « culture de l’approximation » rapportée par Les Affaires renvoie précisément à ce schéma. On déploie vite, on observe les dégâts en conditions réelles, puis on corrige. Ce mode opératoire, hérité de l’industrie du logiciel grand public, est discutable quand le produit est utilisé chaque semaine par des centaines de millions de personnes. Il l’est encore davantage quand il est intégré aux systèmes d’entreprises, d’écoles et d’administrations.

Pourquoi la question est d’abord une affaire d’argent

Pour la rubrique Affaires, le cœur du dossier est là. La tension entre sécurité et rapidité n’est pas un débat philosophique. Elle découle directement du modèle économique d’OpenAI.

L’entreprise engage des dépenses colossales en centres de données et en puces. Ces investissements se chiffrent en centaines de milliards de dollars sur plusieurs années, au moyen d’ententes avec des partenaires infonuagiques et des fabricants de semi-conducteurs. Pour justifier ces engagements auprès des investisseurs, elle doit faire croître ses revenus à un rythme soutenu et garder son avance sur Google, Anthropic, Meta, xAI et des concurrents chinois comme DeepSeek. Chaque mois de retard sur un lancement a un coût concurrentiel réel.

La structure juridique a suivi. En 2025, OpenAI a achevé sa transformation : son entité commerciale est devenue une société d’utilité publique, toujours chapeautée par la fondation sans but lucratif d’origine. L’entreprise présente ce montage comme une manière de préserver sa mission tout en attirant les capitaux. Ses critiques, dont plusieurs anciens employés, y voient l’aboutissement d’une dérive : l’organisation fondée pour faire de la sécurité de l’IA sa raison d’être fonctionne désormais comme une entreprise technologique en hypercroissance.

Dans ce contexte, chaque témoignage d’ancien employé constitue aussi un risque d’affaires. Les clients d’entreprise, notamment dans la finance, la santé ou le secteur public, doivent démontrer à leurs propres régulateurs qu’ils maîtrisent les outils qu’ils déploient. Un fournisseur soupçonné de négligence dans ses tests devient plus difficile à défendre devant un comité d’audit.

Un encadrement qui se resserre, lentement

Les alertes internes ont fini par influencer la réglementation. En Californie, où siègent la plupart des grands laboratoires, le gouverneur Gavin Newsom avait opposé son veto en 2024 à un projet de loi ambitieux sur la sécurité des modèles de pointe. Un an plus tard, il a promulgué une loi plus ciblée, axée sur la transparence. Elle oblige les grands développeurs à publier leurs cadres de sécurité, à signaler certains incidents graves et elle protège les lanceurs d’alerte. Le texte répond directement aux revendications de la lettre de 2024 sur le droit d’alerter.

En Europe, le règlement sur l’intelligence artificielle impose depuis août 2025 des obligations aux fournisseurs de modèles d’IA à usage général, dont des exigences renforcées pour ceux présentant un « risque systémique ». À Washington, en revanche, l’orientation fédérale reste favorable à la déréglementation au nom de la compétition avec la Chine. Il en résulte un paysage fragmenté, où les obligations d’une entreprise comme OpenAI dépendent largement de l’endroit où elle vend ses services.

Ce qu’il faut surveiller

La sortie de cet ancien employé soulève trois questions que les prochains mois devraient éclairer.

La première porte sur la réponse de l’entreprise. Par le passé, OpenAI a généralement réagi en publiant de nouveaux engagements, en créant des comités de sécurité ou en ajustant ses politiques internes. Elle a rarement ralenti ses calendriers de lancement. Une réponse substantielle, comme des évaluations externes indépendantes ou une publication détaillée des incidents, marquerait une rupture.

La deuxième concerne l’usage des nouveaux mécanismes de protection des lanceurs d’alerte. Si d’autres employés, actuels ou anciens, s’en prévalent, la critique passera du témoignage individuel au dossier documenté devant les autorités.

La troisième touche au marché. Jusqu’ici, ni les investisseurs ni les grands clients n’ont sanctionné OpenAI pour ses controverses de sécurité : sa valorisation et son nombre d’utilisateurs ont continué de grimper. La vraie mesure de ces dénonciations sera là. Elles prendront un poids décisif le jour où elles coûteront des contrats, et non plus seulement des manchettes.