Ce qui s'est passé
Le 8 septembre, un chercheur britannique de 27 ans a publié sur X un message de départ qui a fait le tour des rédactions occidentales en moins de 48 heures. Jacob Coxon, qui travaillait depuis environ trois ans sur le pré-entraînement des modèles de langage — cette phase où le système ingère des quantités colossales de textes — quitte Anthropic après un passage chez OpenAI. Son verdict, rapporté par Le Monde : « Les gens qui construisent l'IA croient qu'elle pourrait tous nous tuer d'ici à la fin de la décennie. » Et cette phrase, reprise par Les Numériques : « Aucune des deux entreprises n'agit de manière responsable. »
Sa thèse tient en quelques propositions. Les laboratoires courent vers une superintelligence capable de s'améliorer elle-même. Personne ne dispose d'une méthode fiable pour garder le contrôle d'un tel système. Et la logique concurrentielle — Anthropic, OpenAI, Google DeepMind, Meta, les laboratoires chinois — rend le ralentissement volontaire pratiquement impossible, puisque celui qui ralentit se fait dépasser.
Dans les heures qui ont suivi, un collègue encore en poste dans l'équipe de sécurité d'Anthropic a renchéri publiquement, selon un reportage de CNBC : il estime à plus de 10 % la probabilité que l'IA « tue tous les humains ». Le quotidien autrichien Der Standard, lui, a titré sur la démission tout en glissant une remarque acide : la panique est aussi un modèle d'affaires pour les développeurs d'IA. Le tabloïd allemand Welt a retenu la formule la plus vendeuse : « Ils jouent avec nos vies. »
On a donc, dans le même dossier, trois choses différentes qu'il faut absolument séparer.
Ce qui est vérifiable
Premier bloc : les faits.
La course existe, et elle s'accélère. Cette même semaine, Google annonçait un investissement d'au moins 13 milliards d'euros en infrastructures numériques en Finlande sur deux ans, centres de données pour l'IA au premier chef. OpenAI approfondissait son partenariat avec Samsung pour codévelopper des puces, en anticipant une demande de mémoire en croissance rapide. Meta lançait Muse, un agent personnel destiné aux 18 ans et plus. Ce ne sont pas des rumeurs : ce sont des engagements de capital qui verrouillent des trajectoires industrielles pour la décennie.
L'absence de garanties de contrôle est également documentée — et pas seulement par des dissidents. Anthropic publie elle-même une politique d'échelonnement responsable qui définit des niveaux de risque et des seuils au-delà desquels un modèle ne devrait pas être déployé sans mesures additionnelles. L'existence même de ce document est un aveu : l'entreprise reconnaît qu'elle construit des objets dont elle ne maîtrise pas entièrement le comportement. Ses propres travaux publiés sur l'interprétabilité et sur les comportements trompeurs de modèles vont dans le même sens.
Les départs répétés, enfin, forment un motif. Chez OpenAI, la dissolution de l'équipe Superalignment en 2024 après les départs d'Ilya Sutskever et de Jan Leike — ce dernier ayant écrit que la culture de sécurité avait cédé le pas aux produits — a été largement rapportée. Anthropic est née en 2021 d'une scission d'OpenAI menée par Dario et Daniela Amodei, précisément sur des désaccords de gouvernance et de sécurité. Coxon s'inscrit dans une série, pas dans un vide.
Ce qui n'est pas vérifiable
Deuxième bloc : les chiffres.
« Plus de 10 % de risque d'extinction » n'est pas une mesure. C'est une probabilité subjective — un degré de croyance personnel, formalisé dans le jargon bayésien du milieu sous le sobriquet de p(doom). Aucune expérience ne peut la falsifier. Aucune méthodologie publique ne permet de la reproduire. Dario Amodei lui-même a évoqué publiquement une fourchette de 10 à 25 % pour un scénario catastrophique, tout en dirigeant une entreprise qui lève des milliards pour continuer. Yann LeCun, chez Meta, juge ces scénarios ridiculement improbables. Geoffrey Hinton, prix Nobel de physique 2024, parle de 10 à 20 % sur trente ans.
Quand des experts de calibre comparable, avec accès à la même littérature, produisent des écarts d'un ordre de grandeur, ce ne sont plus des estimations : ce sont des intuitions habillées en pourcentages. Le chiffre n'ajoute rien à l'argument, mais il ajoute énormément à sa circulation médiatique. C'est précisément ce que pointait Der Standard.
Troisième bloc : le cadrage. « D'ici la fin de la décennie » suppose une trajectoire vers l'auto-amélioration récursive qui relève de l'extrapolation. La même semaine, OpenAI affirmait avoir résolu un problème lié aux équations de Navier-Stokes en 88 heures avec 10 000 agents — une annonce aussitôt contestée. Terence Tao, l'un des mathématiciens vivants les plus réputés, a soulevé une objection éclairante : privée d'intuition sur où chercher, une machine risque de brûler une énergie colossale à démontrer des milliers de théorèmes sans intérêt. Autrement dit, la puissance de calcul brute ne se convertit pas automatiquement en jugement. C'est exactement le maillon faible du scénario d'explosion d'intelligence.
Pourquoi cette confusion nous coûte cher, ici
Voici le problème québécois. Un débat public organisé autour de l'extinction est un débat sur lequel Québec n'a aucune prise. Ni l'Assemblée nationale, ni le Conseil du trésor, ni le ministère de la Cybersécurité et du Numérique ne peuvent influencer le rythme d'entraînement d'un modèle en Californie. Chaque heure de tribune consacrée à l'apocalypse est une heure soustraite à des décisions qui, elles, sont entièrement entre nos mains.
Les contrats d'approvisionnement. Le réseau de la santé et celui de l'éducation intègrent des outils d'IA — aide à la documentation clinique, triage, correction, tutorat. Ces contrats fixent qui détient les données, où elles résident, qui répond en cas d'erreur, et s'il existe un droit d'audit. Ce sont des clauses, pas des prophéties. La Loi 25 sur la protection des renseignements personnels et les évaluations des facteurs relatifs à la vie privée fournissent déjà des leviers, encore faut-il les exercer avec des équipes compétentes.
L'énergie. Hydro-Québec traite des demandes de raccordement massives pour des centres de données, dans un contexte où le gouvernement a resserré l'attribution des blocs d'énergie. L'annonce finlandaise de Google illustre ce que le Québec vend implicitement : de l'hydroélectricité, un climat froid, une stabilité politique. Décider quels calculs méritent nos térawattheures — et à quel tarif, avec quelles retombées en emplois — est une décision souveraine, chiffrable, discutable maintenant.
La capacité d'évaluation indépendante. C'est le point aveugle. Le Québec n'a pas d'organisme public capable de tester un modèle commercial avant son déploiement dans un CHSLD ou une classe de troisième secondaire. Le Royaume-Uni s'est doté d'un institut de sécurité de l'IA, les États-Unis d'un équivalent au NIST. Nous dépendons des autoévaluations des fournisseurs. Cette lacune-là, on peut la combler avec un budget et une loi.
Mila, OBVIA, IVADO : où se situent-ils ?
L'écosystème québécois occupe une position particulière dans cette querelle. Yoshua Bengio, fondateur et directeur scientifique de Mila, est l'un des rares chercheurs de premier plan à prendre les risques catastrophiques au sérieux publiquement. Il a signé la déclaration du Center for AI Safety de 2023 plaçant le risque d'extinction au rang des priorités mondiales, puis présidé le rapport scientifique international sur la sécurité de l'IA avancée, dont la version 2025 a été présentée en marge du sommet de Paris. Ce rapport a une vertu que les tweets n'ont pas : il expose ses incertitudes, distingue les risques observés — deepfakes, cyberattaques, biais — des risques hypothétiques, et refuse de produire un pourcentage d'extinction.
Bengio a aussi lancé LoiZéro (LawZero), un organisme sans but lucratif consacré à des systèmes d'IA conçus pour être « non agentiques » et vérifiables. C'est une réponse d'ingénierie, pas une lamentation.
L'OBVIA, l'Observatoire international sur les impacts sociétaux de l'IA et du numérique, travaille sur un autre registre : gouvernance, travail, santé, éducation, droits. L'IVADO, de son côté, pilote un programme de recherche sur l'IA robuste, raisonnante et responsable. Aucun des trois ne carbure au p(doom). Cette division du travail est saine : il faut à la fois des gens qui pensent les pires scénarios et des gens qui rédigent des clauses contractuelles.
Comment lire la prochaine alerte
Trois questions suffisent. L'auteur décrit-il quelque chose qu'il a observé de l'intérieur, ou extrapole-t-il ? Son chiffre est-il assorti d'une méthode reproductible, ou est-ce une intuition ? Et surtout : quelle décision concrète devrais-je prendre autrement si je le croyais ?
La démission de Coxon a une vraie valeur informative sur le premier point : elle confirme qu'à l'intérieur des laboratoires, la conviction que les garde-fous sont insuffisants est répandue au point de coûter des carrières bien payées. C'est un fait sociologique documenté, et il justifie une exigence de transparence accrue.
Sur le second, elle n'apporte rien de mesurable. Et sur le troisième, elle ne change à peu près rien à ce que le Québec devrait faire : lire les contrats, sécuriser les données de santé et d'éducation, allouer l'énergie en fonction de retombées vérifiables, et se donner les moyens techniques de tester ce qu'on achète. Ces chantiers-là ne dépendent pas de savoir si la fin du monde arrive en 2029. Ils sont urgents dans tous les scénarios.