En une semaine, le débat sur la sécurité de l'intelligence artificielle est passé du séminaire universitaire à la tribune politique. Le patron d'Anthropic, Dario Amodei, a publiquement réclamé un ralentissement du développement des modèles les plus avancés, une prise de position relayée notamment par le Taipei Times. Fait rare, l'appel a reçu l'appui de concurrents directs : selon Business Insider, Sam Altman (OpenAI), Elon Musk (xAI) et Demis Hassabis (Google DeepMind) ont exprimé leur accord, au moins sur le principe. Quarante-huit heures plus tard, le président américain Donald Trump balayait la mise en garde, assimilant les critiques de l'IA à des « forces très négatives » agitant des scénarios qui ne se produiront pas, rapporte CBC.
On tient là le cœur du dossier : pour la première fois, les dirigeants qui construisent ces systèmes disent ouvertement qu'ils avancent peut-être trop vite, et le gouvernement le plus déterminant pour l'avenir du secteur leur répond que le vrai risque est ailleurs — dans la possibilité de perdre la course face à la Chine.
Le déclencheur : un démissionnaire et un horizon de quelques mois
L'étincelle vient d'un lanceur d'alerte. Jacob Coxon, chercheur britannique qui a quitté Anthropic, a affirmé que les systèmes les plus avancés faisaient peser une menace existentielle sur l'humanité. Son témoignage a circulé bien au-delà du milieu technologique : la chronique d'Arab News le cite pour dénoncer l'absence de contre-pouvoirs démocratiques capables d'encadrer une technologie de cette puissance.
Ce qui a frappé les observateurs, c'est qu'Amodei ne l'a pas contredit. Fortune rapporte que le patron d'Anthropic et l'ancien employé convergent sur un point troublant : quelque chose de grave pourrait survenir à l'échelle de quelques mois. « Ces IA deviennent plus intelligentes, très, très rapidement », a résumé Amodei, évoquant des capacités qu'il s'attend à trouver « assez effrayantes » d'ici six mois à un an. Le mot qui revient dans ces discussions est celui d'auto-amélioration récursive : l'idée qu'un système suffisamment compétent en programmation et en recherche puisse accélérer sa propre progression, et raccourcir d'autant le temps laissé aux humains pour comprendre ce qu'ils ont construit.
Cette inquiétude n'est pas purement spéculative. Numerama rapportait cette semaine que le chef scientifique d'OpenAI s'alarme de l'érosion de notre capacité à surveiller le raisonnement des modèles : les chaînes de pensée qu'on pouvait autrefois lire comme un journal de bord deviennent moins lisibles, moins fidèles à ce que le système fait réellement. Perdre cette fenêtre, c'est perdre l'un des rares outils de contrôle disponibles.
Une parole de plus en plus décalée par rapport aux affaires
Le problème de crédibilité est évident, et The Guardian l'a formulé sans détour : « trop peu, trop tard ». Le quotidien britannique décrit une réception largement négative, faite de perplexité et de soupçon. Car pendant que les patrons appellent à la prudence, leurs entreprises n'ont jamais couru aussi vite.
Anthropic, justement, a indiqué à ses investisseurs qu'elle serait rentable pour un deuxième trimestre consécutif, selon le Financial Times repris par Channel NewsAsia. L'entreprise prépare une entrée en Bourse et a retenu le Nasdaq, d'après Business Insider relayé par Investing.com, tandis que le Taipei Times évoque des pourparlers avec Nvidia pour un investissement dans l'opération. Autrement dit : celui qui demande de lever le pied est aussi celui qui s'apprête à demander des milliards aux marchés publics sur la promesse d'une croissance rapide.
Du côté d'OpenAI, Sam Altman a confirmé qu'il n'y aurait pas de PAPE cette année, rapporte le Taipei Times — un report que le quotidien espagnol elDiario.es relie explicitement aux craintes de perte de contrôle. Mais l'entreprise continue de déployer. Elle a publié cette semaine un cas client montrant que Perplexity confie désormais à son modèle GPT-6 Astra la rédaction de communications, la modification de logiciels et la surveillance de systèmes en production, avec des vérifications humaines nettement moins fréquentes qu'avec les générations précédentes. C'est exactement la trajectoire — des agents autonomes agissant sur des infrastructures réelles avec une supervision allégée — que les mêmes dirigeants décrivent comme préoccupante.
TechCrunch, dans son balado Equity, a posé la question qui s'impose : que cachent ces avertissements apocalyptiques? Deux lectures coexistent. Celle de la sincérité : des ingénieurs voient de l'intérieur des courbes de capacité qui les dépassent. Et celle du calcul : agiter le spectre d'une technologie si dangereuse qu'elle exige une gouvernance sur mesure est aussi une façon de façonner la réglementation à venir, et d'ériger des barrières à l'entrée que les petits acteurs et l'open source ne pourront pas franchir. Les deux peuvent être vraies simultanément.
Washington répond par la géopolitique
La Maison-Blanche, elle, a tranché. « Nous sommes devant la Chine en intelligence artificielle. Nous sommes le pays le plus avancé du monde et, franchement, je veux que ça reste ainsi, parce que celui qui gagne en IA gagne », a déclaré Donald Trump, cité par elDiario.es. CBC rapporte qu'il a rangé les critiques du secteur parmi les « forces très négatives » exagérant des scénarios improbables.
Ce n'est pas une position isolée. Radio-Canada indique que le président de la Chambre des représentants, Mike Johnson, s'est montré réticent à freiner l'IA. La logique dominante à Washington reste celle de la compétition stratégique : tout moratoire, toute pause volontaire, toute exigence de sécurité coûteuse est d'abord lue comme un handicap concurrentiel offert à Pékin. Dans ce cadre, l'argument du risque existentiel ne pèse pas grand-chose face à l'argument de la souveraineté technologique.
C'est précisément ce qui donne à l'épisode sa dimension politique. Un appel au ralentissement lancé par quatre laboratoires concurrents n'a de portée que si un État accepte de le transformer en règle. Sans cela, il repose sur des engagements volontaires — et aucune entreprise ne ralentira seule si ses rivaux continuent.
Du côté démocrate, on cherche encore une doctrine. TechCrunch rapporte que Barack Obama a exhorté son parti à faire de l'IA l'un de ses « agendas centraux » et à se doter d'un « plan très clair », tant sur les effets économiques que sur la sécurité. L'éditorial du Guardian formule l'enjeu autrement : l'humanité ne peut pas sous-traiter sa propre survie aux entreprises qui fabriquent le risque.
Ce que la controverse déplace déjà
Au-delà de la sécurité, le débat déborde sur d'autres terrains. Le Daily Maverick s'interroge sur l'avenir des prix scientifiques et de la reconnaissance académique, après la revendication par OpenAI d'un résultat lié aux équations de Navier-Stokes et la contestation soulevée par un lanceur d'alerte sur l'usage des données. Si les percées majeures deviennent des produits d'entreprise, la question de la propriété intellectuelle et du crédit intellectuel se pose autrement.
Dans l'immédiat, rien n'indique un freinage réel. Les modèles se déploient, les capitaux affluent, les agents prennent la main sur des systèmes de production. La seule variable susceptible de changer la trajectoire serait une contrainte publique — et elle n'existe nulle part à l'échelle requise. Le prochain test sera concret : si les capacités annoncées pour les six à douze prochains mois se matérialisent comme le prédit Amodei, les gouvernements découvriront le problème après coup, non avant.