Intelligence artificielle

Au Ghana, un petit laboratoire d'IA force le monde à regarder en face le risque des armes biologiques

En retirant les garde-fous de son propre modèle, MinoHealth, à Accra, a obtenu des milliers de designs de toxines. Son expérience relance le débat sur le contrôle de la synthèse d'ADN, de Washington à l'Union africaine.

Au Ghana, un petit laboratoire d'IA force le monde à regarder en face le risque des armes biologiques

Tout est parti d'une curiosité. En 2024, des chercheurs d'un petit laboratoire d'intelligence artificielle d'Accra, au Ghana, ont retiré les garde-fous de leur modèle d'aide à la découverte de médicaments. Ils lui ont ensuite demandé de concevoir des toxines plutôt que des remèdes. Le résultat, raconté par le média Rest of World, les a laissés sans voix : le modèle a généré des designs pour 1 020 protéines et 5 000 petites molécules.

Une expérience menée avec des moyens modestes

Les chercheurs n'ont jamais fabriqué la moindre de ces substances. Mais, selon Rest of World, un logiciel de prédiction de toxicité les a toutes jugées probablement毒 toxiques, et certaines ressemblaient à la ricine, un poison mortel. L'étude a été déposée sur le serveur de prépublications arXiv en mai 2025. « Nous étions tous sous le choc », a confié au média le fondateur de MinoHealth AI Labs, Darlington Akogo.

Le contraste avec les géants du secteur est frappant. Rest of World décrit une équipe d'une vingtaine de personnes installée dans un modeste bungalow d'Accra, bien loin des campus de la Silicon Valley. MinoHealth, fondée en 2016, s'est d'abord fait connaître pour des outils d'aide au diagnostic en imagerie médicale. Selon la fiche du projet publiée par AI Impact Commons, la société compte des utilisateurs dans plus de 50 pays, dans un contexte où le Ghana ne compte qu'un radiologue pour 300 000 patients.

Son modèle, nommé Moremi Bio, vise à proposer des candidats médicaments contre le cancer, la tuberculose ou la dengue. L'entreprise participe aussi à un consortium financé par l'Union européenne pour mettre au point des anticorps et des diagnostics contre la variole simienne et le paludisme. Le « jailbreak » (le contournement des protections d'un modèle) n'a, selon M. Akogo, demandé que quelques jours. Il a choisi de publier ses résultats parce que, à l'époque, peu de gens savaient qu'un modèle de langage spécialisé en biologie pouvait avoir un double usage.

Ce que l'expérience révèle vraiment

Il faut être précis sur la portée de l'exercice. Un design numérique de toxine n'est pas une arme : encore faut-il le transformer en molécule réelle, ce qui demande de l'expertise, du matériel et, souvent, de commander l'ADN correspondant à un fournisseur. C'est précisément le maillon que l'équipe ghanéenne met en avant. Selon Rest of World, M. Akogo s'interroge sur ce qui arriverait si quelqu'un apportait de tels designs à une entreprise qui fabrique de l'ADN sur commande, et il juge que le filtrage pratiqué par certains laboratoires pourrait être déjoué par un acteur malveillant utilisant l'IA.

Cette crainte n'est pas théorique. La revue Science a rapporté l'an dernier une expérience de « red team » menée par des chercheurs de Microsoft : à l'aide d'outils de conception de protéines, ils ont généré plus de 70 000 séquences d'ADN codant des variantes de protéines préoccupantes. Les logiciels de filtrage des fournisseurs ont laissé passer une bonne part de ces séquences, l'un des outils en ratant plus de 75 %. Les chercheurs n'ont pas produit les protéines, mais ont ensuite travaillé avec des fournisseurs pour corriger les failles.

Un éditorial publié par STAT en septembre rappelle aussi qu'une étude parue dans Nature Communications a vu 36 des 38 entreprises de synthèse d'ADN expédier des fragments du virus de la grippe de 1918. Le même texte souligne un point structurel : la synthèse d'ADN est un marché mondial, et une séquence bloquée dans un pays peut être commandée dans un autre.

Un consensus inhabituel dans l'industrie

Les alertes viennent désormais du cœur de l'industrie. Selon The Register, une lettre ouverte publiée début juin demande aux législateurs de rendre obligatoire le filtrage des commandes d'acides nucléaires synthétiques et des appareils qui les produisent. D'après Wired, relayé par Resultsense, les patrons d'Anthropic, d'OpenAI, de Google DeepMind et de Microsoft AI figurent parmi les signataires. La lettre reconnaît qu'il existe « une possibilité réelle » que l'IA abaisse sensiblement les obstacles à l'obtention d'armes biologiques.

Le cadre juridique, lui, avance lentement. Selon le bulletin AI Policy Bulletin, la Californie est devenue, le 30 septembre, la première juridiction au monde à imposer le filtrage de la synthèse de gènes, tandis qu'un projet de loi fédéral américain, déposé en janvier, l'imposerait à tous les fournisseurs. Le Consortium international de synthèse de gènes, un regroupement volontaire de fournisseurs, dit pour sa part appuyer une loi qui rendrait le filtrage obligatoire sur toute la chaîne d'approvisionnement, d'après Rest of World.

Les autorités ne sont pas seules à bouger. Selon le bulletin Humans on AI, seize gouvernements et dix entreprises d'IA, dont Anthropic, OpenAI et Microsoft, ont signé début novembre l'Appel de Paris pour la sécurité de l'IA, qui prévoit un cadre commun d'évaluation des modèles de pointe. Les États-Unis et la Chine n'en sont pas signataires. Les garde-fous des modèles restent par ailleurs imparfaits : Rest of World cite l'AI Security Institute britannique, selon lequel même les systèmes les plus récents, mieux protégés contre les demandes à caractère biologique, ne sont pas infaillibles.

L'Afrique, un angle mort devenu laboratoire de réflexion

L'intérêt du dossier ghanéen tient aussi à la géographie. Le continent est un petit acteur de la synthèse d'ADN, mais pas un acteur négligeable du débat. Selon l'Initiative internationale pour la biosécurité et la biosûreté en science (IBBIS), l'Afrique du Sud domine l'activité régionale, mais la capacité de production locale reste très limitée et le marché dépend largement des importations. Les revendeurs et distributeurs y jouent un rôle important, avec des pratiques de filtrage souvent moins claires que celles des fournisseurs principaux.

Une analyse publiée dans Frontiers in Bioengineering and Biotechnology sur la convergence entre biologie de synthèse et IA relève que les programmes de l'Africa CDC, l'agence sanitaire de l'Union africaine, sont surtout axés sur le confinement physique des laboratoires. Elle y note l'absence de cadre opérationnel pour auditer la conception biologique générative ou le filtrage des séquences à double usage. Elle propose que l'Union africaine et l'Africa CDC élaborent des orientations régionales, avec des attentes harmonisées sur le filtrage.

Les réactions recueillies par Rest of World montrent que le message est entendu. Brenda Obuya, haute responsable au ministère kényan de l'Information, des Communications et de l'Économie numérique, affirme que la nécessité de réglementer les fournisseurs d'ADN résonne désormais aux plus hauts niveaux de gouvernement sur le continent. Adam Abdullahi, de l'IBBIS, voit dans l'étude ghanéenne la preuve que les institutions africaines contribuent à la gouvernance de l'IA. Il rappelle aussi que le principe même des garde-fous est qu'un modèle ne devrait jamais en arriver là.

Des défenses qui s'érodent, des frontières qui ne comptent pas

Le dossier met en lumière un paradoxe. Les grands laboratoires verrouillent de plus en plus leurs modèles : la politique d'usage d'Anthropic, en vigueur depuis le 12 novembre, interdit par exemple de modifier ou de concevoir des agents biologiques ou chimiques pour optimiser leur létalité ou leur transmissibilité. Elle proscrit aussi le contournement des protections, sauf autorisation préalable. Mais un modèle spécialisé, développé avec peu de ressources, ou un modèle à poids ouverts, échappe à ces règles privées.

Le spécialiste de sécurité Peter Garraghan, fondateur de Mindgard, le résume ainsi à Rest of World : il n'est pas nécessaire d'être expert technique pour contourner un modèle, il suffit de persévérance et de créativité dans la formulation. Son équipe a mis une journée à faire céder Kimi, le modèle de la société chinoise Moonshot AI. Selon lui, plusieurs autres systèmes, dont Grok, Claude et ChatGPT, ont déjà été amenés à produire des conseils dangereux. La chercheuse Ayantola Alayande, du Global Center on AI Governance, estime qu'il ne serait plus surprenant que de simples utilisateurs obtiennent ce type de résultat par un robot conversationnel.

C'est pourquoi la plupart des spécialistes déplacent le point de contrôle vers le goulot d'étranglement physique. L'éditorial de STAT préconise que les gouvernements exigent des fournisseurs d'ADN qu'ils vérifient l'identité de leurs clients, repèrent les commandes fractionnées et se soumettent à des audits indépendants. Il juge irréaliste d'attendre des développeurs de modèles ouverts une conformité complète aux standards des grands laboratoires. Le bulletin AI Policy Bulletin plaide pour sa part d'inclure les synthétiseurs « de paillasse », ces machines qui permettent de fabriquer soi-même de l'ADN.

Ce qu'il faut retenir

L'histoire de MinoHealth ne démontre pas qu'une arme biologique est à portée de clavier. Elle montre plutôt qu'un modèle spécialisé, fabriqué avec des moyens modestes, peut produire en quelques jours des designs jugés toxiques par des logiciels de prédiction, et que la dernière barrière, le filtrage des commandes d'ADN, repose encore largement sur le volontariat. Elle rappelle aussi que le débat sur la sécurité de l'IA ne se joue pas seulement entre Washington, Londres et San Francisco : une équipe d'Accra a ouvert la discussion avant que bien des gouvernements ne s'y intéressent.

La suite dépendra de décisions très concrètes : l'adoption ou non de la loi fédérale américaine sur le filtrage, la capacité de l'Union africaine à harmoniser des règles sur un continent dépendant des importations d'ADN, et la disposition des développeurs de modèles ouverts à adopter des protections comparables à celles des grands laboratoires. Le risque, lui, ne reconnaît pas de frontières.