L'intelligence artificielle fait la manchette tous les jours. Ces derniers temps, elle le fait surtout pour un roman soupçonné d'avoir été écrit avec l'aide d'un robot conversationnel. Dans une chronique publiée par le quotidien suisse Le Temps, Catherine Frammery relève ce contraste. Des milliers d'articles ont porté sur l'usage présumé de l'IA par l'écrivain Thélyson Orélien. Il faut en revanche chercher bien davantage pour trouver des nouvelles de Minab. Selon la chroniqueuse, l'IA n'y aurait plus seulement servi à éclairer une décision militaire : elle aurait produit les cibles elles-mêmes. « Il y a de quoi s'alarmer », écrit-elle.
Minab, un nom encore peu connu
Minab est une ville du sud de l'Iran, dans la province d'Hormozgan, non loin du détroit d'Ormuz. Ce passage maritime est l'un des plus stratégiques de la planète. La chronique du Temps y associe une frappe dont les cibles auraient été générées par un système d'intelligence artificielle.
Une précision s'impose. Au moment d'écrire ces lignes, Actu.Québec n'a pas pu recouper de façon indépendante le déroulement précis de l'opération, son bilan ni l'identité du système en cause. Nous nous en tenons donc à ce que rapporte la chronique et au cadre plus large, mieux documenté, de ce que l'on appelle désormais la guerre algorithmique. Ce flou fait d'ailleurs partie du problème soulevé par Catherine Frammery. Ces opérations sont rarement documentées publiquement, et leurs conséquences arrivent au public avec retard, par bribes, quand elles arrivent.
De l'aide à la décision à la fabrique de cibles
L'idée d'utiliser l'apprentissage automatique pour trier le renseignement militaire n'est pas neuve. En 2017, le Pentagone a lancé le Project Maven. Ce programme visait à analyser automatiquement les images de drones pour repérer véhicules, bâtiments ou personnes. L'année suivante, la contestation d'employés de Google a poussé l'entreprise à ne pas renouveler son contrat. Cet épisode a longtemps symbolisé les réticences de la Silicon Valley envers les usages militaires de l'IA. Ces réticences se sont depuis largement estompées : les géants de la techno et une nouvelle génération de jeunes pousses de la défense courtisent ouvertement les armées.
Le véritable point de bascule dans le débat public est venu du conflit à Gaza. En avril 2024, le média israélo-palestinien +972 Magazine et le site en hébreu Local Call ont publié une enquête sur un système baptisé « Lavender ». Selon des sources du renseignement militaire israélien citées par les journalistes, ce système aurait attribué à des dizaines de milliers de Palestiniens un score de probabilité d'appartenance à des groupes armés. Ce score aurait servi à établir des listes de cibles. Les mêmes sources évoquaient une vérification humaine parfois réduite à quelques secondes par dossier.
Un autre outil, « Habsora » (« l'Évangile »), générerait quant à lui des recommandations de frappes contre des bâtiments. L'armée israélienne a contesté cette description. Elle affirme que ces outils ne sont que des bases de données d'aide aux analystes et que la décision reste humaine.
C'est précisément cette frontière que la chronique du Temps interroge. Un logiciel qui hiérarchise l'information est une chose. Un logiciel qui propose une liste de cibles, que des opérateurs pressés valident en série, en est une autre. Dans le second cas, la décision formelle reste humaine, mais le jugement réel a migré vers la machine.
Le piège du « tampon humain »
Les spécialistes en facteurs humains connaissent bien le biais d'automatisation. Face à une recommandation produite par un système réputé performant, un opérateur tend à l'accepter plutôt qu'à la remettre en cause. Ce penchant s'aggrave quand le volume de recommandations est élevé et que la pression du temps est forte. Or c'est exactement la promesse commerciale et militaire de ces outils : produire en quelques heures ce que des équipes d'analystes mettaient des semaines à établir.
La vitesse devient alors un argument en soi. Une armée capable de générer des centaines de cibles par jour peut maintenir un rythme de frappes inédit. Mais chaque cible exige, en droit, une évaluation. Il faut vérifier qu'il s'agit bien d'un objectif militaire et que les dommages civils attendus ne sont pas excessifs. Il faut aussi s'assurer que toutes les précautions possibles ont été prises. Lorsque la machine accélère la production et que l'humain ne fait plus qu'apposer un tampon, ces trois exigences risquent de devenir des formalités.
S'ajoute la question des erreurs. Un modèle statistique se trompe toujours dans une certaine proportion de cas. Sur des millions de photos de chats, un taux d'erreur de quelques pour cent est anodin. Sur des listes de personnes à abattre, il se traduit par des morts. Ces systèmes sont en outre entraînés sur des données dont la qualité, les biais et les critères restent secrets. Les victimes et leurs proches n'ont aucun moyen de contester le raisonnement qui les a désignées.
Un droit international en retard
Sur le plan juridique, le débat se tient depuis des années à Genève, dans le cadre de la Convention sur certaines armes classiques. Un groupe d'experts gouvernementaux y examine depuis 2017 la question des systèmes d'armes létaux autonomes, sans aboutir à un instrument contraignant. Les grandes puissances militaires, dont les États-Unis, la Russie et Israël, ont jusqu'ici résisté à un traité d'interdiction.
Les lignes bougent pourtant. En octobre 2023, le secrétaire général de l'ONU, António Guterres, et la présidente du Comité international de la Croix-Rouge, Mirjana Spoljaric, ont lancé un appel conjoint. Ils demandent l'adoption d'ici 2026 d'un instrument juridiquement contraignant. Quelques semaines plus tard, l'Assemblée générale des Nations unies a adopté sa première résolution sur ces armes, à une large majorité.
Ces discussions butent cependant sur une ambiguïté de fond. Elles visent surtout les armes qui sélectionnent et frappent une cible sans intervention humaine, comme un drone tueur entièrement autonome. Les outils d'aide au ciblage, eux, laissent formellement un humain dans la boucle. Ils échappent donc en grande partie à ce cadre, alors qu'ils produisent déjà des effets massifs sur le terrain. L'affaire de Minab, telle que la présente Le Temps, se loge exactement dans cet angle mort.
Pourquoi le roman fait plus de bruit que la frappe
Le rapprochement opéré par la chroniqueuse n'est pas anecdotique. L'affaire Orélien a suscité une avalanche de commentaires. Le Temps s'est demandé ce que signifie être écrivain à l'heure de l'IA, et les éditeurs envisagent des mentions « garanti 100 % humain » ou des clauses de transparence. Le site Clubic a soumis des textes à des détecteurs comme Pangram et GPTZero, pour mesurer ce que vaut réellement un score de « 97 % IA ».
Ces questions sont légitimes. Mais elles concernent un domaine où l'on peut débattre, vérifier, contester, et où l'erreur se répare. Les décisions militaires assistées par l'IA se prennent au contraire dans le secret, loin des caméras. Leurs conséquences sont irréversibles. L'opinion publique se passionne pour ce qu'elle peut éprouver directement : un livre, une image truquée, un outil de bureau. Elle reste démunie devant des systèmes qu'elle ne voit jamais fonctionner.
Ce qui reste à établir
Plusieurs questions devront trouver réponse pour que l'affaire de Minab sorte de l'ombre. Quel système a été utilisé, et par qui ? Quelle part de vérification humaine a précédé la frappe ? Quel en a été le bilan civil ? Une enquête indépendante sera-t-elle possible ?
Au-delà de ce cas précis, l'enjeu est d'ordre général. Les armées du monde entier investissent dans le ciblage algorithmique. Si la responsabilité se dilue entre un modèle, ses concepteurs et un opérateur qui valide en quelques secondes, le droit de la guerre risque de devenir inapplicable dans les faits. C'est l'avertissement de la chronique du Temps : le danger n'est pas que l'IA écrive des romans à notre place, mais qu'elle choisisse, à notre place, qui doit mourir.