Un détecteur qui sort du giron de Google
Pendant longtemps, la question « cette image est-elle vraie? » relevait de l'œil exercé du journaliste, du photographe ou du simple internaute méfiant. Elle relève désormais, de plus en plus, d'une infrastructure technique. Selon le quotidien argentin La Nación, Google vient d'annoncer l'expansion de SynthID Detector, son outil destiné à repérer les contenus générés ou modifiés par l'intelligence artificielle, à la faveur d'une alliance avec OpenAI, Nvidia, la société sud-coréenne Kakao et, sous peu, Apple.
Le détail compte : jusqu'ici, SynthID était surtout un système maison. Google y apposait une signature invisible sur les images, les vidéos, les textes et les contenus audio produits par ses propres modèles, puis offrait un détecteur capable de la retrouver. Que des concurrents directs, notamment OpenAI, acceptent de s'y brancher change la nature de l'outil : on passe d'une vérification propre à un fournisseur à un embryon de norme partagée.
Cette annonce, rapportée ici d'après La Nación, demande à être confirmée dans ses modalités précises. À l'heure d'écrire ces lignes, on ignore notamment le calendrier exact du déploiement chez Apple (le média parle d'un ralliement « en breve », c'est-à-dire prochain) et le degré d'intégration technique de chacun des partenaires.
Comment fonctionne un filigrane invisible
Pour comprendre l'enjeu, il faut distinguer deux familles de techniques, souvent confondues.
La première est la détection a posteriori : on soumet une image à un algorithme entraîné à reconnaître les « traces » typiques des générateurs. C'est une course d'armement perdue d'avance, car chaque nouvelle génération de modèles efface les défauts que les détecteurs apprenaient à repérer. Les mains à six doigts d'hier ont disparu, et les détecteurs généralistes affichent des taux d'erreur qui les rendent peu fiables, surtout dans les cas limites.
La seconde est le filigrane à la source, dont SynthID est l'exemple le plus connu. Au moment même de la création, le modèle insère dans le contenu un motif statistique imperceptible pour l'humain, mais lisible par une machine qui connaît la clé. Pour une image, le signal est réparti dans les pixels de façon à survivre à un redimensionnement, à une compression ou à un léger recadrage. Pour un texte, il prend la forme d'un biais subtil dans le choix des mots.
L'avantage est net : la détection devient une lecture de signature plutôt qu'une devinette. La limite l'est tout autant : seuls les contenus marqués à l'origine peuvent être identifiés. Une image produite par un modèle qui n'insère aucun filigrane, ou par un logiciel libre exécuté en local, passera entre les mailles.
Pourquoi l'arrivée d'OpenAI et de Nvidia pèse lourd
Un filigrane ne vaut que par l'étendue de son adoption. Si chaque entreprise signe ses contenus avec son propre système, le citoyen — ou la salle de rédaction — doit interroger autant de détecteurs qu'il existe de fabricants, sans garantie de couverture. C'est le problème du Babel technique.
L'entrée d'OpenAI est donc stratégique : son générateur d'images et ses modèles vidéo figurent parmi les plus utilisés au monde. Celle de Nvidia l'est d'une autre manière. Le fabricant de puces ne se contente pas de vendre le matériel qui fait tourner les modèles; il propose aussi des plateformes et des modèles ouverts utilisés par une multitude de développeurs. Si le marquage se glisse à ce niveau de l'empilement technique, il peut se diffuser bien au-delà des seuls grands laboratoires.
La présence de Kakao rappelle, de son côté, que l'enjeu n'est pas seulement américain. Le géant sud-coréen de la messagerie et des services en ligne touche des dizaines de millions d'utilisateurs dans un marché où les hypertrucages ont déjà donné lieu à des scandales et à des législations. Quant à Apple, son ralliement annoncé serait notable : l'entreprise contrôle l'appareil photo, le système d'exploitation et la galerie de photos de centaines de millions de téléphones, soit le point de passage obligé de nombre d'images avant leur publication.
Une tendance de fond : la provenance plutôt que le soupçon
SynthID ne surgit pas dans le vide. Depuis quelques années, l'industrie explore plusieurs pistes pour documenter l'origine des contenus numériques. La plus structurée est la norme C2PA, portée par une coalition d'entreprises technologiques et de médias, qui attache aux fichiers des « justificatifs de contenu » — des métadonnées cryptographiques décrivant comment une image a été créée et modifiée. Les deux approches sont complémentaires : les métadonnées s'effacent aisément, par une simple capture d'écran, alors qu'un filigrane inscrit dans les pixels résiste mieux; à l'inverse, les métadonnées racontent une histoire que le filigrane ne dit pas.
Le mouvement s'inscrit aussi dans un cadre réglementaire qui se précise. L'Union européenne, avec son règlement sur l'intelligence artificielle, impose des obligations de transparence pour les contenus synthétiques, et plusieurs juridictions asiatiques et américaines ont emboîté le pas par des règles ou des projets de loi sur l'étiquetage. Pour les entreprises, s'aligner sur un outil commun est aussi une manière de se prémunir contre des exigences disparates d'un pays à l'autre.
Ce que la détection ne règle pas
Il serait trompeur d'y voir une solution miracle. Trois limites méritent d'être gardées en tête.
D'abord, l'asymétrie de la couverture. Un détecteur qui répond « marqué » ou « non détecté » n'établit jamais l'authenticité : l'absence de filigrane ne prouve pas qu'une image est réelle, seulement qu'elle n'a pas été signée par l'un des partenaires. Or c'est précisément ce que la désinformation exploite — on peut utiliser un modèle sans marquage, ou dégrader volontairement un contenu pour effacer la signature. Les chercheurs ont d'ailleurs démontré à plusieurs reprises que les filigrames peuvent être affaiblis par des transformations répétées ou des attaques ciblées.
Ensuite, le risque inverse : le faux positif. Accuser à tort une photographie authentique d'être artificielle alimente ce que l'on appelle le « dividende du menteur », c'est-à-dire la possibilité, pour qui est pris en défaut, de crier à la fabrication pour discréditer une preuve réelle. Plus les outils de détection se banalisent, plus ce terrain devient glissant.
Enfin, la question de la gouvernance. Qui détient les clés? Qui décide des seuils de confiance? Qui rend des comptes quand l'outil se trompe? Confier à un acteur commercial, même associé à ses rivaux, un rôle d'arbitre de la vérité visuelle pose un problème que les alliances techniques ne dissolvent pas. Les spécialistes de la gouvernance du numérique plaident généralement pour des vérifications auditables par des tiers indépendants.
Un contexte d'images de plus en plus fluides
Le moment de l'annonce n'est pas anodin. Au même moment, les produits grand public d'IA rendent la création visuelle plus facile et plus omniprésente. D'après TechCrunch et WIRED, OpenAI déploie pour l'ensemble des utilisateurs de ChatGPT une nouvelle interface dite « Intelligent UI », qui génère des éléments interactifs et visuels directement dans les réponses du robot conversationnel. L'agent Muse de Meta, selon TechCrunch, vient quant à lui d'arriver sur iPad à peine un mois après son lancement sur mobile.
À mesure que la production d'images, de graphiques et de vidéos se fond dans l'usage quotidien, la distinction entre « contenu créé par une personne » et « contenu produit par une machine » devient moins une affaire de cas exceptionnels qu'une donnée de contexte à renseigner systématiquement. Dans ce paysage, l'enjeu cesse d'être uniquement défensif — traquer les faux — pour devenir documentaire : savoir d'où vient ce que l'on regarde.
La sécurité des plateformes suit une logique voisine. TechCrunch rapporte que Meta déploie de nouveaux outils d'IA pour repérer des publicités d'apparence anodine qui renvoient en réalité vers du matériel d'exploitation sexuelle d'enfants ailleurs sur le web. Là aussi, la modération repose sur des systèmes automatisés capables d'analyser le contenu à grande échelle — et là aussi, ces outils s'affrontent à des acteurs qui s'adaptent.
Ce qu'il faut surveiller
Plusieurs indicateurs diront rapidement si cette alliance tient ses promesses.
Le premier est l'ouverture réelle de l'outil : à qui le détecteur est-il accessible, gratuitement ou non, et avec quelle documentation? Un outil réservé aux partenaires ou aux grands médias aurait une portée très différente d'un service que n'importe qui peut interroger.
Le deuxième est l'interopérabilité avec les autres standards, en particulier C2PA. Une convergence permettrait de croiser provenance déclarée et signature technique; une fragmentation prolongerait la confusion.
Le troisième est l'attitude des acteurs qui manquent à l'appel : les modèles ouverts, les services de génération de plus petite taille, les développeurs qui n'ont aucun intérêt commercial à marquer leurs sorties. C'est là que se jouera la capacité du dispositif à tenir face à des usages malveillants.
Le quatrième, enfin, est la mesure indépendante de la fiabilité : taux de détection, taux de faux positifs, résistance aux manipulations. Sans évaluations publiques par des laboratoires universitaires ou des organismes tiers, la promesse reste largement une affaire de confiance.
L'essentiel
L'extension de SynthID Detector à OpenAI, Nvidia, Kakao et, bientôt, Apple marque un pas vers un langage commun de la transparence. Elle ne dit pas qu'un contenu est vrai; elle permet, dans les cas couverts, de dire qu'il a été produit par une machine. C'est un outil utile, mais partiel, dont la valeur dépendra de l'adoption, de l'auditabilité et de la capacité à résister à ceux qui ont intérêt à le contourner. Dans un monde où l'image n'est plus une preuve en soi, la provenance devient la nouvelle monnaie de la confiance — encore faut-il que tout le monde accepte de la frapper.