Le laboratoire d'intelligence artificielle Anthropic, créateur de l'assistant Claude, a publié un rapport de renseignement sur les menaces dans lequel il affirme avoir repéré des utilisateurs se servant de ses produits pour des activités allant du développement d'armes à des opérations d'espionnage électronique, en passant par la surveillance et diverses fraudes. L'information, relayée notamment par le quotidien brésilien Folha de S.Paulo, s'inscrit dans une série de publications du même genre que l'entreprise californienne diffuse depuis 2025.
À première vue, il s'agit d'une histoire de sécurité nationale, loin des préoccupations d'un manufacturier de Drummondville ou d'une firme de génie de Québec. À y regarder de plus près, c'est l'inverse. Ce que ces rapports révèlent, c'est qu'un fournisseur d'IA générative dispose d'une capacité d'observation fine sur ce que ses clients font de ses outils — et qu'il se réserve le droit d'agir.
Ce que dit le rapport, et ce qu'il implique
La mécanique décrite par Anthropic est toujours la même : des équipes internes de renseignement sur les menaces détectent des comportements suspects, désactivent les comptes fautifs, puis documentent publiquement les schémas d'abus. On y retrouve des tentatives d'utiliser le modèle pour du code malveillant, des campagnes d'hameçonnage, des arnaques à l'emploi ou à la romance, des activités d'influence coordonnée et, plus inquiétant, des requêtes touchant des domaines à double usage comme les explosifs, les armes chimiques ou biologiques.
La logique invoquée est celle de la transparence : en publiant, l'entreprise outille la communauté de la cybersécurité et justifie ses propres garde-fous. Mais l'exercice a un corollaire rarement discuté dans les salles de conseil. Pour détecter un abus, il faut d'abord observer les échanges. Autrement dit, le fournisseur d'IA n'est pas un simple vendeur de logiciel : il est aussi, dans une certaine mesure, un organe de surveillance de ses propres clients.
Le risque le plus concret : la coupure de service
Pour une entreprise québécoise, le scénario à craindre n'est pas qu'un employé conçoive une arme avec un robot conversationnel. C'est qu'un compte d'entreprise soit suspendu pour violation présumée de la politique d'utilisation acceptable — et que le processus d'affaires qui en dépend s'arrête net.
Les politiques d'utilisation acceptable des grands fournisseurs, celle d'Anthropic comme celles de ses concurrents, interdisent explicitement un large éventail d'usages : armement, surveillance de masse, reconnaissance faciale non autorisée, notation sociale, création de logiciels malveillants, désinformation, usurpation d'identité, décisions automatisées à fort impact en matière de crédit, d'emploi ou de logement sans supervision humaine. Les conditions commerciales prévoient par ailleurs la possibilité de suspendre l'accès en cas d'usage jugé non conforme ou risqué.
Or plusieurs de ces zones grises ne sont pas exotiques. Une entreprise de sécurité privée qui expérimente l'analyse vidéo assistée par IA, un assureur qui automatise le tri des réclamations, un service des ressources humaines qui fait présélectionner des CV par un modèle, un cabinet qui teste la génération de code d'intrusion pour un mandat légitime de test de pénétration : dans tous ces cas, la frontière entre usage permis et usage interdit se joue dans les détails, et c'est le fournisseur qui l'interprète en premier.
Une dépendance rarement évaluée comme un risque d'affaires
La vague d'adoption a été rapide. Beaucoup d'organisations ont branché un modèle par interface de programmation, souvent via un intégrateur ou un fournisseur infonuagique, sans jamais traiter la chose comme un risque de concentration. C'est pourtant exactement ce que les régulateurs financiers appellent le risque de tierce partie : une dépendance critique à un prestataire dont la défaillance — ou la décision unilatérale — interrompt vos opérations.
Trois questions méritent d'être posées avant la prochaine facture.
Où est le bouton d'arrêt? Si votre accès est suspendu demain matin sans préavis, combien de processus tombent? Le service à la clientèle? La génération de documents? Le contrôle qualité du code? Un plan de repli — deuxième fournisseur, modèle ouvert hébergé localement, procédure manuelle dégradée — devrait exister sur papier.
Qui répond du contenu envoyé? Dans la plupart des contrats, c'est le client qui garantit la conformité de ses requêtes et de celles de ses utilisateurs finaux. Si un employé colle des renseignements personnels sensibles dans un outil grand public, l'organisation reste responsable au sens de la loi québécoise sur la protection des renseignements personnels dans le secteur privé, modernisée par la loi 25. La Commission d'accès à l'information a d'ailleurs rappelé à plusieurs reprises les exigences d'évaluation des facteurs relatifs à la vie privée avant la mise en service d'un système technologique impliquant des renseignements personnels.
Que voyez-vous de vos propres usages? C'est le point aveugle le plus fréquent. Beaucoup d'entreprises ne savent pas combien de comptes d'IA existent chez elles, qui les utilise, avec quelles données. Si le fournisseur, lui, dispose d'une vue d'ensemble sur les requêtes, l'asymétrie d'information est complète — et elle joue contre le client.
La traçabilité devient un actif
La réponse raisonnable n'est pas de bannir l'IA générative, ce qui pousserait simplement les employés vers des comptes personnels non surveillés. C'est d'instaurer une gouvernance minimale et documentée.
Concrètement : un inventaire des systèmes d'IA utilisés et de leurs finalités; une politique interne d'usage acceptable, alignée sur celle du fournisseur, qui précise les catégories de données interdites; une journalisation des requêtes côté entreprise, pas seulement côté fournisseur; une validation humaine obligatoire pour toute décision touchant une personne; et une clause contractuelle exigeant un préavis et un mécanisme d'appel en cas de suspension.
Deux référentiels internationaux servent de squelette à cet exercice. Le cadre de gestion des risques liés à l'IA du National Institute of Standards and Technology américain propose une structure en quatre fonctions — gouverner, cartographier, mesurer, gérer — facilement transposable à une PME. La norme ISO/IEC 42001, publiée fin 2023, définit pour sa part un système de management de l'IA certifiable, de plus en plus exigé dans les appels d'offres internationaux.
Ce dernier point n'est pas théorique. Le règlement européen sur l'intelligence artificielle, entré en vigueur en 2024 avec une application par étapes, impose des obligations substantielles aux systèmes jugés à haut risque, notamment en matière de documentation technique, de journalisation et de supervision humaine. Toute entreprise québécoise qui exporte un produit intégrant de l'IA vers l'Union européenne devra en tenir compte, peu importe ce qu'Ottawa décidera. Au Canada, le projet de loi C-27 et sa Loi sur l'intelligence artificielle et les données sont morts au feuilleton avec la prorogation parlementaire de janvier 2025, laissant un vide que les entreprises comblent par autoréglementation et par les cadres étrangers.
L'angle mort : les abus visent aussi vos employés
Il y a un dernier enseignement à tirer de ces rapports de renseignement. Les usages malveillants documentés — hameçonnage sur mesure, fausses offres d'emploi, usurpation d'identité de dirigeants, génération de logiciels malveillants par des acteurs peu qualifiés — décrivent précisément la menace que vos équipes subissent. Le Centre canadien pour la cybersécurité signale depuis plusieurs cycles que l'IA générative abaisse la barrière d'entrée de la cybercriminalité et augmente la crédibilité des leurres.
Autrement dit, la même technologie que vous intégrez pour gagner en productivité sert à raffiner les attaques contre vous. La fraude du faux fournisseur ou du faux président, déjà coûteuse pour les entreprises d'ici, devient plus difficile à repérer quand le courriel est parfaitement rédigé en français et qu'il cite des détails internes glanés en ligne.
La publication d'Anthropic mérite donc mieux qu'une lecture distraite. Elle confirme que l'IA générative est devenue une infrastructure critique — avec tout ce que cela implique de surveillance, de conditions d'accès et de vulnérabilités. Pour les entreprises québécoises, le travail à faire tient moins à la technologie qu'à la discipline contractuelle et documentaire. Ce n'est pas glamour. C'est ce qui distingue une expérimentation d'une dépendance maîtrisée.