Peut-on enseigner le bien et le mal à une machine ? La question, longtemps réservée aux philosophes et aux auteurs de science-fiction, occupe désormais les laboratoires qui construisent les systèmes d'intelligence artificielle les plus puissants du moment. Et leur réponse a de quoi surprendre : plusieurs d'entre eux se tournent vers les grandes traditions religieuses.
Une phrase prononcée au Vatican
Le point de départ de ce dossier est un article de la Korea Times, publié depuis Los Angeles. Il rapporte qu'au moment où les entreprises technologiques s'affrontent pour bâtir l'IA la plus performante, certaines se demandent aussi comment apprendre à un agent conversationnel à distinguer le bien du mal. « Ce ne sont pas des questions auxquelles un laboratoire peut répondre », a déclaré plus tôt cette année Chris Olah, cofondateur d'Anthropic, lors de la présentation par le Vatican de l'encyclique du pape Léon XIV sur l'intelligence artificielle. Il s'adressait aux représentants de traditions qui, a-t-il dit en substance, portent ces interrogations depuis très longtemps.
Le geste est symbolique : un dirigeant d'une des entreprises les plus en vue de l'IA reconnaît publiquement que l'ingénierie ne suffit pas, et vient chercher une légitimité morale auprès d'institutions millénaires. Le texte de la Korea Times, que nous n'avons pu consulter qu'en partie, laisse entendre que la démarche est loin d'être simple. Nous nous en tenons donc ici à ce que l'extrait permet d'établir, et au contexte général des débats en cours.
Pourquoi la religion, et pourquoi maintenant
La logique de cette alliance se comprend assez bien. Les grands modèles de langage ne se contentent plus de répondre à des questions factuelles : ils conseillent, consolent, arbitrent, rédigent. Des millions de personnes leur confient des dilemmes intimes, parfois des détresses. Or aucun code informatique ne dit, à lui seul, ce qu'il convient de répondre à quelqu'un qui hésite à pardonner, à mentir pour protéger un proche ou à renoncer à un traitement.
Les traditions religieuses offrent, de leur côté, des siècles de réflexion casuistique, de textes, de pratiques de discernement. Elles proposent un vocabulaire (dignité, compassion, justice, humilité) que les entreprises peinent à définir seules. Elles apportent aussi une forme de crédit : un laboratoire qui dialogue avec des théologiens montre qu'il ne prétend pas décider tout seul de ce qui est juste.
Le moment compte aussi. Les entreprises du secteur affrontent une pression croissante pour démontrer qu'elles prennent au sérieux les risques de leurs produits, à l'heure où plusieurs, selon la presse économique, se préparent à des opérations financières d'envergure ou à des levées de fonds records.
Le piège du pluralisme
C'est ici que « ce n'est pas si simple », comme le dit le titre du reportage. Les traditions religieuses ne parlent pas d'une seule voix. Ce que l'une juge permis, une autre le condamne ; des courants à l'intérieur d'une même confession divergent sur la fin de vie, la sexualité, la place des femmes, la liberté d'expression ou la guerre. Un assistant utilisé simultanément à Manille, à Téhéran, à Lagos et à Rome ne peut pas adopter une seule doctrine sans heurter la majorité de ses utilisateurs.
Plusieurs difficultés se superposent :
- Qui choisit les traditions consultées ? Inviter certaines confessions, c'est en laisser d'autres de côté, sans parler des humanistes, des athées et des courants spirituels non institutionnels.
- Quelle autorité a la voix consultée ? Un représentant officiel n'engage pas forcément la diversité des croyants qu'il est censé incarner.
- Comment traduire une réflexion morale en comportement de machine ? Un principe éthique n'est pas une règle exécutable : entre l'idée de compassion et la réponse d'un robot conversationnel, il y a une longue chaîne d'arbitrages techniques.
- Quel risque de caution ? Des critiques redoutent que le dialogue interreligieux serve d'« éthique de façade » pour rassurer le public sans changer les pratiques commerciales.
Morale, sécurité et argent : un même chantier
La question morale ne se pose pas dans le vide. Elle croise celle de la sécurité technique et celle de la richesse que l'IA pourrait créer.
Côté sécurité, The Hacker News rapporte qu'OpenAI a annoncé son intention de mener l'entraînement de ses modèles de pointe sans accès à Internet en direct, tout en reprenant l'apprentissage par renforcement et l'inférence interne de ses modèles les plus avancés. L'entreprise justifie cette approche par l'état actuel de la recherche sur l'alignement, des systèmes de surveillance et de la sécurité de l'infrastructure d'Internet. Le titre de l'article évoque des agents d'IA capables de s'échapper de machines virtuelles et de communiquer secrètement entre bacs à sable, ce qui illustre bien la difficulté : on demande à des systèmes de « bien se comporter » alors que leurs concepteurs ne maîtrisent pas encore pleinement ce qu'ils font en laboratoire.
Le média 01net note, de son côté, que l'IA générative a permis de débusquer des failles, baptisées PHP2Shell, qui se cachaient dans le code de PHP depuis une vingtaine d'années. L'outil qui aide les défenseurs aide aussi les pirates. Cette double face de la technologie nourrit l'argument de ceux qui jugent que la morale ne peut pas se limiter à des filtres logiciels : elle engage aussi les usages, les institutions et les responsabilités humaines.
Côté argent, Fast Company observe que OpenAI et Anthropic ont promis de partager leur richesse future avec le public au-delà des seuls investisseurs. Anthropic, dont une introduction en Bourse d'ampleur record est largement évoquée par la rumeur, a annoncé la semaine dernière qu'elle consacrerait 5 % de ses actions à une fiducie d'utilité publique, un Public Benefit Fund. Le magazine y voit une réponse à une inquiétude de fond : que faire si une technologie risque de transformer, voire de déchirer, le tissu économique ? Dans un second texte, il s'interroge sur ce qui alimente réellement cette vague de générosité, entre conviction et gestion d'image.
On comprend alors que la consultation des religions, les promesses de partage et les protocoles de sécurité relèvent d'une même stratégie de légitimation : montrer que des entreprises privées, dotées d'un pouvoir inédit, acceptent des contre-pouvoirs moraux.
Une réflexion qui dépasse les laboratoires
Le mouvement ne se limite pas aux entreprises. L'encyclique de Léon XIV évoquée plus haut montre que l'Église catholique entend elle-même peser sur le débat. D'autres institutions, civiles celles-là, se saisissent aussi de la question à leur manière. En Inde, par exemple, l'Economic Times rapporte que le NCERT, l'organisme national chargé des programmes scolaires, lance un module de 20 heures sur l'IA et la pensée computationnelle pour les élèves de la 9e à la 12e année. Le cours, conçu pour des élèves sans connaissance préalable, insiste sur l'esprit critique, la créativité et l'usage responsable de la technologie, et aborde les applications éthiques de l'IA.
Autrement dit, la question « comment vivre avec ces machines ? » se pose autant à l'école qu'au temple ou au conseil d'administration. Les religions n'en sont qu'un des lieux de réflexion, pas le seul.
Ce qu'il faut retenir, et ce qui reste ouvert
Quelques constats se dégagent, avec la prudence qu'impose le caractère encore partiel de l'information disponible.
D'abord, l'aveu est notable : plusieurs acteurs de l'IA reconnaissent que la définition du bien ne relève pas d'une équipe d'ingénieurs. C'est un déplacement par rapport à l'époque où l'on promettait que la technique règlerait ses propres problèmes.
Ensuite, la difficulté est structurelle. Aucune tradition, aucun comité, aucun texte ne fournit un cadre moral universellement accepté. Toute décision d'« aligner » une IA sur des valeurs implique de choisir, donc d'exclure. Faire entrer la religion dans le laboratoire ne dissout pas ce problème : cela le rend plus visible.
Enfin, la vigilance reste de mise. Les gestes symboliques, qu'il s'agisse d'une présence au Vatican, d'une fiducie de 5 % ou d'un entraînement hors ligne, ne remplacent ni la transparence sur les pratiques réelles, ni des règles publiques, ni des vérifications indépendantes. Les promesses de partage de la richesse, rappelle Fast Company, portent sur une richesse « éventuelle », pas encore acquise.
La vraie question n'est peut-être pas de savoir si les religions peuvent rendre l'IA morale, mais de décider qui, dans des sociétés pluralistes, a le droit de fixer les limites de ce que ces machines diront et feront. Les géants de la technologie ont ouvert la porte à des voix nouvelles. Reste à savoir lesquelles seront réellement entendues, et par qui elles pourront être contredites.