L’histoire du texte « marquant » du Pape Léon sur la technologie de l’IA – par un membre de son comité de lancement

Au cours des dernières années, j’ai été détaché pour aider l’Église catholique dans son initiative d’écoute mondiale et inédite auprès des communautés locales. Juste au moment où ce processus touchait à sa fin, j’ai reçu une requête surprise: pourrais-je aider le pape Léo XIV à lancer sa première encyclique sociale, axée sur ce que signifie être humain à l’ère de l’intelligence artificielle?

Il est difficile d’imaginer un thème plus important en ce moment que l’impact des technologies numériques, de l’IA et de la robotique sur tous les niveaux de nos interactions et de nos structures sociales.

Le Vatican a déjà abordé les questions technologiques. Mes recherches comprennent l’enseignement social des papes depuis 1891, en commençant par le texte influent de Pie XIII, Rerum Novarum (Sur les choses nouvelles) , qui traitait de l’impact de la révolution industrielle sur les travailleurs (et que ce nouveau texte commémore) . Une série de lettres précédentes ont abordé à la fois les opportunités et les dangers de la technologie.

Bien sûr, le Vatican a une histoire mouvementée concernant la réflexion théologique sur les développements scientifiques et médicaux. Au cours de la dernière décennie, il a mené des conversations ciblées et, à mon avis, productives avec le secteur de l’IA par le biais d’initiatives telles que les Dialogues Minerva – une série de conférences à huis clos avec des figures de premier plan des deux mondes. Dans ce sens, l’inquiétude concernant l’IA ne vient pas de nulle part.

Néanmoins, Magnifica Humanitas (Humanité Magnifique) a été un moment marquant: un texte papal abordant l’IA comme son centre d’intérêt pour la première fois, lancé par un pape en personne – ce qui n’arrive pas souvent – en présence même de l’industrie qu’il cherchait à critiquer. Le panel encyclique sur lequel j’étais assis comprenait également Chris Olah, cofondateur de la firme technologique d’IA Anthropic.

Tout cela impliquait un niveau d’intérêt médiatique et public beaucoup plus élevé. À l’approche du lancement, les questions concernant la composition du panel et le degré de préparation d’un pape pour commenter l’IA m’ont montré que ce texte allait être controversé. Et c’est normal.

Le rôle du texte est à la fois d’offrir le stimulus d’une tradition particulière – l’enseignement social catholique – et d’encourager le débat parmi des personnes aux vues variées sur ce qui constitue un usage commun et bon des technologies d’IA. Notre tâche en tant que panel était d’explorer ces deux réalités.

Pas anti-technologie mais pro-humain

Le Vatican n’était pas préoccupé par le manque de neutralité de l’encyclique car il déclare sa main de manière transparente – et ne croit pas non plus que le secteur technologique opère avec un état d’esprit neutre.

L’inclusion d’Anthropic dans le panel a été accueillie par certains comme un signe d’engagement sérieux avec le secteur sur ces questions. Pour d’autres, elle a montré un risque de naïveté quant à la capture corporative du Vatican, ou de privilégier les voix du capital.

Le document appelle à un mouvement hors des silos des salles de conseil privées où la moralité (et les profits) des nouvelles technologies est décidée par quelques-uns, vers un espace public de transparence, de participation, de bénéfice commun et de pouvoir partagé – si cela est possible.

Olah a au moins noté que le secteur technologique nécessite exactement le genre de conversation que ce texte promeut: une conversation publique et partagée dans laquelle la forme de nos vies professionnelles, éducatives, politiques et sociales n’est pas déterminée par quelques individus fortunés.

Le texte n’est ni anti-technologie ni anti-industrie. Il est pro-humain, pro-social et résiste aux fausses affirmations religieuses selon lesquelles l’IA nous sauvera en soi. Il résiste à l’idée que les limites humaines sont des choses à mépriser et à surmonter avec des modèles de corps ou d’esprits parfaits ou éternels.

Il souligne que l’IA devrait améliorer la capacité humaine aux relations finies et incarnées, au travail significatif comme partie d’une vie digne, et que la personne humaine soit reconnue comme une fin – et non comme un outil d’utilité, de pouvoir ou de profit.

La technologie est aussi ancienne que l’humanité. Elle fait partie de la manière dont nous façonnons et gérons notre monde. Elle préserve et favorise notre survie, ainsi que les vies sociales qui nous donnent un sens. Le pape Léon était clair: ce qui compte, ce sont les fins visées par ces nouvelles technologies d’IA, et leur relation avec les ressources naturelles de la Terre.

Remodeler l’idée d’être humain

Le Vatican a publié des textes précédents comparant l’intelligence humaine et l’intelligence artificielle, ainsi qu’un texte séparé critiquant les trans- et post-humanismes. La dimension ajoutée dans la première encyclique sociale de Léon est de soulever des questions sur la manière dont les technologies remodèlent l’idée même d’être humain – réécrivant le travail, l’éducation, la politique et la guerre – et comment elles sont enracinées et imbriquées dans de nouvelles cultures de pouvoir dominant.

Le texte interroge la liberté et l’épanouissement – deux catégories centrales à la pensée des Lumières.

Au sein de l’Église, il y a des théologiens qui sont des optimistes engagés quant à la possibilité des technologies d’IA, et d’autres qui sont plus réservés. Il y en a aussi certains qui pourraient être qualifiés de « pessimistes radicaux » – une tradition honorable à distinguer du simple cynisme.

Le nouveau texte puise dans chacune de ces perspectives, tout en restant le plus proche possible d’un milieu prudentiel. Il nomme le risque de nouvelles dépendances, exclusions, manipulations et inégalités. Tout compte positif et plein d’espoir sur ces nouvelles technologies doit être capable de faire face et de répondre à ces réalités.

Par-dessus tout, ce texte marque une nouvelle phase dans l’implication publique (plutôt que privée) du papauté dans les débats sur la technologie de l’IA. Son invitation est un dialogue social à de nombreux niveaux, impliquant de nombreux groupes, secteurs et parties prenantes.

Mon expérience est que les points de vue sur ces questions sont animés et âprement débattus. Mais par-dessus tout, ils sont urgents.

Anna Rowlands est membre du Dicastère pour le développement humain intégral au Vatican. Il s’agit d’un rôle de gouvernance. Elle a également servi de conseillère auprès du Vatican dans diverses capacités au cours des cinq dernières années.