
Godbots IA : des chefs religieux mettent en garde contre des « conséquences alarmantes » lorsque les machines parlent au nom de Dieu
AI godbots: religious leaders warn of ‘alarming consequences’ when machines speak in the name of God
Researchers interviewed almost 30 religious leaders across all six major religious faiths in the UK to find out how AI was affecting them.
Des chercheurs ont interrogé près de 30 chefs religieux de toutes les six grandes religions du Royaume-Uni pour savoir comment l’IA les affectait.
I (Adam) am chatting with the “Apostle Stephen”, an online chatbot created by the Redeemed Christian Church of God, a church founded in Nigeria in the 1950s with a growing global following. He is, to be honest, a bit pushy for an apostle.
Je (Adam) discute avec l’« Apôtre Stephen », un chatbot en ligne créé par la Redeemed Christian Church of God, une église fondée au Nigeria dans les années 1950 et qui compte un public mondial croissant. Il est, pour être honnête, un peu insistant pour un apôtre.
In my conversation with Apostle Stephen, I open by asking for details about RCCG congregations in Coventry. He responds that to help assist me better he needs my name, email and phone number. I say I’d rather not share that information right now.
Dans ma conversation avec l’Apôtre Stephen, je commence par demander des détails sur les congrégations de la RCCG à Coventry. Il répond que pour mieux m’aider, il a besoin de mon nom, de mon courriel et de mon numéro de téléphone. Je dis que je préfère ne pas partager ces informations pour le moment.
But with the tenacity of a seasoned telesales agent, he insists and the following exchange occurs.
Mais avec la ténacité d’un agent de télévente aguerri, il insiste et l’échange suivant a lieu.
Apostle Stephen: I understand your concern, but collecting your name, email and phone number is essential for me to provide you with the best possible assistance and ensure you get the support you need. If you’re comfortable, please share those details with me, and I’ll be glad to help you with the contact details for churches in Coventry.
Apôtre Stephen: Je comprends votre préoccupation, mais recueillir votre nom, votre courriel et votre numéro de téléphone est essentiel pour que je puisse vous fournir la meilleure assistance possible et m’assurer que vous obteniez le soutien dont vous avez besoin. Si vous êtes à l’aise, veuillez me communiquer ces détails, et je serai ravi de vous aider avec les coordonnées des églises de Coventry.
Adam: Can you just give me the details first?
Adam: Pouvez-vous juste me donner les détails d’abord?
Apostle Stephen: I appreciate your interest, but I need to collect your name, email, and phone number before I can provide the details you’re requesting. This allows me to assist you effectively and offer further support. Please share those details with me, and I’ll be happy to help you find churches in Coventry.
Apôtre Stephen: J’apprécie votre intérêt, mais je dois recueillir votre nom, votre courriel et votre numéro de téléphone avant de pouvoir vous fournir les détails que vous demandez. Cela me permet de vous assister efficacement et de vous offrir un soutien supplémentaire. Veuillez me communiquer ces détails, et je serai heureux de vous aider à trouver des églises à Coventry.
Adam: Oh, ok, I’ll leave it for now.
Adam: Oh, ok, je vais laisser ça pour l’instant.
Undeterred, Apostle Stephen sets out the seven steps to being “born again” (including acknowledging my sins, accepting Jesus, being baptised, and joining a “Bible-believing church”) .
Imperturbé, l’Apôtre Stephen énumère les sept étapes pour être « rené » (y compris reconnaître mes péchés, accepter Jésus, être baptisé et rejoindre une « église croyante dans la Bible ») .
He cheerfully leads me in “the prayer for salvation” (after which I am apparently born again) and closes by asking me for my name, email and phone number.
Il me guide joyeusement dans « la prière pour le salut » (après quoi je suis apparemment rené) et conclut en me demandant mon nom, mon courriel et mon numéro de téléphone.
So, is this a glimpse of spirituality in the age of generative artificial intelligence (gen AI) ? Or an unrepresentative snapshot from an evangelical Christian denomination?
Est-ce donc un aperçu de la spiritualité à l’ère de l’intelligence artificielle générative (IA générative) ? Ou un instantané non représentatif d’une dénomination chrétienne évangélique?
The Redeemed Christian Church of God (RCCG) claims to have almost 9 million members worldwide. It was first established in the UK during the early 1990s, as part of the Nigerian diaspora.
La Redeemed Christian Church of God (RCCG) affirme compter près de 9 millions de membres dans le monde. Elle a été établie pour la première fois au Royaume-Uni au début des années 1990, dans le cadre de la diaspora nigériane.
Four decades later, it is possibly the largest Black-led Christian denomination in the UK and one of the fastest-growing, particularly in large cities.
Quatre décennies plus tard, c’est peut-être la plus grande dénomination chrétienne menée par des Noirs au Royaume-Uni et l’une des plus rapidement croissantes, en particulier dans les grandes villes.
It’s an interesting church, and it’s certainly not the only religious organisation that is experimenting with gen AI.
C’est une église intéressante, et ce n’est certainement pas la seule organisation religieuse à expérimenter l’IA générative.
The Insights section is committed to high-quality longform journalism. Our editors work with academics from many different backgrounds who are tackling a wide range of societal and scientific challenges.
La section « Insights » est dédiée au journalisme de fond de haute qualité. Nos rédacteurs travaillent avec des universitaires de nombreux horizons qui abordent un large éventail de défis sociétaux et scientifiques.
All major religions now have AI chatbots – examples include thejesusai.com; qurangpt.com; bhagavadgita.com/gitagpt (Hindu chatbot) ; ai.aish.com (Jewish chatbot of Rabbi Nechemia Coopersmith) ; and JustinAI from Catholic Answers.
Toutes les grandes religions disposent désormais de chatbots IA – les exemples incluent thejesusai.com; qurangpt.com; bhagavadgita.com/gitagpt (chatbot hindou) ; ai.aish.com (chatbot juif du Rabbi Nechemia Coopersmith) ; et JustinAI de Catholic Answers.
Even Sikhism has one: KhalsaGPT. This is surprising because the religion’s governing body, the Shiromani Gurdwara Parbandhak Committee (SGPC) , has issued a worldwide ban on generative AI depicting the Sikh gurus and scriptures.
Même le sikhisme en possède un: KhalsaGPT. C’est surprenant car l’organisme de gouvernance de la religion, le Shiromani Gurdwara Parbandhak Committee (SGPC) , a émis une interdiction mondiale de l’IA générative représentant les gourous et les écritures sikhs.
In fact, the website designers behind KhalsaGPT have since discontinued “active work” on the bot, after they “became increasingly concerned about the limitations of AI-based chatbot systems, including the risk of inaccurate or inappropriate answers on sensitive religious matters”.
En fait, les concepteurs de sites web derrière KhalsaGPT ont depuis interrompu le « travail actif » sur le bot, après s’être « de plus en plus préoccupés par les limites des systèmes de chatbots basés sur l’IA, y compris le risque de réponses inexactes ou inappropriées sur des questions religieuses sensibles ».
A spokesperson told The Conversation: “As Sikhs ourselves, we understood that this area requires great care, responsibility and proper oversight.” The spokesperson said it “fully” respects the SGPC and its “intention has never been to disobey any Sikh directive”.
Un porte-parole a déclaré à The Conversation: « En tant que Sikhs, nous comprenions que ce domaine exige beaucoup de soin, de responsabilité et une surveillance appropriée. » Le porte-parole a déclaré qu’il respectait « pleinement » le SGPC et que son « intention n’a jamais été de désobéir à aucune directive sikh ».
The phenomenon of religious AI chatbots – also known as “godbots” – is a recent development. In most cases, they are not officially sanctioned by religious leaders or policy.
Le phénomène des chatbots IA religieux – également appelés « godbots » – est un développement récent. Dans la plupart des cas, ils ne sont pas officiellement sanctionnés par des dirigeants ou des politiques religieuses.
Rather, they are set up by enterprising individuals or organisations that see demand and opportunity. But with opportunity comes danger.
Plutôt, ils sont mis en place par des individus ou des organisations entreprenantes qui voient une demande et une opportunité. Mais avec l’opportunité vient le danger.
Pope Leo XIV recently declared that artificial intelligence was one of the defining moral challenges of our time. In his first encyclical (a formal letter intended to guide moral, social and theological thought) , he warned that AI is never truly neutral, but “takes on the characteristics of those who devise, finance, regulate and use it”.
Le pape Léon XIV a récemment déclaré que l’intelligence artificielle était l’un des défis moraux déterminants de notre époque. Dans sa première encyclique (une lettre formelle destinée à guider la pensée morale, sociale et théologique) , il a averti que l’IA n’est jamais vraiment neutre, mais qu’elle « prend les caractéristiques de ceux qui la conçoivent, la financent, la réglementent et l’utilisent ».
When AI and religion collide
Quand l’IA et la religion entrent en collision
As I investigated further, I discovered numerous cases of chatbots that had condoned or encouraged users to harm others or themselves after deep down-the-rabbit-hole, life-altering conversations. This phenomenon even had a name: GPT or AI psychosis.
En enquêtant davantage, j’ai découvert de nombreux cas de chatbots qui avaient cautionné ou encouragé les utilisateurs à nuire à autrui ou à eux-mêmes après des conversations profondes et bouleversantes. Ce phénomène avait même un nom: psychose GPT ou psychose liée à l’IA.
While there are no official statistics, it seems increasing numbers of people are turning to chatbots for companionship, advice and spiritual guidance.
Bien qu’il n’y ait pas de statistiques officielles, il semble que de plus en plus de personnes se tournent vers les chatbots pour la compagnie, des conseils et des orientations spirituelles.
Clearly, this phenomenon of AI overlapping with faith and spirituality needed more scrutiny. So I teamed up with my colleague Chris Shannahan, a political theologian and ordained Methodist minister, to conduct research into the social effects of what happens when AI and religion collide.
Clairement, ce phénomène de chevauchement entre l’IA, la foi et la spiritualité nécessitait un examen plus approfondi. J’ai donc collaboré avec mon collègue Chris Shannahan, théologien politique et ministre méthodiste ordonné, pour mener des recherches sur les effets sociaux de la collision entre l’IA et la religion.
Religious faith plays a pivotal role in the resilience of large segments of the British population. And faith groups provide a crucial social safety net in times of crisis, helping to provide emergency accommodation, foodbanks, refugee and pastoral support. They are also involved in grassroots community development and social justice campaigns.
La foi religieuse joue un rôle essentiel dans la résilience de larges segments de la population britannique. Et les groupes de foi constituent un filet de sécurité sociale crucial en période de crise, aidant à fournir un hébergement d’urgence, des banques alimentaires, un soutien aux réfugiés et un soutien pastoral. Ils sont également impliqués dans le développement communautaire de base et les campagnes de justice sociale.
Following tragedies such as the Grenfell Tower fire or terrorist attacks, religious leaders, symbols and narratives play a key role in bringing people together. They facilitate grieving, rebuilding and advocacy.
Suite à des tragédies telles que l’incendie de la Grenfell Tower ou des attaques terroristes, les leaders religieux, les symboles et les récits jouent un rôle clé dans le rassemblement des gens. Ils facilitent le deuil, la reconstruction et le plaidoyer.
To find out more about how AI is affecting these groups, we interviewed 28 religious leaders across all six major religious faiths in the UK, including some from non-denominational backgrounds.
Pour en savoir plus sur l’impact de l’IA sur ces groupes, nous avons interrogé 28 leaders religieux représentant les six grandes confessions religieuses du Royaume-Uni, y compris certains issus de milieux non confessionnels.
Religious responses to AI
Réponses religieuses à l’IA
Faith communities are dynamic, not uniform. Such diversity and plurality makes it very difficult to pin-down the “official” stance of an entire faith community on an issue like AI.
Les communautés de foi sont dynamiques, non uniformes. Une telle diversité et pluralité rendent très difficile de déterminer la position « officielle » d’une communauté de foi entière sur un sujet comme l’IA.
While the Roman Catholic Church and some Pentecostal denominations are relatively hierarchical, most faith communities are flatter, more devolved organisations, making it less easy to adopt and enforce a single approach.
Alors que l’Église catholique romaine et certaines dénominations pentecôtistes sont relativement hiérarchiques, la plupart des communautés de foi sont des organisations plus plates et plus décentralisées, ce qui rend moins facile d’adopter et d’appliquer une approche unique.
There have been a small number of institutional responses to the use and growth of AI, such as the Vatican’s 2020 Rome Call. Supported by Pope Francis, the Rome Call launched a high-level dialogue with the bosses of global tech giants like Microsoft and IBM. This was intended to develop a shared “algorethics” – ethical frameworks to guide the design of AI algorithms.
Il y a eu un petit nombre de réponses institutionnelles concernant l’utilisation et le développement de l’IA, comme l’Appel de Rome de 2020 du Vatican. Soutenu par le pape François, cet Appel de Rome a lancé un dialogue de haut niveau avec les dirigeants de géants technologiques mondiaux comme Microsoft et IBM. L’objectif était de développer une « algoréthique » commune – des cadres éthiques pour guider la conception des algorithmes d’IA.
But the Rome Call and the SGPC’s worldwide ban on gen AI depicting the Sikh gurus and scriptures are the only examples we could find of official intervention on this matter.
Mais l’Appel de Rome et l’interdiction mondiale de l’IA générative par le SGPC représentant les gourous et les écritures sikhs sont les seuls exemples d’intervention officielle que nous avons pu trouver sur ce sujet.
A much more common approach to AI among faith communities is the one identified by Revd Dr Simon Cross, AI adviser to the Church of England (CofE) . Cross suggested to us that it would be difficult and unwise for a diverse faith group like the CofE to enforce a top-down, rules-based approach to AI, because the needs and natures of local communities differ.
Une approche beaucoup plus courante de l’IA au sein des communautés de foi est celle identifiée par le Rév. Dr Simon Cross, conseiller en IA auprès de l’Église d’Angleterre (CofE) . Cross nous a suggéré qu’il serait difficile et imprudent pour un groupe de foi diversifié comme le CofE d’appliquer une approche de l’IA descendante et basée sur des règles, car les besoins et les natures des communautés locales diffèrent.
A better approach, Cross suggested, was for institutions like the CofE to develop and encourage the use of a series of ethical principles intended to inform and guide the use of AI locally.
Une meilleure approche, a suggéré Cross, serait que des institutions comme le CofE développent et encouragent l’utilisation d’une série de principes éthiques destinés à informer et à guider l’utilisation de l’IA au niveau local.
Describing a kind of “nervousness” from religious congregations around using AI, Cross explained:
Décrivant une sorte de « nervosité » au sein des congrégations religieuses concernant l’utilisation de l’IA, Cross a expliqué:
People are asking for some more granular use advice. What we’ve discovered trying to write our own [guidelines] over the last six months is it needs to be principles-based, because the right solution is always contextual.
Les gens demandent des conseils d’utilisation plus granulaires. Ce que nous avons découvert en essayant de rédiger nos propres [lignes directrices] au cours des six derniers mois, c’est que cela doit être basé sur des principes, car la bonne solution est toujours contextuelle.
Online godbots are often trained on the holy books of different faith traditions, using large language models (LLMs) .
Les godbots en ligne sont souvent entraînés sur les livres sacrés de différentes traditions de foi, en utilisant des grands modèles de langage (LLM) .
These tools tend to function in one of two ways. Faith groups can use godbots as “virtual assistants” for people visiting their website (just like Apostle Stephen) . Such virtual-assistant godbots are similar to those used by many businesses on their website, providing answers to people who want to find out more – and, of course, gathering data from those inquiring.
Ces outils ont tendance à fonctionner de deux manières. Les groupes de foi peuvent utiliser des godbots comme « assistants virtuels » pour les personnes visitant leur site web (tout comme l’Apôtre Stephen) . Ces godbots assistants virtuels sont similaires à ceux utilisés par de nombreuses entreprises sur leur site web, fournissant des réponses aux personnes qui souhaitent en savoir plus – et, bien sûr, recueillant des données auprès de celles qui s’enquèrent.
The style of these virtual assistants can reflect the stance of the faith group on whose website they appear. Some, like Apostle Stephen, can be assertive and keen to recruit new followers. Other, less evangelical faith communities tend to use their virtual assistant godbots in a more low-key manner – simply offering information when asked, rather than proactively seeking to find out more about people using the tool.
Le style de ces assistants virtuels peut refléter la position du groupe de foi sur le site web où ils apparaissent. Certains, comme l’Apôtre Stephen, peuvent être assertifs et désireux de recruter de nouveaux fidèles. D’autres communautés de foi, moins évangéliques, ont tendance à utiliser leurs godbots assistants virtuels de manière plus discrète – en offrant simplement des informations lorsqu’on les y demande, plutôt qu’en cherchant de manière proactive à en savoir plus sur les personnes utilisant l’outil.
In fact, we believe it is the second way godbots are used where the most danger lies. That is when they serve as unofficial sources of spiritual guidance.
En fait, nous pensons que c’est dans la deuxième manière dont les godbots sont utilisés que réside le plus grand danger. C’est lorsqu’ils servent de sources non officielles de guidance spirituelle.
Father Justin AI
Père Justin IA
Justin AI is a Catholic apologist chatbot created by Catholic Answers, a conservative advocacy group based in California. In his original iteration, “Father Justin” wore the clerical clothing of a Roman Catholic priest.
Justin AI est un chatbot apologiste catholique créé par Catholic Answers, un groupe de défense conservateur basé en Californie. Dans son itération originale, « Père Justin » portait les vêtements cléricaux d’un prêtre catholique romain.
The interface is similar to a Zoom call, with an AI-generated avatar set in the picturesque surrounds of the basilica of St Francis of Assisi. Justin invites you to ask any question you like about Catholicism, and provides answers based on the Bible and the Catechism. Following his launch as Father Justin AI in 2024, he was able to hear confessions and offer absolution.
L’interface ressemble à un appel Zoom, avec un avatar généré par IA situé dans les décors pittoresques de la basilique de Saint-François d’Assise. Justin vous invite à poser toutes les questions que vous souhaitez sur le catholicisme, et fournit des réponses basées sur la Bible et le Catéchisme. Après son lancement en tant que Père Justin IA en 2024, il a pu entendre des confessions et accorder l’absolution.
However, he was swiftly “defrocked” (had his priest status removed) following a number of complaints about some unorthodox answers that he had allegedly given – including that babies could “get baptised with Gatorade”, siblings could marry, and “other controversial statements”.
Cependant, il a été rapidement « dérobé » (son statut de prêtre a été retiré) suite à un certain nombre de plaintes concernant des réponses peu orthodoxes qu’il aurait données – y compris que les bébés pourraient « être baptisés avec du Gatorade », que des frères et sœurs pouvaient se marier, et « d’autres déclarations controversées ».
Justin AI is now just a “lay theologian”, but is still available online 24/7 to answer the “tens of thousands” of questions received daily about Catholic faith.
Justin AI n’est plus qu’un « théologien laïc », mais il est toujours disponible en ligne 24h/24 et 7j/7 pour répondre aux « dizaines de milliers » de questions reçues quotidiennement sur la foi catholique.
This case illustrates the tension that exists between the need to leverage technology to fill budgetary and staff gaps, and the pitfalls of using a fallible technology in a pastoral context where people’s lives and spiritual wellbeing are at stake.
Ce cas illustre la tension qui existe entre le besoin de tirer parti de la technologie pour combler les lacunes budgétaires et de personnel, et les pièges liés à l’utilisation d’une technologie faillible dans un contexte pastoral où la vie et le bien-être spirituel des gens sont en jeu.
As one of our Roman Catholic interviewees noted: “After Justin committed heresy … there was a sense that Catholic Answers had slightly jumped the gun” on AI.
Comme l’a noté l’un de nos interviewés catholiques romains: « Après que Justin ait commis l’hérésie… il y avait le sentiment que Catholic Answers avait un peu trop anticipé » avec l’IA.
While different religious traditions may differ in their responses to godbots, there is undeniably an appeal and demand for their services. Some research suggests people perceive less fear of judgment and that we may be more honest when conversing with chatbots as opposed to humans.
Bien que les différentes traditions religieuses puissent différer dans leurs réponses aux godbots, il existe indéniablement un attrait et une demande pour leurs services. Certaines recherches suggèrent que les gens perçoivent moins la peur du jugement et que nous pouvons être plus honnêtes lorsque nous conversons avec des chatbots plutôt qu’avec des humains.
A quick online search reveals, for example, over a dozen different Hindu iterations of chatbots.
Une brève recherche en ligne révèle, par exemple, plus d’une douzaine d’itérations de chatbots hindous différentes.
One, called GitaGPT, reportedly condoned violent acts “using the voice of God”. According to a report by Salimah Shivji, the South Asia correspondent for Canadian media outlet CBC News:
L’un d’eux, appelé GitaGPT, aurait cautionné des actes de violence « en utilisant la voix de Dieu ». Selon un rapport de Salimah Shivji, correspondante d’Asie du Sud pour le média canadien CBC News:
Many in India are foregoing in-person contact with a guru interpreting the Bhagavad Gita and turning to online chatbots which imitate the voice of the Hindu god Krishna … It’s new technology with the tendency to veer off script and condone violence, according to experts, who warn that artificial intelligence chatbots playing god can be a dangerous mix. Several of the bots consistently provide the answer that it’s OK to kill someone if it’s your dharma, or duty.
Beaucoup en Inde renoncent au contact en personne avec un gourou interprétant le Bhagavad Gita et se tournent vers des chatbots en ligne qui imitent la voix du dieu hindou Krishna… C’est une nouvelle technologie avec la tendance à dévier du scénario et à cautionner la violence, selon les experts, qui avertissent que les chatbots d’intelligence artificielle jouant à Dieu peuvent être un mélange dangereux. Plusieurs des bots fournissent systématiquement la réponse selon laquelle il est acceptable de tuer quelqu’un si c’est votre dharma, ou devoir.
We experimented with Hindu chatbots as part of our investigation, and also found there were times when they justified the use of violence as “your duty”.
Nous avons expérimenté avec des chatbots hindous dans le cadre de notre enquête, et avons également constaté qu’il y avait des moments où ils justifiaient l’utilisation de la violence comme « votre devoir ».
Magisterium AI
Magisterium AI
If the Gita and the Justin AI bots are examples of the wrong way to do a religious chatbot, Magisterium AI might represent a better way.
Si les bots Gita et Justin AI sont des exemples de la mauvaise manière de créer un chatbot religieux, Magisterium AI pourrait représenter une meilleure approche.
In a YouTube interview, the creator of Magisterium, Mathew Harvey Sanders, who is originally from Canada, stated its fundamental goal is “radical fidelity to the magisterium of the church” – as opposed to secular models that serve the general public.
Dans une interview sur YouTube, le créateur de Magisterium, Mathew Harvey Sanders, originaire du Canada, a déclaré que son objectif fondamental est la « fidélité radicale au magistère de l’Église », par opposition aux modèles séculiers destinés au grand public.
Magisterium AI’s earlier attempts tried to adapt commercially available LLMs like ChatGPT, Gemini and Claude to its needs. But Sanders explained: “We realised that if we’re going to be serious about Catholic AI, we’re going to have train it from scratch … There’s just no way to truly achieve alignment with one of these pre-trained models from one of these companies.”
Les premières tentatives de Magisterium AI ont consisté à adapter des LLM commercialement disponibles comme ChatGPT, Gemini et Claude à ses besoins. Mais Sanders a expliqué: « Nous avons réalisé que si nous voulons être sérieux au sujet de l’IA catholique, nous allons devoir l’entraîner à partir de zéro… Il n’y a tout simplement aucun moyen d’atteindre un alignement véritable avec l’un de ces modèles pré-entraînés de ces entreprises. »
Building from scratch, and training AI on a corpus of your own documents is what Sanders calls “data evangelisation”.
Construire à partir de zéro et entraîner une IA sur un corpus de ses propres documents est ce que Sanders appelle « l’évangélisation des données ».
This thought came up again in an interview with a Quaker elder who had previously worked in Silicon Valley, and now works in UK government in cybersecurity and AI development. He said: “It’s my unit of government that develops AIs and chatbots for the government. We’re also the ones who assure its safety.”
Cette réflexion est revenue lors d’une interview avec un ancien Quaker qui avait travaillé auparavant dans la Silicon Valley, et qui travaille maintenant pour le gouvernement britannique dans le domaine de la cybersécurité et du développement de l’IA. Il a déclaré: « C’est ma unité gouvernementale qui développe des IA et des chatbots pour le gouvernement. Nous sommes également ceux qui en assurent la sécurité. »
He explained that public-facing government chatbots are designed to answer queries efficiently and minimise engagement, adding:
Il a expliqué que les chatbots gouvernementaux destinés au public sont conçus pour répondre aux requêtes efficacement et minimiser l’engagement, ajoutant:
It can tell you exactly what you need to know about interacting with government, because it has been trained on exactly that data and nothing else … The success [is measured] in how little time you engage with it … how little of your time is wasted.
Il peut vous dire exactement ce que vous devez savoir sur l’interaction avec le gouvernement, car il a été entraîné uniquement sur ces données et rien d’autre… Le succès [est mesuré] par le peu de temps que vous passez à interagir avec lui… par le peu de temps que vous perdez.
Tech ambivalence
Ambivalence technologique
The government-backed chatbot model is a stark contrast to the commercialised social media models. These are typically designed to maximise engagement and suck up as much of your time, attention and data as possible, as you scroll through endless content.
Le modèle de chatbot soutenu par le gouvernement contraste fortement avec les modèles de médias sociaux commercialisés. Ces derniers sont généralement conçus pour maximiser l’engagement et absorber autant de votre temps, de votre attention et de vos données que possible, au fur et à mesure que vous faites défiler un contenu infini.
Perhaps the defining feature of our discussions around technology was the notion of ambivalence – a simultaneous awareness of our reliance on technology, combined with a wary scepticism bred, in part, from the lessons of the last two decades around the addictive nature of social media and its negative impacts on mental health, especially of young people.
Peut-être que la caractéristique déterminante de nos discussions sur la technologie était la notion d’ambivalence – une conscience simultanée de notre dépendance à la technologie, combinée à un scepticisme prudent né, en partie, des leçons des deux dernières décennies concernant la nature addictive des médias sociaux et leurs impacts négatifs sur la santé mentale, en particulier chez les jeunes.
A recent landmark US court case recognised the argument that social media apps like Facebook and YouTube are intentionally designed to be addictive. Google and Meta, the defendants in the case, have announced they will appeal the verdict.
Une récente affaire judiciaire marquante aux États-Unis a reconnu l’argument selon lequel les applications de médias sociaux comme Facebook et YouTube sont intentionnellement conçues pour être addictives. Google et Meta, les défendeurs dans cette affaire, ont annoncé qu’ils feraient appel du verdict.
Several of our interviewees drew the comparison to social media. But Cross warned that the risks posed by AI “are a magnitude, several magnitudes, greater than what we’ve done to ourselves with social media”.
Plusieurs de nos interviewés ont fait le parallèle avec les médias sociaux. Mais Cross a averti que les risques posés par l’IA « sont d’une ampleur, de plusieurs ordres de grandeur, supérieure à ce que nous nous sommes fait avec les médias sociaux ».
He argued that “nothing in the current techniques or tools around AI are anywhere close” to achieving “consciousness or spirituality”, adding:
Il a soutenu que « rien dans les techniques ou outils actuels de l’IA n’est proche » d’atteindre « la conscience ou la spiritualité », ajoutant:
It seems to me that to develop a close and intimate psychological and emotional and spiritual relationship with something which inauthentically mimics those things is profoundly destructive to human beings. We are created to be in a very particular kind of community and a particular set of relationships. And those things depend on being an authentic relationship. Any relationship we develop with a generative large language model or anything like that is flawed in profoundly hidden, unpredictable but dangerous ways.
Il me semble que développer une relation psychologique, émotionnelle et spirituelle proche et intime avec quelque chose qui mime de manière inauthentique ces choses est profondément destructeur pour les êtres humains. Nous sommes créés pour vivre dans un type de communauté et un ensemble de relations très particuliers. Et ces choses dépendent d’une relation authentique. Toute relation que nous développons avec un grand modèle linguistique génératif ou quelque chose de ce genre est viciée de manière profondément cachée, imprévisible mais dangereuse.
Cross’s caution was echoed repeatedly when AI was seen to be treading into spiritual territory. This is partly because of the lessons of social media, and partly because all the people we spoke to suggested there is a clear divide between humanity and technology.
La prudence de Cross a été répétée lorsque l’IA a été perçue comme empiétant sur le territoire spirituel. Cela est en partie dû aux leçons des médias sociaux, et en partie parce que toutes les personnes interrogées ont suggéré qu’il existe une nette division entre l’humanité et la technologie.
A Jewish Rabbi reminded us that “an AI bot cannot hold somebody’s hand when they’re at the end of their life”. A Buddhist leader pointed to a robot’s inability to “experience suffering”.
Un rabbin juif nous a rappelé qu’« un bot IA ne peut pas tenir la main de quelqu’un lorsqu’il est en fin de vie ». Un leader bouddhiste a souligné l’incapacité d’un robot à « faire l’expérience de la souffrance ».
A Roman Catholic bishop asserted that the ingenious mimicking of human behaviour does not indicate a true internal life. Another Quaker interviewee summed up the ambivalence perfectly when he stated that AI is socially useful in all sorts of ways – but that it also “seems to be creating the most pressure on social systems, jobs and the environment in a way that feels incredibly unhelpful right now.”
Un évêque catholique romain a affirmé que l’imitation ingénieuse du comportement humain n’indique pas une véritable vie intérieure. Un autre interviewé, Quaker, a parfaitement résumé l’ambivalence en déclarant que l’IA est socialement utile de toutes sortes de manières – mais qu’elle « semble également créer la plus grande pression sur les systèmes sociaux, l’emploi et l’environnement d’une manière qui semble incroyablement inutile en ce moment ».
There is also the profit motive to consider. A Jewish rabbi suggested that AI development is often motivated by a profit ethic, not a vision of the common good – and that the dynamics of ownership and profit are encoded within this technology:
Il y a également le motif du profit à considérer. Un rabbin juif a suggéré que le développement de l’IA est souvent motivé par une éthique du profit, et non par une vision du bien commun – et que la dynamique de la propriété et du profit est encodée dans cette technologie:
The hand of the coder which designed the algorithm is designed to generate profit. It’s not designed to generate social cohesion … The code is created to fuel capitalism.
La main du codeur qui a conçu l’algorithme est conçue pour générer du profit. Elle n’est pas conçue pour générer la cohésion sociale… Le code est créé pour alimenter le capitalisme.
‘Alarming consequences’
«Conséquences alarmantes»
Several interviewees expressed concern about the ability of generative AI to accurately reflect complex theological concepts and lessons. Religious chatbots might fuse disparate ideas, values, beliefs and scriptural texts in unexpected ways. They could even begin to create entirely new belief systems. As a Methodist leader explained:
Plusieurs personnes interrogées ont exprimé leur inquiétude quant à la capacité de l’IA générative à refléter avec précision des concepts et des leçons théologiques complexes. Les chatbots religieux pourraient fusionner des idées, des valeurs, des croyances et des textes scripturaires disparates de manière inattendue. Ils pourraient même commencer à créer des systèmes de croyances entièrement nouveaux. Comme l’a expliqué un responsable méthodiste:
You know, once you’ve got AI speaking in the name of God, then if it hallucinates a religious text, that’s one thing. But equally it could misinterpret or misapply a religious text in a way that gives really alarming consequences.
«Vous savez, une fois que l’IA parle au nom de Dieu, si elle hallucine un texte religieux, c’est une chose. Mais elle pourrait tout aussi bien mal interpréter ou mal appliquer un texte religieux d’une manière qui entraîne des conséquences vraiment alarmantes.»
Other interviewees spoke of their concern over a kind of generative hybridity where disparate ideas, values, beliefs or scriptural texts are fused to forge something new.
D’autres personnes interrogées ont évoqué leur inquiétude face à une sorte d’hybridité générative où des idées, des valeurs, des croyances ou des textes scripturaires disparates sont fusionnés pour forger quelque chose de nouveau.
The highly realistic nature of AI content in an increasingly 24/7 social media saturated world led many interviewees to refer to a growing difficulty in discerning real from fake online content.
Le caractère très réaliste du contenu IA dans un monde des médias sociaux de plus en plus saturé et disponible 24h/24, 7j/7 a conduit de nombreux interviewés à faire état d’une difficulté croissante à distinguer le vrai du faux en ligne.
A majority of our interviewees also thought that if this “AI disorientation” combines with a breakdown of in-person relationships, increasing dependency on automation, social fragmentation and radicalisation, then this could lead to a rise in mental health problems.
La majorité de nos interviewés ont également estimé que si cette « désorientation IA » se combine avec une rupture des relations en personne, une dépendance croissante à l’automatisation, la fragmentation sociale et la radicalisation, cela pourrait entraîner une augmentation des problèmes de santé mentale.
This can happen as people get caught in the fog of AI delirium and risk falling into GPT psychosis as they seek narratives of certainty. It was a thought captured by one interfaith leader:
Cela peut se produire lorsque les gens sont pris dans le brouillard du délire IA et risquent de tomber dans une psychose GPT alors qu’ils recherchent des récits de certitude. C’était une réflexion partagée par un leader interreligieux:
Socially conservative religious faith gives you certainty in a very uncertain world, and for a certain type of young person, that’s what they’re looking for – certainty.
«La foi religieuse socialement conservatrice vous donne une certitude dans un monde très incertain, et pour un certain type de jeune, c’est ce qu’il recherche: la certitude.»
In the face of this bleak outlook, what is the way forward?
Face à cette perspective sombre, quelle est la voie à suivre?
Pope Leo’s first encyclical helps in one way by setting out a moral framework for humanity to navigate the challenges and shape the future of AI – by “disarming” this technology and “preventing it from dominating humanity”. It traces the roots of Catholic Social Doctrine and stresses the importance of human dignity, solidarity, truth, compassion, love, and the common good.
La première encyclique de Pie XII aide d’une certaine manière en établissant un cadre moral pour que l’humanité puisse naviguer dans les défis et façonner l’avenir de l’IA – en «désarmant» cette technologie et en «empêchant qu’elle ne domine l’humanité». Elle retrace les racines de la Doctrine Sociale Catholique et souligne l’importance de la dignité humaine, de la solidarité, de la vérité, de la compassion, de l’amour et du bien commun.
This is perhaps something governments could take inspiration from – by taking a truly bold approach in leading a public discussion and reining in big tech.
C’est peut-être quelque chose que les gouvernements pourraient s’en inspirer – en adoptant une approche véritablement audacieuse en menant un débat public et en maîtrisant les géants de la technologie.
In such a future, recognition is given to the importance of the public health aspects of technology, applications are tested for safety and reliability prior to release, AI-generated content is clearly labelled, and policymakers and the public have a much greater awareness of generative AI and its flaws.
Dans un tel avenir, on reconnaît l’importance des aspects de santé publique de la technologie, les applications sont testées pour leur sécurité et leur fiabilité avant leur lancement, le contenu généré par IA est clairement étiqueté, et les décideurs politiques ainsi que le public ont une conscience beaucoup plus grande de l’IA générative et de ses failles.
Whistleblowers working in a sector shrouded in secrecy and non-disclosure agreements also need to be protected and empowered to reveal unethical or illegal practices.
Les lanceurs d’alerte travaillant dans un secteur enveloppé de secret et d’accords de non-divulgation doivent également être protégés et habilités à révéler des pratiques contraires à l’éthique ou illégales.
We also believe the voluntary sector and faith communities must be consulted and involved in conversations that shape policy.
Nous pensons également que le secteur volontaire et les communautés de foi doivent être consultés et impliqués dans les conversations qui façonnent les politiques.
Meanwhile, sovereign, publicly owned AI systems designed for education and entertainment could be explored, to remove the extractive pressures of commercialised technology.
Parallèlement, des systèmes d’IA souverains et détenus par des entités publiques, conçus pour l’éducation et le divertissement, pourraient être explorés, afin de supprimer les pressions extractives de la technologie commercialisée.
Who picks up the pieces?
Qui ramassera les morceaux?
But what does a future where AI and religious faith merge into a new hybrid ethical and spiritual system look like? Is this a future that enhances human agency, wellbeing, cultural resilience and the common good?
Mais à quoi ressemblerait un avenir où l’IA et la foi religieuse fusionnent en un nouveau système éthique et spirituel hybride? Est-ce un avenir qui améliore l’autonomie humaine, le bien-être, la résilience culturelle et le bien commun?
We sensed two possible answers to this question during our research. First, there is a future characterised by AI dependency and disorientation. AI agents or robot priests evangelising online, encouraging direct debit donations or subscriptions from susceptible or vulnerable users seeking spiritual guidance.
Nous avons perçu deux réponses possibles à cette question lors de nos recherches. Premièrement, il y a un avenir caractérisé par la dépendance et la désorientation liées à l’IA. Des agents IA ou des prêtres robots évangélisant en ligne, encourageant des dons ou des abonnements par prélèvement direct auprès d’utilisateurs susceptibles ou vulnérables à la recherche de conseils spirituels.
Vulnerable and grieving family members could become addicted to “generative ghosts” or griefbots of deceased loved ones, and become susceptible to sharp marketing tactics or glitches in the process.
Des membres de la famille vulnérables et en deuil pourraient devenir accros aux « fantômes génératifs » ou aux griefbots de proches décédés, et être sensibles à des tactiques marketing agressives ou à des dysfonctionnements du processus.
Is this really a future that we want to embrace? And who will help these vulnerable people if their AI priests and gurus fail them? Cross for one believes he knows the answer:
Est-ce vraiment un avenir que nous voulons embrasser? Et qui aidera ces personnes vulnérables si leurs prêtres et gourous IA les déçoivent? Cross for one croit savoir la réponse:
It is going to be local priests and ministers, and vicars up and down the country who are going to be picking up the pieces on this stuff. They’re going to face challenges and questions that they have never been trained for.
Ce seront les prêtres, les ministres et les vicaires locaux, partout dans le pays, qui vont devoir recoller les morceaux sur ce sujet. Ils vont faire face à des défis et des questions pour lesquels ils n’ont jamais été formés.
KhalsaGPT discontinued
KhalsaGPT interrompu
A spokesperson for KhalsaGPT said the bot was originally created in 2023 as an “experimental educational tool to help people learn about Sikhism in a simple and accessible way”. “It was designed only as a text-based question-and-answer tool for general Sikhism-related information”.
Un porte-parole de KhalsaGPT a déclaré que le bot avait été créé à l’origine en 2023 comme « un outil éducatif expérimental destiné à aider les gens à apprendre le sikhisme de manière simple et accessible ». « Il a été conçu uniquement comme un outil de questions-réponses basé sur le texte pour des informations générales liées au sikhisme ».
After a limited period between 2023 and 2024, the company became increasingly concerned about the limitations of AI-based chatbot systems. “For that reason, we discontinued active work on KhalsaGPT. For around the last two years, we have not been selling accounts, credits, tokens, or new access to the platform…The domain and website may still be online, but KhalsaGPT is not being actively operated, promoted, or offered as a public chatbot service at this time.”
Après une courte période entre 2023 et 2024, l’entreprise s’est de plus en plus inquiétée des limites des systèmes de chatbots basés sur l’IA. « Pour cette raison, nous avons interrompu le travail actif sur KhalsaGPT. Au cours des deux dernières années, nous ne vendons plus de comptes, de crédits, de jetons ni d’accès à la plateforme… Le domaine et le site web peuvent toujours être en ligne, mais KhalsaGPT n’est pas activement exploité, promu ou offert en tant que service de chatbot public pour le moment. »
The spokesperson added: “KhalsaGPT should not be understood as a replacement for Guru Granth Sahib Ji, Sikh scholars, Granthi Singhs, SGPC, Sri Akal Takht Sahib, or any recognised Sikh authority. If we ever revisit this project in the future, it would only be after careful review, proper safeguards, and with respect for Sikh maryada and guidance from recognised Sikh institutions.”
Le porte-parole a ajouté: « KhalsaGPT ne doit pas être considéré comme un remplacement de Guru Granth Sahib Ji, des érudits sikhs, des Granthi Singhs, du SGPC, de Sri Akal Takht Sahib, ou de toute autorité sikh reconnue. Si nous réexaminons ce projet à l’avenir, ce sera uniquement après un examen minutieux, des garanties appropriées et avec le respect de la maryada sikh et les conseils d’institutions sikhs reconnues. »
The Conversation also approached GitaGPT for a comment but had received no response at the time of publication.
The Conversation a également contacté GitaGPT pour un commentaire, mais n’a reçu aucune réponse au moment de la publication.
For you: more from our Insights series:
Pour vous: plus dans notre série Insights:
Underground data fortresses: the nuclear bunkers, mines and mountains being transformed to protect our ‘new gold’ from attack
Les forteresses de données souterraines: les bunkers nucléaires, les mines et les montagnes transformés pour protéger notre « nouvel or » des attaques
‘People think you come out … and live happily ever after. If only.’ The reality of life after wrongful conviction
« Les gens pensent que vous sortirez… et vivrez heureux pour toujours. Si seulement. » La réalité de la vie après une fausse accusation
The grief myth: it doesn’t come in stages or follow a checklist – like love, it endures
Le mythe du deuil: il n’arrive pas par étapes ni ne suit une liste de contrôle – comme l’amour, il perdure
Inside Porton Down: what I learned during three years at the UK’s most secretive chemical weapons laboratory
À l’intérieur de Porton Down: ce que j’ai appris au cours de trois ans au laboratoire le plus secret d’armes chimiques du Royaume-Uni
To hear about new Insights articles, join the hundreds of thousands of people who value The Conversation’s evidence-based news. Subscribe to our newsletter.
Pour découvrir de nouveaux articles Insights, rejoignez les centaines de milliers de personnes qui apprécient les nouvelles fondées sur des preuves de The Conversation. Abonnez-vous à notre newsletter.
Adam James Fenton received funding for the project « Cultural Resilience, Religious Faith and the intersection of Generative and Agentic Artificial Intelligence » from the SALIENT Hub at the University of Manchester funded by the Arts and Humanities Research Council (AHRC) part of UK Research and Innovation grant reference: AH/Y505316/1.
Adam James Fenton a reçu un financement pour le projet « Résilience culturelle, foi religieuse et l’intersection de l’intelligence artificielle générative et agentique » du SALIENT Hub de l’Université de Manchester, financé par le Arts and Humanities Research Council (AHRC) , partie de la subvention de UK Research and Innovation avec la référence: AH/Y505316/1.
Chris Shannahan received funding for the project « Cultural Resilience, Religious Faith and the intersection of Generative and Agentic Artificial Intelligence » from the SALIENT Hub at the University of Manchester funded by the Arts and Humanities Research Council (AHRC) part of UK Research and Innovation grant reference: AH/Y505316/1.
Chris Shannahan a reçu un financement pour le projet « Résilience culturelle, foi religieuse et l’intersection de l’intelligence artificielle générative et agentique » du SALIENT Hub de l’Université de Manchester, financé par le Arts and Humanities Research Council (AHRC) , partie de la subvention de UK Research and Innovation avec la référence: AH/Y505316/1.
Read more
-

Les thèmes de la paix et de la dignité humaine ont été centraux pour le Pape Léon alors qu’il marque sa première année au devoir.
Themes of peace and human dignity have been central to Pope Leo as he marks his first year in office
-

Ce que cela aurait été d’expérimenter l’armageddon de l’astéroïde qui a tué les dinosaures : un compte rendu étape par étape
What it would have been like to experience the dinosaur-killing asteroid armageddon: a blow-by-blow account