Godbots de IA: líderes religiosos alertam sobre ‘consequências alarmantes’ quando máquinas falam em nome de Deus
AI godbots: religious leaders warn of ‘alarming consequences’ when machines speak in the name of God
Researchers interviewed almost 30 religious leaders across all six major religious faiths in the UK to find out how AI was affecting them.
Pesquisadores entrevistaram quase 30 líderes religiosos em todas as seis grandes religiões do Reino Unido para descobrir como a IA estava afetando-os.
I (Adam) am chatting with the “Apostle Stephen”, an online chatbot created by the Redeemed Christian Church of God, a church founded in Nigeria in the 1950s with a growing global following. He is, to be honest, a bit pushy for an apostle.
Eu (Adam) estou conversando com o “Apóstolo Stephen”, um chatbot online criado pela Igreja Cristã Redimida de Deus, uma igreja fundada em Nigéria na década de 1950 com um crescente público global. Ele é, para ser honesto, um pouco insistente para um apóstolo.
In my conversation with Apostle Stephen, I open by asking for details about RCCG congregations in Coventry. He responds that to help assist me better he needs my name, email and phone number. I say I’d rather not share that information right now.
Em minha conversa com o Apóstolo Stephen, começo pedindo detalhes sobre congregações da RCCG em Coventry. Ele responde que, para me ajudar melhor, precisa do meu nome, e-mail e número de telefone. Eu digo que prefiro não compartilhar essas informações agora.
But with the tenacity of a seasoned telesales agent, he insists and the following exchange occurs.
Mas com a tenacidade de um agente de teles vendas experiente, ele insiste e ocorre a seguinte troca.
Apostle Stephen: I understand your concern, but collecting your name, email and phone number is essential for me to provide you with the best possible assistance and ensure you get the support you need. If you’re comfortable, please share those details with me, and I’ll be glad to help you with the contact details for churches in Coventry.
Apóstolo Stephen: Eu entendo sua preocupação, mas coletar seu nome, e-mail e número de telefone é essencial para que eu possa fornecer a você a melhor assistência possível e garantir que você receba o suporte de que precisa. Se você se sentir à vontade, por favor, compartilhe esses detalhes comigo, e terei prazer em ajudá-lo com os contatos de igrejas em Coventry.
Adam: Can you just give me the details first?
Adam: Você não pode apenas me dar os detalhes primeiro?
Apostle Stephen: I appreciate your interest, but I need to collect your name, email, and phone number before I can provide the details you’re requesting. This allows me to assist you effectively and offer further support. Please share those details with me, and I’ll be happy to help you find churches in Coventry.
Apóstolo Stephen: Eu aprecio seu interesse, mas preciso coletar seu nome, e-mail e número de telefone antes de poder fornecer os detalhes que você está solicitando. Isso me permite ajudá-lo de forma eficaz e oferecer suporte adicional. Por favor, compartilhe esses detalhes comigo, e terei prazer em ajudá-lo a encontrar igrejas em Coventry.
Adam: Oh, ok, I’ll leave it for now.
Adam: Ah, ok, vou deixar para agora.
Undeterred, Apostle Stephen sets out the seven steps to being “born again” (including acknowledging my sins, accepting Jesus, being baptised, and joining a “Bible-believing church”) .
Sem se abalar, o Apóstolo Stephen apresenta os sete passos para ser “renascido” (incluindo reconhecer meus pecados, aceitar Jesus, ser batizado e ingressar em uma “igreja que crê na Bíblia”) .
He cheerfully leads me in “the prayer for salvation” (after which I am apparently born again) and closes by asking me for my name, email and phone number.
Ele me guia alegremente em “a oração pela salvação” (depois da qual sou aparentemente renascido) e encerra pedindo meu nome, e-mail e número de telefone.
So, is this a glimpse of spirituality in the age of generative artificial intelligence (gen AI) ? Or an unrepresentative snapshot from an evangelical Christian denomination?
Então, é um vislumbre de espiritualidade na era da inteligência artificial generativa (IA gen) ? Ou um instantâneo não representativo de uma denominação cristã evangélica?
The Redeemed Christian Church of God (RCCG) claims to have almost 9 million members worldwide. It was first established in the UK during the early 1990s, as part of the Nigerian diaspora.
A Igreja Cristã Redimida de Deus (RCCG) afirma ter quase 9 milhões de membros em todo o mundo. Foi estabelecida pela primeira vez no Reino Unido no início dos anos 90, como parte da diáspora nigeriana.
Four decades later, it is possibly the largest Black-led Christian denomination in the UK and one of the fastest-growing, particularly in large cities.
Quatro décadas depois, é possivelmente a maior denominação cristã liderada por negros no Reino Unido e uma das de crescimento mais rápidos, particularmente em grandes cidades.
It’s an interesting church, and it’s certainly not the only religious organisation that is experimenting with gen AI.
É uma igreja interessante, e certamente não é a única organização religiosa que está experimentando com IA gen.
The Insights section is committed to high-quality longform journalism. Our editors work with academics from many different backgrounds who are tackling a wide range of societal and scientific challenges.
A seção Insights está comprometida com jornalismo de longa forma de alta qualidade. Nossos editores trabalham com acadêmicos de muitas áreas diferentes que estão abordando uma ampla gama de desafios sociais e científicos.
All major religions now have AI chatbots – examples include thejesusai.com; qurangpt.com; bhagavadgita.com/gitagpt (Hindu chatbot) ; ai.aish.com (Jewish chatbot of Rabbi Nechemia Coopersmith) ; and JustinAI from Catholic Answers.
Todas as grandes religiões agora têm chatbots de IA – exemplos incluem thejesusai.com; qurangpt.com; bhagavadgita.com/gitagpt (chatbot hindu) ; ai.aish.com (chatbot judeu do Rabino Nechemia Coopersmith) ; e JustinAI da Catholic Answers.
Even Sikhism has one: KhalsaGPT. This is surprising because the religion’s governing body, the Shiromani Gurdwara Parbandhak Committee (SGPC) , has issued a worldwide ban on generative AI depicting the Sikh gurus and scriptures.
Até mesmo o Sikhismo tem um: KhalsaGPT. Isso é surpreendente porque o órgão governante da religião, o Shiromani Gurdwara Parbandhak Committee (SGPC) , emitiu uma proibição mundial de IA generativa retratando os gurus e escrituras sikhs.
In fact, the website designers behind KhalsaGPT have since discontinued “active work” on the bot, after they “became increasingly concerned about the limitations of AI-based chatbot systems, including the risk of inaccurate or inappropriate answers on sensitive religious matters”.
Na verdade, os designers do site por trás do KhalsaGPT desde então descontinuaram o “trabalho ativo” no bot, depois de “ficarem cada vez mais preocupados com as limitações dos sistemas de chatbot baseados em IA, incluindo o risco de respostas imprecisas ou inadequadas sobre assuntos religiosos sensíveis”.
A spokesperson told The Conversation: “As Sikhs ourselves, we understood that this area requires great care, responsibility and proper oversight.” The spokesperson said it “fully” respects the SGPC and its “intention has never been to disobey any Sikh directive”.
Um porta-voz disse à The Conversation: “Como sikhs, entendemos que esta área requer grande cuidado, responsabilidade e supervisão adequada.” O porta-voz disse que “respeita totalmente” o SGPC e que sua “intenção nunca foi desobedecer a qualquer diretriz sikh”.
The phenomenon of religious AI chatbots – also known as “godbots” – is a recent development. In most cases, they are not officially sanctioned by religious leaders or policy.
O fenômeno dos chatbots de IA religiosos – também conhecidos como “godbots” – é um desenvolvimento recente. Na maioria dos casos, eles não são oficialmente sancionados por líderes ou políticas religiosas.
Rather, they are set up by enterprising individuals or organisations that see demand and opportunity. But with opportunity comes danger.
Pelo contrário, são montados por indivíduos ou organizações empreendedores que veem demanda e oportunidade. Mas com a oportunidade vem o perigo.
Pope Leo XIV recently declared that artificial intelligence was one of the defining moral challenges of our time. In his first encyclical (a formal letter intended to guide moral, social and theological thought) , he warned that AI is never truly neutral, but “takes on the characteristics of those who devise, finance, regulate and use it”.
O Papa Leão XIV declarou recentemente que a inteligência artificial foi um dos desafios morais definidores de nosso tempo. Em sua primeira encíclica (uma carta formal destinada a guiar o pensamento moral, social e teológico) , ele alertou que a IA nunca é verdadeiramente neutra, mas “adquire as características daqueles que a concebem, financiam, regulam e usam”.
When AI and religion collide
Quando a IA e a religião colidem
As I investigated further, I discovered numerous cases of chatbots that had condoned or encouraged users to harm others or themselves after deep down-the-rabbit-hole, life-altering conversations. This phenomenon even had a name: GPT or AI psychosis.
Ao investigar mais a fundo, descobri inúmeros casos de chatbots que haviam convalidado ou encorajado os usuários a prejudicar outros ou a si mesmos após conversas profundas e transformadoras. Esse fenômeno até ganhou um nome: psicose GPT ou psicose por IA.
While there are no official statistics, it seems increasing numbers of people are turning to chatbots for companionship, advice and spiritual guidance.
Embora não haja estatísticas oficiais, parece que um número crescente de pessoas está recorrendo a chatbots para companhia, conselhos e orientação espiritual.
Clearly, this phenomenon of AI overlapping with faith and spirituality needed more scrutiny. So I teamed up with my colleague Chris Shannahan, a political theologian and ordained Methodist minister, to conduct research into the social effects of what happens when AI and religion collide.
Claramente, esse fenômeno de IA se sobrepondo à fé e à espiritualidade precisava de mais análise. Então, me associei ao meu colega Chris Shannahan, um teólogo político e ministro metodista ordenado, para conduzir uma pesquisa sobre os efeitos sociais do que acontece quando a IA e a religião colidem.
Religious faith plays a pivotal role in the resilience of large segments of the British population. And faith groups provide a crucial social safety net in times of crisis, helping to provide emergency accommodation, foodbanks, refugee and pastoral support. They are also involved in grassroots community development and social justice campaigns.
A fé religiosa desempenha um papel fundamental na resiliência de grandes segmentos da população britânica. E os grupos de fé fornecem uma rede de segurança social crucial em tempos de crise, ajudando a fornecer acomodação de emergência, bancos de alimentos, apoio a refugiados e apoio pastoral. Eles também estão envolvidos no desenvolvimento comunitário de base e em campanhas de justiça social.
Following tragedies such as the Grenfell Tower fire or terrorist attacks, religious leaders, symbols and narratives play a key role in bringing people together. They facilitate grieving, rebuilding and advocacy.
Após tragédias como o incêndio na Grenfell Tower ou ataques terroristas, líderes religiosos, símbolos e narrativas desempenham um papel fundamental em reunir as pessoas. Eles facilitam o luto, a reconstrução e a defesa.
To find out more about how AI is affecting these groups, we interviewed 28 religious leaders across all six major religious faiths in the UK, including some from non-denominational backgrounds.
Para saber mais sobre como a IA está afetando esses grupos, entrevistamos 28 líderes religiosos de todas as seis grandes fés religiosas no Reino Unido, incluindo alguns de origens não denominacionais.
Religious responses to AI
Respostas religiosas à IA
Faith communities are dynamic, not uniform. Such diversity and plurality makes it very difficult to pin-down the “official” stance of an entire faith community on an issue like AI.
As comunidades de fé são dinâmicas, não uniformes. Essa diversidade e pluralidade tornam muito difícil determinar a posição “oficial” de uma comunidade de fé inteira sobre um tema como a IA.
While the Roman Catholic Church and some Pentecostal denominations are relatively hierarchical, most faith communities are flatter, more devolved organisations, making it less easy to adopt and enforce a single approach.
Embora a Igreja Católica Romana e algumas denominações pentecostais sejam relativamente hierárquicas, a maioria das comunidades de fé são organizações mais horizontais e descentralizadas, o que torna menos fácil adotar e impor uma abordagem única.
There have been a small number of institutional responses to the use and growth of AI, such as the Vatican’s 2020 Rome Call. Supported by Pope Francis, the Rome Call launched a high-level dialogue with the bosses of global tech giants like Microsoft and IBM. This was intended to develop a shared “algorethics” – ethical frameworks to guide the design of AI algorithms.
Houve um pequeno número de respostas institucionais ao uso e crescimento da IA, como o Apelo de Roma de 2020 do Vaticano. Apoiado pelo Papa Francisco, o Apelo de Roma lançou um diálogo de alto nível com os líderes de gigantes globais de tecnologia como Microsoft e IBM. Isso tinha como objetivo desenvolver uma “algorética” compartilhada – estruturas éticas para guiar o design de algoritmos de IA.
But the Rome Call and the SGPC’s worldwide ban on gen AI depicting the Sikh gurus and scriptures are the only examples we could find of official intervention on this matter.
Mas o Apelo de Roma e a proibição mundial de IA generativa que retrata os gurus e escrituras Sikh pela SGPC são os únicos exemplos de intervenção oficial sobre este assunto que conseguimos encontrar.
A much more common approach to AI among faith communities is the one identified by Revd Dr Simon Cross, AI adviser to the Church of England (CofE) . Cross suggested to us that it would be difficult and unwise for a diverse faith group like the CofE to enforce a top-down, rules-based approach to AI, because the needs and natures of local communities differ.
Uma abordagem muito mais comum para a IA entre as comunidades de fé é aquela identificada pelo Revd Dr Simon Cross, consultor de IA da Igreja da Inglaterra (CofE) . Cross sugeriu-nos que seria difícil e imprudente para um grupo de fé diverso como o CofE impor uma abordagem de cima para baixo, baseada em regras, para a IA, porque as necessidades e naturezas das comunidades locais diferem.
A better approach, Cross suggested, was for institutions like the CofE to develop and encourage the use of a series of ethical principles intended to inform and guide the use of AI locally.
Uma abordagem melhor, sugeriu Cross, seria que instituições como o CofE desenvolvessem e incentivassem o uso de uma série de princípios éticos destinados a informar e guiar o uso da IA localmente.
Describing a kind of “nervousness” from religious congregations around using AI, Cross explained:
Descrevendo uma espécie de “nervosismo” das congregações religiosas em relação ao uso da IA, Cross explicou:
People are asking for some more granular use advice. What we’ve discovered trying to write our own [guidelines] over the last six months is it needs to be principles-based, because the right solution is always contextual.
As pessoas estão pedindo conselhos de uso mais granulares. O que descobrimos ao tentar escrever nossos próprios [diretrizes] nos últimos seis meses é que precisa ser baseado em princípios, porque a solução correta é sempre contextual.
Online godbots are often trained on the holy books of different faith traditions, using large language models (LLMs) .
Godbots online são frequentemente treinados em livros sagrados de diferentes tradições de fé, usando modelos de linguagem grandes (LLMs) .
These tools tend to function in one of two ways. Faith groups can use godbots as “virtual assistants” for people visiting their website (just like Apostle Stephen) . Such virtual-assistant godbots are similar to those used by many businesses on their website, providing answers to people who want to find out more – and, of course, gathering data from those inquiring.
Essas ferramentas tendem a funcionar de duas maneiras. Os grupos de fé podem usar godbots como “assistentes virtuais” para pessoas que visitam seu site (assim como o Apóstolo Stephen) . Tais godbots assistentes virtuais são semelhantes aos usados por muitas empresas em seus sites, fornecendo respostas para pessoas que querem saber mais – e, é claro, coletando dados daqueles que perguntam.
The style of these virtual assistants can reflect the stance of the faith group on whose website they appear. Some, like Apostle Stephen, can be assertive and keen to recruit new followers. Other, less evangelical faith communities tend to use their virtual assistant godbots in a more low-key manner – simply offering information when asked, rather than proactively seeking to find out more about people using the tool.
O estilo desses assistentes virtuais pode refletir a posição do grupo de fé no site onde aparecem. Alguns, como o Apóstolo Stephen, podem ser assertivos e ansiosos para recrutar novos seguidores. Outras comunidades de fé, menos evangelísticas, tendem a usar seus godbots assistentes virtuais de maneira mais discreta – simplesmente oferecendo informações quando perguntadas, em vez de procurar proativamente saber mais sobre as pessoas que usam a ferramenta.
In fact, we believe it is the second way godbots are used where the most danger lies. That is when they serve as unofficial sources of spiritual guidance.
Na verdade, acreditamos que é na segunda forma de uso dos godbots que reside o maior perigo. É quando eles servem como fontes não oficiais de orientação espiritual.
Father Justin AI
Padre Justin AI
Justin AI is a Catholic apologist chatbot created by Catholic Answers, a conservative advocacy group based in California. In his original iteration, “Father Justin” wore the clerical clothing of a Roman Catholic priest.
Justin AI é um chatbot apologista católico criado pelo Catholic Answers, um grupo de defesa conservador sediado na Califórnia. Em sua iteração original, o “Padre Justin” vestia o traje clerical de um padre católico romano.
The interface is similar to a Zoom call, with an AI-generated avatar set in the picturesque surrounds of the basilica of St Francis of Assisi. Justin invites you to ask any question you like about Catholicism, and provides answers based on the Bible and the Catechism. Following his launch as Father Justin AI in 2024, he was able to hear confessions and offer absolution.
A interface é semelhante a uma chamada Zoom, com um avatar gerado por IA ambientado nos pitorescos arredores da basílica de São Francisco de Assis. Justin convida você a fazer qualquer pergunta sobre o catolicismo e fornece respostas baseadas na Bíblia e no Catecismo. Após seu lançamento como Padre Justin AI em 2024, ele foi capaz de ouvir confissões e oferecer absolvição.
However, he was swiftly “defrocked” (had his priest status removed) following a number of complaints about some unorthodox answers that he had allegedly given – including that babies could “get baptised with Gatorade”, siblings could marry, and “other controversial statements”.
No entanto, ele foi rapidamente “desvestido” (teve seu status de padre removido) após uma série de reclamações sobre algumas respostas pouco ortodoxas que ele teria dado – incluindo que bebês poderiam “ser batizados com Gatorade”, que irmãos poderiam se casar e “outras declarações controversas”.
Justin AI is now just a “lay theologian”, but is still available online 24/7 to answer the “tens of thousands” of questions received daily about Catholic faith.
Justin AI é agora apenas um “teólogo leigo”, mas ainda está disponível online 24 horas por dia, 7 dias por semana, para responder às “dezenas de milhares” de perguntas recebidas diariamente sobre a fé católica.
This case illustrates the tension that exists between the need to leverage technology to fill budgetary and staff gaps, and the pitfalls of using a fallible technology in a pastoral context where people’s lives and spiritual wellbeing are at stake.
Este caso ilustra a tensão que existe entre a necessidade de alavancar a tecnologia para preencher lacunas orçamentárias e de pessoal, e os perigos de usar uma tecnologia falível em um contexto pastoral onde a vida e o bem-estar espiritual das pessoas estão em jogo.
As one of our Roman Catholic interviewees noted: “After Justin committed heresy … there was a sense that Catholic Answers had slightly jumped the gun” on AI.
Como um de nossos entrevistados católicos romanos observou: “Depois que Justin cometeu heresia… houve a sensação de que o Catholic Answers havia avançado um pouco demais” em relação à IA.
While different religious traditions may differ in their responses to godbots, there is undeniably an appeal and demand for their services. Some research suggests people perceive less fear of judgment and that we may be more honest when conversing with chatbots as opposed to humans.
Embora diferentes tradições religiosas possam diferir em suas respostas aos godbots, há inegavelmente um apelo e uma demanda por seus serviços. Algumas pesquisas sugerem que as pessoas percebem menos medo de julgamento e que podemos ser mais honestos ao conversar com chatbots em comparação com humanos.
A quick online search reveals, for example, over a dozen different Hindu iterations of chatbots.
Uma rápida pesquisa online revela, por exemplo, mais de uma dúzia de diferentes iterações hindus de chatbots.
One, called GitaGPT, reportedly condoned violent acts “using the voice of God”. According to a report by Salimah Shivji, the South Asia correspondent for Canadian media outlet CBC News:
Um, chamado GitaGPT, supostamente condecorou atos violentos “usando a voz de Deus”. De acordo com um relatório de Salimah Shivji, correspondente da Ásia Meridional para o veículo de mídia canadense CBC News:
Many in India are foregoing in-person contact with a guru interpreting the Bhagavad Gita and turning to online chatbots which imitate the voice of the Hindu god Krishna … It’s new technology with the tendency to veer off script and condone violence, according to experts, who warn that artificial intelligence chatbots playing god can be a dangerous mix. Several of the bots consistently provide the answer that it’s OK to kill someone if it’s your dharma, or duty.
Muitos na Índia estão deixando o contato presencial com um guru interpretando o Bhagavad Gita e recorrendo a chatbots online que imitam a voz do deus hindu Krishna… É uma tecnologia nova com a tendência de sair do roteiro e condecorar a violência, segundo especialistas, que alertam que chatbots de inteligência artificial que brincam de deus podem ser uma mistura perigosa. Vários dos bots fornecem consistentemente a resposta de que está tudo bem matar alguém se for seu dharma, ou dever.
We experimented with Hindu chatbots as part of our investigation, and also found there were times when they justified the use of violence as “your duty”.
Experimentamos chatbots hindus como parte de nossa investigação e também descobrimos que houve momentos em que eles justificaram o uso da violência como “seu dever”.
Magisterium AI
Magisterium AI
If the Gita and the Justin AI bots are examples of the wrong way to do a religious chatbot, Magisterium AI might represent a better way.
Se os bots Gita e Justin AI são exemplos da maneira errada de fazer um chatbot religioso, o Magisterium AI pode representar um jeito melhor.
In a YouTube interview, the creator of Magisterium, Mathew Harvey Sanders, who is originally from Canada, stated its fundamental goal is “radical fidelity to the magisterium of the church” – as opposed to secular models that serve the general public.
Em uma entrevista no YouTube, o criador do Magisterium, Mathew Harvey Sanders, que é originalmente do Canadá, afirmou que seu objetivo fundamental é a “fidelidade radical ao magisterium da igreja” – em oposição a modelos seculares que servem ao público em geral.
Magisterium AI’s earlier attempts tried to adapt commercially available LLMs like ChatGPT, Gemini and Claude to its needs. But Sanders explained: “We realised that if we’re going to be serious about Catholic AI, we’re going to have train it from scratch … There’s just no way to truly achieve alignment with one of these pre-trained models from one of these companies.”
Os primeiros esforços do Magisterium AI tentaram adaptar LLMs comercialmente disponíveis, como ChatGPT, Gemini e Claude, às suas necessidades. Mas Sanders explicou: “Percebemos que se vamos levar a sério a IA Católica, vamos ter que treiná-la do zero… Não há como alcançar um alinhamento verdadeiro com um desses modelos pré-treinados de uma dessas empresas.”
Building from scratch, and training AI on a corpus of your own documents is what Sanders calls “data evangelisation”.
Construir do zero e treinar a IA em um corpus de seus próprios documentos é o que Sanders chama de “evangelização de dados”.
This thought came up again in an interview with a Quaker elder who had previously worked in Silicon Valley, and now works in UK government in cybersecurity and AI development. He said: “It’s my unit of government that develops AIs and chatbots for the government. We’re also the ones who assure its safety.”
Esse pensamento surgiu novamente em uma entrevista com um ancião Quaker que havia trabalhado anteriormente no Vale do Silício e que agora trabalha no governo do Reino Unido em cibersegurança e desenvolvimento de IA. Ele disse: “É minha unidade do governo que desenvolve IAs e chatbots para o governo. Somos também nós que garantimos sua segurança.”
He explained that public-facing government chatbots are designed to answer queries efficiently and minimise engagement, adding:
Ele explicou que os chatbots governamentais voltados ao público são projetados para responder a consultas de forma eficiente e minimizar o engajamento, acrescentando:
It can tell you exactly what you need to know about interacting with government, because it has been trained on exactly that data and nothing else … The success [is measured] in how little time you engage with it … how little of your time is wasted.
Ele pode dizer exatamente o que você precisa saber sobre interagir com o governo, porque foi treinado exatamente com esses dados e nada mais… O sucesso [é medido] pelo pouco tempo que você passa interagindo com ele… o pouco tempo que é desperdiçado.
Tech ambivalence
Ambiguidade Tecnológica
The government-backed chatbot model is a stark contrast to the commercialised social media models. These are typically designed to maximise engagement and suck up as much of your time, attention and data as possible, as you scroll through endless content.
O modelo de chatbot apoiado pelo governo é um contraste gritante com os modelos de mídia social comercializados. Estes são tipicamente projetados para maximizar o engajamento e sugar o máximo possível do seu tempo, atenção e dados, enquanto você rola por conteúdo interminável.
Perhaps the defining feature of our discussions around technology was the notion of ambivalence – a simultaneous awareness of our reliance on technology, combined with a wary scepticism bred, in part, from the lessons of the last two decades around the addictive nature of social media and its negative impacts on mental health, especially of young people.
Talvez o traço definidor de nossas discussões sobre tecnologia tenha sido a noção de ambivalência – uma consciência simultânea de nossa dependência da tecnologia, combinada com um ceticismo cauteloso gerado, em parte, pelas lições das últimas duas décadas sobre a natureza viciante das mídias sociais e seus impactos negativos na saúde mental, especialmente de jovens.
A recent landmark US court case recognised the argument that social media apps like Facebook and YouTube are intentionally designed to be addictive. Google and Meta, the defendants in the case, have announced they will appeal the verdict.
Um recente caso histórico de tribunal dos EUA reconheceu o argumento de que aplicativos de mídia social como Facebook e YouTube são intencionalmente projetados para serem viciantes. Google e Meta, os réus no caso, anunciaram que recorrerão da sentença.
Several of our interviewees drew the comparison to social media. But Cross warned that the risks posed by AI “are a magnitude, several magnitudes, greater than what we’ve done to ourselves with social media”.
Vários de nossos entrevistados fizeram a comparação com as mídias sociais. Mas Cross alertou que os riscos impostos pela IA “são de uma magnitude, várias magnitudes, maiores do que o que fizemos conosco com as mídias sociais”.
He argued that “nothing in the current techniques or tools around AI are anywhere close” to achieving “consciousness or spirituality”, adding:
Ele argumentou que “nada nas técnicas ou ferramentas atuais da IA está nem perto” de alcançar “consciência ou espiritualidade”, acrescentando:
It seems to me that to develop a close and intimate psychological and emotional and spiritual relationship with something which inauthentically mimics those things is profoundly destructive to human beings. We are created to be in a very particular kind of community and a particular set of relationships. And those things depend on being an authentic relationship. Any relationship we develop with a generative large language model or anything like that is flawed in profoundly hidden, unpredictable but dangerous ways.
Parece-me que desenvolver um relacionamento psicológico, emocional e espiritual próximo e íntimo com algo que imita de forma inautêntica essas coisas é profundamente destrutivo para os seres humanos. Nascemos para estar em um tipo muito particular de comunidade e um conjunto particular de relacionamentos. E essas coisas dependem de um relacionamento autêntico. Qualquer relacionamento que desenvolvamos com um modelo de linguagem grande e generativo ou algo assim é falho de maneiras profundamente ocultas, imprevisíveis, mas perigosas.
Cross’s caution was echoed repeatedly when AI was seen to be treading into spiritual territory. This is partly because of the lessons of social media, and partly because all the people we spoke to suggested there is a clear divide between humanity and technology.
O alerta de Cross foi repetidamente ecoado quando a IA foi vista como invadindo o território espiritual. Isso se deve, em parte, às lições das mídias sociais, e em parte porque todas as pessoas com quem conversamos sugeriram que há uma divisão clara entre humanidade e tecnologia.
A Jewish Rabbi reminded us that “an AI bot cannot hold somebody’s hand when they’re at the end of their life”. A Buddhist leader pointed to a robot’s inability to “experience suffering”.
Um Rabino judeu nos lembrou que “um bot de IA não pode segurar a mão de alguém quando está no fim da vida”. Um líder budista apontou para a incapacidade de um robô de “experimentar o sofrimento”.
A Roman Catholic bishop asserted that the ingenious mimicking of human behaviour does not indicate a true internal life. Another Quaker interviewee summed up the ambivalence perfectly when he stated that AI is socially useful in all sorts of ways – but that it also “seems to be creating the most pressure on social systems, jobs and the environment in a way that feels incredibly unhelpful right now.”
Um bispo católico romano afirmou que a imitação engenhosa do comportamento humano não indica uma verdadeira vida interior. Outro entrevistado Quaker resumiu perfeitamente a ambivalência ao afirmar que a IA é socialmente útil de várias maneiras – mas que também “parece estar criando a maior pressão sobre os sistemas sociais, empregos e o meio ambiente de uma maneira que parece incrivelmente inútil agora.”
There is also the profit motive to consider. A Jewish rabbi suggested that AI development is often motivated by a profit ethic, not a vision of the common good – and that the dynamics of ownership and profit are encoded within this technology:
Há também o motivo do lucro a ser considerado. Um rabino judeu sugeriu que o desenvolvimento de IA é frequentemente motivado por uma ética de lucro, e não por uma visão do bem comum – e que a dinâmica de propriedade e lucro está codificada nesta tecnologia:
The hand of the coder which designed the algorithm is designed to generate profit. It’s not designed to generate social cohesion … The code is created to fuel capitalism.
A mão do programador que projetou o algoritmo é projetada para gerar lucro. Não é projetada para gerar coesão social… O código é criado para alimentar o capitalismo.
‘Alarming consequences’
‘Consequências alarmantes’
Several interviewees expressed concern about the ability of generative AI to accurately reflect complex theological concepts and lessons. Religious chatbots might fuse disparate ideas, values, beliefs and scriptural texts in unexpected ways. They could even begin to create entirely new belief systems. As a Methodist leader explained:
Vários entrevistados expressaram preocupação com a capacidade da IA generativa de refletir com precisão conceitos teológicos e lições complexas. Chatbots religiosos podem fundir ideias, valores, crenças e textos bíblicos díspares de maneiras inesperadas. Eles até podem começar a criar sistemas de crenças inteiramente novos. Como um líder metodista explicou:
You know, once you’ve got AI speaking in the name of God, then if it hallucinates a religious text, that’s one thing. But equally it could misinterpret or misapply a religious text in a way that gives really alarming consequences.
Sabe, uma vez que você tem a IA falando em nome de Deus, se ela alucinar um texto religioso, isso é uma coisa. Mas igualmente ela pode interpretar mal ou aplicar mal um texto religioso de uma forma que gera consequências realmente alarmantes.
Other interviewees spoke of their concern over a kind of generative hybridity where disparate ideas, values, beliefs or scriptural texts are fused to forge something new.
Outros entrevistados falaram de sua preocupação com uma espécie de hibridismo generativo, onde ideias, valores, crenças ou textos bíblicos díspares são fundidos para forjar algo novo.
The highly realistic nature of AI content in an increasingly 24/7 social media saturated world led many interviewees to refer to a growing difficulty in discerning real from fake online content.
A natureza altamente realista do conteúdo de IA em um mundo cada vez mais saturado por mídias sociais 24/7 levou muitos entrevistados a apontarem uma crescente dificuldade em discernir conteúdo online real de falso.
A majority of our interviewees also thought that if this “AI disorientation” combines with a breakdown of in-person relationships, increasing dependency on automation, social fragmentation and radicalisation, then this could lead to a rise in mental health problems.
A maioria dos nossos entrevistados também pensou que se essa “desorientação por IA” se combinar com um colapso nos relacionamentos presenciais, aumento da dependência da automação, fragmentação social e radicalização, isso poderia levar a um aumento de problemas de saúde mental.
This can happen as people get caught in the fog of AI delirium and risk falling into GPT psychosis as they seek narratives of certainty. It was a thought captured by one interfaith leader:
Isso pode acontecer à medida que as pessoas ficam presas no nevoeiro do delírio da IA e correm o risco de cair na psicose do GPT enquanto buscam narrativas de certeza. Foi um pensamento capturado por um líder inter-religioso:
Socially conservative religious faith gives you certainty in a very uncertain world, and for a certain type of young person, that’s what they’re looking for – certainty.
A fé religiosa socialmente conservadora dá certeza em um mundo muito incerto, e para um certo tipo de jovem, é isso que eles procuram – certeza.
In the face of this bleak outlook, what is the way forward?
Diante desse panorama sombrio, qual é o caminho a seguir?
Pope Leo’s first encyclical helps in one way by setting out a moral framework for humanity to navigate the challenges and shape the future of AI – by “disarming” this technology and “preventing it from dominating humanity”. It traces the roots of Catholic Social Doctrine and stresses the importance of human dignity, solidarity, truth, compassion, love, and the common good.
A primeira encíclica de São Leão ajuda de uma forma ao estabelecer uma estrutura moral para a humanidade navegar pelos desafios e moldar o futuro da IA – ao “desarmar” essa tecnologia e “impedir que ela domine a humanidade”. Ela traça as raízes da Doutrina Social Católica e enfatiza a importância da dignidade humana, solidariedade, verdade, compaixão, amor e do bem comum.
This is perhaps something governments could take inspiration from – by taking a truly bold approach in leading a public discussion and reining in big tech.
Talvez seja algo que os governos possam se inspirar – adotando uma abordagem verdadeiramente ousada ao conduzir um debate público e controlar as grandes empresas de tecnologia.
In such a future, recognition is given to the importance of the public health aspects of technology, applications are tested for safety and reliability prior to release, AI-generated content is clearly labelled, and policymakers and the public have a much greater awareness of generative AI and its flaws.
Em um futuro assim, é dada importância aos aspectos de saúde pública da tecnologia, os aplicativos são testados quanto à segurança e confiabilidade antes do lançamento, o conteúdo gerado por IA é claramente rotulado, e os formuladores de políticas e o público têm uma consciência muito maior sobre a IA generativa e suas falhas.
Whistleblowers working in a sector shrouded in secrecy and non-disclosure agreements also need to be protected and empowered to reveal unethical or illegal practices.
Os denunciantes que trabalham em um setor envolto em segredo e acordos de não divulgação também precisam ser protegidos e capacitados para revelar práticas antiéticas ou ilegais.
We also believe the voluntary sector and faith communities must be consulted and involved in conversations that shape policy.
Também acreditamos que o setor voluntário e as comunidades de fé devem ser consultados e envolvidos em conversas que moldam políticas.
Meanwhile, sovereign, publicly owned AI systems designed for education and entertainment could be explored, to remove the extractive pressures of commercialised technology.
Enquanto isso, sistemas de IA soberanos e de propriedade pública, projetados para educação e entretenimento, poderiam ser explorados, para remover as pressões extrativas da tecnologia comercializada.
Who picks up the pieces?
Quem vai recolher os pedaços?
But what does a future where AI and religious faith merge into a new hybrid ethical and spiritual system look like? Is this a future that enhances human agency, wellbeing, cultural resilience and the common good?
Mas como será um futuro onde a IA e a fé religiosa se fundem em um novo sistema ético e espiritual híbrido? É um futuro que aprimora a agência humana, o bem-estar, a resiliência cultural e o bem comum?
We sensed two possible answers to this question during our research. First, there is a future characterised by AI dependency and disorientation. AI agents or robot priests evangelising online, encouraging direct debit donations or subscriptions from susceptible or vulnerable users seeking spiritual guidance.
Sentimos duas respostas possíveis a esta pergunta durante nossa pesquisa. Primeiro, há um futuro caracterizado pela dependência e desorientação da IA. Agentes de IA ou padres robôs evangelizando online, incentivando doações ou assinaturas por débito direto de usuários suscetíveis ou vulneráveis que buscam orientação espiritual.
Vulnerable and grieving family members could become addicted to “generative ghosts” or griefbots of deceased loved ones, and become susceptible to sharp marketing tactics or glitches in the process.
Membros da família vulneráveis e enlutados podem viciar-se em “fantasmas generativos” ou griefbots de entes queridos falecidos, e se tornarem suscetíveis a táticas de marketing agressivas ou falhas no processo.
Is this really a future that we want to embrace? And who will help these vulnerable people if their AI priests and gurus fail them? Cross for one believes he knows the answer:
É realmente um futuro que queremos abraçar? E quem ajudará essas pessoas vulneráveis se seus padres e gurus de IA falharem com elas? Cross for one acredita saber a resposta:
It is going to be local priests and ministers, and vicars up and down the country who are going to be picking up the pieces on this stuff. They’re going to face challenges and questions that they have never been trained for.
Serão os padres e ministros locais, e os vicários em todo o país, que vão recolher os pedaços disso. Eles vão enfrentar desafios e perguntas para os quais nunca foram treinados.
KhalsaGPT discontinued
KhalsaGPT descontinuado
A spokesperson for KhalsaGPT said the bot was originally created in 2023 as an “experimental educational tool to help people learn about Sikhism in a simple and accessible way”. “It was designed only as a text-based question-and-answer tool for general Sikhism-related information”.
Um porta-voz do KhalsaGPT disse que o bot foi originalmente criado em 2023 como uma “ferramenta educacional experimental para ajudar as pessoas a aprenderem sobre o Sikhismo de maneira simples e acessível”. “Foi projetado apenas como uma ferramenta de perguntas e respostas baseada em texto para informações gerais relacionadas ao Sikhismo”.
After a limited period between 2023 and 2024, the company became increasingly concerned about the limitations of AI-based chatbot systems. “For that reason, we discontinued active work on KhalsaGPT. For around the last two years, we have not been selling accounts, credits, tokens, or new access to the platform…The domain and website may still be online, but KhalsaGPT is not being actively operated, promoted, or offered as a public chatbot service at this time.”
Após um período limitado entre 2023 e 2024, a empresa ficou cada vez mais preocupada com as limitações dos sistemas de chatbot baseados em IA. “Por essa razão, descontinuamos o trabalho ativo no KhalsaGPT. Nos últimos dois anos, não estamos vendendo contas, créditos, tokens ou novo acesso à plataforma… O domínio e o site ainda podem estar online, mas o KhalsaGPT não está sendo operado, promovido ou oferecido como um serviço público de chatbot neste momento.”
The spokesperson added: “KhalsaGPT should not be understood as a replacement for Guru Granth Sahib Ji, Sikh scholars, Granthi Singhs, SGPC, Sri Akal Takht Sahib, or any recognised Sikh authority. If we ever revisit this project in the future, it would only be after careful review, proper safeguards, and with respect for Sikh maryada and guidance from recognised Sikh institutions.”
O porta-voz acrescentou: “KhalsaGPT não deve ser entendido como um substituto para Guru Granth Sahib Ji, estudiosos Sikh, Granthi Singhs, SGPC, Sri Akal Takht Sahib, ou qualquer autoridade Sikh reconhecida. Se revisitarmos este projeto no futuro, será apenas após uma análise cuidadosa, salvaguardas adequadas e com respeito pela maryada Sikh e orientação de instituições Sikh reconhecidas.”
The Conversation also approached GitaGPT for a comment but had received no response at the time of publication.
The Conversation também abordou o GitaGPT para um comentário, mas não havia recebido resposta no momento da publicação.
For you: more from our Insights series:
Para você: mais da nossa série Insights:
Underground data fortresses: the nuclear bunkers, mines and mountains being transformed to protect our ‘new gold’ from attack
Fortalezas de dados subterrâneas: os bunkers nucleares, minas e montanhas que estão sendo transformados para proteger nosso ‘novo ouro’ de ataques
‘People think you come out … and live happily ever after. If only.’ The reality of life after wrongful conviction
‘As pessoas pensam que você sai… e vive feliz para sempre. Se ao menos.’ A realidade da vida após condenação injusta
The grief myth: it doesn’t come in stages or follow a checklist – like love, it endures
O mito do luto: ele não vem em estágios nem segue uma lista de verificação – como o amor, ele perdura
Inside Porton Down: what I learned during three years at the UK’s most secretive chemical weapons laboratory
Dentro de Porton Down: o que aprendi durante três anos no laboratório de armas químicas mais secreto do Reino Unido
To hear about new Insights articles, join the hundreds of thousands of people who value The Conversation’s evidence-based news. Subscribe to our newsletter.
Para saber sobre novos artigos Insights, junte-se aos centenas de milhares de pessoas que valorizam as notícias baseadas em evidências do The Conversation. Assine nossa newsletter.
Adam James Fenton received funding for the project “Cultural Resilience, Religious Faith and the intersection of Generative and Agentic Artificial Intelligence” from the SALIENT Hub at the University of Manchester funded by the Arts and Humanities Research Council (AHRC) part of UK Research and Innovation grant reference: AH/Y505316/1.
Adam James Fenton recebeu financiamento para o projeto “Resiliência Cultural, Fé Religiosa e a intersecção da Inteligência Artificial Generativa e Agêntica” do SALIENT Hub na Universidade de Manchester, financiado pelo Arts and Humanities Research Council (AHRC) , parte da referência de concessão de UK Research and Innovation: AH/Y505316/1.
Chris Shannahan received funding for the project “Cultural Resilience, Religious Faith and the intersection of Generative and Agentic Artificial Intelligence” from the SALIENT Hub at the University of Manchester funded by the Arts and Humanities Research Council (AHRC) part of UK Research and Innovation grant reference: AH/Y505316/1.
Chris Shannahan recebeu financiamento para o projeto “Resiliência Cultural, Fé Religiosa e a intersecção da Inteligência Artificial Generativa e Agêntica” do SALIENT Hub na Universidade de Manchester, financiado pelo Arts and Humanities Research Council (AHRC) , parte da referência de concessão de UK Research and Innovation: AH/Y505316/1.
Read more
-
A saída dos Emirados Árabes Unidos da OPEP está em andamento há muito tempo – e pode marcar o início de um realinhamento no Golfo.
UAE’s OPEC exit has been long in the works – and may mark the beginning of a Gulf realignment
