A história do texto ‘marco’ do Papa Leo sobre tecnologia de IA – por um membro do painel de lançamento

Nos últimos anos, estive cedido para auxiliar a iniciativa global de escuta comunitária sem precedentes da Igreja Católica. Assim que esse processo estava chegando ao fim, recebi um pedido surpresa: eu ajudaria o Papa Leão XIV a lançar sua primeira encíclica social, focada no que significa ser humano em uma era de inteligência artificial?

É difícil pensar em um tema mais importante agora do que o impacto das tecnologias digitais, da IA e da robótica em todos os níveis de nossas interações e estruturas sociais.

O Vaticano já abordou questões tecnológicas antes. Minha pesquisa inclui o ensinamento social dos papas desde 1891, começando com o influente texto de Leão XIII, Rerum Novarum (Sobre Coisas Novas) , que abordou o impacto da revolução industrial nos trabalhadores (e que este novo texto comemora) . Uma série de cartas anteriores abordaram tanto as oportunidades quanto os perigos da tecnologia.

Claro, o Vaticano tem um histórico complexo em relação à reflexão teológica sobre desenvolvimentos científicos e médicos. Na última década, tem promovido conversas focadas e, na minha opinião, produtivas com o setor de tecnologia de IA por meio de iniciativas como os Diálogos Minerva – uma série de conferências a portas fechadas com figuras líderes de ambos os mundos. Nesse sentido, a preocupação com a IA não surge do nada.

No entanto, Magnifica Humanitas (Humanidade Magnífica) foi um momento histórico: um texto papal abordando a IA como seu foco central pela primeira vez, lançado por um papa pessoalmente – o que não acontece usualmente – na presença mesmo da indústria que ele buscava criticar. O painel da encíclica no qual participei também incluiu Chris Olah, cofundador da empresa de tecnologia de IA Anthropic.

Tudo isso significou um nível muito maior de interesse da mídia e do público. Na reta final do lançamento, perguntas sobre a composição do painel e o quão preparado um papa está para comentar sobre IA mostraram-me que este texto seria controverso. E tudo bem.

O trabalho do texto é tanto oferecer o estímulo de uma tradição específica – o ensinamento social católico – quanto incentivar o debate entre pessoas com diversas visões sobre o que constitui um uso comum e bom das tecnologias de IA. Nossa tarefa como painel foi explorar ambas essas realidades.

Não anti-tecnologia, mas pró-humano

O Vaticano não se preocupou com a falta de neutralidade da encíclica porque ela declara suas intenções de forma transparente – e não acredita que o setor de tecnologia opere com uma mentalidade neutra também.

A inclusão da Anthropic no painel foi recebida por alguns como um sinal de engajamento sério com o setor sobre essas questões. Para outros, mostrou um risco de ingenuidade em relação à captura corporativa do Vaticano, ou de privilegiar as vozes do capital.

O documento clama por um movimento para fora dos silos das salas de reuniões privadas, onde a moralidade (e os lucros) das novas tecnologias é decidida por poucos, em direção a um espaço público de transparência, participação, benefício comum e poder compartilhado – se isso for possível.

Olah pelo menos observou que o setor de tecnologia exige exatamente o tipo de conversa que este texto promove: uma conversa pública e compartilhada na qual o formato de nossas vidas de trabalho, educação, política e sociais não é determinado por poucos indivíduos ricos.

O texto não é anti-tecnologia nem anti-indústria. É pró-humano, pró-social e resistente a falsas alegações religiosas de que a IA nos salvará por si só. Ele resiste à ideia de que os limites humanos são coisas a serem desprezadas e superadas com modelos de corpos ou mentes aperfeiçoados ou eternos.

Ele enfatiza que a IA deve aprimorar a capacidade humana para relacionamentos finitos e encarnados, para um trabalho significativo como parte de uma vida digna, e para que a pessoa humana seja reconhecida como um fim – e não uma ferramenta de utilidade, poder ou lucro.

A tecnologia é tão antiga quanto a humanidade. É parte de como moldamos e administramos nosso mundo. Ela preserva e fomenta nossa sobrevivência, e as vidas sociais que nos dão significado. O Papa Leão foi claro: o que importa são os fins para os quais estas novas tecnologias de IA são destinadas, e seu relacionamento com os recursos naturais da Terra.

Remodelando a ideia de ser humano

O Vaticano emitiu textos anteriores comparando inteligência humana e artificial, bem como um texto separado criticando os trans- e pós-humanismos. A dimensão adicionada na primeira encíclica social de Leão é fazer perguntas sobre como as tecnologias estão remodelando a própria ideia de ser humano – reescrevendo o trabalho, a educação, a política e a guerra – e como elas estão atuando e enredadas em novas culturas de poder dominante.

O texto questiona a liberdade e o florescimento – duas categorias centrais ao pensamento iluminista.

Dentro da igreja, há teólogos que são otimistas em relação à possibilidade das tecnologias de IA, e outros que são mais cautelosos. Há também alguns que podem ser caracterizados como “pessimistas radicais” – uma tradição honrosa a ser distinguida do mero cinismo.

O novo texto se baseia em cada uma dessas perspectivas, mantendo-se mais próximo de um meio prudencial. Ele nomeia o risco de novas dependências, exclusões, manipulações e desigualdades. Qualquer relato positivo e esperançoso sobre tais novas tecnologias deve ser capaz de enfrentar e responder a essas realidades.

Acima de tudo, este texto marca uma nova fase no envolvimento público (em vez de fechado) do papado nos debates sobre tecnologia de IA. Seu convite é por um diálogo social em muitos níveis, em vários grupos, setores e partes interessadas.

Minha experiência é que as visões sobre esses assuntos são vivas e ferozmente contestadas. Mas, acima de tudo, são urgentes.

Anna Rowlands é membro do Dicastério para o Desenvolvimento Integral do Ser Humano no Vaticano. Este é um papel de governança. Ela também serviu como consultora do Vaticano em várias capacidades nos últimos cinco anos.