Papa Leão alerta sobre os riscos da IA à humanidade em sua primeira encíclica

O Papa Leão XIV acabou de declarar a inteligência artificial como um dos desafios morais definidores de nosso tempo, em sua primeira encíclica: uma carta formal destinada a guiar o pensamento moral, social e teológico. Intitulada Magnifica Humanitas (Humanidade Magnífica) , ela argumenta que a tecnologia deve servir à humanidade, em vez de concentrar poder ou enfraquecer a dignidade humana.

Ele apresentou o documento no Vaticano junto ao desenvolvedor de IA Christopher Olah, cofundador da Anthropic, que reconheceu que empresas como a dele precisam de orientação moral para se protegerem de “incentivos e restrições que às vezes podem conflitar com fazer a coisa certa”, relatou o New York Times.

“A tecnologia não é simplesmente uma ferramenta”, dizia a carta aberta de aproximadamente 42.300 palavras. “Quando se torna o padrão pelo qual tudo é julgado, começa a ditar o que importa e o que pode ser descartado, reduzindo a criação a um objeto de exploração e os seres humanos a meros engrenagens em um sistema impulsionado em direção a uma eficiência cada vez maior.”

Ela adverte que a IA nunca é verdadeiramente neutra, mas “assume as características daqueles que a concebem, financiam, regulam e utilizam”. E clama por supervisão ética, justiça social, proteção dos trabalhadores, governança responsável e paz.

Guerra automatizada

A encíclica critica o uso de IA na guerra, pedindo a imposição de “restrições éticas mais rigorosas” em armas desenvolvidas usando IA.

À medida que os governos investem pesadamente em tecnologias militares autônomas e sistemas de defesa assistidos por IA, a “facilidade crescente” de implantá-los torna a guerra mais provável e “menos sujeita ao controle humano”, alerta o texto. Isso “viola o princípio de que a força armada deve ser usada apenas como último recurso em casos de legítima defesa”.

A carta também critica a crescente concentração de poder tecnológico e sistemas que reduzem as pessoas a dados ou funções econômicas. Ela promove o que chama de “civilização do amor”, centrada na dignidade humana, solidariedade, verdade, compaixão e bem comum.

A resposta do Papa Leo à revolução da IA faz referência deliberada à resposta de seu antecessor, o Papa Leão XIII, aos problemas da Revolução Industrial, em Rerum Novarum (“Das Novas Coisas”) , em 1891. Embora Magnifica Humanitas tenha sido lançado em 25 de maio de 2026, ele é simbolicamente datado de 15 de maio, a data de Rerum Novarum.

Revolução Industrial à Revolução da IA

Uma encíclica não é uma declaração papal comum. Tradicionalmente endereçada aos bispos e ao mais amplo mundo católico, é um dos documentos de ensino mais autoritativos da Igreja Católica.

O papa não possui mais o poder político direto que o papado detinha no século XIX. Mas o ensinamento papal ainda carrega peso moral em uma rede católica global de escolas, universidades, instituições de caridade, hospitais e organizações comunitárias.

O Vaticano não pode regulamentar a IA. Não pode escrever padrões de segurança, fiscalizar centros de dados ou forçar empresas a divulgar como seus sistemas funcionam. Mas pode ajudar a moldar os termos morais do debate. Por mais de um século, o ensinamento social católico influenciou debates públicos sobre trabalho, desigualdade, pobreza, dignidade humana e os limites éticos do poder econômico.

Embora os papas tenham emitido encíclicas muito antes da era moderna, Rerum Novarum tornou as encíclicas sociais globalmente influentes.

Ela confrontou condições de trabalho exploratórias, a crescente desigualdade e o conflito entre trabalhadores e empregadores. O Papa Leão XIII defendeu os direitos dos trabalhadores e argumentou que a riqueza carrega responsabilidades sociais. Ele criticou tanto o capitalismo irrestrito quanto o socialismo revolucionário.

O documento influenciou debates sobre direitos trabalhistas e justiça econômica muito além da igreja. Na Austrália, em 1907, o juiz H.B. Higgins se baseou em Rerum Novarum ao estabelecer princípios para um salário digno.

A encíclica do Papa Leão XIV tenta fazer para a era da IA o que Rerum Novarum fez para a era industrial: fornecer uma estrutura moral para uma transformação tecnológica que remodela o trabalho, o poder e os relacionamentos humanos.

Dignidade humana na era dos algoritmos

O Papa Leão XIV argumenta que os direitos humanos não são concedidos por governos ou corporações: eles derivam da dignidade intrínseca de cada pessoa. As tecnologias devem servir à humanidade em vez de reduzir as pessoas a dados, unidades econômicas ou problemas de otimização.

Ele se baseia na crítica do Papa Francisco sobre “a tendência de deixar que a lógica da eficiência, do controle e do lucro moldem sozinhos as decisões pessoais, sociais e econômicas”, em sua encíclica de 2015. Esta também alertou sobre os riscos da tecnologia.

O Papa Leão XIV argumenta que a responsabilidade moral não pode ser transferida para sistemas automatizados, independentemente de quão sofisticados eles se tornem. Ele também rejeita as ideias transumanistas de que as limitações humanas devem ser superadas tecnologicamente, argumentando que a vulnerabilidade, a dependência e a imperfeição são essenciais para ser humano. Relacionamentos, cuidado, solidariedade e compaixão não são fraquezas. “A humanidade floresce não apesar das limitações, mas muitas vezes por causa delas.”

Ao longo da encíclica há um contraste entre uma “cultura do poder” e uma “civilização do amor”. Uma trata a tecnologia principalmente como uma ferramenta de dominação e controle. A outra coloca a dignidade humana, a justiça e o cuidado no centro da vida social.

Por que isso importa

A importância de Magnifica Humanitas reside em sua capacidade de moldar a conversa pública e a imaginação moral. Os quadros morais importam. Eles influenciam o que as sociedades temem, o que toleram, o que defendem – e o que se recusam a sacrificar.

Governos estão investindo em capacidade de IA enquanto ainda desenvolvem estruturas para transparência, responsabilização e implantação segura. Empresas estão adotando ferramentas de IA em alta velocidade. Escolas e universidades estão repensando avaliação, autoria e aprendizado. Os trabalhadores estão sendo solicitados a se adaptar a sistemas que não projetaram e muitas vezes não podem contestar. E os cidadãos estão cada vez mais governados, avaliados e visados por sistemas automatizados que talvez nunca vejam.

A intervenção do Papa Leão XIV nos lembra que a questão central não é se a IA será poderosa: ela já é. A questão é se esse poder será tornado responsável pela dignidade humana.

O futuro da IA não será decidido apenas em laboratórios, salas de reunião ou parlamentos. Ele também será decidido pelos limites morais que as sociedades estão dispostas a estabelecer. A encíclica do Papa Leão XIV é uma tentativa de traçar esses limites.

Os autores não trabalham, consultam, possuem ações ou recebem financiamento de nenhuma empresa ou organização que se beneficiaria deste artigo, e não divulgaram afiliações relevantes além de seus cargos acadêmicos.