El Papa Leo advierte sobre los riesgos de la IA para la humanidad en su primera encíclica
Pope Leo warns of AI’s risks to humanity in his first encyclical
The pope has warned that AI is never truly neutral: it reflects the society that made it. He has called for ethical oversight – and protecting workers.
El papa ha advertido que la IA nunca es realmente neutral: refleja la sociedad que la creó. Ha pedido una supervisión ética y la protección de los trabajadores.
Pope Leo XIV has just declared artificial intelligence one of the defining moral challenges of our time, in his first encyclical: a formal letter intended to guide moral, social and theological thought. Titled Magnifica Humanitas (Magnificent Humanity) , it argues technology must serve humanity, rather than concentrate power or weaken human dignity.
El Papa Leo XIV acaba de declarar la inteligencia artificial como uno de los desafíos morales definitorios de nuestro tiempo, en su primera encíclica: una carta formal destinada a guiar el pensamiento moral, social y teológico. Titulada Magnifica Humanitas (Humanidad Magnífica) , argumenta que la tecnología debe servir a la humanidad, en lugar de concentrar poder o debilitar la dignidad humana.
He presented it at the Vatican alongside AI developer Christopher Olah, cofounder of Anthropic, who acknowledged that companies like his need moral guidance to guard against “incentives and constraints that can sometimes conflict with doing the right thing”, the New York Times reported.
Presentó la encíclica en el Vaticano junto al desarrollador de IA Christopher Olah, cofundador de Anthropic, quien reconoció que empresas como la suya necesitan orientación moral para protegerse de “incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto”, informó el New York Times.
“Technology is not simply a tool,” read the roughly 42,300-word open letter. “When it becomes the standard by which everything is judged, it begins to dictate what matters and what can be discarded, reducing creation to an object of exploitation and human beings to mere cogs in a system driven toward ever greater efficiency.”
“La tecnología no es simplemente una herramienta”, leía la carta abierta de aproximadamente 42.300 palabras. “Cuando se convierte en el estándar por el cual se juzga todo, comienza a dictar lo que importa y lo que puede descartarse, reduciendo la creación a un objeto de explotación y a los seres humanos a meros engranajes en un sistema impulsado hacia una eficiencia cada vez mayor”.
It warns that AI is never truly neutral, but “takes on the characteristics of those who devise, finance, regulate and use it”. And it calls for ethical oversight, social justice, protection of workers, responsible governance and peace.
Advierte que la IA nunca es verdaderamente neutral, sino que “adopta las características de quienes la diseñan, financian, regulan y usan”. Y hace un llamado a la supervisión ética, la justicia social, la protección de los trabajadores, la gobernanza responsable y la paz.
Automated warfare
Guerra automatizada
The encyclical criticises the use of AI in warfare, calling for imposing the “most rigorous ethical constraints” on weapons developed using AI.
La encíclica critica el uso de la IA en la guerra, pidiendo imponer las “restricciones éticas más rigurosas” a las armas desarrolladas mediante IA.
As governments invest heavily in autonomous military technologies and AI-assisted defence systems, the “growing ease” of deploying them makes war more likely and “less subject to human control”, it warns. This “violates the principle that armed force should be used only as a last resort in cases of legitimate self-defense”.
Dado que los gobiernos invierten fuertemente en tecnologías militares autónomas y sistemas de defensa asistidos por IA, la “creciente facilidad” de su despliegue hace que la guerra sea más probable y “menos sujeta al control humano”, advierte. Esto “viola el principio de que la fuerza armada debe utilizarse solo como último recurso en casos de legítima defensa”.
The letter also criticises the growing concentration of technological power, and systems that reduce people to data or economic functions. It promotes what it calls a “civilisation of love”, centred on human dignity, solidarity, truth, compassion and the common good.
La carta también critica la creciente concentración de poder tecnológico y los sistemas que reducen a las personas a datos o funciones económicas. Promueve lo que llama una “civilización del amor”, centrada en la dignidad humana, la solidaridad, la verdad, la compasión y el bien común.
Pope Leo’s response to the the AI revolution deliberately references his predecessor Pope Leo XIII’s response to the problems of the Industrial Revolution, Rerum Novarum (“Of New Things”) , in 1891. Though Magnifica Humanitas was released on May 25 2026, it is symbolically dated May 15, the date of Rerum Novarum.
La respuesta del Papa Leo a la revolución de la IA hace referencia deliberadamente a la respuesta de su predecesor, el Papa León XIII, a los problemas de la Revolución Industrial, Rerum Novarum (“De Cosas Nuevas”) , en 1891. Aunque Magnifica Humanitas se publicó el 25 de mayo de 2026, está fechada simbólicamente el 15 de mayo, fecha de Rerum Novarum.
Industrial Revolution to AI Revolution
Revolución Industrial a la Revolución de la IA
An encyclical is not an ordinary papal statement. Traditionally addressed to bishops and the wider Catholic world, it is one of the Catholic church’s most authoritative teaching documents.
Una encíclica no es una declaración papal ordinaria. Tradicionalmente dirigida a obispos y al mundo católico en general, es uno de los documentos de enseñanza más autoritativos de la Iglesia Católica.
The pope no longer has the direct political power the papacy held in the 19th century. But papal teaching still carries moral weight across a global Catholic network of schools, universities, charities, hospitals and community organisations.
El papa ya no tiene el poder político directo que poseía la Santa Sede en el siglo XIX. Pero la enseñanza papal aún conlleva un peso moral en una red católica global de escuelas, universidades, organizaciones benéficas, hospitales y comunitarias.
The Vatican cannot regulate AI. It cannot write safety standards, police data centres, or force companies to disclose how their systems work. But it can help shape the moral terms of the debate. For more than a century, Catholic social teaching has influenced public arguments about work, inequality, poverty, human dignity and the ethical limits of economic power.
El Vaticano no puede regular la IA. No puede redactar estándares de seguridad, controlar centros de datos ni obligar a las empresas a revelar cómo funcionan sus sistemas. Pero puede ayudar a moldear los términos morales del debate. Durante más de un siglo, la enseñanza social católica ha influido en los debates públicos sobre el trabajo, la desigualdad, la pobreza, la dignidad humana y los límites éticos del poder económico.
Although popes issued encyclicals long before the modern era, Rerum Novarum made social encyclicals globally influential.
Aunque los papas emitieron encíclicas mucho antes de la era moderna, Rerum Novarum hizo que las encíclicas sociales fueran de influencia global.
It confronted exploitative labour conditions, widening inequality, and conflict between workers and employers. Pope Leo XIII defended workers’ rights and argued that wealth carried social responsibilities. He criticised both unrestricted capitalism and revolutionary socialism.
Se enfrentó a las condiciones laborales explotadoras, la creciente desigualdad y el conflicto entre trabajadores y empleadores. El papa León XIII defendió los derechos de los trabajadores y argumentó que la riqueza conlleva responsabilidades sociales. Criticó tanto el capitalismo sin restricciones como el socialismo revolucionario.
The document influenced debates about labour rights and economic justice well beyond the church. In Australia in 1907, Justice H.B. Higgins drew on Rerum Novarum when establishing principles for a fair living wage.
El documento influyó en los debates sobre los derechos laborales y la justicia económica mucho más allá de la iglesia. En Australia, en 1907, el juez H.B. Higgins se basó en Rerum Novarum al establecer principios para un salario digno.
Pope Leo XIV’s encyclical attempts to do for the AI age what Rerum Novarum did for the industrial age: provide a moral framework for a technological transformation reshaping work, power and human relationships.
La encíclica del papa León XIV intenta hacer para la era de la IA lo que Rerum Novarum hizo para la era industrial: proporcionar un marco moral para una transformación tecnológica que remodela el trabajo, el poder y las relaciones humanas.
Human dignity in the age of algorithms
Dignidad humana en la era de los algoritmos
Pope Leo XIV argues human rights are not granted by governments or corporations: they arise from the intrinsic dignity of every person. Technologies should serve humanity rather than reduce people to data, economic units or optimisation problems.
El Papa Leo XIV argumenta que los derechos humanos no son otorgados por gobiernos o corporaciones: surgen de la dignidad intrínseca de cada persona. Las tecnologías deben servir a la humanidad en lugar de reducir a las personas a datos, unidades económicas o problemas de optimización.
He builds on Pope Francis’ critique of “the tendency to let the logic of efficiency, control and profit alone shape personal, social and economic decisions”, in his 2015 encyclical. It, too, warned of the risks of technology.
Se apoya en la crítica del Papa Francisco sobre “la tendencia a dejar que la lógica de la eficiencia, el control y el beneficio moldeen por sí sola las decisiones personales, sociales y económicas”, en su encíclica de 2015. Esta también advirtió sobre los riesgos de la tecnología.
Pope Leo XIV argues moral responsibility can’t be transferred to automated systems, regardless of how sophisticated they become. He also rejects transhumanist ideas that human limitations should be technologically overcome, arguing vulnerability, dependence and imperfection are essential to being human. Relationships, care, solidarity and compassion are not weaknesses. “Humanity flourishes not despite limitations, but often through them.”
El Papa Leo XIV argumenta que la responsabilidad moral no puede transferirse a los sistemas automatizados, sin importar cuán sofisticados se vuelvan. También rechaza las ideas transhumanistas de que las limitaciones humanas deben superarse tecnológicamente, argumentando que la vulnerabilidad, la dependencia y la imperfección son esenciales para ser humanos. Las relaciones, el cuidado, la solidaridad y la compasión no son debilidades. “La humanidad florece no a pesar de las limitaciones, sino a menudo gracias a ellas.”
Running throughout the encyclical is a contrast between a “culture of power” and a “civilization of love”. One treats technology primarily as a tool for domination and control. The other places human dignity, justice and care at the centre of social life.
A lo largo de toda la encíclica hay un contraste entre una “cultura del poder” y una “civilización del amor”. Una trata la tecnología principalmente como una herramienta de dominación y control. La otra sitúa la dignidad humana, la justicia y el cuidado en el centro de la vida social.
Why this matters
Por qué esto importa
The significance of Magnifica Humanitas lies in its ability to shape public conversation and moral imagination. Moral frameworks matter. They influence what societies fear, what they tolerate, what they defend – and what they refuse to sacrifice.
La importancia de Magnifica Humanitas radica en su capacidad para moldear la conversación pública y la imaginación moral. Los marcos morales son importantes. Influyen en lo que las sociedades temen, lo que toleran, lo que defienden y lo que se niegan a sacrificar.
Governments are investing in AI capability while still developing frameworks for transparency, accountability and safe deployment. Businesses are adopting AI tools at speed. Schools and universities are rethinking assessment, authorship and learning. Workers are being asked to adapt to systems they did not design and often cannot challenge. And citizens are increasingly governed, assessed and targeted by automated systems they may never see.
Los gobiernos están invirtiendo en la capacidad de IA mientras aún desarrollan marcos para la transparencia, la rendición de cuentas y el despliegue seguro. Las empresas están adoptando herramientas de IA a gran velocidad. Las escuelas y universidades están replanteando la evaluación, la autoría y el aprendizaje. Los trabajadores se ven obligados a adaptarse a sistemas que no diseñaron y que a menudo no pueden cuestionar. Y los ciudadanos están siendo cada vez más gobernados, evaluados y dirigidos por sistemas automatizados que quizás nunca vean.
Pope Leo XIV’s intervention reminds us the central question is not whether AI will be powerful: it already is. The question is whether that power will be made answerable to human dignity.
La intervención del Papa Leo XIV nos recuerda que la pregunta central no es si la IA será poderosa: ya lo es. La pregunta es si ese poder será rendible a la dignidad humana.
The future of AI will not just be decided in laboratories, boardrooms or parliaments. It will also be decided by the moral limits societies are willing to set. Pope Leo XIV’s encyclical is an attempt to draw those limits.
El futuro de la IA no se decidirá solo en laboratorios, salas de juntas o parlamentos. También se decidirá por los límites morales que las sociedades estén dispuestas a establecer. La encíclica del Papa Leo XIV es un intento de trazar esos límites.
The authors do not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and have disclosed no relevant affiliations beyond their academic appointment.
Los autores no trabajan, consultan, poseen acciones ni reciben financiación de ninguna empresa u organización que se beneficie de este artículo, y no han revelado afiliaciones relevantes más allá de su nombramiento académico.
Read more
-
¿Volverán los precios del petróleo realmente a la ‘normalidad’?
Will oil prices ever truly go back to ‘normal’?
-
La guerra en Irán – de nuevo – señala las deficiencias estratégicas del asesinato como política de relaciones exteriores
The war in Iran – again – points to the strategic shortcomings of assassination as policy of foreign affairs