La historia del texto ‘hito’ del Papa León sobre tecnología de IA – por un miembro de su panel de lanzamiento
The story of Pope Leo’s ‘landmark’ text on AI technology – by a member of its launch panel
I knew this text would not be welcomed by all. And that’s OK.
Sabía que este texto no sería bienvenido por todos. Y eso está bien.
For the last few years, I’ve been seconded to assist the Catholic Church’s unprecedented global grassroots listening initiative. Just as that process drew to a close, I received a surprise request: would I help Pope Leo XIV launch his first social encyclical, focused on what it means to be human in a time of artificial intelligence?
Durante los últimos años, he estado asignado para ayudar en la iniciativa global de escucha comunitaria sin precedentes de la Iglesia Católica. Justo cuando ese proceso estaba llegando a su fin, recibí una solicitud sorpresa: ¿podría ayudar al Papa Leo XIV a lanzar su primera encíclica social, centrada en lo que significa ser humano en una época de inteligencia artificial?
It is difficult to think of a more important theme right now than the impact of digital technologies, AI and robotics on every level of our social interactions and structures.
Es difícil pensar en un tema más importante en este momento que el impacto de las tecnologías digitales, la IA y la robótica en todos los niveles de nuestras interacciones y estructuras sociales.
The Vatican has addressed technological questions before. My research includes the social teaching of popes since 1891, starting with Pope Leo XIII’s influential text Rerum Novarum (Of New Things) , which addressed the impact of the industrial revolution on working people (and which this new text commemorates) . A range of previous letters have addressed both the opportunities and dangers of technology.
El Vaticano ya ha abordado cuestiones tecnológicas antes. Mi investigación incluye la enseñanza social de los papas desde 1891, comenzando con el influyente texto de San León XIII, Rerum Novarum (Sobre las cosas nuevas) , que abordó el impacto de la revolución industrial en los trabajadores (y que este nuevo texto conmemora) . Una serie de cartas anteriores han abordado tanto las oportunidades como los peligros de la tecnología.
Of course, the Vatican does have a chequered history with regard to theological reflection on scientific and medical developments. Over the past decade, it has been pursuing focused and, in my view, productive conversations with the AI tech sector through initiatives such as the Minerva Dialogues – a series of closed-door conferences with leading figures from both worlds. In this sense, the concern with AI does not spring from nowhere.
Por supuesto, el Vaticano tiene una trayectoria compleja con respecto a la reflexión teológica sobre los desarrollos científicos y médicos. Durante la última década, ha estado llevando a cabo conversaciones enfocadas y, en mi opinión, productivas con el sector tecnológico de la IA a través de iniciativas como los Diálogos Minerva, una serie de conferencias a puerta cerrada con figuras líderes de ambos mundos. En este sentido, la preocupación por la IA no surge de la nada.
Nonetheless, Magnifica Humanitas (Magnificent Humanity) was a landmark moment: a papal text addressing AI as its central focus for the first time, launched by a pope in person – this does not usually happen – in the presence of the very industry it sought to critique. The encyclical panel on which I sat also included Chris Olah, co-founder of the AI tech firm Anthropic.
No obstante, Magnifica Humanitas (Humanidad Magnífica) fue un momento histórico: un texto papal que abordó la IA como su foco central por primera vez, lanzado por un papa en persona —algo que no suele ocurrir—, en presencia misma de la industria que buscaba criticar. El panel de la encíclica en el que participé también incluyó a Chris Olah, cofundador de la empresa tecnológica de IA Anthropic.
All of this meant a much higher level of media and public interest. In the run-up to launch, questions about the make-up of the panel and how equipped a pope is to comment on AI showed me this text would be controversial. And that’s OK.
Todo esto significó un nivel de interés mediático y público mucho mayor. En el período previo al lanzamiento, las preguntas sobre la composición del panel y cuán equipado está un papa para comentar sobre la IA me mostraron que este texto sería controvertido. Y eso está bien.
The job of the text is both to offer the stimulus of a particular tradition – Catholic social teaching – and to encourage debate among people with a variety of views about what makes for a common good use of AI technologies. Our task as a panel was to explore both of these realities.
El objetivo del texto es tanto ofrecer el estímulo de una tradición particular —la enseñanza social católica— como fomentar el debate entre personas con diversas opiniones sobre lo que constituye un uso común y bueno de las tecnologías de IA. Nuestra tarea como panel fue explorar ambas realidades.
Not anti-technology but pro-human
No anti-tecnología sino pro-humano
The Vatican was unconcerned about the encyclical’s lack of neutrality because it declares its hand transparently – and does not believe the tech sector operates with a neutral mindset either.
El Vaticano no se preocupó por la falta de neutralidad de la encíclica porque declara su mano de manera transparente, y tampoco cree que el sector tecnológico opere con una mentalidad neutral.
The inclusion of Anthropic on the panel was welcomed by some as a sign of serious engagement with the sector on these issues. For others, it showed a risk of naïvety about the Vatican’s corporate capture, or of privileging the voices of capital.
La inclusión de Anthropic en el panel fue bienvenida por algunos como un signo de compromiso serio con el sector en estos temas. Para otros, mostró un riesgo de ingenuidad sobre la captura corporativa del Vaticano, o de privilegiar las voces del capital.
The document calls for a movement out of the silos of private boardrooms where the morality (and profits) of new technologies is decided by the few, into a public space of transparency, participation, common benefit and shared power – if that is possible.
El documento aboga por un movimiento fuera de los silos de las salas de juntas privadas, donde la moralidad (y las ganancias) de las nuevas tecnologías es decidida por unos pocos, hacia un espacio público de transparencia, participación, beneficio común y poder compartido, si eso es posible.
Olah did at least note that the tech sector requires exactly the kind of conversation this text promotes: a public, shared conversation in which the shape of our working, educational, political and social lives are not determined by a few wealthy individuals.
Olah al menos señaló que el sector tecnológico requiere exactamente el tipo de conversación que promueve este texto: una conversación pública y compartida en la que la forma de nuestras vidas laborales, educativas, políticas y sociales no esté determinada por unos pocos individuos adinerados.
The text is neither anti-technology nor anti-industry. It is pro-human, pro-social and resistant to false religious claims that AI will, in itself, save us. It resists the idea that human limits are things to be despised and overcome with models of perfected or eternal bodies or minds.
El texto no es ni anti-tecnología ni anti-industria. Es pro-humano, pro-social y resistente a las falsas afirmaciones religiosas de que la IA nos salvará por sí misma. Se resiste a la idea de que los límites humanos son cosas que deben ser despreciadas y superadas con modelos de cuerpos o mentes perfeccionados o eternos.
It stresses that AI should enhance the human capacity for finite, embodied relationships, for meaningful work as part of a dignified life, and for the human person to be recognised as an end – not a tool of utility, power or profit.
Enfatiza que la IA debe mejorar la capacidad humana para relaciones finitas y encarnadas, para un trabajo significativo como parte de una vida digna, y para que la persona humana sea reconocida como un fin, no como una herramienta de utilidad, poder o beneficio.
Technology is as old as humanity. It is part of how we shape and steward our world. It preserves and fosters our survival, and the social lives that give us meaning. Pope Leo was clear: what matters are the ends to which these new AI technologies are set, and their relationship with the Earth’s natural resources.
La tecnología es tan antigua como la humanidad. Forma parte de cómo moldeamos y administramos nuestro mundo. Preserva y fomenta nuestra supervivencia, y las vidas sociales que nos dan significado. El Papa León fue claro: lo que importa son los fines a los que se destinan estas nuevas tecnologías de IA, y su relación con los recursos naturales de la Tierra.
Reshaping the idea of being human
Redefiniendo la idea de ser humano
The Vatican has issued previous texts comparing human and artificial intelligence, as well as a separate text critiquing trans- and post-humanisms. The added dimension in Leo’s first social encyclical is to ask questions about how technologies are reshaping the very idea of being human – rescripting work, education, politics and warfare – and how they are enacting and enmeshed in new cultures of dominating power.
El Vaticano ha emitido textos anteriores que comparan la inteligencia humana y la artificial, así como un texto separado que critica los transhumanismos y los posthumanismos. La dimensión añadida en la primera encíclica social de Leo es plantearse preguntas sobre cómo las tecnologías están remodelando la propia idea de ser humano —reescribiendo el trabajo, la educación, la política y la guerra— y cómo están actuando y enredadas en nuevas culturas de poder dominante.
The text interrogates freedom and flourishing – two categories central to Enlightenment thought.
El texto interroga la libertad y el florecimiento, dos categorías centrales del pensamiento de la Ilustración.
Within the church, there are theologians who are engaged optimists regarding the possibility of AI technologies, and those who are more guarded. There are also some who might be characterised as “radical pessimists” – an honourable tradition to be distinguished from the merely cynical.
Dentro de la Iglesia, hay teólogos que son optimistas comprometidos con la posibilidad de las tecnologías de IA, y otros que son más cautelosos. También hay algunos que podrían caracterizarse como «pessimistas radicales», una tradición honorable que debe distinguirse del mero cinismo.
The new text draws from each of these perspectives, while remaining closest to a prudential middle. It names the risk of new dependencies, exclusions, manipulations and inequalities. Any positive and hopeful account of such new tech must be able to face and respond to these realities.
El nuevo texto se nutre de cada una de estas perspectivas, manteniéndose más cerca de un punto medio prudencial. Señala el riesgo de nuevas dependencias, exclusiones, manipulaciones y desigualdades. Cualquier relato positivo y esperanzador sobre estas nuevas tecnologías debe ser capaz de enfrentar y responder a estas realidades.
Above all, this text marks a new phase in the papacy’s public (rather than closed-door) involvement in debates about AI technology. Its invitation is for a social dialogue on many levels across many groups, sectors and stakeholders.
Por encima de todo, este texto marca una nueva fase en la participación pública (y no a puerta cerrada) del papado en los debates sobre la tecnología de la IA. Su invitación es a un diálogo social en muchos niveles, en muchos grupos, sectores y partes interesadas.
My experience is that views on these matters are lively and fiercely contested. But above all, they are urgent.
Mi experiencia es que las opiniones sobre estos asuntos son vibrantes y ferozmente debatidas. Pero, sobre todo, son urgentes.
Anna Rowlands is a member of the Dicastery for Integral Human Development at the Vatican. This is a governance role. She has also served as an advisor to the Vatican in various capacities for the last five years.
Anna Rowlands es miembro del Dicasterio para el Desarrollo Humano Integral en el Vaticano. Este es un rol de gobernanza. También ha trabajado como asesora del Vaticano en diversas capacidades durante los últimos cinco años.
Read more
-
EE. UU. ha utilizado durante mucho tiempo la coerción económica para lograr objetivos de política exterior; la guerra en Irán muestra cómo ha disminuido ese poder.
The US has long used economic coercion to achieve foreign policy goals — the war in Iran shows how that power has declined
-
En una colonia de hormigas, la reina no está a cargo. ¿Entonces quién es?
In an ant colony, the queen isn’t in charge. So who is?