Paus Leo memperingatkan tentang risiko AI bagi umat manusia dalam ensiklik pertamanya

Paus Leo XIV baru-baru ini menyatakan kecerdasan buatan sebagai salah satu tantangan moral yang menentukan di zaman kita, dalam ensiklik pertamanya: surat formal yang dimaksudkan untuk memandu pemikiran moral, sosial, dan teologis. Berjudul Magnifica Humanitas (Kemanusiaan yang Megah) , ensiklik tersebut berpendapat bahwa teknologi harus melayani kemanusiaan, alih-alih memusatkan kekuasaan atau melemahkan martabat manusia.

Ia mempresentasikan ensiklik tersebut di Vatikan bersama pengembang AI Christopher Olah, salah satu pendiri Anthropic, yang mengakui bahwa perusahaan seperti miliknya membutuhkan panduan moral untuk melindungi dari “insentif dan batasan yang terkadang bertentangan dengan melakukan hal yang benar,” lapor New York Times.

“Teknologi bukan sekadar alat,” tulis surat terbuka yang diperkirakan terdiri dari 42.300 kata itu. “Ketika ia menjadi standar di mana segala sesuatu dinilai, ia mulai mendikte apa yang penting dan apa yang dapat dibuang, mereduksi ciptaan menjadi objek eksploitasi dan manusia menjadi sekadar roda gigi dalam sistem yang didorong menuju efisiensi yang semakin besar.”

Ensiklik itu memperingatkan bahwa AI tidak pernah benar-benar netral, melainkan “mengambil karakteristik dari mereka yang merancang, mendanai, mengatur, dan menggunakannya.” Selain itu, ensiklik tersebut menyerukan pengawasan etis, keadilan sosial, perlindungan pekerja, tata kelola yang bertanggung jawab, dan perdamaian.

Perang otomatis

Ensiklik tersebut mengkritik penggunaan AI dalam peperangan, menyerukan penerapan “batasan etika yang paling ketat” pada senjata yang dikembangkan menggunakan AI.

Karena pemerintah berinvestasi besar-besaran dalam teknologi militer otonom dan sistem pertahanan berbantuan AI, “kemudahan yang semakin meningkat” dalam mengerahkan teknologi tersebut membuat perang lebih mungkin terjadi dan “kurang tunduk pada kendali manusia,” demikian peringatannya. Hal ini “melanggar prinsip bahwa kekuatan bersenjata hanya boleh digunakan sebagai upaya terakhir dalam kasus pembelaan diri yang sah.”

Surat tersebut juga mengkritik konsentrasi kekuatan teknologi yang semakin besar, dan sistem yang mereduksi manusia menjadi data atau fungsi ekonomi. Surat itu mempromosikan apa yang disebutnya sebagai “peradaban kasih,” yang berpusat pada martabat manusia, solidaritas, kebenaran, kasih sayang, dan kebaikan bersama.

Tanggapan Paus Leo terhadap revolusi AI secara sengaja merujuk pada tanggapan pendahulunya, Paus Leo XIII, terhadap masalah Revolusi Industri, Rerum Novarum (“Tentang Hal-hal Baru”) , pada tahun 1891. Meskipun Magnifica Humanitas dirilis pada 25 Mei 2026, tanggalnya secara simbolis ditetapkan pada 15 Mei, tanggal Rerum Novarum.

Revolusi Industri hingga Revolusi AI

Ensiklik bukanlah pernyataan kepausan biasa. Secara tradisional ditujukan kepada uskup dan dunia Katolik yang lebih luas, ensiklik adalah salah satu dokumen ajaran paling otoritatif dari gereja Katolik.

Paus tidak lagi memiliki kekuasaan politik langsung yang dimiliki kepausan pada abad ke-19. Namun, ajaran kepausan masih membawa bobot moral di seluruh jaringan sekolah, universitas, badan amal, rumah sakit, dan organisasi komunitas Katolik global.

Vatikan tidak dapat mengatur AI. Vatikan tidak dapat menulis standar keselamatan, mengawasi pusat data, atau memaksa perusahaan untuk mengungkapkan cara kerja sistem mereka. Tetapi ia dapat membantu membentuk kerangka moral dari perdebatan tersebut. Selama lebih dari satu abad, ajaran sosial Katolik telah memengaruhi argumen publik tentang pekerjaan, ketidaksetaraan, kemiskinan, martabat manusia, dan batas etika kekuasaan ekonomi.

Meskipun para paus mengeluarkan ensiklik jauh sebelum era modern, Rerum Novarum membuat ensiklik sosial menjadi sangat berpengaruh secara global.

Dokumen itu menghadapi kondisi kerja eksploitatif, ketidaksetaraan yang melebar, dan konflik antara pekerja dan pemberi kerja. Paus Leo XIII membela hak-hak pekerja dan berpendapat bahwa kekayaan membawa tanggung jawab sosial. Ia mengkritik kapitalisme tanpa batas maupun sosialisme revolusioner.

Dokumen itu memengaruhi perdebatan tentang hak-hak buruh dan keadilan ekonomi jauh melampaui gereja. Di Australia pada tahun 1907, Hakim H.B. Higgins merujuk pada Rerum Novarum saat menetapkan prinsip-prinsip untuk upah hidup yang adil.

Ensiklik Paus Leo XIV berupaya melakukan untuk era AI apa yang dilakukan Rerum Novarum untuk era industri: menyediakan kerangka moral untuk transformasi teknologi yang membentuk kembali pekerjaan, kekuasaan, dan hubungan manusia.

Martabat manusia di era algoritma

Paus Leo XIV berpendapat bahwa hak asasi manusia tidak diberikan oleh pemerintah atau perusahaan: hak tersebut berasal dari martabat intrinsik setiap orang. Teknologi seharusnya melayani kemanusiaan alih-alih mereduksi manusia menjadi data, unit ekonomi, atau masalah optimasi.

Ia mengembangkan kritik Paus Fransiskus tentang “kecenderungan membiarkan logika efisiensi, kontrol, dan keuntungan semata membentuk keputusan pribadi, sosial, dan ekonomi”, dalam ensikliknya tahun 2015. Ensiklik itu juga memperingatkan akan risiko teknologi.

Paus Leo XIV berpendapat bahwa tanggung jawab moral tidak dapat dialihkan kepada sistem otomatis, tidak peduli seberapa canggih sistem tersebut. Ia juga menolak gagasan transhumanis bahwa keterbatasan manusia harus diatasi secara teknologi, dengan berargumen bahwa kerentanan, ketergantungan, dan ketidaksempurnaan adalah hal yang esensial untuk menjadi manusia. Hubungan, kepedulian, solidaritas, dan kasih sayang bukanlah kelemahan. “Kemanusiaan berkembang bukan meskipun ada keterbatasan, tetapi seringkali melalui keterbatasan itu.”

Sepanjang ensiklik tersebut terdapat kontras antara “budaya kekuasaan” dan “peradaban kasih”. Yang pertama memperlakukan teknologi terutama sebagai alat dominasi dan kontrol. Yang kedua menempatkan martabat manusia, keadilan, dan kepedulian di pusat kehidupan sosial.

Mengapa ini penting

Signifikansi Magnifica Humanitas terletak pada kemampuannya untuk membentuk percakapan publik dan imajinasi moral. Kerangka moral itu penting. Kerangka tersebut memengaruhi apa yang ditakuti masyarakat, apa yang mereka toleransi, apa yang mereka bela – dan apa yang mereka tolak untuk dikorbankan.

Pemerintah berinvestasi dalam kemampuan AI sambil tetap mengembangkan kerangka kerja untuk transparansi, akuntabilitas, dan penerapan yang aman. Bisnis mengadopsi alat AI dengan cepat. Sekolah dan universitas sedang memikirkan kembali penilaian, kepengarangan, dan pembelajaran. Pekerja diminta untuk beradaptasi dengan sistem yang tidak mereka rancang dan seringkali tidak dapat mereka tantang. Dan warga negara semakin diperintah, dinilai, dan ditargetkan oleh sistem otomatis yang mungkin tidak pernah mereka lihat.

Intervensi Paus Leo XIV mengingatkan kita bahwa pertanyaan utamanya bukanlah apakah AI akan kuat: ia sudah kuat. Pertanyaannya adalah apakah kekuatan itu akan dibuat bertanggung jawab terhadap martabat manusia.

Masa depan AI tidak hanya akan diputuskan di laboratorium, ruang rapat, atau parlemen. Itu juga akan diputuskan oleh batas moral yang bersedia ditetapkan oleh masyarakat. Ensiklik Paus Leo XIV adalah upaya untuk menarik batas-batas tersebut.

Para penulis tidak bekerja untuk, berkonsultasi dengan, memiliki saham di, atau menerima pendanaan dari perusahaan atau organisasi mana pun yang akan mendapat manfaat dari artikel ini, dan tidak mengungkapkan afiliasi relevan di luar jabatan akademis mereka.