Kisah teks ‘bersejarah’ Paus Leo tentang teknologi AI – oleh seorang anggota panel peluncurannya

Selama beberapa tahun terakhir, saya ditugaskan untuk membantu inisiatif mendengarkan akar rumput global Gereja Katolik yang belum pernah terjadi sebelumnya. Tepat ketika proses itu akan berakhir, saya menerima permintaan kejutan: apakah saya akan membantu Paus Leo XIV meluncurkan ensiklik sosial pertamanya, yang berfokus pada makna menjadi manusia di era kecerdasan buatan?

Sulit membayangkan tema yang lebih penting saat ini daripada dampak teknologi digital, AI, dan robotika pada setiap tingkat interaksi dan struktur sosial kita.

Vatikan sebelumnya telah membahas pertanyaan teknologi. Penelitian saya mencakup ajaran sosial para paus sejak tahun 1891, dimulai dengan teks berpengaruh Paus Leo XIII, Rerum Novarum (Tentang Hal-hal Baru) , yang membahas dampak revolusi industri pada pekerja (dan yang diperingati oleh teks baru ini) . Berbagai surat sebelumnya telah membahas peluang dan bahaya teknologi.

Tentu saja, Vatikan memiliki sejarah yang kompleks terkait refleksi teologis tentang perkembangan ilmiah dan medis. Selama dekade terakhir, Vatikan telah melakukan percakapan yang terfokus dan, menurut pandangan saya, produktif dengan sektor teknologi AI melalui inisiatif seperti Dialog Minerva – serangkaian konferensi tertutup dengan tokoh-tokoh terkemuka dari kedua dunia. Dalam pengertian ini, keprihatinan terhadap AI tidak muncul begitu saja.

Meskipun demikian, Magnifica Humanitas (Kemanusiaan yang Agung) adalah momen penting: sebuah teks kepausan yang membahas AI sebagai fokus utamanya untuk pertama kalinya, diluncurkan langsung oleh seorang paus – hal ini biasanya tidak terjadi – di hadapan industri yang ingin dikritiknya. Panel ensiklik tempat saya duduk juga mencakup Chris Olah, salah satu pendiri perusahaan teknologi AI Anthropic.

Semua ini berarti tingkat minat media dan publik yang jauh lebih tinggi. Menjelang peluncuran, pertanyaan tentang susunan panel dan seberapa siap seorang paus untuk mengomentari AI menunjukkan kepada saya bahwa teks ini akan kontroversial. Dan itu tidak apa-apa.

Tugas teks ini adalah untuk menawarkan stimulus dari tradisi tertentu – ajaran sosial Katolik – dan untuk mendorong debat di antara orang-orang dengan berbagai pandangan tentang apa yang membentuk penggunaan teknologi AI yang baik secara umum. Tugas kami sebagai panel adalah untuk mengeksplorasi kedua realitas ini.

Bukan anti-teknologi melainkan pro-manusia

Vatikan tidak khawatir tentang kurangnya netralitas ensiklik tersebut karena ia menyatakan tindakannya secara transparan – dan juga tidak percaya bahwa sektor teknologi beroperasi dengan pola pikir yang netral.

Keikutsertaan Anthropic dalam panel disambut baik oleh sebagian orang sebagai tanda keterlibatan serius dengan sektor ini mengenai isu-isu ini. Bagi yang lain, hal itu menunjukkan risiko naif mengenai penangkapan korporat Vatikan, atau memprioritaskan suara modal.

Dokumen tersebut menyerukan gerakan keluar dari silo ruang rapat pribadi di mana moralitas (dan keuntungan) teknologi baru diputuskan oleh segelintir orang, menuju ruang publik transparansi, partisipasi, manfaat bersama, dan kekuasaan bersama – jika itu mungkin.

Olah setidaknya mencatat bahwa sektor teknologi membutuhkan jenis percakapan yang persis dipromosikan oleh teks ini: percakapan publik dan bersama di mana bentuk kehidupan kerja, pendidikan, politik, dan sosial kita tidak ditentukan oleh segelintir individu kaya.

Teks ini bukan anti-teknologi juga bukan anti-industri. Ia pro-manusia, pro-sosial, dan menolak klaim agama palsu bahwa AI akan, dengan sendirinya, menyelamatkan kita. Ia menolak gagasan bahwa keterbatasan manusia adalah hal yang harus dibenci dan diatasi dengan model tubuh atau pikiran yang sempurna atau abadi.

Teks ini menekankan bahwa AI harus meningkatkan kapasitas manusia untuk hubungan yang terbatas dan berwujud, untuk pekerjaan yang bermakna sebagai bagian dari kehidupan yang bermartabat, dan agar pribadi manusia diakui sebagai tujuan – bukan alat utilitas, kekuasaan, atau keuntungan.

Teknologi sudah setua umat manusia. Ia adalah bagian dari cara kita membentuk dan mengelola dunia kita. Ia melestarikan dan membina kelangsungan hidup kita, dan kehidupan sosial yang memberi kita makna. Paus Leo jelas: yang penting adalah tujuan dari teknologi AI baru ini, dan hubungannya dengan sumber daya alam Bumi.

Membentuk Ulang Gagasan Menjadi Manusia

Vatikan telah mengeluarkan teks-teks sebelumnya yang membandingkan kecerdasan manusia dan kecerdasan buatan, serta teks terpisah yang mengkritik trans- dan pasca-humanisme. Dimensi tambahan dalam ensiklik sosial pertama Leo adalah mengajukan pertanyaan tentang bagaimana teknologi membentuk kembali gagasan tentang menjadi manusia – menulis ulang pekerjaan, pendidikan, politik, dan peperangan – dan bagaimana teknologi tersebut mewujudkan serta terjalin dalam budaya kekuasaan yang mendominasi yang baru.

Teks ini menginterogasi kebebasan dan berkembang – dua kategori yang sentral bagi pemikiran Pencerahan.

Di dalam gereja, terdapat teolog-teolog yang optimis mengenai kemungkinan teknologi AI, dan yang lain yang lebih berhati-hati. Ada juga beberapa yang dapat dikarakterisasi sebagai “pesimis radikal” – sebuah tradisi terhormat yang harus dibedakan dari yang sekadar sinis.

Teks baru ini mengambil dari setiap perspektif ini, sambil tetap mendekati posisi tengah yang bijaksana. Teks ini menyebutkan risiko ketergantungan, eksklusi, manipulasi, dan ketidaksetaraan yang baru. Setiap pandangan yang positif dan penuh harapan tentang teknologi baru semacam itu harus mampu menghadapi dan menanggapi realitas-realitas ini.

Di atas segalanya, teks ini menandai fase baru dalam keterlibatan publik (bukan tertutup) kepausan dalam debat tentang teknologi AI. Undangannya adalah untuk dialog sosial di banyak tingkatan di berbagai kelompok, sektor, dan pemangku kepentingan.

Pengalaman saya adalah bahwa pandangan mengenai masalah-masalah ini hidup dan diperdebatkan dengan sengit. Namun yang terpenting, pandangan tersebut mendesak.

Anna Rowlands adalah anggota Dikasteri untuk Pembangunan Manusia Integral di Vatikan. Ini adalah peran tata kelola. Dia juga telah menjabat sebagai penasihat Vatikan dalam berbagai kapasitas selama lima tahun terakhir.