Paus Leo XIV menjatuhkan manifesto sebanyak 42.305 kata kepada kita. Atau lebih tepatnya, pada dua miliar umat Katolik. Dokumen tersebut diberi judul “Magnifica Humanitas”—”Kemanusiaan yang Luar Biasa” jika Anda memerlukan terjemahannya. Ini adalah sebuah ensiklik, yang berarti ensiklik ini membawa beban serius bagi umat beriman meskipun itu bukan hukum kanon yang mengikat.
Dia tidak hanya merilisnya secara online dan melupakannya. Tidak, Paus muncul secara pribadi untuk presentasi tersebut. Berdiri di sampingnya adalah Chris Olah, pendiri Anthropic. Itu tampak tidak nyata. Seperti adegan dari film yang belum difilmkan.
Ini adalah panduan besar pertama Paus sejak menjabat. Dan dia langsung menuju tenggorokannya. Dia memilih nama pemerintahannya pada bulan Mei sebagian karena Paus Leo XIII menangani Revolusi Industri dengan Rerum Novarum. Paus ini? Dia ingin menangani masalah algoritmik. Ia melihat tantangan baru bagi martabat manusia dan tenaga kerja. Jadi dia menulis 42 ribu kata.
Mengapa ada drama ekstra?
“Hari ini baru permulaan,” kata Chris Olah di acara tersebut. Dia mengakui ada titik buta di kalangan pembangun. Mereka melihat apa yang mereka bangun, belum tentu apa yang mereka ciptakan. Oleh karena itu, perlunya “suara moral yang tidak dapat dibengkokkan oleh insentif.” Sebuah kolaborasi. Salah satu silikon. Salah satu jiwa.
Inilah yang sebenarnya dikatakan Tahta Suci.
AI tidak membebaskan tenaga kerja. Itu melubanginya.
Gereja telah memikirkan tentang pekerjaan selama berabad-abad. Mereka tahu satu atau dua hal tentang sweatshop. Leo mengaitkan “Magnifica Humanitas” secara langsung dengan dokumen-dokumen sebelumnya. Kekhawatirannya bukan hanya pada robot yang mengambil pekerjaan. Ini tentang deskilling.
AI menghapus pesawat itu. Ini menambah pengawasan. Pekerja menjadi titik data, bukan pengrajin. Paus mengutip dirinya sendiri—semacamnya—melalui teks tersebut, menolak promosi penjualan. Ya, otomatisasi menjanjikan “perbaikan besar bagi semua orang”. Sebenarnya?
“Namun kenyataannya, ‘cara kerja baru’ belum tentu lebih baik.”
Tunggu, izinkan saya mengulanginya. “Cara-cara baru” belum tentu lebih baik. Teks ini memperingatkan terhadap pancaran efisiensi yang menggiurkan. Ketika pekerjaan hanya menjadi sekedar entri data untuk mesin, kita kehilangan sesuatu yang penting. Tidak, kita kehilangan skala manusia. Kita menjadi roda gigi dalam mesin yang tidak peduli jika roda giginya rusak.
Berhenti memuja teknologi. Terutama untuk anak-anak.
Paus menyebut antusiasme AI saat ini sebagai Menara Babel yang baru. Ingat cerita Alkitab? Manusia membangun menara untuk mencapai Tuhan. Tuhan mengacaukan bahasa mereka, menceraiberaikan mereka. Ini tentang ambisi yang tidak terkendali. Leo mengatakan kita perlu meredam dorongan itu.
Dia bukan satu-satunya yang mengkhawatirkan layar. Tapi dia membingkainya secara berbeda. Ini bukan hanya tentang waktu pemakaian perangkat. Ini tentang erosi pikiran. Dia mengutip literatur psikiatri dengan jelas. Paparan digital dini tanpa pengawasan merusak tidur, rentang perhatian, dan kendali emosional.
“Dan terkadang,” ensiklik itu menambahkan, “dengan konsekuensi yang tragis.”
Dia memukul keras sekolah. AI merendahkan pemikiran kritis di sana. Hal ini membawa “kekuatan yang tidak manusiawi” ke dalam ruang kelas. Kami melakukan outsourcing rasa ingin tahu. Itu berbahaya.
“Konvergensi otomatisasi… dengan cepat mengubah struktur kerja.”
Apakah ini terdengar seperti kata-kata kasar luddite? Tidak, itu lebih seperti permohonan. Jagalah kemanusiaan. Jangan biarkan alat mendikte guru.
Sebuah “Perbudakan Baru” yang dibangun di atas tanah langka dan darah.
Di sinilah dokumen menjadi paling gelap. Meskipun Gereja mengeluarkan kecaman resmi terhadap perdagangan budak transatlantik yang bersejarah, Leo secara bersamaan menyebut manufaktur teknologi sebagai bentuk baru dari dosa tersebut.
Baca itu lagi. Baru. Membentuk. Perbudakan.
Dia menunjuk pada anak-anak yang menambang logam tanah jarang dalam kondisi berbahaya. Tubuh mereka “bekas luka, terluka, dan usang”. Mereka memecahkan batu sehingga server bisa bersenandung.
“Kenyataan ini sangat menantang kesadaran moral zaman kita,” tulis Paus. Ini menantangnya karena kami membeli perangkatnya. Kami ingin UI yang mulus. Kami tidak ingin memikirkan tentang tangan-tangan yang terluka di Kongo atau di tempat lain yang menggali kobalt.
Tapi dia melangkah lebih jauh. Untuk berperang.
Leo menghubungkan AI langsung dengan peperangan modern. Perusahaan swasta mengambil keuntungan dari konflik. Sistem AI membuat “keputusan mematikan”. Dia menuntut adanya “batasan etis yang paling ketat” terhadap teknologi yang dipersenjatai. Kita tidak bisa membiarkan algoritma memilih siapa yang hidup atau mati. Godaannya adalah mengangkat bahu. Tidak disangka masalahnya terlalu besar bagi kita semua.
“Sebuah godaan halus mungkin muncul… yaitu pemikiran bahwa masalahnya terlalu besar dan terlalu kecil.”
Namun tanggung jawabnya tidak terukur. Tidak ada yang mendapat izin. Bukan insinyur di Palo Alto. Bukan uskup di Roma. Bukan pengguna di Brooklyn.
“Kita semua mempunyai area aksi masing-masing.”
Ini adalah permintaan yang berat. Kita seharusnya memperhatikan rantai pasokan. Ruang kelas. Pasar kerja. Semua sambil menelusuri feed kami. Mudah? TIDAK.
