Tidak ada yang terkejut itu Paus Leo XIV mengutip para santo terkenal dan Paus sebelumnya dalam bukunya ensiklik pertamaatau surat bimbingan spiritual kepausan, Kemanusiaan yang Luar Biasadirilis Senin.
Namun nama yang langsung terlintas di benak banyak pembaca adalah salah satu yang identik dengan sastra fantasi tinggi: JRR Tolkienpenulis Katolik Penguasa Cincin.
Surat Leo berkaitan dengan “melindungi pribadi manusia pada saat kecerdasan buatan,” sebuah tema utama pada tahun pertamanya sebagai pemimpin Gereja Katolik. Sesuai dengan tema pendahulunya, Paus Fransiskus, ia memperingatkan akan “meningkatnya dominasi paradigma teknokratis,” yang mampu “mereduksi ciptaan menjadi objek eksploitasi dan manusia hanya menjadi roda penggerak dalam sistem yang didorong menuju efisiensi yang lebih besar.” Ia sekali lagi membandingkan kebangkitan AI dengan revolusi industri yang berlangsung dari pertengahan abad ke-18 hingga awal abad ke-20, dengan mengacu pada ajaran Paus Leo XIII, yang dalam ensikliknya pada tahun 1891 menegaskan pentingnya hak-hak dan martabat pekerja di masa pergolakan teknologi dan berkembangnya kerajaan kapitalis.
Teks yang panjang ini semakin memperkuat pendirian Leo sebagai seorang yang skeptis terhadap AI. Namun anggukan Tolkien ini sangat menonjol mengingat beberapa penafsiran terbelakang terhadap mitologi Dunia Tengah oleh miliarder sayap kanan seperti Peter Thiel dan Elon Musk, yang telah lama diejek oleh orang lain. Penguasa Cincin penggemar. Bahkan mungkin ada yang mengira Leo memang seperti itu trolling. (Vatikan tidak segera membalas permintaan komentar.)
Jelas sekali, Paus agak khawatir dengan motif para oligarki teknologi yang berlomba mengembangkan kecerdasan umum buatan yang melampaui kemampuan manusia. Apakah mereka benar-benar bermimpi menggunakan alat ini untuk menyembuhkan penyakit dan mengatasi perubahan iklim, atau apakah mereka membangun mesin yang menghasilkan keuntungan tanpa batas dan dominasi budaya? Saat dia membahas tanggung jawab pribadi kita dalam menantang kekuatan gelap itulah Leo meminjam wawasan dari penyihir terkenal Tolkien, Gandalf: “Bukan tugas kita untuk menguasai semua arus dunia, tapi melakukan apa yang ada dalam diri kita demi kebaikan tahun-tahun di mana kita berada, mencabut kejahatan di ladang yang kita tahu, sehingga mereka yang hidup setelahnya dapat memiliki bumi yang bersih untuk digarap.”
Pelajaran ini sangat jauh dari apa yang tampaknya dilihat Musk dan Thiel dalam mahakarya Tolkien.
Thiel menamai perusahaan analisis datanya Palantir, diambil dari nama bola kristal yang digunakan sebagai alat mata-mata oleh penyihir pengkhianat Saruman dalam kisah tersebut; dia dilaporkan menelepon perusahaan modal venturanya, Founders Fund, “yang berhargayang merupakan apa yang disebut oleh tokoh Gollum yang menyimpang dan tamak sebagai Cincin Utama, sarana magis kekuasaan totaliter. Hampir siapa pun yang mengenal Tolkien (atau adaptasi karyanya) dapat melihat bahwa ia sedang menulis tentang dampak merusak dari kekuasaan tersebut—dalam novel, godaan untuk memerintah pasti akan menghancurkan siapa pun yang tunduk padanya—namun Thiel tampaknya juga menyukai kemungkinan kontrol otoriter dan kemahatahuan yang sama seperti para penjahat.
Musk, pada bagiannya, berpendapat bahwa epik Tolkien dapat dibaca sebagai perumpamaan anti-imigrasi dan membangun tembok: “Ketika Tolkien menulis tentang para hobbit, yang dia maksud adalah orang-orang terhormat di wilayah Inggris, yang tidak menyadari kengerian yang terjadi di tempat yang jauh,” dia diposting pada X di bulan Oktober. “Mereka bisa menjalani hidup mereka dengan damai dan tenang, tapi itu hanya karena mereka dilindungi oleh orang-orang keras Gondor.” Dia menawarkan ini tidak akurat ingatan tentang Penguasa Cincin sebagai pembelaan terhadap agitator sayap kanan Islamofobia Inggris, Tommy Robinson.
Faktanya, penggambaran Tolkien tentang tentara perampok yang menjarah tanah diilhami oleh kengerian militerisasi dan industrialisasi—dua fenomena yang sangat familiar bagi generasi Inggris Tolkien. Pengalamannya tentang kengerian mekanis dalam Perang Dunia I dipahami secara luas sebagai inspirasi penting untuk kampanye kematian Saruman, yang mengandalkan penghancuran hutan kuno untuk bahan bakar dan kerja paksa para Orc yang brutal.
Alegori ini lebih cocok dengan kritik Paus Leo terhadap elit teknologi sebagai mereka yang menyebarkan perpecahan dan ketidaksetaraan, menggunakan sumber daya mereka untuk perang, merusak lingkungan, dan merebut kekuasaan dengan cara apa pun. (Baik Thiel maupun Musk tidak segera membalas permintaan komentar mengenai ensiklik tersebut.)
Thiel, setidaknya, tampak agak sadar diri dalam hal ini, mengingat kiasan Tolkien yang dia sukai dan kolaborasi Palantir dengan Imigrasi dan Penegakan Bea Cukai. Musk, meskipun dia melihat dirinya sebagai salah satu pahlawan dalam cerita, mengawasi buldoser tersebut dari Badan Pembangunan Internasional AS, yang mengarah ke ratusan ribu kematian yang dapat dicegah di seluruh dunia dan kemungkinan besar jutaan lebih untuk datang. Dan keduanya terus mendukung pemerintahan Trump yang telah memanfaatkan AI dalam segala hal propaganda rasis untuk perencanaan tempat menjatuhkan bom di Iran—dan, tentu saja, telah menggunakannya Penguasa Cincin ke mempromosikan dan menghargai ICE.
Dalam konteks itu, Leo meneriakkan Gandalf bisa dianggap sangat disengaja.
Sebuah kutipan dari tokoh tercinta ini dalam sebuah risalah yang mengutuk masyarakat yang menjunjung tinggi efisiensi di atas segalanya, dan memusatkan kekuasaan dan kekayaan yang sangat besar di tangan segelintir orang, dipindai sebagai pesan langsung kepada orang-orang tersebut—baik disengaja atau tidak. Tapi dengan pemahaman bacaannya, entah bisa tembus.
