Sebuah algoritma memutuskan apa yang kita lihat, yang lain menyaring apa yang kita baca, dan yang lain lagi masuk ke dalam proses yang mengatur pekerjaan, informasi, dan pilihan kolektif. Dalam ensiklik tersebut Kemanusiaan yang Luar Biasa. yang pertama ditandatangani oleh Paus Leo XIV dan diterbitkan pada tanggal 25 Mei, kecerdasan buatan tidak dipandang hanya sebagai teknologi lain; itu adalah bagian dari infrastruktur tak kasat mata dalam kehidupan kita sehari-hari.
Namun teks tersebut tidak dipahami sebagai refleksi teknologi semata. Paus Leo XIV menempatkan isu AI dalam tradisi doktrin sosial Gereja Katolik dan secara langsung menyerukan—sambil memperbaruinya— Hal-hal baru Paus Leo XIII (diterbitkan pada tanggal 15 Mei 1891) pada tahun peringatannya yang ke-135. Ensiklik tersebut membahas persoalan perburuhan pada puncak revolusi industri di akhir abad ke-19.
Jika “res novae” pada masa itu adalah pabrik, buruh, dan kapitalisme industri, saat ini isu-isu baru berkisar pada platform digital, algoritma, data, dan sistem otomasi yang membentuk kembali kekuasaan, ekonomi, dan hubungan sosial. Oleh karena itu, ensiklik ini tidak menampilkan dirinya sebagai teks teknis tentang inovasi, melainkan sebagai upaya untuk menafsirkan transformasi digital demi martabat manusia dan kebaikan bersama. Teknologi, tulis Paus Fransiskus, tidaklah jahat; sebaliknya, itu milik sejarah dan kreativitas manusia. Namun situasi saat ini berbeda baik dalam skala maupun kedalamannya: “Belum pernah umat manusia mempunyai kekuasaan sebesar ini terhadap dirinya sendiri,” demikian isi teks tersebut, yang menggambarkan teknologi yang kini membentuk proses pengambilan keputusan, imajinasi kolektif, dan kehidupan sosial dengan cara yang semakin meluas.
Dari titik inilah Robert Francis Prevost memilih untuk memulai: dari meningkatnya konsentrasi kekuasaan yang dijalankan melalui sistem yang semakin buram namun semakin tegas, dan dari pertanyaan yang ada di seluruh ensiklik ini: Apa yang tersisa dari martabat manusia, perlindungan kebenaran, pekerjaan, keadilan sosial, dan perdamaian ketika keputusan ditransfer ke dalam logika algoritmik?
Melucuti Teknologi
Dalam ensiklik tersebut terdapat ungkapan yang menjadi kunci untuk menafsirkan keseluruhan skenario: “melucuti teknologi.” Maknanya sama sekali bukan upaya untuk memperlambat perkembangan kecerdasan buatan atau menyangkal potensi dampak transformatifnya demi kebaikan. Bagi Robert Francis Prevost, melucuti AI berarti mencegahnya menjadi suatu bentuk kekuatan yang mampu mendominasi keberadaan manusia.
Bagi Leo XIV, yang penting bukanlah teknologi itu sendiri, melainkan organisasi dan penerapannya. AI, tulis Paus Fransiskus, adalah bagian dari perlombaan global saat ini menuju “algoritma dengan kinerja tertinggi” dan “pusat data terbesar,” di mana keunggulan kompetitif juga menjadi geopolitik. Dalam konteks ini, hanya sedikit pemain yang memusatkan infrastruktur digital, data, dan kapasitas komputasi, yang berdampak pada informasi, perekonomian, dan bahkan demokrasi.
Melucuti senjata berarti mematahkan persamaan antara kekuasaan teknis dan hak untuk memerintah. “Seperti yang terjadi pada setiap titik balik teknologi, AI cenderung meningkatkan kekuatan mereka yang sudah memiliki sumber daya ekonomi dan akses terhadap data,” jelas Paus.
Secara eksplisit, ensiklik tersebut menyatakan bahwa mengatur teknologi saja tidak cukup: Teknologi harus dihilangkan dari monopoli, dibuat transparan dan terbuka terhadap tantangan—yaitu, dibuat “layak huni” oleh sejumlah aktor. Yang terpenting, AI harus dicegah agar tidak menjadi instrumen dominasi ekonomi, politik, atau militer oleh segelintir orang. Ini bukanlah metafora moral: Ini adalah seruan untuk mencegah logika persaingan mengubah infrastruktur bersama menjadi sistem kendali.
Kebenaran dalam Sistem yang Memilih Realitas
Jika teknologi memusatkan kekuatan, salah satu dampak nyata yang pertama adalah mengenai cara kebenaran kolektif terbentuk. Ensiklik ini membahas isu disinformasi, namun dengan cara yang lebih mendalam karena realitas yang dirasakan, atau pengalaman, semakin disaring oleh sistem yang memutuskan apa yang harus ditampilkan dan apa yang disembunyikan.
Bukan hanya soal berita palsu atau konten palsu dalam berbagai bentuk. Masalahnya adalah platform dan algoritme memilih informasi berdasarkan kriteria memaksimalkan perhatian dan keterlibatan. Dengan kata lain, apa yang terlihat belum tentu merupakan apa yang paling benar, namun apa yang paling berhasil dalam menghasilkan reaksi. Dengan cara ini, kebenaran tidak hilang, namun bergantung pada sistem buram yang memengaruhi opini, persepsi, dan pilihan kolektif tanpa selalu jelas bagaimana caranya.
