Mengapa Vatikan Mengundang Anthropic ke Presentasi Ensiklik AI Paus

Ketika Paus Leo XIV mempresentasikan ensiklik pertamanya tentang kecerdasan buatan di Vatikan pada hari Senin, ia mengundang Christopher Olah, salah satu pendiri Anthropic, untuk berbicara. Langkah ini menandakan aliansi yang belum pernah terjadi sebelumnya antara gereja Katolik dan Silicon Valley. Namun untuk memahami bagaimana kemitraan ini terjadi, kita perlu kembali ke pendirian Anthropic.

Mengapa Antropis?

Anthropic diluncurkan pada tahun 2021 setelah sekelompok peneliti OpenAI, termasuk Dario dan Daniela Amodei, keluar untuk membentuk laboratorium saingan. Mereka melakukannya dengan keyakinan yang jelas: Model kecerdasan buatan menjadi terlalu kuat untuk dikembangkan secara eksklusif berdasarkan logika persaingan dan kecepatan.

Sejak itu, Anthropic telah membangun citra publiknya seputar konsep keamanan AI. Perusahaan ini bertujuan untuk membangun tidak hanya model yang kuat, namun juga model yang dapat dikontrol dan dipandu oleh prinsip-prinsip etika. Di sinilah konsepnya AI konstitusional berasal dari: gagasan tentang sistem pelatihan yang menggunakan semacam konstitusi yang terdiri dari prinsip-prinsip dan aturan, alih-alih hanya mengoreksi respons yang paling berisiko dan berbahaya secara manual.

Bagaimana Konvergensi Dengan Vatikan Dimulai

Kehadiran Olah di Vatikan jelas bukan suatu kebetulan, dan juga bukan merupakan hasil simbolis pada menit-menit terakhir. Hal ini merupakan hasil dari upaya jangka panjang yang disengaja yang dilakukan Vatikan secara progresif untuk mengubah dirinya dari pengamat moral teknologi menjadi mitra langsung industri AI.

Langkah besar pertama terjadi pada tahun 2020 dengan Roma Menyerukan Etika AIsebuah inisiatif yang dipromosikan oleh Pontifical Academy for Life bersama dengan Microsoft, IBM, dan organisasi internasional lainnya. Tujuannya adalah untuk membangun landasan bersama mengenai prinsip-prinsip etika untuk pengembangan AI, termasuk transparansi, inklusi, dan akuntabilitas.

Pada saat itu, Vatikan tampaknya hanya bergerak di bidang bioetika dan pertanyaan moral. Namun, pada tahun-tahun berikutnya, konteksnya berubah secara dramatis. Munculnya ChatGPT, perebutan kepemimpinan teknologi antara Amerika Serikat dan Tiongkok, dan tumbuhnya kekuatan Big Tech secara bertahap meyakinkan Tahta Suci bahwa isu tersebut bukan lagi sekadar soal etika teknologi, namun juga tentang masa depan umat manusia.

Dalam hal ini, Anthropic dipandang oleh Vatikan sebagai lawan bicara yang sangat penting. Tidak seperti perusahaan Silicon Valley lainnya yang membangun reputasinya terutama pada inovasi dan pertumbuhan, Anthropic menjadikan keselamatan AI sebagai bagian inti dari identitasnya.

Dalam beberapa tahun terakhir, Vatikan telah mengikuti salah satu aspek perdebatan teknologi dengan perhatian khusus: penyelarasan model AI.

Olah’s Role

Di sinilah peran Christopher Olah. Berbeda dengan saudara kandung Amodei, yang lebih banyak terpapar media, Olah mewakili sisi penelitian AI yang lebih teoretis dan hampir filosofis. Dia adalah salah satu peneliti paling terkenal di dunia dalam topik interpretabilitas model, atau upaya untuk memahami apa yang sebenarnya terjadi di dalam jaringan saraf yang semakin kompleks.

Di situs pribadinya, Christopher Olah menggambarkan dirinya sebagai seseorang yang mencoba “mengubah jaringan saraf menjadi algoritma yang dapat dimengerti oleh manusia.” Dan sulit untuk membayangkan sosok yang lebih selaras dengan inti ensiklik Paus Leo XIV: sebuah refleksi yang berpusat pada risiko membangun teknologi yang menjadi terlalu kuat untuk dipahami, dikendalikan, atau diatur.

Menurut berbagai sumber jurnalistik, kontak antara kalangan dekat Tahta Suci dan Anthropic mungkin semakin intensif selama pertemuan puncak global tentang keselamatan AI. Vatikan melihat di Anthropic sebuah perusahaan yang setidaknya bersedia mengakui secara terbuka bahwa masalah kecerdasan buatan tidak dapat diselesaikan hanya oleh industri teknologi saja.