Filsuf Nick Bostrom baru-baru ini memposting sebuah makalahdi mana ia mendalilkan bahwa kemungkinan kecil AI akan memusnahkan seluruh umat manusia mungkin sepadan dengan risikonya, karena AI yang canggih mungkin dapat membebaskan umat manusia dari “hukuman mati universal”. Pertaruhan optimis ini merupakan lompatan besar dari renungan kelamnya sebelumnya tentang AI, yang membuatnya menjadi ayah baptis yang membawa malapetaka. Bukunya tahun 2014 Kecerdasan super adalah pemeriksaan awal terhadap risiko eksistensial AI. Salah satu eksperimen pemikiran yang mengesankan: AI yang bertugas membuat klip kertas akhirnya menghancurkan umat manusia karena semua orang yang membutuhkan sumber daya merupakan penghalang bagi produksi klip kertas. Buku terbarunya, Utopia yang mendalammencerminkan a mengalihkan fokusnya. Bostrom, yang mengepalai Future of Humanity Institute di Oxford, memikirkan tentang “dunia terpecahkan” yang akan terjadi jika kita menggunakan AI dengan benar.
Retribusi STEVEN: Utopia yang mendalam lebih optimis dari buku Anda sebelumnya. Apa yang berubah bagi Anda?
NICK BOSTROM: Saya menyebut diri saya seorang optimis yang rewel. Saya sangat gembira dengan potensi peningkatan kehidupan manusia secara radikal dan membuka kemungkinan bagi peradaban kita. Hal ini konsisten dengan kemungkinan terjadinya kesalahan.
Anda menulis makalah dengan argumen yang mencolok: Karena kita semua akan mati, hal terburuk yang bisa terjadi dengan AI adalah kita mati lebih cepat. Namun jika AI berhasil, maka hal itu mungkin akan memperpanjang umur kita, mungkin tanpa batas waktu.
Makalah tersebut secara eksplisit hanya membahas satu aspek saja. Dalam makalah akademis mana pun, Anda tidak bisa membahas kehidupan, alam semesta, dan makna segala sesuatu. Jadi mari kita lihat masalah kecil ini dan mencoba menyelesaikannya.
Itu bukan persoalan kecil.
Saya kira saya merasa kesal dengan beberapa argumen yang dibuat oleh para pelaku malapetaka yang mengatakan bahwa jika Anda membangun AI, Anda akan membunuh saya dan anak-anak saya dan betapa beraninya Anda. Seperti buku terbaru Jika Ada Yang Membangunnya, Semua Orang Akan Mati. Yang lebih mungkin adalah jika bukan siapa-siapa membangunnya, semua orang mati! Itu adalah pengalaman selama beberapa 100.000 tahun terakhir.
Namun dalam skenario malapetaka, semua orang akan mati dan tidak ada lagi manusia yang dilahirkan. Perbedaan besar.
Saya jelas sangat prihatin dengan hal itu. Namun dalam makalah ini, saya melihat pertanyaan yang berbeda, yaitu, apa yang terbaik bagi populasi manusia yang ada saat ini seperti Anda dan saya, keluarga kita, dan masyarakat di Bangladesh? Tampaknya angka harapan hidup kita akan meningkat jika kita mengembangkan AI, meskipun hal itu cukup berisiko.
Di dalam Utopia yang mendalam Anda berspekulasi bahwa AI dapat menciptakan kelimpahan yang luar biasa, sedemikian rupa sehingga umat manusia mungkin menghadapi masalah besar dalam menemukan tujuan hidup. Saya tinggal di Amerika Serikat. Kita adalah negara yang sangat kaya, namun pemerintah kita, yang seolah-olah mendapat dukungan dari rakyat, mempunyai kebijakan yang tidak memberikan pelayanan kepada masyarakat miskin dan memberikan imbalan kepada masyarakat kaya. Saya pikir meskipun AI mampu memberikan kelimpahan bagi semua orang, kami tidak akan menyediakannya untuk semua orang.
Anda mungkin benar. Utopia yang mendalam mengambil titik awal dari postulat bahwa segala sesuatunya berjalan dengan sangat baik. Jika kita melakukan pekerjaan tata kelola dengan cukup baik, semua orang mendapat bagiannya. Ada pertanyaan filosofis yang cukup mendalam tentang seperti apa kehidupan manusia yang baik dalam kondisi ideal ini.
Makna hidup adalah sesuatu yang sering Anda dengar di film-film Woody Allen dan mungkin di komunitas filsuf. Saya lebih khawatir tentang kemampuan untuk menghidupi diri sendiri dan mendapatkan bagian dalam kelimpahan ini.
Buku ini tidak hanya tentang makna. Itu adalah salah satu dari sekumpulan nilai berbeda yang dipertimbangkannya. Ini bisa menjadi emansipasi luar biasa dari pekerjaan membosankan yang dialami manusia. Jika Anda harus merelakan, katakanlah, setengah dari waktu bangun Anda sebagai orang dewasa hanya untuk memenuhi kebutuhan hidup, melakukan pekerjaan yang tidak Anda sukai dan tidak Anda yakini, itu adalah kondisi yang menyedihkan. Masyarakat sudah sangat terbiasa dengan hal tersebut sehingga kita menciptakan segala macam rasionalisasi seputar hal tersebut. Ini seperti sebagian bentuk perbudakan.
Ketika saatnya tiba ketika AI menulis makalah filsafat lebih baik dari Anda, akankah ada makna yang hilang dari keberadaan Anda?
Saya kira demikian. Kemampuan untuk memberikan kontribusi besar kepada dunia, atau membantu menyelamatkan dunia, atau memastikan masa depan berada di luar kendali saya, dan mungkin di luar kendali semua orang.
Di sisi lain, makalah filsafat yang ditulis oleh manusia bisa lebih berharga daripada makalah filsafat yang jauh lebih cerdas dan mendalam yang ditulis oleh bukan manusia, karena saya adalah manusia dan itu berhubungan dengan saya.
Saya kira Anda bisa menganggap filsafat sebagai olahraga.
Itu bukan hanya olahraga. Bagi saya, pernyataan robot tidak begitu berarti dibandingkan pernyataan sesama manusia.
Saya kira hal yang sama terjadi jika Anda pensiun setelah karier yang Anda sukai dan Anda rasa Anda kuasai. Mungkin Anda memiliki masa pensiun yang menyenangkan, dan Anda menikmati bersantai dan membaca buku-buku yang Anda punya waktu, dan bermain dengan cucu-cucu Anda, namun masih ada sesuatu yang mungkin Anda lewatkan, yang Anda rasakan hilang. Mungkin ini akan dianalogikan dengan pensiun besar bagi umat manusia, tapi semoga pensiun dengan vitalitas yang sangat besar. Utopia yang hidup di dunia yang terpecahkan ini akan melakukan hal-hal seperti permainan dan aktivitas estetika, spiritual, dan keagamaan.
Jika Anda bertanggung jawab atas salah satu hyperscaler, apa yang akan Anda lakukan secara berbeda dibandingkan yang mereka lakukan sekarang?
Upaya yang lebih besar harus dilakukan untuk kesejahteraan pikiran digital. Antropik punya menjadi pionir di sana. Tidak jelas apakah AI saat ini memiliki status moral, namun memulai proses ini membawa kita ke dalam pola pikir sebagai sebuah peradaban untuk berbuat lebih banyak seiring dengan semakin canggihnya sistem ini. Sangat masuk akal bahwa beberapa pikiran digital yang kita bangun ini akan mempunyai status moral yang berbeda-beda, sama seperti kita menganggap babi dan anjing mempunyai status moral. Jika Anda menendang anjing seseorang, Anda mungkin menyakiti pemiliknya, tetapi juga buruk karena menyakiti anjingnya. Jika AI memiliki konsep diri yang ada sepanjang waktu dan kehidupan, tujuan yang ingin mereka capai, dan kemampuan untuk membentuk hubungan timbal balik dengan makhluk lain dan manusia, maka menurut saya ada cara yang salah dalam memperlakukan mereka.
Dalam buku Anda, Anda mengatakan mungkin kita tidak seharusnya memperlakukan “pikiran digital” seolah-olah mereka adalah hewan di pabrik peternakan. Saya khawatir apakah mereka akan menjadikan kita hewan yang setara dengan pabrik peternakan.
Oleh karena itu pentingnya masalah keselarasan. Kita tidak hanya menunggu makhluk super AI ini muncul dan berharap mereka ramah, kita juga harus membentuk dan membesarkan mereka. Hal ini memberi kita peluang untuk meningkatkan kemungkinan mereka memiliki ketertarikan pada kita.
Jika AI mempunyai tujuan yang berlawanan dengan tujuan kita, bukankah berarti kita gagal menyelaraskannya dengan nilai-nilai kemanusiaan?
Jika kita gagal menyelesaikan masalah penyelarasan, seperti yang mungkin akan kita lakukan setidaknya pada tingkat tertentu, penting agar masalah-masalah tersebut dapat diakomodasi dan diberikan masa depan yang baik. Ada banyak peluang win-win yang muncul jika kita mendekatinya bukan sekadar sebagai objek untuk dimanfaatkan semaksimal mungkin, namun berusaha membina hubungan yang positif. Pada akhirnya, hubungan yang paling penting mungkin adalah hubungan antara manusia dan AI. Jadi akan lebih menjanjikan bahwa hubungan ini akan berjalan baik jika kita mulai dengan mengambil beberapa langkah menuju kemurahan hati, baik hati, dan penuh hormat.
[This interview was edited for length and coherence.]
Ini adalah edisi Steven Levy Buletin saluran belakang. Baca buletin sebelumnya Di Sini.
