Menghindari melewati sesi pengkodean langsung di atas panggung, kursus penyegaran AI, rangkaian alat rintangan, orang-orang berjalan berkeliling dengan headphone bergaya disko senyap berwarna hijau menyala yang membunyikan diskusi panel PBB di telinga Anda, dan Anda dapat mengambil jeda untuk bernapas. Namun Anda mungkin menemukan diri Anda berada di Zona Jaringan, di atas alat tempat duduk berputar yang disebut UFOTECH yang lebih mirip Susan pemalas yang Anda temui di restoran Cina daripada bangku jaringan yang dirancang untuk berfungsi.
Ini adalah KTT AI untuk Kebaikanyang diselenggarakan oleh Persatuan Telekomunikasi Internasional (ITU) Perserikatan Bangsa-Bangsa, di mana perwakilan dari sektor swasta dan publik mencoba mendiskusikan bagaimana memanfaatkan teknologi untuk memberikan manfaat, bukan merugikan umat manusia.
Sementara para eksekutif Silicon Valley dan pemimpin laboratorium AI memberikan kesaksian kepada anggota parlemen di Washington tentang risiko superintelligence, dan Gedung Putih menerapkan kontrol ekspor pada chip, KTT AI untuk Kebaikan PBB—yang kini memasuki tahun ke-10—berfokus pada tujuan yang jauh lebih idealis.
“Keyakinan kami bahwa kecerdasan buatan, yang diterapkan secara bertanggung jawab, dapat membantu memecahkan masalah umat manusia yang paling mendesak—mulai dari kelaparan, penyakit, hingga pemanasan global,” kata Doreen Bogdan-Martin, sekretaris jenderal ITU, dalam pidato utama di panggung utama konferensi tersebut. “Saat ini, ide tersebut sedang diuji, termasuk dengan tantangan yang ditimbulkan oleh AI, bahkan ketika kami berupaya menggunakannya untuk kebaikan.”
Apa arti kebaikan—dan apa manfaatnya bagi umat manusia—adalah pertanyaan yang muncul selama konferensi tersebut, yang tersebar di pusat konvensi seluas 106.000 meter persegi di pinggiran distrik bandara Jenewa. Sesi ini dilatarbelakangi oleh kekhawatiran bahwa pengerahan pasukan yang tidak terkendali oleh perusahaan-perusahaan monopoli yang tidak terkendali telah memperkuat ketidaksetaraan global dan mengikis hak asasi manusia.
Bagi sebagian orang yang berada di garis depan, lapisan utopis industri teknologi telah memudar. Berbicara di sela-sela acara, Giulio Coppi, pejabat senior kemanusiaan di kelompok kampanye Access Now, menyerukan ketergantungan yang berlebihan dari sektor kemanusiaan dan publik terhadap teknologi besar. “Kita harus keluar dari era tidak bersalah,” kata Coppi, sambil menuntut agar organisasi-organisasi berhenti memperlakukan perusahaan teknologi “sebagai teman terbaik mereka.” Dia menunjuk pada satu dekade kesepakatan yang tidak jelas dan bernilai jutaan dolar yang didanai oleh uang publik. “Anda bahkan tidak dapat menjelaskan apa yang ada di dalam tumpukan teknologi Anda, karena teknologi terus berubah,” dia memperingatkan.
Penentangan Coppi tidak terdengar jika dibandingkan dengan beberapa aktivis lainnya: aktivis Pro-Palestina menyerbu panggung dalam pidato utama yang disampaikan oleh chief technology officer Amazon, Werner Vogels, yang menuduh bahwa teknologi perusahaan tersebut digunakan oleh Israel untuk melawan warga Palestina, sebelum akhirnya dibundel ke luar tempat tersebut.
“Ketika kita berbicara tentang AI, kami menyukai hype-nya, kami merasa bersemangat karenanya,” kata Vijay Janapa Reddi, seorang profesor teknik di Universitas Harvard, di sela-sela hiruk pikuk sesi kompetisi saat presentasi. “Hal sialan itu tidak pernah benar-benar diterapkan.” Masalahnya, katanya, adalah bahwa “kebaikan” merupakan standar yang terlalu kabur untuk ditentang. “Ketika Anda seorang insinyur, kebaikan tidak berarti apa-apa. Saya tidak bisa membuatkan Anda sesuatu yang bagus. Pesawat yang terbang selama lima menit tidaklah baik.”
Sebagian besar perdebatan global seputar AI kini berkisar pada akses: Siapa yang dapat menggunakan model tersebut, siapa yang dapat membeli chip, dan siapa yang dikecualikan dari ekonomi komputasi. Itu salah satu alasan mengapa pemerintahan Trump melakukan hal tersebut dilaksanakan, lalu dicabutkontrol ekspor pada model AI terdepan, dan Tiongkok adalah negara yang melakukan hal tersebut dilaporkan sedang mempertimbangkan membuat model berbobot terbuka menjadi kurang terbuka. Memperketat akses dan menghilangkan negara-negara miskin dapat membuat mereka bergantung pada platform dan standar infrastruktur asing.
Dalam sesi mengenai perangkat keras AI dan kesenjangan digital yang semakin lebar, para pembicara berpendapat bahwa komputasi bukan lagi sekadar masalah teknologi, namun masalah pembangunan. “Jika yang kita maksudkan adalah AI untuk kebaikan, artinya komputasi untuk semua orang, kita harus menyadari bahwa memang demikian adanya [about] pengembangan infrastruktur, bukan hanya teknologi,” kata Syed Munir Khasru, ketua Institute for Policy, Advocacy, and Governance. Pihak lain menunjukkan bahwa sebagian besar model bahasa besar tetap terstruktur berdasarkan bahasa Inggris, sehingga LLM lokal yang lebih kecil yang menggunakan perangkat keras yang lebih murah menjadi penting jika AI ingin melayani komunitas di luar pasar terkaya.
Politik infrastruktur—siapa mendapat apa, dan siapa mengendalikan apa—berlangsung sepanjang pertemuan puncak. Pertanyaannya bukan hanya apakah AI dapat dibuat aman tetapi apakah dunia di luar poros AS-Tiongkok-Eropa akan diizinkan untuk membentuk teknologi tersebut.
Gilles Thonet, wakil sekretaris jenderal Komisi Elektroteknik Internasional, berpendapat bahwa memikirkan tentang hak dan keterwakilan pengguna akhir biasanya tidak menjadi bagian dari diskusi standar. “Secara tradisional, para insinyur mungkin menganggap hak asasi manusia adalah urusan orang lain,” katanya kepada WIRED. “Sebenarnya tidak.”
Anja Kaspersen, direktur pengembangan pasar global, teknologi terdepan dan kritis di IEEE, menyatakan bahwa keputusan yang paling penting tidak dibuat dalam sidang PBB seperti ini, namun dibangun dalam arsitektur tersembunyi, standar teknis, dan pilihan pengadaan.
Untuk memperbaiki hal ini, menurutnya, kita perlu membangun “middleware” – sebuah lapisan penghubung yang menerjemahkan prinsip-prinsip hak asasi manusia tingkat tinggi menjadi penegakan teknis yang dapat diverifikasi. Jeremy Ng, penasihat AI dan ekonomi digital di Bank Dunia, menekankan bahwa penilaian dampak AI harus menjadi alat praktis yang nyata, bukan sekadar “teater tata kelola” atau latihan praktis bagi raksasa teknologi.
Ada banyak pembicaraan, tapi mungkin tindakannya kurang konkrit—tapi itulah intinya. KTT seperti ini memerlukan semacam konsensus untuk mengambil tindakan, dan PBB pun melakukan hal tersebut menggembar-gemborkan formasi dari komisi beranggotakan 44 orang yang dirancang untuk mendukung AI untuk Kebaikan, yang diketuai bersama oleh presiden Rwanda Paul Kagame dan CEO Salesforce Marc Benioff. “Tidak ada satu pemangku kepentingan pun yang dapat membentuk masa depan AI sendirian,” kata Bogdan-Martin dalam pidato pembukaannya. “Ini membutuhkan pembangun. Ia membutuhkan Anda.”
Masalahnya adalah ketika semua pembicaraan sedang berlangsung, di lantai konvensi yang ramai, di mana Tesla Cybertrucks dipamerkan bersama helikopter penyelamat PBB, beberapa robot humanoid berlari di antara stan untuk melihat dan menatap manusia yang hadir. Robot AI berjalan cukup cepat. Dan tidak sulit untuk berpikir bahwa teknologi telah melampaui konsensus untuk mendefinisikan apa yang dimaksud dengan kebaikan.
