David Perak memberi dunia untuk pertama kalinya melihat superintelligence.
Pada tahun 2016, program AI yang ia kembangkan di Google DeepMind, AlfaGobelajar sendiri memainkan permainan Go yang terkenal sulit dengan semacam itu penguasaan itu jauh melampaui mimikri.
Silver telah mendirikan perusahaannya sendiri, Ineffable Intelligence, yang bertujuan untuk membangun bentuk superintelligence AI yang lebih umum. Perusahaan akan melakukan hal ini, kata Silver, dengan berfokus pada pembelajaran penguatan, yang melibatkan model AI yang mempelajari kemampuan baru melalui trial and error. Visinya adalah untuk menciptakan “pembelajar super” yang melampaui kecerdasan manusia di banyak bidang.
Pendekatan ini berbeda dengan cara sebagian besar perusahaan AI berencana membangun superintelligence, dengan memanfaatkan kemampuan pengkodean dan penelitian model bahasa besar.
Silver, berbicara kepada WIRED dari kantornya di London, mengatakan menurutnya pendekatan ini akan gagal. Betapapun menakjubkannya LLM, mereka belajar dari kecerdasan manusia—bukan membangun kecerdasan mereka sendiri.
“Data manusia ibarat bahan bakar fosil yang memberikan jalan pintas yang luar biasa,” kata Silver. “Anda dapat membayangkan sistem yang belajar sendiri sebagai bahan bakar terbarukan—sesuatu yang dapat terus belajar dan belajar selamanya, tanpa batas,” katanya.
Saya telah bertemu Silver beberapa kali dan—terlepas dari pernyataan ini—dia menurut saya adalah salah satu orang paling rendah hati di bidang AI. Terkadang, saat membicarakan ide yang dianggapnya konyol, dia menyeringai nakal. Namun saat ini, dia sangat serius.
“Saya menganggap misi kami adalah melakukan kontak pertama dengan kecerdasan super,” katanya. “Yang saya maksud dengan superintelligence adalah sesuatu yang luar biasa. Ia harus mampu menemukan bentuk-bentuk ilmu pengetahuan atau teknologi baru, pemerintahan, atau ekonomi bagi dirinya sendiri.”
Lima tahun lalu, misi seperti itu mungkin tampak konyol. Namun para CEO teknologi kini secara rutin berbicara tentang mesin yang melampaui kecerdasan manusia dan menggantikan seluruh kategori pekerja. Gagasan bahwa beberapa perubahan teknis baru dapat membuka kemampuan manusia super AI baru-baru ini melahirkan banyak startup yang bernilai miliaran dolar.
Ineffable Intelligence sejauh ini telah mengumpulkan dana awal sebesar $1,1 miliar dengan penilaian sebesar $5,1 miliar—jumlah yang sangat besar menurut standar AI Eropa. Silver juga telah merekrut peneliti AI terkemuka dari Google DeepMind dan laboratorium terdepan lainnya untuk bergabung dalam upayanya.
Silver mengatakan dia akan menyumbangkan semua uang yang dia hasilkan dari ekuitas Ineffable Intelligence—jumlah yang bisa mencapai miliaran jika dia berhasil—untuk amal.
“Merupakan tanggung jawab besar untuk membangun perusahaan yang berfokus pada superintelligence,” katanya kepada saya. “Saya pikir ini adalah sesuatu yang harus dilakukan demi kepentingan umat manusia, dan uang apa pun yang saya hasilkan dari Ineffable akan disumbangkan ke badan amal yang berdampak besar dan menyelamatkan nyawa sebanyak mungkin.”
Fokus Total
Silver bertemu Demis Hassabis, CEO Google DeepMind, di sebuah turnamen catur ketika mereka masih kecil, dan pasangan tersebut kemudian menjadi teman dan kolaborator seumur hidup.
Mereka tetap dekat setelah Silver meninggalkan Google DeepMind, yang dia lakukan hanya karena dia ingin memetakan jalur yang benar-benar baru. “Saya merasa sangat penting untuk memiliki laboratorium AI elit yang benar-benar fokus seratus persen pada pendekatan ini,” katanya. “Bahwa ini bukan sekadar sudut tempat lain yang didedikasikan untuk LLM.”
Batasan pendekatan berbasis LLM dapat dilihat, kata Silver, dengan eksperimen pemikiran sederhana. Bayangkan kembali ke masa lalu dan merilis model bahasa besar di dunia yang percaya bahwa dunia itu datar. Tanpa dapat berinteraksi dengan dunia nyata, sistem tersebut, katanya, akan tetap menjadi penganut paham bumi datar, bahkan jika sistem tersebut terus menyempurnakan kodenya sendiri.
Namun, sistem AI yang dapat mempelajari dunia sendiri dapat membuat penemuan ilmiahnya sendiri.
Silver membandingkan kondisi AI saat ini dengan pemahaman biologi sebelum Darwin. “Ada banyak orang yang mencoba memahami apa itu kehidupan, namun tidak ada satupun yang mempunyai pandangan terpadu yang benar-benar menjelaskan apa itu kehidupan sampai Darwin muncul,” katanya.
Pertanyaan besar bagi Ineffable Intelligence adalah bagaimana beralih dari dunia terbatas seperti permainan Go menuju kompleksitas dunia nyata yang tak terbayangkan.
Silver mengatakan dia melihat cara untuk mencapai hal ini dengan menempatkan agen AI dalam simulasi. Ia sangat berhati-hati mengenai simulasi yang akan dilakukan, namun ia mengatakan bahwa pendekatan ini akan memungkinkan para agen untuk belajar mencapai tujuan dan berkolaborasi satu sama lain.
Ravi Mhatre, salah satu pendiri dan mitra di Lightspeed Ventures, yang mendukung Ineffable Intelligence, mengatakan Silver adalah “seorang peneliti kelas dunia” yang kariernya “pada dasarnya adalah argumen tunggal yang koheren untuk mampu meningkatkan kecerdasan tanpa pendahulu manusia.”
Namun, membangun superintelligence dengan cara ini dapat menimbulkan masalah baru jika AI yang dihasilkan mengidentifikasi cara optimal untuk menyelesaikan masalah yang tidak selaras dengan nilai atau kepentingan kemanusiaan.
Silver mengatakan bahwa mengembangkan teknologi dalam simulasi akan membantu karena memungkinkan untuk melihat bagaimana agen AI berperilaku terhadap orang lain, termasuk kecerdasan yang lebih rendah. “Kita sebenarnya bisa melihat perilaku seperti apa yang muncul dari hal ini,” katanya.
Mhatre mengatakan dia menekan Silver mengenai masalah keselamatan, dan dia percaya bahwa pendekatannya mungkin menawarkan cara yang lebih baik untuk membangun AI yang selaras karena tidak terlalu bergantung pada pembelajaran dari perilaku manusia. Silver, “sangat fokus pada bagaimana membangun sistem yang sangat cerdas dan ramah terhadap apa pun yang kita inginkan,” kata Mhatre.
Tidak Ada Jalan Pintas
Gagasan bahwa komputer suatu hari nanti bisa belajar seperti manusia—dari pengalaman—sudah ada sejak masa awal ilmu komputer, termasuk penulisan dari Alan Turing. Pendekatan algoritmik yang digunakan untuk mencapai hal ini dikenal sebagai pembelajaran penguatan.
Silver telah lama mempercayai pendekatan ini adalah kunci sebenarnya untuk membangun kecerdasan mesin manusia super. Salah satu mentor Silver, Rich Sutton, bersama kolaborator lamanya, Andrew Barto, memenangkan Penghargaan Turing pada tahun 2025 atas pekerjaan mereka mengembangkan algoritma pembelajaran penguatan awal.
Dunia AI kini lebih fokus pada LLM dan pendekatan pelatihan berbeda yang melibatkan memasukkan sejumlah besar teks manusia yang diambil dari buku, halaman internet, dan sumber lain ke dalam algoritme AI.
Namun, pembelajaran penguatan telah memainkan peran penting dalam menciptakan sistem AI saat ini. Hal ini memungkinkan untuk membangun chatbot dengan membentuk keluaran LLM dengan umpan balik manusia. Baru-baru ini, sistem AI berbasis LLM dapat mempelajari cara memecahkan masalah yang lebih kompleks, terutama di bidang seperti matematika dan pemrograman.
Pencipta yang Baik Hati
Perlombaan menuju kecerdasan super (superintelligence) kini semakin sengit, dengan perusahaan-perusahaan besar menghabiskan miliaran dolar untuk membangun infrastruktur dan merekrut talenta. Beberapa orang melihat sebuah gelembung mahakuasa pembuatan bir.
Sonya Huang, VC di Sequoia Capital, yang berinvestasi di startup tersebut, mengatakan Ineffable Intelligence menonjol karena rekam jejak Silver yang luar biasa dan kemurnian visinya.
“Hanya ada sedikit sekali—kurang dari segelintir orang—yang telah melakukan pekerjaan mendasar,” kata Huang. “Dave adalah salah satunya.”
Huang mengatakan banyaknya jumlah komputasi yang kini tersedia bagi perusahaan AI dan semakin canggihnya simulasi telah meyakinkannya akan pendekatan Silver. “Saya pada dasarnya setuju dengan tesisnya tentang di mana kita akan menemukan terobosan besar berikutnya,” katanya.
Reputasi Silver sebagai peneliti papan atas dan sejujurnya, bukan sebagai orang brengsek, mungkin menguntungkannya dalam hal merekrut talenta. “Saya pikir ini sangat penting bagi para peneliti,” kata Huang.
Andrew Dai, yang bekerja dengan Silver di Google DeepMind, setuju. “Dia orang yang sangat cerdas dan selalu mempunyai ide-ide baru untuk dikemukakan,” katanya. “Dan ya, dia juga sangat baik. Dia menghormati pendapat orang lain dan memberi kebebasan pada peneliti.”
Bagi Silver, ilmu pengetahuan saja seharusnya menjadi daya tarik. “Dalam kaitannya dengan sains murni, saya melihat ini sebagai misi ilmiah paling penting yang mungkin bisa kita jalani,” katanya.
