Nvidia adalah raja AI yang tak terbantahkan keripik. Namun berkat AI yang dibangunnya, sang juara dapat segera menghadapi persaingan yang semakin ketat.
AI modern berjalan berdasarkan desain Nvidia, sebuah dinamika yang telah mendorong perusahaan tersebut mencapai kapitalisasi pasar lebih dari $4 triliun. Setiap chip Nvidia generasi baru memungkinkan perusahaan untuk melatih model AI yang lebih kuat menggunakan ratusan atau ribuan prosesor yang terhubung dalam jaringan di dalam pusat data yang luas. Salah satu alasan kesuksesan Nvidia adalah menyediakan perangkat lunak untuk membantu memprogram setiap chip generasi baru. Itu mungkin bukan keterampilan yang bisa dibedakan.
Sebuah startup bernama Kue wafer sedang melatih model AI untuk melakukan salah satu pekerjaan tersulit dan penting dalam AI—mengoptimalkan kode agar berjalan seefisien mungkin pada chip silikon tertentu.
Emilio Andere, salah satu pendiri dan CEO Wafer, mengatakan perusahaan melakukan pembelajaran penguatan pada model sumber terbuka untuk mengajari mereka menulis kode kernel, atau perangkat lunak yang berinteraksi langsung dengan perangkat keras dalam sistem operasi. Andere mengatakan Wafer juga menambahkan “pemanfaatan agen” ke model pengkodean yang sudah ada seperti Claude dari Anthropic dan GPT OpenAI untuk meningkatkan kemampuan mereka dalam menulis kode yang dijalankan langsung pada chip.
Banyak perusahaan teknologi terkemuka kini memiliki chipnya sendiri. Apple dan perusahaan lainnya telah bertahun-tahun menggunakan silikon khusus untuk meningkatkan kinerja dan efisiensi perangkat lunak yang berjalan di laptop, tablet, dan ponsel pintar. Di sisi lain, perusahaan seperti Google dan Amazon membuat silikon mereka sendiri untuk meningkatkan kinerja platform komputasi awan mereka. Meta baru-baru ini dikatakan itu akan menggunakan kapasitas komputasi 1 gigawatt dengan chip baru yang dikembangkan dengan Broadcom. Penerapan silikon khusus juga melibatkan penulisan banyak kode agar berjalan lancar dan efisien pada prosesor baru.
Wafer bekerja sama dengan perusahaan termasuk AMD dan Amazon untuk membantu mengoptimalkan perangkat lunak agar berjalan secara efisien di perangkat keras mereka. Startup ini sejauh ini telah mengumpulkan dana awal sebesar $4 juta dari Jeff Dean dari Google, Wojciech Zaremba dari OpenAI, dan lainnya.
Andere percaya bahwa pendekatan berbasis AI yang dilakukan perusahaannya berpotensi menantang dominasi Nvidia. Sejumlah chip kelas atas kini menawarkan kinerja floating point mentah yang serupa—sebuah tolok ukur industri utama mengenai kemampuan sebuah chip untuk melakukan perhitungan sederhana—dengan silikon terbaik Nvidia.
“Perangkat keras AMD terbaik, terbaik [Amazon] Perangkat keras Trainium, yang terbaik [Google] TPU, memberikan Anda kegagalan teoretis yang sama dengan GPU Nvidia, “kata Andere kepada saya baru-baru ini. “Kami ingin memaksimalkan kecerdasan per watt.”
Insinyur kinerja dengan keterampilan yang diperlukan untuk mengoptimalkan kode agar dapat berjalan dengan andal dan efisien pada chip ini mahal dan banyak diminati, kata Andere, sementara ekosistem perangkat lunak Nvidia mempermudah penulisan dan pemeliharaan kode untuk chipnya. Hal ini menyulitkan perusahaan teknologi terbesar sekalipun untuk melakukannya sendiri.
Ketika Anthropic bermitra dengan Amazon untuk membangun model AI-nya di Trainium, misalnya, Anthropic harus menulis ulang kode modelnya dari awal agar dapat berjalan seefisien mungkin di perangkat keras, kata Andere.
Tentu saja, Claude dari Anthropic kini menjadi salah satu dari banyak model AI yang kini menjadi manusia super dalam menulis kode. Jadi Andere berpendapat mungkin tidak akan lama lagi AI akan mulai memanfaatkan keunggulan perangkat lunak Nvidia.
“Paritnya terletak pada kemampuan program chip,” kata Andere mengacu pada perpustakaan dan perangkat lunak yang mempermudah pengoptimalan kode untuk perangkat keras Nvidia. “Saya pikir ini saatnya untuk mulai memikirkan kembali apakah parit tersebut benar-benar kuat.”
Selain mempermudah pengoptimalan kode untuk silikon yang berbeda, AI akan segera mempermudah perancangan chip itu sendiri. Kecerdasan Rekursifsebuah startup yang didirikan oleh dua mantan insinyur Google, Azalia Mirhoseini dan Anna Goldie, sedang mengembangkan cara baru untuk merancang chip komputer dengan kecerdasan buatan. Jika teknologinya berkembang pesat, lebih banyak perusahaan dapat mengembangkan desain chip, menciptakan silikon khusus yang menjalankan perangkat lunak mereka dengan lebih efisien.
“Kami sedang mengejar tantangan panjang dalam desain chip—desain fisik dan verifikasi desain,” kata Mirhoseini, yang juga asisten profesor di Universitas Stanford, mengacu pada dua tantangan utama yang terkait dengan desain chip.
Merancang chip komputer adalah salah satu pekerjaan paling penting—dan rumit—di planet ini. Insinyur chip perlu memikirkan cara mengatur sejumlah besar komponen di seluruh silikon untuk mengoptimalkan fungsi yang berbeda. Setelah sebuah chip pertama kali dirancang, kinerjanya harus diuji dan diverifikasi secara cermat dalam proses berulang sebelum desain tersebut dapat dikirim ke pabrik pengecoran.
Desain Nvidia sangat penting untuk AI modern, dengan setiap generasi chip baru memungkinkan perusahaan untuk melatih model AI yang lebih kuat menggunakan ratusan atau ribuan prosesor yang terhubung dalam jaringan di dalam pusat data yang luas.
Mirhoseini dan Goldie mengembangkan cara agar AI dapat melakukannya mengoptimalkan tata letak komponen kunci chip komputer saat berada di Google. Pendekatan ini mengubah cara Google mendesain prosesornya sendiri, dan kini banyak digunakan di industri untuk membantu mengatur fitur pada chip yang berbeda.
Namun, Rikursif bertujuan untuk melangkah lebih jauh dengan mengotomatiskan lebih banyak elemen desain chip dan mengintegrasikan model bahasa besar ke dalam prosesnya. Tujuannya adalah untuk memungkinkan para insinyur menggunakan bahasa alami untuk mendeskripsikan perubahan atau mengajukan pertanyaan tentang sebuah chip. Sama seperti seseorang yang dapat membuat kode getaran untuk suatu aplikasi, mungkin pada akhirnya akan dimungkinkan untuk merancang sebuah chip.
Ricursive masih mengembangkan teknologinya, namun Mirhoseini mengatakan perusahaan telah menunjukkan bahwa mereka dapat mengoptimalkan lebih banyak aspek desain chip.
Prospek mengotomatiskan desain chip dengan cara ini membuat beberapa investor mengeluarkan air liur: Ricursive telah mengumpulkan $335 juta dengan penilaian $4 miliar hanya dalam beberapa bulan.
Goldie mengatakan pada akhirnya dimungkinkan untuk memiliki desain kode AI baik chip maupun algoritma untuk membuatnya lebih kuat. Dia mengatakan bahwa membuat AI mengubah silikon dan kodenya sendiri dapat membentuk jenis peningkatan AI yang rekursif. “Kami beralih ke rezim baru ini di mana kami dapat menggunakan lebih banyak komputasi untuk merancang chip yang lebih cepat dan lebih baik—menciptakan semacam hukum penskalaan untuk desain chip.”
Apa pendapat Anda tentang AI yang merancang silikonnya sendiri? Tinggalkan komentar atau kirim email ke [emailprotected] untuk memberi tahu saya.
Ini adalah edisi Will Knight Buletin Lab AI. Baca buletin sebelumnya Di Sini.
