Nvidia sedang bersemangat meningkatkan sistem chip Vera Rubin barunya minggu ini, mengungkapkan tolok ukur kinerja baru untuk tersebut Kombinasi GPU dan CPU mendahului saingannya AMDacara produk tahunan di San Francisco pada hari Kamis.
Selama lokakarya teknis yang panjang minggu lalu di kantor pusat perusahaan di Santa Clara, California, para eksekutif Nvidia membual kepada sekelompok kecil jurnalis tentang peningkatan kemampuan daya dan efisiensi sistem chip. Kesimpulan terbesarnya: Nvidia, yang telah lama mengkhususkan diri dalam pembuatan GPU, semakin berusaha memposisikan dirinya sebagai pemasok CPU yang dapat mendukung agen AI.
Sementara GPU masih perangkat keras utama yang digunakan perusahaan untuk melatih dan menjalankan model AI mereka, peralihan industri ke sistem agen yang lebih kompleks telah meningkatkan permintaan akan CPU, yang dapat mengatur aliran data, jaringan, dan tugas perangkat lunak lainnya. Mungkin itulah salah satu alasan Nvidia ingin sekali mempromosikan dirinya sebagai pemasok sistem AI yang lengkap, bukan sekadar chip AI.
Vera Rubin adalah penerus Nvidia superchip hibrida sistem Grace Blackwell dan mewakili kunci masa depan jangka pendeknya dalam mendukung industri AI. Ini dirancang untuk menawarkan satu CPU untuk setiap dua GPU. Dalam satu sistem super chip Vera Rubin NVL 72, terdapat 36 CPU Vera untuk setiap 72 GPU Rubin. Nvidia juga menjual CPU Vera sebagai produk yang berdiri sendiri, dan memang demikian dilaporkan kepada pelanggan Tiongkok ini bisa siap secepatnya pada bulan Agustus.
.jpg)
Chip CPU yang digunakan Nvidia untuk sistem perangkat keras Vera Rubin yang baru.
Atas izin Nvidia
Para eksekutif Nvidia menekankan bahwa rak Vera Rubin NVL72 yang baru—kumpulan chip yang dikemas dalam satu platform berpendingin cairan—jauh lebih “plug-and-play” dibandingkan beberapa produk sebelumnya. Selama tur singkat ke laboratorium pusat data Nvidia di Silicon Valley, para eksekutif Nvidia berbagi bahwa OpenAI sudah memiliki satu rak Vera Rubin yang digunakan.
CEO Nvidia Jensen Huang tidak hadir di lokakarya di Santa Clara minggu lalu; dia berada di Jepang mengumumkan pembuat chip baru kemitraan dengan sejumlah perusahaan Jepang untuk mengembangkan AI untuk robotika. Pengarahan tersebut malah dipimpin oleh Ian Buck, wakil presiden akselerasi komputasi Nvidia dan arsitek di balik perangkat lunak CUDA perusahaan.
“Kami berada di peta jalan untuk menciptakan arsitektur baru, tidak hanya GPU tetapi juga CPU,” kata Buck kepada wartawan. “Kami akan terus berinovasi, karena mereka akan melakukan hal ini atau akan mati di Silicon Valley.”
Pertemuan tersebut diadakan di pusat pengarahan eksekutif Huang, di mana beberapa meja di dekatnya dipenuhi dengan tas makanan ringan Taiwan yang dibawa oleh CEO dari perjalanannya baru-baru ini ke Computex, sebuah pameran dagang semikonduktor tahunan besar-besaran di Taipei, kata juru bicara Nvidia kepada WIRED.
.jpg)
Rak yang berisi CPU Vera Nvidia, yang dirancang untuk dipasangkan dengan GPU Rubin generasi berikutnya milik perusahaan di pusat data AI.
Atas izin Nvidia
Nvidia mengklaim bahwa sistem Vera Rubin NVL72 akan memproses token per watt 10 kali lebih banyak daripada chip super Grace Blackwell milik perusahaan. Perusahaan mengatakan bahwa CPU Vera-nya lebih cepat dalam memproses tugas-tugas AI agen dibandingkan dengan CPU pesaingnya dari AMD dan Intel (walaupun pengujian yang dilakukan untuk mendukung tolok ukur tersebut tampaknya menggunakan generasi yang sedikit lebih tua dari CPU pesaingnya). Subsistem memori yang dilokalkan pada chip baru ini juga akan menawarkan bandwidth memori hampir tiga kali lebih banyak dibandingkan Blackwell, yang kemungkinan akan menjadi fitur menarik bagi banyak perusahaan di tengah krisis. kekurangan yang berkelanjutan memori bandwidth tinggi.
Nvidia mengatakan pihaknya juga telah secara signifikan mengurangi jumlah kabel yang diperlukan untuk menghubungkan chipnya ke rak dalam sistem server multi-rak, hingga perusahaan tersebut menggembar-gemborkan Vera Rubin sebagai “komputasi bebas kabel” dan “hot-swappable.” Ini berarti pelanggan secara teoritis dapat mengurangi jumlah waktu yang diperlukan untuk memasang setiap rak dari beberapa jam menjadi beberapa menit, hal ini dikemukakan oleh Buck dan Andrew Bell, wakil presiden senior bidang teknik perangkat keras Nvidia. Dan sistem chip baru ini 100 persen berpendingin cairan, sehingga dapat mengurangi jumlah energi yang diperlukan untuk mendinginkan chip, karena pendinginan udara lebih boros energi.
Sejak Nvidia meluncurkan Vera Rubin pada musim semi tahun 2025, perusahaan tersebut perlahan-lahan memberikan rincian lebih lanjut tentang sistem chip tersebut sambil bersikeras bahwa sistem tersebut akan dirilis sesuai jadwal. Huang telah berulang kali mengatakan bahwa Vera Rubin sedang menuju “produksi penuh” dan akan dikirimkan pada paruh kedua tahun ini, dengan pelanggan awal termasuk Microsoft, OpenAI, dan Oracle.
Nvidia sangat sensitif terhadap saran penundaan apa pun setelah chip Blackwell generasi sebelumnya dilaporkan menjadi terlalu panas ketika dihubungkan bersama di rak server khusus perusahaan, sehingga memaksanya melakukan perubahan desain dan menunda pengiriman.
Dorongan pemasaran Nvidia untuk Vera Rubin terjadi tepat sebelum konferensi tahunan pesaing AMD, di mana para eksekutif diperkirakan akan memuji AI generasi berikutnya dan chip pusat data. Pada hari Minggu, AMD mengungkapkan rincian lebih lanjut tentang rak chip Helios AI, yang dirancang untuk bersaing dengan produk baru Nvidia. Baik AMD dan Nvidia telah bersaing untuk itu kontrak multi-tahun berskala besar untuk memasok chip ke hyperscaler AI seperti Meta dan Amazon dan laboratorium AI seperti OpenAI, Anthropic, dan SpaceXAI.
Selama dua tahun terakhir, AMD telah melakukannya tumbuh secara signifikan pangsa pasarnya untuk CPU yang digunakan di pusat data. Perusahaan ini telah lama dikenal sebagai pionir arsitektur chiplet modern yang digunakan pada prosesor x86, yang masih menyumbang sebagian besar pendapatan CPU pusat data. Sebaliknya, Nvidia membangun CPU pusat datanya di ARM, sebuah arsitektur chip alternatif yang terkenal dengan efisiensi dayanya.
Eksekutif Nvidia Buck dan Hannah Coutand, yang menjalankan pemasaran produk CPU Nvidia, keduanya menekankan bahwa Vera Rubin meninggalkan arsitektur chiplet yang digunakan oleh banyak prosesor modern dan memilih satu chip monolitik. Coutand berpendapat bahwa menggabungkan beberapa chiplet akan menimbulkan “pajak besar pada bandwidth memori dan pergerakan data,” sedangkan desain monolitik Vera Rubin memungkinkan data berpindah lebih cepat melalui satu sirkuit terintegrasi.
