Amazon mengatakannya baru-baru ini mencapai terobosan besar dalam desain jaringan—dan diam-diam menerapkan teknologi baru di dalamnya pusat data sejak akhir tahun lalu. Perusahaan mengklaim jumlahnya meningkat signifikan kecepatan data sekaligus mengurangi penggunaan energi, sehingga berpotensi memberikan keunggulan bagi raksasa teknologi ini ketika perusahaan-perusahaan berlomba membangun sistem yang lebih cepat di cloud.
Teknologi baru ini bergantung pada desain “quasi-random” yang menggabungkan elemen jaringan data tradisional dan terstruktur dengan keunggulan kinerja arsitektur yang lebih acak. Para peneliti telah mengeksplorasi jaringan acak selama beberapa dekade, namun teknologinya belum pernah berhasil dikembangkan. Sekarang, Amazon mengira telah memecahkan kode tersebut.
Fakta bahwa Amazon menggunakan teknologi ini di dunia nyata adalah “luar biasa,” kata Brighten Godfrey, seorang profesor ilmu komputer di Universitas Illinois Urbana-Champaign dan pakar jaringan, yang tidak terlibat dalam penelitian Amazon. Godfrey ikut menulis makalah penting pada tahun 2012 tentang grafik jaringan acak, yang menurutnya merupakan “masalah yang sulit dipecahkan, secara umum.”
Sebuah tim insinyur dan peneliti di Layanan Web Amazontermasuk beberapa yang direkrut dari akademisi, telah menangani masalah jaringan acak ini sejak tahun 2023. Amazon juga merancang peralatan pusat data baru yang dijuluki ShuffleBox, yang secara otomatis mengacak kabel yang diperlukan untuk jenis jaringan ini.
“Dengan meratakan jaringan, kami menghilangkan hambatan yang muncul pada desain jaringan tradisional,” kata Matt Rehder, wakil presiden AWS Network Engineering, dalam wawancara eksklusif dengan WIRED. “Kami pikir hanya kami yang telah melakukan hal ini dalam skala besar.”
Atas perkenan Amazon
Efek Jaringan
Amazon merinci desain jaringan barunya di a makalah yang diterbitkan bulan lalu berjudul “RNG: Jaringan Pusat Data Datar dalam Skala Besar.” RNG adalah singkatan dari “grafik jaringan tangguh”, yang tidak sepenuhnya terstruktur atau sepenuhnya acak.
Menariknya, tim Amazon di balik RNG tidak membuat jaringan ini berfokus pada AI generatif. Hal ini bertujuan untuk membuat arsitektur pusat data sehari-hari perusahaan menjadi lebih efisien. “RNG sangat sesuai dengan kebutuhan inti kami, namun pola data pelatihan AI jauh lebih terkoordinasi dan diatur secara terpusat, sehingga tidak memperkirakan grafik acak,” kata Rehder.
Sejak pertengahan tahun 1980an, jaringan komunikasi—mulai dari telekomunikasi hingga pusat data—sebagian besar dirancang dengan a topologi “pohon gemuk”.yang mencakup dua atau tiga lapisan vertikal switch dan router. Ini dihubungkan oleh node “gemuk” di bagian atas struktur, di mana terdapat beberapa router dengan jenis yang sama, dan cabang yang lebih tipis di bagian bawah. Sederhananya, dalam jaringan pohon lemak, data berpindah ke atas dan ke bawah tumpukan. Peningkatan bandwidth di dekat bagian atas struktur, tempat data terbagi dua, membantu menghilangkan kemacetan.
Seiring waktu, industri teknologi telah mengembangkan dan menerapkan variasi pada arsitektur pohon lemak. Namun desainnya masih memiliki ruang untuk perbaikan. Umumnya dapat diandalkan namun juga kaku dan tidak efisien, serta memerlukan pemasangan kabel yang rumit. Seperti pada kabel fisik sebenarnya.
Jika Anda pernah berada di pusat data atau ruang server gedung perkantoran, Anda mungkin pernah melihat kumpulan kabel berwarna-warni yang tumpah dari rak logam. Pemasangan kabel adalah salah satu biaya terbesar dalam jaringan, kata Rehder, dan pusat data global Amazon saat ini terhubung dengan kabel serat optik sepanjang 20 juta kilometer. Itu kira-kira jarak yang dibutuhkan untuk melakukan perjalanan dari Bumi ke bulan dan kembali sebanyak 25 kali.
Pada tahun 2012, ketika permintaan akan layanan komputasi awan melonjak, sekelompok peneliti di Universitas Illinois Urbana-Champaign, termasuk Godfrey, memperkenalkan sebuah konsep yang dikenal sebagai Ubur-ubur. Desain jaringan tetap yang digunakan pada saat itu sedang berjuang untuk memenuhi permintaan yang terus meningkat, sehingga para peneliti mengusulkan “interkoneksi jaringan berkapasitas tinggi yang, dengan mengadopsi topologi grafik acak, secara alami akan menghasilkan ekspansi tambahan.” Mereka percaya pendekatan acak ini bisa lebih efisien dan terukur dibandingkan jaringan yang dibangun menggunakan arsitektur pohon lemak.
“Kami memberinya nama Ubur-ubur karena bentuknya yang cair,” kata Godfrey. “Anda dapat menghubungkan router dan switch secara acak dan ini menjadi kumpulan kapasitas jaringan yang fleksibel, yang sangat efisien.”
Namun, Jellyfish juga menghadirkan tantangan baru dalam tata letak, perutean data, dan pemasangan kabel. Perutean dalam grafik acak lebih rumit, kata Godfrey, karena ada lebih banyak jalur dan beragam yang dapat diambil data dari sumbernya ke tujuannya. Pengkabelan lebih sulit karena titik akhir kabel dipilih secara acak.
Beberapa tahun kemudian, Google mulai mencoba solusi lain: It mulai mengintegrasikan peralihan sirkuit optikatau OCS, ke dalam desain jaringannya. Pendekatan ini menggunakan cermin kecil untuk memantulkan cahaya dari port input ke port output, yang memungkinkan Google mengkonfigurasi ulang kabel optik secara real time. Namun sekali lagi, hal ini menambah kompleksitas teknik dan biaya.
Sangat Acak
Sementara itu, Amazon sedang mencari “cawan suci”, kata Giacomo Bernardi, salah satu penulis utama makalah baru ini, bersama dengan Cendekiawan Amazon Ratul Mahajan dan Seshadhri Comandur. Idealnya, jaringan data harus datar dan efisien, tahan terhadap kegagalan perangkat keras, cukup acak untuk memaksimalkan kinerja, dan cukup terukur untuk berkembang tanpa menjadi berat. Hal ini juga akan bergantung pada kabel yang lebih sederhana dan efisien daripada sistem serat optik yang semakin kompleks.
Ketika dia dan rekan-rekannya mulai mencoba membangun jaringan seperti itu, Bernardi mengatakan dia sudah terobsesi dengan ubin Penrose, sejenis ubin aperiodik yang dinamai menurut nama fisikawan Inggris Roger Penrose. (Peneliti lain sangat terinspirasi oleh ubin Penrose bahwa mereka telah mencoba menerjemahkan pola tersebut ke dalam kode koreksi kesalahan di komputer kuantum.) Bernardi bertanya-tanya apakah Amazon dapat menggunakan konstruksi serupa dan membuat “jala” datar dengan mengikuti pola yang berulang. Dia dan timnya mencoba membuat simulasi seperti apa bentuknya.
Itu tidak berhasil. Ubin Penrose menjanjikan di atas kertas, kata Bernardi, tetapi jaringan data yang disimulasikan tidak dapat diandalkan, dan para peneliti tidak mencapai peningkatan efisiensi yang mereka harapkan. Dia menyadari bahwa mereka mencapai hasil yang lebih baik ketika mereka mengganti bagian yang lebih terstruktur dari desain jaringan dengan keacakan. “Kami ‘menerima kekacauan’ dan mengadopsi pendekatan semi-acak,” jelas Bernardi.
Atas perkenan Amazon
Komponen penting dari desain ini adalah ShuffleBox, perangkat optik baru yang dikembangkan Amazon yang menggabungkan koneksi antar router secara internal. Selama tur singkat ke salah satu laboratorium jaringan Amazon di Cupertino, WIRED dapat melihat kumpulan kabel kacau yang berjalan di antara router dalam struktur pohon lemak tradisional, dan membandingkannya secara berdampingan dengan gelombang rapi kabel yang dijalankan melalui ShuffleBox dalam desain baru.
Rehder mengatakan desain RNG Amazon telah membuat pusat data perusahaan menjadi lebih efisien dan tangguh. Dibandingkan dengan jaringan tradisional, ia mengklaim jaringan ini menggunakan router dan switch 69 persen lebih sedikit, memberikan throughput data 33 persen lebih tinggi, mengurangi konsumsi daya jaringan sebesar 40 persen, dan menurunkan biaya operasional sebesar 27 persen.
RNG pertama kali diluncurkan di pusat data Dublin pada tahun 2024. Amazon kemudian memperluas teknologinya ke pusat data di Jerman dan Spanyol. Perusahaan mengatakan bahwa saat ini, sebagian besar pusat data yang baru dibangun dilengkapi dengan protokol jaringan RNG.
