Pengacara menyampaikan penutupan argumen di Musk v. Altman persidangan pada hari Kamis dalam upaya terakhir untuk meyakinkan hakim dan juri bahwa klien mereka masing-masing, Elon Musk dan Sam Altman, adalah orang yang paling beritikad baik dan memberikan kebenaran dalam misi nirlaba pendiri OpenAI. Keputusan tersebut dapat diambil secepatnya pada minggu depan, mengakhiri pertarungan selama satu dekade antara dua pengusaha paling berpengaruh di industri teknologi.
Namun apa pun hasilnya, ada banyak pihak yang dirugikan dalam kasus ini. Berdasarkan banyak bukti, tampaknya pihak yang paling dirugikan adalah para karyawan, pembuat kebijakan, dan anggota masyarakat yang percaya pada misi laboratorium penelitian nirlaba—dan mendukung OpenAI karenanya. Apa yang tampaknya menjadi preseden bagi Musk dan para pendiri OpenAI lainnya di hampir setiap kesempatan adalah membangun dunia terkemuka Lab AI—walaupun hal itu berarti menciptakan perusahaan nirlaba bernilai miliaran dolar dalam prosesnya.
“Sulit untuk melihat bagaimana kepentingan publik dilindungi oleh salah satu pihak, dan itulah yang sebenarnya dipertaruhkan dalam kasus mengenai organisasi nirlaba,” kata Jill Horwitz, profesor hukum di Universitas Northwestern dengan keahlian di bidang organisasi nirlaba dan inovasi, yang mendengarkan argumen penutup. “Kepentingan publik terhadap organisasi nirlaba terancam, tidak peduli siapa yang menang.”
Misi OpenAI adalah untuk memastikan bahwa kecerdasan umum buatan (AGI) bermanfaat bagi umat manusia, namun umat manusia bukanlah pihak yang terlibat dalam hal ini. Dalam praktiknya, OpenAI telah menghabiskan satu dekade terakhir untuk mencoba menyaingi perusahaan bernilai triliunan dolar seperti Google dan membangun AGI terlebih dahulu. Selain itu, Musk dan Altman telah berjuang mati-matian untuk menjadi pihak yang mengendalikan OpenAI.
“Musk dan Altman pada dasarnya bersaing untuk menjadi yang pertama membangun kecerdasan super, dan mereka berdua memang takut dengan apa yang akan dilakukan pihak lain jika mereka menang. Kita semua harus takut pada mereka berdua,” kata Daniel Kokotajlo, mantan peneliti OpenAI yang bergabung pada tahun 2022 dan telah menimbulkan kekhawatiran atas budaya keselamatan perusahaan. Dia adalah bagian dari sekelompok mantan peneliti OpenAI yang mengajukan amicus singkat dalam hal ini menentang konversi nirlaba OpenAI, dengan alasan bahwa struktur nirlaba sangat penting dalam keputusan mereka untuk bergabung dengan perusahaan.
Dalam uji coba, organisasi nirlaba OpenAI dibahas seolah-olah mereka adalah investor korporat lainnya. Pengacara OpenAI berpendapat bahwa memberikan saham senilai $200 miliar kepada lembaga nirlaba tersebut di perusahaan nirlaba tersebut adalah bukti bahwa OpenAI memenuhi misinya. Kelompok advokasi publik tidak setuju bahwa pendanaan saja sudah cukup.
“Saya termasuk di antara banyak orang yang senang melihat banyaknya sumber daya filantropis yang dimiliki oleh yayasan OpenAI untuk melakukan pekerjaan yang baik,” kata Nathan Calvin, Wakil Presiden Urusan Negara untuk organisasi nirlaba keselamatan AI, Encode, yang mengajukan gugatan. amicus singkat menentang restrukturisasi OpenAI sebelumnya dalam kasus ini. “Tetapi perlu diingat bahwa organisasi nirlaba juga mempunyai peran dalam tata kelola, dan bahwa misi dari lembaga nonprofit bukanlah sebuah yayasan biasa, misinya adalah untuk memastikan bahwa AGI memberikan manfaat bagi seluruh umat manusia. Uang penting untuk mencapai tujuan tersebut, dan berguna bagi semua orang, namun uang bukanlah tujuan utama dari hal tersebut.”
Cerita Asal
Bukti yang terungkap dalam kasus ini menunjukkan bahwa Altman dan Musk sepakat tentang peluncuran OpenAI sebagai organisasi nirlaba dan beroperasi seperti startup pada umumnya. Mereka memiliki tujuan yang sama untuk mengalahkan Google DeepMind dalam perlombaan menuju AGI. Namun menciptakan OpenAI sebagai organisasi nirlaba ternyata merupakan cara yang sangat merepotkan untuk memenangkan perlombaan tersebut.
Musk menuduh Altman, CEO OpenAI, dan Greg Brockman, salah satu pendiri dan presidennya, menyimpang dari misi pendirian organisasi nirlaba. Dia mengklaim para pendiri menggunakan investasinya sebesar $38 juta untuk mengubah OpenAI menjadi perusahaan senilai $850 miliar dan menghasilkan keuntungan beberapa salah satu pendirinya miliarder.
Untuk memenangkan kasus ini, Musk harus meyakinkan juri dan hakim bahwa ia menerapkan persyaratan tertentu pada investasinya, khususnya bahwa OpenAI hanya dapat menggunakan uang tersebut untuk tujuan amal, dan bahwa ia mengajukan kasus tersebut tepat waktu. Sebagai tanggapan, OpenAI berpendapat bahwa Musk telah gagal membuktikan salah satu dari tuduhan ini, dan bahwa ia hanya merasa kecewa karena kehilangan kendali atas laboratorium AI.
Di salah satu yang pertama email Altman mengirim ke Musk tentang mendirikan “semacam organisasi nirlaba” yang akhirnya menjadi OpenAI, pada bulan Mei 2015, dia menulis bahwa orang-orang yang mengerjakannya akan mendapatkan “kompensasi seperti startup.” Musk mengatakan hal itu “layak untuk dibicarakan.”
Hampir tidak ada apa pun yang dipresentasikan di persidangan yang menjelaskan apa yang akan dilakukan mitra bisnis jika organisasi nirlaba tersebut memiliki lebih banyak uang daripada yang dibutuhkan. Terdapat beberapa diskusi mengenai teknologi open source, namun pengacara OpenAI berpendapat bahwa tidak pernah ada kesepakatan mengenai hal tersebut. Dalam praktiknya, fokusnya tampaknya adalah pada pembelian server yang mahal untuk menghasilkan model AI yang lebih kuat, meskipun dengan penelitian yang signifikan untuk mengembangkan perlindungan terhadap server tersebut.
Dalam argumen penutupnya, pengacara OpenAI Sarah Eddy mengatakan bahwa pada dasarnya “tidak terbantahkan” di antara para pendiri bahwa mereka pada akhirnya akan membutuhkan lebih banyak uang daripada yang dapat mereka kumpulkan melalui sumbangan saja. Dia mengutip kesaksian Ilya Sutskever bahwa “misi OpenAI lebih besar dari sekedar struktur.” Eddy melanjutkan, jika OpenAI tidak mendapatkan dana yang dibutuhkan, misi tersebut akan gagal.
Para pendiri OpenAI telah berulang kali mengatakan, melalui email dan kesaksian, bahwa mereka mendapat manfaat dari struktur dan misi nirlaba. Mereka berpendapat hal itu memberi OpenAI “landasan moral yang tinggi,” yang terbukti bernilai strategis dalam upayanya menyalip Google DeepMind. Misi nirlaba ini digunakan untuk menarik peneliti berbakat, serta mengumpulkan niat baik di antara pembuat kebijakan dan masyarakat.
Namun sepanjang sejarah OpenAI, struktur nirlaba tampaknya dipandang sebagai penghalang untuk membangun OpenAI menjadi bisnis besar. Pada bulan Desember 2016, Musk menulis sebuah e-mail kepada salah satu pendiri OpenAI yang mengatakan bahwa mendirikan OpenAI “sebagai organisasi nirlaba, jika dipikir-pikir, mungkin merupakan langkah yang salah,” seraya menambahkan bahwa “rasa urgensinya tidak terlalu tinggi.” Tahun berikutnya, Musk dan para pendirinya mencoba mendirikan lembaga nirlaba, dan bahkan mempertimbangkan untuk menghapuskan lembaga nirlaba tersebut sepenuhnya. Namun, pembicaraan tersebut gagal setelah Musk meminta kendali atas perusahaan dan Brockman serta Sutskever meminta kepemilikan saham yang besar. Sekitar waktu ini, Brockman menulis dalam buku hariannya tentang bagaimana OpenAI dapat menjadikannya seorang miliarder.
Tak lama setelah pembicaraan ini, pada bulan Februari 2018, Musk menyarankan untuk menggabungkan OpenAI ke dalam Tesla—perusahaan mobil nirlaba miliknya—dan bahkan mencoba merekrut Altman untuk menjalankan unit AI, menawarinya kursi dewan Tesla untuk memikatnya. Shivon Ziliswakil Musk dan ibu dari empat anaknya, menulis dalam pesan teks pada saat itu bahwa Altman dan Brockman belum “menginternalisasi keuntungan mengubur ini di Tesla untuk keuntungan sembunyi-sembunyi.” Dalam FAQ yang ditulis Zilis untuk grup Tesla AI yang diusulkan, dia mengatakan bahwa strateginya belum ditentukan tetapi “mungkin sangat eksklusif.”
Kevin Scott, milik Microsoft chief technology officer, saat itu bertanya-tanya apakah donor awal OpenAI seperti investor teknologi Reid Hoffman setuju dengan OpenAI yang pada dasarnya menjadi perusahaan nirlaba. “Saya tidak dapat membayangkan mereka mendanai upaya terbuka untuk berkonsentrasi [machine learning] bakat sehingga mereka kemudian bisa membangun hal yang tertutup, demi keuntungan, “tulisnya dalam email kepada bosnya. Hoffman menyampaikan bahwa dia tidak keberatan, dan Microsoft kemudian setuju untuk memperdalam dukungan finansial dan teknisnya terhadap OpenAI setelah meluncurkan cabang nirlaba.
Selama pemecatan singkat Altman oleh OpenAI pada November 2023, yang telah terjadi mengulangi ad nauseum dalam persidangan inipesan teks menunjukkan bahwa Altman dan CEO Microsoft Satya Nadella memilih sendiri anggota dewan nirlaba baru. Altman menyampaikan hal ini kepada anggota dewan lama, yang telah memecatnya, sebagai syarat agar dia dapat kembali ke perusahaan. “Saya rela lari kembali ke gedung yang terbakar,” kata Altman.
William Savitt, pengacara OpenAI, menekankan pada hari Kamis bahwa tidak ada perusahaan AI lain di dunia yang berada di bawah organisasi nirlaba. “OpenAI tetap menjadi sebuah badan amal… yang lebih kuat dan kuat dari sebelumnya,” katanya.
Meskipun struktur OpenAI unik, OpenAI diganggu oleh kelemahan raksasa teknologi mana pun. Dalam beberapa tuntutan hukum dari pengguna ChatGPT dan keluarganya, OpenAI telah dituduh melakukan kelalaian dan kematian yang tidak wajar karena diduga berkontribusi pada bunuh diri, overdosis obat, penembakan massal, dan insiden mematikan lainnya. Bulan lalu, OpenAI mendukung RUU Illinois yang akan mendukung hal tersebut membantu laboratorium AI menghindari tanggung jawab jika model mereka berkontribusi terhadap bencana sosial (saingannya, Anthropic, menentangnya). Perusahaan media telah menggugat OpenAI untuk pelanggaran hak cipta. Karyawan saat ini dan mantan karyawan menuduh bahwa unit penelitian ekonomi OpenAI telah berubah menjadi cabang advokasi bagi perusahaan.
OpenAI telah mempertahankan pekerjaannya, meluncurkan inisiatif baru untuk mengatasi dampak sosial AI, dan memperkenalkan perlindungan untuk memitigasi bahaya model AI. Google DeepMind, Meta, dan pesaing lainnya menghadapi banyak tuduhan yang sama. Faktanya, OpenAI semakin tidak bisa dibedakan dari perusahaan publik yang menguntungkan karena OpenAI terus mengejar valuasi yang semakin tinggi. Organisasi nirlaba ini pernah meningkatkan citra publik OpenAI, namun Musk v. Altman tampaknya telah menghilangkan semua kecuali kilau terakhirnya.
Ini adalah edisi milik Maxwell Zeff Buletin Perilaku Model. Baca buletin sebelumnya Di Sini.
