CEO OpenAI Sam Altman masih menduduki kursi panas minggu ini setelah perusahaannya menandatangani kesepakatan dengan militer AS. Karyawan OpenAI mengkritik langkah tersebut, yang dilakukan setelah Anthropic menerima dana sekitar $200 juta kontrak dengan Pentagon meledakdan meminta Altman untuk merilis informasi lebih lanjut tentang perjanjian tersebut. Altman mengaku terlihat “ceroboh” di media sosial pos.
Meskipun insiden ini telah menjadi berita besar, ini mungkin merupakan contoh terbaru dan paling umum dari OpenAI yang menciptakan kebijakan yang tidak jelas mengenai bagaimana militer AS dapat mengakses AI-nya.
Pada tahun 2023, kebijakan penggunaan OpenAI secara eksplisit melarang militer mengakses model AI-nya. Namun beberapa karyawan OpenAI menemukan bahwa Pentagon sudah mulai bereksperimen dengan Azure OpenAI, versi model OpenAI yang ditawarkan oleh Microsoft, kata dua sumber yang mengetahui masalah tersebut. Pada saat itu, Microsoft telah menjalin kontrak dengan Departemen Pertahanan selama beberapa dekade. Perusahaan ini juga merupakan investor terbesar OpenAI, dan memiliki lisensi luas untuk mengkomersialkan teknologi startup tersebut.
Pada tahun yang sama, karyawan OpenAI melihat pejabat Pentagon berjalan melewati kantor perusahaan di San Francisco, kata sumber tersebut. Mereka berbicara dengan syarat anonim karena mereka tidak memiliki izin untuk mengomentari masalah perusahaan swasta.
Beberapa karyawan OpenAI merasa khawatir untuk berhubungan dengan Pentagon, sementara yang lain hanya bingung tentang apa maksud dari kebijakan penggunaan OpenAI. Apakah kebijakan tersebut berlaku untuk Microsoft? Meskipun sumber mengatakan kepada WIRED bahwa hal itu tidak jelas bagi sebagian besar karyawan pada saat itu, juru bicara OpenAI dan Microsoft mengatakan produk Azure OpenAI tidak dan tidak tunduk pada kebijakan OpenAI.
“Microsoft memiliki produk yang disebut Layanan Azure OpenAI yang tersedia untuk Pemerintah AS pada tahun 2023 dan tunduk pada persyaratan layanan Microsoft,” kata juru bicara Frank Shaw dalam sebuah pernyataan kepada WIRED. Microsoft menolak berkomentar secara spesifik kapan mereka membuat Azure OpenAI tersedia untuk Pentagon, namun mencatat bahwa layanan tersebut tidak disetujui untuk “sangat rahasia” beban kerja pemerintah hingga tahun 2025.
“AI telah memainkan peran penting dalam keamanan nasional dan kami percaya bahwa penting untuk ikut serta dalam perundingan guna membantu memastikan AI dikerahkan dengan aman dan bertanggung jawab,” kata juru bicara OpenAI Liz Bourgeois dalam sebuah pernyataan. “Kami bersikap transparan terhadap karyawan kami saat melakukan pendekatan terhadap pekerjaan ini, dengan menyediakan pembaruan rutin dan saluran khusus di mana tim dapat mengajukan pertanyaan dan terlibat langsung dengan tim keamanan nasional kami.”
Departemen Pertahanan tidak menanggapi permintaan komentar WIRED.
Pada Januari 2024, OpenAI memperbarui kebijakannya untuk menghapus larangan menyeluruh terhadap penggunaan militer. Beberapa karyawan OpenAI mengetahui tentang pembaruan kebijakan tersebut melalui artikel di The Intercept, kata sumber. Para pemimpin perusahaan kemudian membahas perubahan tersebut pada pertemuan yang dihadiri semua pihak, dan menjelaskan bagaimana perusahaan akan mengambil langkah hati-hati dalam bidang ini ke depannya.
Pada bulan Desember 2024, OpenAI mengumumkan kemitraan dengan Anduril untuk mengembangkan dan menerapkan sistem AI untuk “misi keamanan nasional.” Menjelang pengumuman tersebut, OpenAI mengatakan kepada karyawannya bahwa kemitraan ini memiliki cakupan yang sempit dan hanya akan menangani beban kerja yang tidak diklasifikasikan, kata sumber yang sama. Hal ini berbeda dengan kesepakatan yang ditandatangani Anthropic dengan Palantir, yang akan menjadikan AI Anthropic digunakan untuk pekerjaan militer rahasia.
Palantir mendekati OpenAI pada musim gugur 2024 untuk mendiskusikan partisipasi dalam program “FedStart” mereka, juru bicara OpenAI mengonfirmasi kepada WIRED. Perusahaan akhirnya menolaknya, dan mengatakan kepada karyawan bahwa hal itu akan berisiko terlalu tinggi, dua sumber yang mengetahui masalah tersebut mengatakan kepada WIRED. Namun, OpenAI kini bekerja dengan Palantir dengan cara lain.
Sekitar waktu kesepakatan Anduril diumumkan, beberapa lusin karyawan OpenAI bergabung dengan saluran publik Slack untuk membahas kekhawatiran mereka tentang kemitraan militer perusahaan, kata sumber dan dikonfirmasi oleh seorang juru bicara. Beberapa orang percaya bahwa model perusahaan tersebut terlalu tidak dapat diandalkan untuk menangani informasi kartu kredit pengguna, apalagi membantu orang Amerika di medan perang.
Tidak semua orang menyampaikan kekhawatirannya. Karyawan lain merasa bahwa kemitraan Anduril menunjukkan bahwa perusahaan akan menangani kemitraan militernya secara bertanggung jawab. “Pendekatan OpenAI sejauh ini adalah ‘mengukur dua kali, dipotong sekali’ ketika menyangkut penerapan rahasia secara luas. Para karyawan sibuk memikirkan pendekatan apa terhadap keamanan nasional yang sejalan dengan misinya,” kata seorang peneliti OpenAI kepada saya.
Itulah salah satu alasan mengapa kesepakatan Pentagon terbaru OpenAI memecah belah karyawan. Meskipun Altman mengatakan secara terbuka bahwa dia mendukung garis merah Anthropic—yaitu tidak mengizinkan AI-nya digunakan untuk pengawasan massal yang sah atau pengembangan senjata otonom—perjanjian perusahaan tersebut tampaknya memberikan ruang bagi aktivitas tersebut, menurut pakar hukum dari luar.
“Yang paling dirugikan dalam semua ini adalah masyarakat biasa dan warga sipil di zona konflik,” kata Sarah Shoker, mantan kepala tim geopolitik OpenAI, dalam Substack pos minggu lalu. “Kemampuan kita untuk memahami dampak AI militer dalam perang sedang dan akan sangat terhambat karena adanya lapisan ketidakjelasan yang disebabkan oleh rancangan teknis dan kebijakan.
Charlie Bullock, peneliti senior di Institute for Law and AI, mengatakan kepada WIRED bahwa komentar publik OpenAI menunjukkan bahwa Pentagon mungkin diizinkan untuk terlibat dalam bentuk pengawasan yang secara teknis dianggap legal, seperti membeli data pengguna Amerika dari perusahaan pihak ketiga dan menganalisisnya dengan AI. OpenAI kemudian mengubah ketentuan perjanjiannya untuk mengatasi masalah khusus ini, meskipun Bullock mencatat bahwa tanpa melihat ketentuan perjanjian secara keseluruhan, masyarakat pada dasarnya harus mempercayai kata-kata OpenAI.
“Pada akhir pekan menjadi jelas bahwa bahasa asli dalam perjanjian OpenAI/DoW masih menyisakan pertanyaan yang belum terjawab, terutama seputar beberapa cara baru yang memungkinkan AI memungkinkan pengawasan hukum,” kata Noam Brown, peneliti OpenAI, di media sosial. pos. Brown melanjutkan dengan mengatakan bahwa dia sekarang berencana untuk “lebih terlibat secara pribadi dengan kebijakan di OpenAI.”
Lebih dari dua tahun setelah OpenAI menghapus larangan penggunaan militer, perusahaan tersebut tampaknya telah merangkul kemitraan pertahanan. Pada pertemuan semua pihak pada hari Selasa, Altman dilaporkan memberi tahu karyawannya bahwa perusahaan tidak boleh mengambil keputusan tentang apa yang dilakukan departemen pertahanan dengan perangkat lunak kecerdasan buatannya. Altman juga mengatakan dia tertarik untuk menjual model AI perusahaannya ke NATO.
Ini adalah edisi itu Buletin Perilaku Model. Baca buletin sebelumnya Di Sini.
