Antropik mungkin punya keraguan tentang pemberian akses tak terkekang kepada militer AS hingga model AI-nya, namun beberapa perusahaan rintisan sedang membangun AI canggih khusus untuk aplikasi militer.
Teknologi Pukulanyang mengumumkan putaran pendanaan sebesar $32 juta pada minggu ini, sedang mengembangkan model yang dikatakan akan segera melampaui kemampuan Claude dalam hal perencanaan dan pelaksanaan operasi militer. Dan, tidak seperti Anthropic, startup ini tampaknya kurang peduli dengan pelarangan penggunaan militer jenis tertentu.
“Saat Anda bertugas di militer, Anda bersumpah bahwa Anda akan mengabdi dengan hormat, sah, sesuai dengan aturan perang,” kata CEO Andy Markoff. “Bagi saya, orang-orang yang menerapkan teknologi dan memastikan teknologi tersebut digunakan secara etis harus berseragam.”
Markoff bukanlah eksekutif AI biasa. Sebagai mantan komandan Komando Operasi Khusus Pasukan Marinir AS, ia membantu melaksanakan operasi pasukan khusus berisiko tinggi di Irak dan Afghanistan. Dia mendirikan Smack bersama Clint Alanis, mantan Marinir lainnya, dan Dan Gould, seorang ilmuwan komputer yang sebelumnya bekerja sebagai Wakil Presiden Teknologi di Tinder.
Model Smack belajar mengidentifikasi rencana misi yang optimal melalui proses coba-coba, mirip dengan cara Google melatih programnya pada tahun 2017, AlphaGo. Dalam kasus Smack, strateginya melibatkan menjalankan model melalui berbagai skenario permainan perang dan meminta analis ahli memberikan sinyal yang memberi tahu model apakah strategi yang dipilihnya akan membuahkan hasil. Startup ini mungkin tidak memiliki anggaran sebesar laboratorium AI konvensional, namun menghabiskan jutaan dolar untuk melatih model AI pertamanya, kata Markoff.
Garis Pertempuran
Penggunaan AI oleh militer telah menjadi topik hangat di Silicon Valley setelah para pejabat di Departemen Pertahanan berhadapan langsung dengan para eksekutif Anthropic berdasarkan ketentuan kontrak sekitar $200 juta.
Salah satu masalah yang menyebabkan perpecahan, yang mengakibatkan Menteri Pertahanan Pete Hegseth menyatakan Anthropic risiko rantai pasokanadalah keinginan Anthropic untuk membatasi penggunaan modelnya dalam senjata otonom.
Markoff mengatakan kehebohan tersebut mengaburkan fakta bahwa model bahasa besar yang ada saat ini tidak dioptimalkan untuk penggunaan militer. Model serba guna seperti Claude pandai meringkas laporan, katanya. Namun mereka tidak terlatih dalam hal data militer dan kurang memahami dunia fisik pada tingkat manusia, sehingga membuat mereka tidak cocok untuk mengendalikan perangkat keras fisik. “Saya dapat memberitahu Anda bahwa mereka sama sekali tidak mampu mengidentifikasi target,” klaim Markoff.
“Tidak seorang pun yang saya kenal di Departemen Perang berbicara tentang otomatisasi penuh rantai pembunuhan,” klaimnya, mengacu pada langkah-langkah yang terlibat dalam pengambilan keputusan mengenai penggunaan kekuatan mematikan.
Lingkup Misi
Amerika dan militer lainnya sudah menggunakan senjata otonom dalam situasi tertentu, termasuk dalam sistem pertahanan rudal yang perlu bereaksi dengan kecepatan super.
“AS dan lebih dari 30 negara bagian lainnya telah mengerahkan sistem senjata dengan tingkat otonomi yang berbeda-beda, termasuk beberapa yang saya definisikan sebagai sistem otonom sepenuhnya,” klaim Rebecca Crootof, pakar masalah hukum seputar senjata otonom di PBB. Fakultas Hukum Universitas Richmond.
Di masa depan, model khusus seperti yang sedang dikerjakan Smack juga dapat digunakan untuk tujuan perencanaan misi, menurut Markoff. Model perusahaan ini dimaksudkan untuk membantu para komandan mengotomatiskan sebagian besar pekerjaan membosankan yang terlibat dalam membuat sketsa rencana misi. Perencanaan misi militer biasanya masih dilakukan secara manual dengan papan tulis dan buku catatan, kata Markoff.
Jika AS berperang dengan “negara terdekat” seperti Rusia atau Tiongkok, kata Markoff, pengambilan keputusan otomatis dapat menawarkan “dominasi keputusan” yang sangat dibutuhkan AS.
Namun masih menjadi pertanyaan apakah AI dapat digunakan secara andal dalam situasi seperti itu. Sebuah eksperimen baru-baru ini, yang dilakukan oleh seorang peneliti di King’s College London, secara mengejutkan menunjukkan bahwa LLM cenderung meningkat konflik nuklir dalam latihan perang.
Konflik yang terjadi baru-baru ini, khususnya perang antara Rusia dan Ukraina, telah menyoroti pentingnya sistem semi-otonom berbiaya rendah yang dibangun dengan perangkat keras dan perangkat lunak komersial. Pada tahun 2023, saya menulis tentang Angkatan Laut AS sedang menguji sistem otonom jenis baru di Teluk Persia sebagai cara untuk mengidentifikasi drone yang dioperasikan oleh pemberontak yang didukung Iran, antara lain.
Beberapa ahli mengatakan bahwa perlu ada garis merah yang lebih jelas mengenai bagaimana AI digunakan oleh militer, terutama mengingat ketentuan kontrak terbuka yang saat ini sedang ditandatangani.
Anna Hehirkepala tata kelola AI militer di Future of Life Institute, sebuah organisasi nirlaba yang menentang pengembangan senjata otonom yang dikendalikan AI, mengatakan bahwa meskipun model Anthropic tidak digunakan untuk mengendalikan sistem yang sepenuhnya otonom saat ini, model tersebut dapat diintegrasikan ke dalam rantai pembunuhan dengan cara yang bermasalah.
“AI terlalu tidak dapat diandalkan, tidak dapat diprediksi, dan tidak dapat dijelaskan untuk digunakan dalam skenario berisiko tinggi seperti ini,” klaim Hehir. “Sistem ini tidak bisa mengenali siapa kombatan dan siapa anak-anak, apalagi tindakan menyerah.”
Markoff mengatakan bahwa pembatasan otonomi mungkin diperlukan karena kekacauan yang timbul akibat konflik. “Saya belum pernah melakukan operasi di dunia nyata yang berjalan 50 persen sesuai rencana, dan itu tidak akan berubah,” katanya.
Ini adalah edisi Will Knight Buletin Lab AI. Baca buletin sebelumnya Di Sini.
