Antropik tidak bisa memanipulasi model AI generatifnya, Claude, setelah militer AS menjalankannya, tulis seorang eksekutif dalam pengajuan pengadilan pada hari Jumat. Pernyataan tersebut disampaikan sebagai tanggapan atas tuduhan pemerintahan Trump terhadap perusahaan tersebut berpotensi merusak alat AI-nya selama perang.
“Anthropic tidak pernah memiliki kemampuan untuk menyebabkan Claude berhenti bekerja, mengubah fungsinya, menutup akses, atau mempengaruhi atau membahayakan operasi militer,” Thiyagu Ramasamy, kepala sektor publik Anthropic, menulis. “Anthropic tidak memiliki akses yang diperlukan untuk menonaktifkan teknologi atau mengubah perilaku model sebelum atau selama operasi berlangsung.”
Pentagon telah berdebat dengan laboratorium AI terkemuka selama berbulan-bulan mengenai bagaimana teknologinya dapat digunakan untuk keamanan nasional—dan berapa batasan penggunaannya. Bulan ini, Menteri Pertahanan Pete Hegseth memberi label Anthropic a risiko rantai pasokanpenetapan yang akan mencegah Departemen Pertahanan menggunakan perangkat lunak perusahaan, termasuk melalui kontraktor, selama beberapa bulan mendatang. Badan-badan federal lainnya juga mengabaikan Claude.
Antropis mengajukan dua tuntutan hukum menantang konstitusionalitas larangan tersebut dan sedang mencari perintah darurat untuk membatalkannya. Namun, pelanggan sudah mulai membatalkan kesepakatan. Sidang salah satu kasus dijadwalkan pada 24 Maret di pengadilan distrik federal di San Francisco. Hakim dapat memutuskan pembalikan sementara segera setelahnya.
Dalam pengajuannya awal pekan ini, pengacara pemerintah menulis bahwa Departemen Pertahanan “tidak diharuskan untuk mentolerir risiko bahwa sistem militer penting akan terancam pada saat-saat penting bagi pertahanan nasional dan operasi militer aktif.”
Pentagon telah menggunakan Claude untuk menganalisis data, menulis memo, dan membantu menghasilkan rencana pertempuran, WIRED dilaporkan. Argumen pemerintah adalah bahwa Anthropic dapat mengganggu operasi militer aktif dengan mematikan akses ke Claude atau mendorong pembaruan berbahaya jika perusahaan tidak menyetujui penggunaan tertentu.
Ramasamy menolak kemungkinan itu. “Anthropic tidak memiliki pintu belakang atau ‘tombol mematikan’ jarak jauh,” tulisnya. “Personel antropis tidak bisa, misalnya, masuk ke sistem DoW untuk memodifikasi atau menonaktifkan model selama operasi; teknologinya tidak berfungsi seperti itu.”
Dia melanjutkan dengan mengatakan bahwa Anthropic akan dapat memberikan pembaruan hanya dengan persetujuan pemerintah dan penyedia cloud-nya, dalam hal ini Amazon Web Services, meskipun dia tidak menyebutkan namanya secara spesifik. Ramasamy menambahkan bahwa Anthropic tidak dapat mengakses prompt atau data lain yang dimasukkan pengguna militer ke dalam Claude.
Para eksekutif antropik menyatakan dalam pengajuan pengadilan bahwa perusahaan tidak ingin memveto keputusan taktis militer. Sarah Heck, kepala kebijakan, menulis dalam pengajuan pengadilan pada hari Jumat bahwa Anthropic bersedia memberikan jaminan sebanyak itu dalam kontrak yang diusulkan pada 4 Maret. “Untuk menghindari keraguan, [Anthropic] memahami bahwa izin ini tidak memberikan atau memberikan hak apa pun untuk mengontrol atau memveto pengambilan keputusan operasional Departemen Perang yang sah,” usulan tersebut menyatakan, menurut pengajuan tersebut, yang merujuk pada nama alternatif untuk Pentagon.
Perusahaan juga siap menerima pernyataan yang dapat menjawab kekhawatiran mereka mengenai penggunaan Claude untuk membantu melakukan serangan mematikan tanpa pengawasan manusia, klaim Heck. Namun negosiasi akhirnya gagal.
Untuk saat ini, Departemen Pertahanan telah berkata dalam pengajuan pengadilan bahwa mereka “mengambil langkah-langkah tambahan untuk memitigasi risiko rantai pasokan” yang ditimbulkan oleh perusahaan dengan “bekerja sama dengan penyedia layanan cloud pihak ketiga untuk memastikan kepemimpinan Anthropic tidak dapat membuat perubahan sepihak” pada sistem Claude yang saat ini ada.
