Pemerintahan Trump perselisihan dengan Antropik atas model AI tercanggihnya tampaknya akan segera muncul.
Pejabat Trump memberi tahu Inner Loop bahwa jika Anthropic ingin merilis ulang Claude Fable 5, model AI yang mereka pilih menjadi offline dengan kontrol ekspor minggu lalu karena kekhawatiran mengenai jailbreaking—sebuah metode yang menggunakan petunjuk untuk mengakali perlindungan model—perusahaan perlu mengambil langkah-langkah untuk benar-benar mengatasi apa yang menurut pemerintah merupakan kerentanan.
Antropik punya berkata selama berhari-hari bahwa kekhawatiran pemerintah terlalu berlebihan dan dampak pembobolan penjara sangat kecil. Mereka menegaskan kembali posisi ini kepada Departemen Perdagangan dan Kantor Direktur Siber Nasional, Sean Cairncross, dalam pertemuan teknis pada hari Senin.
Namun para pejabat mengatakan mereka tidak lagi memperdebatkan apakah jailbreak itu penting, karena Badan Keamanan Nasional menyimpulkan bahwa ada cara untuk menonaktifkan pagar pembatas pada Fable 5, yang diterapkan untuk mencegah pengguna mengakses kemampuan model Mythos yang terkait dengan keamanan siber, kimia, dan biologi.
Pada tahap ini, pemerintah pada dasarnya memandang situasi ini sebagai masalah Anthropic yang harus diperbaiki, menurut tiga orang yang akrab dengan diskusi tersebut.
Baik Pusat Standar dan Inovasi AI di Departemen Perdagangan maupun Badan Keamanan Nasional tidak memiliki staf atau bandwidth yang dapat digunakan untuk memburu setiap kemungkinan jailbreak pada setiap model yang mencapai pasar, kata sumber tersebut.
Oleh karena itu, pemerintah percaya bahwa Anthropic harus lebih proaktif dalam terus menguji tidak hanya Fable 5 tetapi juga semua model AI terdepannya untuk menemukan potensi pembobolan jailbreak dan melaporkannya langsung ke pemerintah.
Namun pada tingkat yang lebih mendasar, masih belum jelas bagaimana Anthropic seharusnya mencegah jailbreaking.
Pakar keamanan siber independen telah melakukannya semakin banyak yang melihatnya bahwa batasan pada model AI hanyalah solusi sementara, karena pengguna terampil dan model AI masa depan akan menemukan cara untuk mengatasi kendala tersebut—yang berarti bahwa apa yang tampaknya diinginkan oleh Gedung Putih tidak dapat dilakukan.
Seorang juru bicara Gedung Putih menolak berkomentar.
DNI = Jangan Undang
Pada awal minggu ini, Trump yang memilih untuk menjabat sebagai Penjabat Direktur Intelijen Nasional, Bill Pulte, berada di jalur yang tepat untuk tidak pernah memulai pekerjaan tersebut. Kini, Trump telah memberinya bantuan—dan calon tetap DNI, Jay Clayton, yang kini menghadapi kemungkinan tidak akan pernah lagi menjabat posisi tersebut.
Ringkasnya: Trump awalnya menunjuk Pulte, kepala pembiayaan perumahannya, untuk menggantikan DNI Tulsi Gabbard yang akan mengundurkan diri.
Menghadapi penolakan bipartisan karena Pulte tidak memiliki pengalaman keamanan nasional yang disyaratkan oleh hukum untuk peran tersebut dan karena dia menandai diduga patut dipertanyakan tuduhan penipuan hipotek terhadap musuh-musuh politik Trump, Trump mengumumkan Clayton, pengacara AS untuk Distrik Selatan New York, sebagai calonnya untuk DNI permanen.
Gabbard dijadwalkan berangkat pada 18 Juni, dengan hari pertama Pulte ditetapkan pada 19 Juni. Namun Senat Partai Republik bertanya-tanya, jika Clayton dapat mempercepat sidangnya hingga 17 Juni dan dimulai pada 22 Juni, apakah Pulte akan masuk ke dalam gedung?
Pada hari Rabu, Trump mengacaukan rencana tersebut. Sebagai bagian dari perselisihan yang lebih luas dengan pimpinan Partai Republik di Senat mengenai filibuster tersebut, Trump mengumumkan sidang Clayton akan ditunda tanpa batas waktu, sebagai upaya nyata untuk mencegah Pulte dilompati. Senat Partai Republik saat itu diumumkan bahwa sidang akan dilanjutkan, kecuali Clayton tidak hadir atau pencalonannya ditarik.
Situasi ini mungkin merupakan pukulan telak bagi Kantor Direktur Intelijen Nasional, yang mana Trump telah mengarahkan Pulte untuk mengurangi jumlah anggotanya secara besar-besaran, dan para staf tidak terkesan dengan apa yang mereka lihat sebagai upaya minimal Pulte untuk mengenal badan tersebut dan kurangnya pengarahan rutin, kata orang-orang yang mengetahui masalah tersebut.
