Sudah hampir seminggu sejak pemerintahan Trump mengirimkan arahan pengendalian ekspor hingga Anthropic, yang memaksa salah satu laboratorium AI terkemuka di dunia untuk menghentikan model tercanggihnya. Setelah hari perundingan antara Anthropic dan Gedung Putih, keduanya masih berselisih tentang bagaimana mengembalikan Claude Mythos dan Fable 5. Mengapa? Ya, itu tergantung pada siapa Anda bertanya.
Sepanjang seluruh bencana ini, Anthropic tidak yakin mereka melanggar prosedur atau aturan konkret apa pun yang ditetapkan oleh pemerintahan Trump, menurut seseorang yang dekat dengan perusahaan tersebut. Namun Gedung Putih berpendapat bahwa Anthropic bertindak ceroboh, menunjukkan bahwa mereka tidak dapat dipercaya untuk meluncurkan teknologi terdepan dengan aman.
Kisah ini membuktikan kepada saya bahwa kita sekarang secara resmi berada di era Wild West dalam regulasi AI Amerika. Meskipun hanya ada sedikit undang-undang yang mengatur pengembangan AI, hal ini tidak berarti bahwa perusahaan tidak akan mendapat masalah dengan Gedung Putih di bawah kepemimpinan Trump ketika mereka melewati batas yang tidak terucapkan.
“Masalahnya di sini adalah Gedung Putih berada dalam sikap anti-peraturan yang ekstrem, dan mereka kini dihadapkan pada kemampuan AI sesungguhnya yang telah diprediksi orang selama bertahun-tahun,” kata mantan pejabat teknologi Gedung Putih, yang meminta untuk tidak disebutkan namanya agar tidak membahayakan hubungan profesional mereka. “Seharusnya ada persiapan dan kebijakan untuk menangani hal ini secara sistematis, mengelola manfaat dan risikonya, namun justru pendekatan yang terburu-buru inilah yang justru menempatkan industri AI dalam kesulitan besar.”
Pemerintahan Trump telah berulang kali memblokir upaya untuk menerapkan batasan pada industri AI, sering kali berargumen bahwa peraturan tersebut dapat menghambat inovasi AS dan menyebabkan negara tersebut tertinggal dari pesaingnya seperti Tiongkok. Sejak kembali ke Gedung Putih, Presiden Trump telah menandatangani perintah eksekutif itu terbalik upaya era Biden untuk menciptakan kerangka kerja AI nasional dan membentuk gugus tugas federal untuk menantang undang-undang negara bagian tersebut bisa dianggap memberatkan.
Meskipun WIRED dan publikasi lain telah merinci negosiasi antara Anthropic dan Gedung Putih selama seminggu terakhir, perselisihan tersebut masih ditentukan oleh ketidakjelasannya. Pemerintah AS belum pernah secara jelas menyatakan kesalahan apa yang dilakukan Anthropic—yang terbaik yang kita miliki adalah a posting di X menguraikan situasi umum dari penasihat teknologi Gedung Putih David Sacks.
Ironisnya, tindakan Gedung Putih kemungkinan besar telah menghambat inovasi yang ingin mereka lindungi. Pemerintahan Trump menuntut Anthropic melarang semua warga negara asing mengakses Mythos dan Fable 5, sehingga mencegah banyak karyawan laboratorium AI mengakses model paling mutakhir, yang menurut perusahaan telah mempercepat proses tersebut. meningkatkan penelitian dan pengembangannya dalam beberapa bulan terakhir. Semua pelanggan Anthropic juga tidak dapat mengakses layanan ini, termasuk Apple, Meta, dan sebagian besar perusahaan Fortune 500.
Gedung Putih mungkin memiliki alasan yang sah untuk mengkhawatirkan model Anthropic. Seperti yang saya dan kolega saya laporkan pada hari Rabu, para pejabat AS semakin khawatir ketika mereka mengetahui hal itu pada awal bulan ini Anthropic berbagi Mitos dengan SK Telecomraksasa telekomunikasi Korea Selatan yang mereka duga memiliki hubungan dengan Tiongkok. Secara terpisah, CEO Amazon Andy Jassy mengangkat kekhawatiran kepada Menteri Keuangan AS Scott Bessent bahwa beberapa pagar pembatas di Claude Fable 5, versi Mythos yang dilindungi, dapat dilewati.
Sekalipun kekhawatiran ini beralasan, bukan berarti Gedung Putih menanganinya secara memadai. Dalam kasus pertama, Anthropic mengatakan pihaknya berkoordinasi dengan pemerintah AS dalam peluncuran Mythos, yang menunjukkan bahwa mungkin ada peluang bagi para pejabat untuk meningkatkan kewaspadaan terhadap SK Telecom sebelumnya. Anthropic juga telah bekerja sama dengan perusahaan Korea tersebut selama bertahun-tahun, dan pengaturan tersebut tampaknya tidak pernah menyebabkan perusahaan tersebut mengalami masalah keamanan nasional sebelumnya. Dan ketika Gedung Putih menyampaikan kekhawatiran tentang SK Telecom kepada Anthropic, mereka segera mencabut akses ke model tersebut, kami melaporkan.
Dalam kasus kedua, WIRED dan outlet lainnya telah menulis panjang lebar tentang caranya setiap model bahasa besar dapat di-jailbreak pada tingkat yang berbeda-beda. Peneliti keamanan siber yang antropis dan independen berpendapat bahwa penyelesaian jailbreak bukanlah masalah yang mudah dan terisolasi. Karena model AI bersifat probabilistik, bukan deterministik, perusahaan teknologi tidak dapat menjamin apa sebenarnya yang akan mereka hasilkan sebagai respons terhadap permintaan tertentu. Jika Gedung Putih tidak mengizinkan Anthropic merilis Claude Fable 5 sampai masalah jailbreaking teratasi, saya tidak akan menahan nafas.
Namun pada akhirnya, masalahnya bukan pada upaya pemerintah AS untuk memastikan bahwa model AI yang canggih memiliki perlindungan yang tepat atau terhindar dari tangan musuh Amerika. Pemerintahan Trump kini berada dalam posisi di mana ia harus membuat keputusan peraturan ini secara real-time.
Saya dapat meyakinkan Anda bahwa laboratorium AI lain seperti OpenAI, Google, dan Meta telah menyaksikan kemalangan Anthropic dengan napas tertahan. Saya telah menanyakan pertanyaan yang sama kepada para eksekutif AI sepanjang minggu: Bagaimana Anda bisa menghindari nasib serupa dengan Anthropic?
Sejauh ini, banyak pemimpin AI yang sampai pada kesimpulan yang sama: Mereka yakin bahwa mereka perlu memberikan Gedung Putih akses awal terhadap model AI terbaru mereka. Selain itu, kata mereka, mereka harus sangat proaktif dalam berbagi informasi dengan pemerintahan Trump tentang peluncuran model yang akan datang—risiko membuat para pejabat lengah terlalu besar.
“Pemberitahuan lebih awal, akses lebih awal. Saya pikir itu adalah permintaan utama yang kami dengar, tidak hanya dari AS, tetapi negara lain di seluruh dunia,” kata Aidan Gomez, CEO laboratorium AI Kanada, Cohere, dalam sebuah wawancara awal pekan ini. “Saya rasa hal ini merupakan hal yang baik dalam banyak hal. Hal ini menunjukkan keterlibatan dan perhatian yang kuat dari pihak berwenang terhadap teknologi yang sangat penting.”
Presiden Trump menandatangani perintah eksekutif bulan lalu yang menciptakan sistem “sukarela” bagi laboratorium AI untuk menyerahkan model kepada pemerintah untuk pengujian awal. Hal ini termasuk pernyataan yang secara eksplisit menyatakan bahwa hal ini tidak akan menjadi rezim perizinan wajib, sebuah kekhawatiran besar yang diangkat oleh industri teknologi yang telah menahan perintah eksekutif pertama. Namun setelah apa yang terjadi dengan Anthropic, sepertinya pemerintahan Trump telah secara efektif menciptakan versi ad hoc dari rezim tersebut. “Pemerintahan Trump, sejujurnya, seharusnya tidak mengatakan bahwa ini adalah rezim sukarela,” kata mantan pejabat teknologi Gedung Putih tersebut. “Tampak sangat jelas bahwa apa yang mereka lakukan sekarang adalah rezim perizinan.”
Ini adalah edisi milik Maxwell Zeff Buletin Perilaku Model. Baca buletin sebelumnya Di Sini.
