Anthropic melemparkannya dukungan di balik gelombang perbatasan pertama hukum keselamatan AI di Amerika Serikat tahun lalu, dengan menerapkan persyaratan transparansi baru di California dan New York yang ditentang oleh sebagian besar Silicon Valley, dengan alasan bahwa mereka akan melakukan hal tersebut menghambat ledakan AI. Namun Anthropic mengatakan undang-undang tersebut mungkin sudah ketinggalan jaman, dan perusahaan tersebut kini mendorong negara-negara bagian untuk mengadopsi peraturan yang lebih ketat.
“RUU keselamatan yang berfokus pada transparansi pada tahun 2025 adalah awal yang sangat penting, tetapi seiring dengan kemajuan pesat kemampuan sistem AI, respons kebijakan harus disesuaikan,” Cesar Fernandez, kepala hubungan negara bagian dan pemerintah daerah AS di Anthropic, mengatakan kepada WIRED dalam sebuah wawancara. “Kami berpendapat bahwa transparansi dan pelaporan mandiri tidak lagi merupakan langkah keamanan yang memadai untuk sistem AI yang paling canggih.”
Menjadi sangat pro-regulasi adalah pesan aneh yang datang dari sebuah startup yang kini dihargai hampir $1 triliun. Tapi Anthropic adalah perusahaan yang aneh. Seperti yang telah kita lakukan ditulis sebelumnyaPara pemimpin Anthropic percaya bahwa mereka perlu membangun bisnis besar-besaran berdasarkan pengembangan dan penjualan akses terhadap kecerdasan buatan tingkat lanjut untuk memenuhi pendiriannya. misi: “untuk memastikan bahwa dunia melakukan transisi dengan aman melalui AI transformatif.”
Seiring berkembangnya Anthropic, Anthropic mulai mendukung beberapa peraturan paling keras yang diusulkan negara ini terhadap perusahaan-perusahaan AI terdepan. Banyak dari peraturan ini dirancang untuk memitigasi risiko bencana AI, termasuk kemungkinan bahwa model canggih dapat berkontribusi terhadap bencana keuangan atau kematian massal.
Di luar undang-undang pelaporan mandiri di Kalifornia Dan New YorkAnthropic juga mendukung an ukuran Illinois mengharuskan laboratorium AI agar proses keselamatannya dievaluasi oleh auditor pihak ketiga. Baru-baru ini, perusahaan mendukung a kebijakan Massachusetts hal ini juga memerlukan audit pihak ketiga terhadap laboratorium AI—dan memberikan wewenang kepada jaksa agung negara bagian untuk meminta ganti rugi dari perusahaan yang tidak mematuhinya.
Saya duduk bersama Fernandez minggu ini untuk memahami arah kebijakan AI perusahaan. Fernandez bergabung dengan Anthropic awal tahun ini, setelah sebelumnya menjabat sebagai kepala hubungan pemerintah negara bagian AS untuk raksasa taruhan olahraga FanDuel dan sebagai rekanan kebijakan publik senior di Uber. Dia membantu kedua perusahaan memenangkan pertarungan kebijakan di negara-negara bagian di seluruh negeri. Keahliannya kemungkinan besar akan terbukti berharga bagi Anthropic, karena Kongres terus menunda pengesahan peraturan AI dan negara-negara bagian mengambil inisiatif.
Motif yang “Meragukan”.
Meskipun agenda pro-regulasi Anthropic telah dipuji oleh kelompok keselamatan AI, serikat pekerja, dan sekutu perusahaan lainnya, beberapa pemimpin Silicon Valley menafsirkan upaya politiknya melalui sudut pandang yang lebih jahat.
David Sacks, mantan raja AI Gedung Putih dan penasihat teknologi Presiden Donald Trump saat ini, mengklaim bahwa Anthropic pada dasarnya mencoba untuk mengesahkan undang-undang yang rumit untuk menjebak perusahaan rintisan AI yang lebih kecil dalam birokrasi, sehingga mengamankan posisinya sendiri sebagai pemimpin dalam perlombaan AI.
“Anthropic menjalankan strategi penangkapan peraturan yang canggih berdasarkan rasa takut,” tulis Sacks dalam a postingan media sosial tahun lalu. “Hal ini pada dasarnya bertanggung jawab atas hiruk pikuk peraturan negara yang merusak ekosistem startup.”
Fernandez dengan tegas membantah tuduhan tersebut, dengan menyatakan bahwa Anthropic hanya mendukung rancangan undang-undang AI negara yang berlaku untuk “pengembang model AI besar,” sebuah istilah yang didefinisikan secara berbeda di setiap rancangan undang-undang, namun umumnya mengacu pada perusahaan yang telah menghabiskan ratusan juta dolar untuk pengembangan AI dan memiliki pendapatan tahunan lebih dari $500 juta. “Sulit membayangkan sebuah startup dapat mencapai ambang batas tersebut,” kata Fernandez.
Namun di dunia yang membutuhkan modal miliaran dolar untuk mengembangkan model AI yang kompetitif, ada beberapa startup menjanjikan yang dapat memenuhi ambang batas tersebut dalam waktu dekat. Untuk beberapa nama, Intelijen Super yang Aman, Lab Mesin BerpikirDan Mistral masing-masing telah mengumpulkan miliaran dolar dari investor, meskipun pendapatan mereka masih jauh lebih rendah dibandingkan Anthropic atau OpenAI. Tentu saja, ini bukan startup biasa, tetapi mereka adalah pesaing potensial Anthropic.
Saya pikir versi argumen Fernandez yang lebih dapat dipertahankan adalah bahwa perusahaan mana pun yang cukup besar untuk mengembangkan model AI yang kuat harus tunduk pada peraturan yang sama, karena risiko mendasar dari teknologi tersebut adalah sama. Fernandez mencatat bahwa salah satu tujuan Anthropic adalah untuk “menginspirasi perlombaan menuju puncak dalam mengembangkan sistem AI yang paling aman dan terlindungi,” yang menurut perusahaan mencakup mendorong undang-undang pemerintah.
“Misi kami adalah memastikan bahwa transisi menuju dunia dengan AI yang canggih ini berjalan baik bagi masyarakat Amerika dan umat manusia,” kata Fernandez. “Jika Anda seorang pengembang model AI yang sedang mengembangkan sistem AI yang kuat, ada persyaratan untuk bersikap transparan kepada orang-orang mengenai apa yang Anda bangun, kemampuan model, dan risiko yang terkait dengan model tersebut terhadap infrastruktur penting di negara bagian—semua itu harus menjadi prioritas utama.”
Dimana Antropik Menarik Garis
Namun, ada batasan mengenai apa yang menurut Anthropic harus dilakukan oleh negara bagian jika tidak ada peraturan federal. Di sebuah dokumen kebijakan Anthropic yang diterbitkan bulan lalu, perusahaan tersebut merekomendasikan agar pemerintah memiliki mekanisme untuk memblokir perusahaan dalam menerapkan model AI baru jika dianggap tidak aman. Saran tersebut agak ironis, mengingat pemerintahan Trump baru-baru ini mengatakannya Anthropic akan menangguhkan akses ke dua model AI terkuatnya bagi warga negara asing, dan perusahaan tidak terlalu menyukai gerakan ini.
Anthropic berpendapat bahwa hak untuk memblokir penerapan model AI yang tidak aman harus diberikan kepada pemerintah federal, dan bukan kepada anggota parlemen negara bagian—meskipun Fernandez mencatat bahwa hal ini merupakan pembicaraan yang terus berkembang. Setelah pemerintahan Trump mengirimkan arahan kontrol ekspor ke Anthropic yang menyebabkan model Mythos dan Fable 5 offline untuk semua orang, perusahaan tersebut menulis dalam sebuah postingan blog bahwa pemblokiran penerapan model AI hanya boleh dilakukan melalui proses evaluasi yang adil dan transparan.
Fernandez tidak akan banyak bicara tentang kebijakan federal Anthropic, karena ini bukan bidangnya, namun perusahaan tersebut juga sibuk di bidang tersebut. Bulan lalu, mereka mengirim a surat kepada pemerintah Amerika menuduh raksasa teknologi Tiongkok, Alibaba, melakukan serangan distilasi—yang pada dasarnya mengekstraksi informasi dari model Anthropic melalui dorongan sistematis untuk mengembangkan alat AI-nya sendiri. Beberapa peneliti AI telah menolak klaim tersebut penangkapan peraturan dengan cara lain. Mereka berpendapat bahwa tujuan sebenarnya Anthropic adalah untuk membujuk pemerintah AS agar melarang model open-weight Tiongkok, yang dapat mendorong ribuan bisnis Amerika yang bergantung pada model tersebut untuk beralih ke penawaran perusahaan Anthropic. CEO Anthropic Dario Amodei, khususnya, telah memperingatkan Kongres tentang hal ini bahaya open source AI di masa lalu.
Di tingkat negara bagian, Fernandez mengatakan bahwa Anthropic belum secara khusus menargetkan model AI open source dalam undang-undang mana pun yang didukungnya. “Persoalannya bukan pada konstruksi model, namun lebih pada kemampuan model, dan ketika hal-hal tersebut mencapai tingkat tertentu, hal-hal tersebut harus dimasukkan dalam kerangka kerja negara,” jelasnya.
Terlepas dari tulus atau tidaknya upaya Anthropic, perusahaan ini masih memainkan peran penting dalam membentuk masa depan kebijakan AI. Rilisan model terbarunya menghadirkan kemampuan keamanan siber AI tingkat lanjut menjadi sorotan nasional. Sebelumnya, perusahaan telah menghabiskan waktu bertahun-tahun untuk memperingatkan anggota parlemen di seluruh negeri tentang hal ini risiko bencana dari AI tingkat lanjut.
Kekhawatiran terhadap AI lebih sering dilontarkan oleh pemilih Amerika, seperti berpotensi kehilangan pekerjaan karena teknologi, dampak negatif dari pusat data yang tiba di komunitas merekadan dampak dari chatbot pada anak-anakbelum menginspirasi kampanye legislatif serupa dari laboratorium AI terdepan. Anthropic dan beberapa pesaingnya menjanjikan pembayar pajak biasa tidak akan terjebak membayar pusat datadan Anthropic telah menerbitkan proposal untuk merespons perpindahan pekerjaan yang didorong oleh AI di masa depan. Namun industri ini kurang memberikan dukungan politik pada undang-undang negara bagian yang menangani masalah-masalah tersebut.
Ketika ditanya tentang perbedaan tersebut, Fernandez mengatakan bahwa Anthropic “bersemangat untuk terlibat dengan anggota parlemen” mengenai isu-isu di luar risiko keselamatan AI yang sangat besar, dan sudah “melakukan diskusi mengenai hal tersebut di seluruh negara bagian.”
Namun, untuk saat ini, diskusi-diskusi tersebut belum menghasilkan dorongan terkoordinasi di tingkat negara bagian yang dilakukan Anthropic mengenai risiko eksistensial yang ditimbulkan oleh model perbatasan.
Ini adalah edisi milik Maxwell Zeff Buletin Perilaku Model. Baca buletin sebelumnya Di Sini.
