Perlombaan AI Tiongkok-AS Meningkat, Model OpenAI Membebaskan Diri, dan Mengapa Anda Harus Memeriksa Alarm Mobil Anda

Minggu ini Lembah Luar Biasapembawa acara kami mematahkan tuduhan Gedung Putih bahwa Moonshot AI milik Tiongkok menyuling Fable 5 dari Anthropic untuk membuat model Kimi K3 yang banyak dibicarakan. Tim mendiskusikan apakah ini merupakan pengulangan momen DeepSeek dan apa dampaknya bagi perlombaan AI antara AS dan Tiongkok. Mereka juga memahami bagaimana Angkatan Darat AS—dan banyak perusahaan di Silicon Valley—harus mengurangi penggunaan AI setelah membakar token mereka. Selain itu, kami membahas mengapa Anda harus memeriksa apakah Anda memiliki alarm yang dapat membuat mobil Anda lebih mudah diretas, dan bagaimana OpenAI sempat kehilangan kendali atas dua model AI selama uji keamanan.

Artikel yang disebutkan dalam episode ini:

Anda dapat mengikuti Brian Barrett di Bluesky di @brbarrettZoë Schiffer di Bluesky di @zoeschifferdan Leah Feiger di Bluesky di @leahfeiger. Menulis kepada kami di [emailprotected].

Bagaimana Mendengarkan

Anda selalu dapat mendengarkan podcast minggu ini melalui pemutar audio di halaman ini, namun jika Anda ingin berlangganan gratis untuk mendapatkan setiap episodenya, berikut caranya:

Jika Anda menggunakan iPhone atau iPad, buka aplikasi bernama Podcasts, atau cukup ketuk tautan ini. Anda juga dapat mengunduh aplikasi seperti Overcast atau Pocket Casts dan mencari “Uncanny Valley.” Kami aktif Spotify juga.

Salinan

Catatan: Ini adalah transkrip otomatis, yang mungkin mengandung kesalahan.

Zoë Schiffer: Selamat datang di WIRED Lembah Luar Biasa. Saya Zoë Schiffer, editor kontributor.

Brian Barrett: Saya Brian Barrett, editor eksekutif.

Leah Feiger: Dan saya Leah Feiger, direktur politik dan sains.

Zoë Schiffer: Hari ini di acara tersebut, kita melihat bagaimana AI Tiongkok telah meningkat secara signifikan. Model terbaru yang dirilis oleh Moonshot AI, salah satu laboratorium paling terkenal di Tiongkok, telah menarik perhatian dunia selama seminggu terakhir karena kemampuan model yang luar biasa. Pada hari Rabu, direktur Gedung Putih Michael Kratsios menuduh Moonshot secara ilegal menyuling model Fable 5 Anthropic untuk membuatnya sendiri. Kami akan membahas apakah kita mungkin akan melihat momen DeepSeek lainnya, dan apa sebenarnya arti perlombaan AI antara AS dan Tiongkok bagi pengguna.

Leah Feiger: Kita juga akan membahas bagaimana Angkatan Darat AS memanfaatkan token penggunaan AI mereka dan sekarang berada dalam posisi di mana mereka perlu membatasi penggunaannya. Namun, mereka bukan satu-satunya yang harus membayar kembali. Perusahaan seperti Meta dan Uber juga sudah memikirkan kembali penggunaan AI mereka karena, yang mengejutkan, sangat mahal untuk menggunakan semua model ini.

Brian Barrett: Siapa sangka? Selain itu, pada data hari ini, mobil Anda mungkin memiliki perangkat tersembunyi yang membuatnya lebih rentan terhadap peretasan. Kami akan menjelaskan kepada Anda cara mengidentifikasinya dan mengapa beberapa dealer menambahkannya. Dan kemudian diperlihatkan bagaimana OpenAI kehilangan kendali atas dua model AI-nya selama pengujian keamanan baru-baru ini.

Zoë Schiffer: Jadi Jumat lalu, lab AI China Moonshot AI merilis model terbaru mereka yang disebut Kimi K3. Dan berita ini menimbulkan gelombang besar, pertama karena modelnya yang super mumpuni. Ini sejalan dengan model terdepan dari OpenAI dan Anthropic. Dan hari ini, direktur Gedung Putih Michael Kratsios, seperti yang kami katakan di atas, pada dasarnya menuduh Moonshot AI menyaring model Anthropic untuk membuatnya sendiri. Jadi sekarang pertarungan besar sedang terjadi. Dan ini bukan pertama kalinya Anthropic menuduh laboratorium Tiongkok melakukan penyulingan modelnya. Saya penasaran, Brian, Leah, apa yang menurut Anda tepat di atas.

Leah Feiger: Jadi Hugo Lowell dari WIRED, penulis kami Lingkaran Dalam Buletin politik memuat artikel yang baru saja diterbitkan pagi ini tentang hal ini pada dasarnya, sepenuhnya tentang bagaimana pemerintahan Trump benar-benar terpecah dalam cara menangani AI Tiongkok. Dan Anda memiliki semua kekuatan yang saling bersaing, Anda memiliki Departemen Perdagangan dan Howard Lutnick yang berkata, “Dengar, ini tidak seseram yang Anda pikirkan. Kita bisa mencari jalan keluarnya.” Dan sebenarnya ada orang-orang yang berkata, “Tidak, tidak, tidak, kita harus membuat perintah eksekutif. Kita harus menghentikan mereka mencuri AI Amerika. Apa yang harus kita lakukan?”

Zoë Schiffer: Alat utama Departemen Perdagangan untuk mencoba mengatasi hal ini sejauh ini adalah pengendalian ekspor. Dan kita melihat beberapa orang berkata, “Oh, ini bukti bahwa pengendalian ekspor gagal.” Namun jika laboratorium Tiongkok sebenarnya hanya mencuri informasi hak milik dari perusahaan AI di AS, hal ini belum tentu berarti kegagalan dalam pengendalian ekspor.

Leah Feiger: Namun perintah eksekutif juga tidak bisa menghentikannya. Maaf, tapi perintah eksekutif dari AS tidak berlaku untuk Tiongkok. Mereka tidak melakukannya. Memo itu bisa berupa memo yang berisi kata-kata tegas dan bertujuan deklaratif, namun tidak akan ada yang mendapat masalah jika melakukannya.

Brian Barrett: Saya juga ingin mendukung hal ini sedikit, karena menurut saya kami belum menyebutkan bahwa apa yang membuat Kimi K3 sangat menarik dalam konteks ini adalah sistem AI berbobot terbuka, yang artinya tidak berbeda dengan sistem berpemilik yang dihasilkan oleh Anthropic, OpenAI, dan raksasa AI lainnya yang berbasis di AS. Tiongkok telah mengadopsi model yang lebih terbuka ini… Banyak perusahaan Tiongkok telah mengadopsi model yang lebih terbuka ini di mana siapa pun dapat menggunakan sistem ini, siapa pun dapat mengutak-atiknya. Dalam beberapa hal, ini merupakan ancaman nyata bagi perusahaan yang mengatakan, “Hei, lihat, kami akan membebankan banyak uang kepada Anda untuk menggunakan ChatGPT atau Claude.” Inilah Moonshot atau DeepSeek sebelum berkata, “Atau Anda bisa menggunakan ini secara gratis,” dan itu hampir sama bagusnya.

Zoë Schiffer: Benar. Dan menurut saya teori di balik hal ini, ada beberapa gagasan berbeda tentang mengapa Tiongkok melakukan hal ini. Salah satunya adalah ia tidak memiliki banyak akses ke komputasi. Jadi inilah teori pengendalian ekspor. Hal ini terjadi karena mereka tidak memiliki cukup komputasi, sehingga mereka perlu merilis model sumber terbuka, karena hal tersebut membantu membangun reputasi mereka dan memperluas pengaruh mereka.

Brian Barrett: Menariknya, inilah jalan yang telah ditempuh Meta selama beberapa waktu terakhir. Model Llama Meta seolah-olah mereka adalah perusahaan besar AS yang menggunakan AI open-weight sebagai cara untuk melemahkan persaingan. Mereka mengabaikan hal itu, dan mereka menghabiskan miliaran dolar untuk membangun “lab superintelijen” mereka, yang jumlahnya belum seberapa.

Zoë Schiffer: Belum.

Brian Barrett: AS benar-benar telah menyerahkan bidang ini kepada Tiongkok dalam banyak hal. Saya sama sekali tidak mengetahui adanya proyek open-weight besar yang sedang terjadi di AS.

Zoë Schiffer: Tidak, menurut saya Amerika sudah mengambil arah yang berbeda, hampir seluruhnya. Maksud saya, alasan para penggemar open-weight mengatakan bahwa ini lebih baik adalah di AS, karena setiap laboratorium terdepan pada dasarnya harus menciptakan kembali inovasi yang sama dari awal. Mereka harus melakukan latihan yang sangat mirip. Mereka tidak dapat melihat trik teknis keren yang telah dilakukan lab lain dan menyalinnya untuk terus membangun kesuksesan satu sama lain. Mereka benar-benar bersaing secara langsung. Sedangkan jika Anda semua adalah negara yang bersumber terbuka dan berbobot terbuka, Anda mungkin bisa maju lebih cepat dan mudah-mudahan sedikit lebih murah, karena Anda melihat apa yang dilakukan laboratorium lain dan mengembangkannya dengan cukup cepat.

Leah Feiger: Saya bertanya-tanya betapa takutnya beberapa laboratorium AI di AS. Maksudku, Anthropic sebenarnya hanya menaikkan biaya untuk Fable 5. Ini bukanlah sesuatu yang membuat mereka seperti, “Oh, dan kami juga akan bebas sekarang, kalian. Kami harus bersaing.” Bukan itu yang terjadi.

Zoë Schiffer: Tidak tidak tidak. Saya pikir hal ini hanya akan semakin memperkuat hak kepemilikan AS, yaitu kebutuhan untuk merahasiakan rahasia-rahasia ini.

Brian Barrett: Dan terutama karena mereka semua sedang bersiap untuk melakukan IPO masing-masing, dan mereka harus mulai menunjukkan pendapatan dan mulai menunjukkan diri—jika tidak langsung mendapat untung, sebuah peluang yang jelas. jalur untuk mendapatkan keuntungan, yang saya belum tahu apakah mereka sudah mendapatkannya. Jadi, pesaing mana pun yang melemahkan mereka seperti ini akan menjadikannya lebih sulit. Saya kira tidak ada… Saya pikir dalam waktu dekat, mereka baik-baik saja. Mereka masih akan menerima miliaran dolar. IPO akan berjalan dengan baik. Namun hal ini menjadi pertanyaan, terutama ketika perusahaan menyadari betapa mahalnya penggunaan AI, dan saat kita berada di era token maxing, dapat dimengerti bahwa perusahaan akan mencari alternatif, dan kita akan mencapai titik perubahan di mana pada akhirnya kita harus memikirkan, apakah AI hanya sebuah komoditas? Apakah itu produk komoditas yang bisa Anda dapatkan dari mana saja? Atau perlu custom seperti, tidak, saya sangat membutuhkan Anthropic karena alasan tertentu? Tidak, saya sangat membutuhkan OpenAI karena alasan tertentu. Dan menurut saya itu masih merupakan pertanyaan terbuka.

Zoë Schiffer: Saya pikir Dean Ball, yang sebelumnya adalah penasihat AI di Gedung Putih dan sekarang menjadi eksekutif di OpenAI, menyampaikan poin yang menarik. Saya ingin tahu apa pendapat kalian tentang hal ini, namun pada dasarnya, dia mengatakan bahwa salah satu alasan Tiongkok mengambil pendekatan terbuka adalah karena mereka tidak memiliki AGI sebanyak orang-orang di Amerika Serikat dan tentu saja pemerintah AS. Saya pikir ungkapan yang dia gunakan adalah Tiongkok dan PKC cukup Yann LeCun-y ketika berbicara tentang AGI, seperti Yann LeCun, seorang ilmuwan AI yang sangat terkenal, yang sebelumnya adalah seorang eksekutif tingkat tinggi di Meta. Dan dia telah banyak mencatat pada dasarnya mengatakan bahwa semua hype seputar AGI dan apa yang bisa dilakukannya, hanya itu saja. Itu sensasi. Ini terlalu berlebihan. Faktanya, meskipun dia bekerja pada sistem ini dan menurutnya sistem tersebut sangat mengesankan, ada banyak pemasaran yang dimasukkan ke dalam terminologi ini.

Brian Barrett: Dan untuk berjaga-jaga, AGI, kecerdasan umum buatan, adalah gagasan bahwa sistem AI dapat memenuhi atau melampaui kemampuan manusia. Saya pikir beberapa orang akan berdalih dengan definisi itu, tapi itulah definisi dasarnya. Maka Will Knight, salah satu reporter senior AI kami, berada di Tiongkok belum lama ini, dan dia kembali dengan pembacaan yang persis sama. Dia berkata, “Ya, mereka tidak terlalu peduli dengan AGI.” Bukan apa-apa di sana. Bukannya itu tujuan mereka berlomba.

Leah Feiger: Jadi minggu ini, Vittoria Elliott, penulis politik kami yang cantik, menerbitkan sebuah cerita luar biasa yang benar-benar membuat saya tertawa terbahak-bahak, semuanya tentang bagaimana Angkatan Darat AS menggunakan token AI-nya. Sekitar sebulan yang lalu, DOD membual bahwa hampir setengah dari 3,5 juta karyawannya menggunakan AI di tempat kerja. Kami saat ini benar-benar dibanjiri dengan siaran pers dari pemerintah tentang bagaimana semua tenaga kerja federal saat ini didukung oleh AI. Jadi sekitar sebulan setelah berita ini keluar, anggota Komando Pengembangan Kemampuan Tempur Angkatan Darat, DEVCOM, menerima email yang memberi tahu mereka bahwa mereka benar-benar menggunakan token AI dan perlu membatasi penggunaannya. Email ini luar biasa. Izinkan saya membacakan kutipan ini untuk kalian secepatnya. “Meskipun CIO Angkatan Darat mengumumkan pada Mei 2026 bahwa mereka menawarkan token tanpa batas, pada pertengahan Juni, kumpulan CIO Angkatan Darat telah kehabisan token dan harus menetapkan kembali batasannya.”

Zoë Schiffer: Jadi tidak terbatas itulah yang saya pahami.

Leah Feiger: Sangat tidak terbatas.

Zoë Schiffer: Mirip seperti PTO tanpa batas.

Leah Feiger: Mirip seperti PTO tanpa batas. Tampaknya tidak jelas apakah kelompok CIO Angkatan Darat akan diperbarui setelah tanggal 1 Oktober. Angkatan Darat menggunakan Ask Sage, yang merupakan platform AI generatif multimodel tempat pengguna dapat menjalankan berbagai LLM, termasuk Gemini, Llama, ChatGPT, dan lain-lain. Dan kami berbicara dengan seorang pegawai Angkatan Darat yang mengatakan beberapa hal lucu tentang hal ini, yang pada dasarnya adalah Angkatan Darat membakar token selama setahun penuh hanya untuk satu layanan. Kami memiliki waktu yang sangat singkat di sini. Dan sekali lagi, hal ini terjadi ketika semua orang berkata, “Gunakan, gunakan, gunakan,” tanpa banyak bicara mengenai biayanya. Atau pada titik ini, jika Anda mengemukakan dampak lingkungan, Anda mendapatkan b dipenuhi separuh ruangan. Tapi ini nyata. Dibutuhkan uang untuk memproduksi barang-barang ini. Memproduksi barang-barang ini merugikan lingkungan. Dan agar CIO Angkatan Darat harus berkata, “Sangat menyesal tentang hal itu.” Tolong kurangi penggunaan itu, terutama karena karyawan tampaknya diberi jatah setidaknya 200.000 token sebulan. Mereka secara otomatis dialokasikan lebih banyak jika mereka menghabiskan bit awalnya. Jika mereka tidak menggunakan token, mereka akan menerima email reguler yang mendorong mereka untuk lebih bersandar pada penggunaan AI juga. Maksimum token yang sebenarnya.

Zoë Schiffer: Tapi saya ingin memahami, sebenarnya untuk apa Angkatan Darat menggunakan ini?

Leah Feiger: OKE. Jadi Ask Sage digunakan oleh Angkatan Darat untuk “memberi daya pada ruang kerja LLM perusahaannya, dan juga diakreditasi untuk mengendalikan informasi yang tidak dirahasiakan.” Itu digunakan untuk menyelesaikan tugas-tugas seperti mengklasifikasi ulang deskripsi personel, menyelaraskan tugas pekerjaan, pengalaman, latar belakang. Sepertinya fungsinya digunakan sebagai HR mini, yang secara teori adalah tujuan penggunaan AI, tapi menurut saya tidak sebanyak itu.

Brian Barrett: Saya tidak tahu apakah Anda menghabiskan banyak token. Apakah Anda menghemat uang sebanyak itu dibandingkan dengan manusia yang berperan melakukan hal itu? Mungkin tidak. Leah, menurut saya satu statistik yang kami kutip dalam cerita ini luar biasa. DOD dilaporkan membakar 20 miliar token per hari selama kampanye Operation Epic Fury selama 38 hari di Iran. Itu awalnya dari Breaking Defense. Angka tersebut sangat mencengangkan dan juga menunjukkan lebih dari sekedar masalah personalia. Tentu saja, saya pikir kita telah melihat tempat-tempat lain di mana DOD menggunakan AI dalam hal keterlibatan militer yang sebenarnya, tapi Anda bertanya-tanya … Jelas, mereka belum mengetahui efisiensinya di sini. Jelas belum menemukan apa yang masuk akal.

Zoë Schiffer: Bisakah kita membahasnya sedikit saja? Jawaban pertanyaan singkat yang Anda tanyakan pada chatbot akan membakar 10 token. Ini bukanlah masalah penalaran yang rumit. Jadi hanya untuk membingkainya untuk orang-orang, ini sudah banyak.

Leah Feiger: Saya harus berbicara dan belajar tentang AI sebagai fungsi pekerjaan saya dan, tampaknya, sebagai anggota umat manusia pada saat ini. Tapi juga, menurut saya ada sesuatu yang sangat menarik tentang gagasan yang bahkan secara intelektual tidak dianggap sebagai sumber daya dengan cara ini. Bagi saya rasanya seperti membaca artikel ini dan berbicara dengan Tori tentang pelaporannya dan membahas semua anekdot tambahan ini, rasanya seperti ketika semua kampanye tersebut harus keluar, mereka berkata, “Jangan biarkan air keran mengalir begitu saja. Itu buruk. Kita akan kehabisan air. Sumber dayanya terbatas.” Jadi ini adalah hal yang sangat menarik yang saya rasakan, karena orang-orang mengira mereka sedang mengetiknya di komputer kecil mereka, maka hal tersebut tidak ada secara aktif.

Brian Barrett: Leah, kabar baiknya adalah hal berikutnya yang kita bicarakan tidak ada hubungannya dengan AI. Kabar buruknya adalah hal ini berkaitan dengan betapa mudahnya mencuri jutaan mobil, jutaan di antaranya.

Zoë Schiffer: Bukan Tesla milik Leah.

Brian Barrett: Tesla juga cukup mudah dilihat.

Zoë Schiffer: Bukan Cybertruck milik Leah.

Brian Barrett: Ya. Leah punya tiga Cybertruck.

Leah Feiger: Ya, itu aku.

Brian Barrett: Baiklah, jadi ini juga merupakan iklan layanan masyarakat. Baru-baru ini, peneliti UC San Diego menemukan bahwa perangkat alarm yang dipasang di lebih dari 2 juta mobil di AS berpotensi membuat mobil lebih rentan terhadap peretasan. Andy Greenberg, koresponden senior WIRED—benar-benar reporter peretasan mobil terbaik yang bisa Anda temukan di mana pun di luar sana—melaporkan bahwa perangkat ini adalah bagian dari sesuatu yang disebut KARR. Dan kami menyukai ejaan di acara ini. Itu KARR, sistem Keamanan KARR yang memiliki kerentanan Bluetooth yang memungkinkan siapa pun di sekitar membuka kunci mobil Anda, mematikan alarm, menonaktifkan kunci kontak.

Zoë Schiffer: Oh tidak.

Brian Barrett: Bagian terburuknya, atau setidaknya bagian terburuknya, adalah banyak pemilik yang tidak tahu kalau benda itu ada di dalam mobil mereka. Tidak ada alasan Anda mengetahuinya. Dan itu karena itu adalah sesuatu yang dipasang oleh dealer. Dealer memasang sistem Keamanan KARR untuk melindungi mobil di tempat parkir, dan mereka tidak repot-repot melepas atau menonaktifkannya setelah penjualan. Jadi Anda, ya, Anda dapat memiliki sistem ini di mobil Anda. Begini cara kerjanya. Para peneliti menemukan bahwa semua perangkat mobil ini berbagi satu kunci autentikasi, yang—saya tidak tahu seberapa familiar orang-orang dengan keamanan siber—itu buruk. Ini seperti membagikan kata sandi ke akun Netflix Anda, tetapi dengan setiap orang yang terlibat dalam sistem ini. Jadi setelah Anda memilikinya, Anda bisa masuk. Mereka menemukan cara merekayasa balik kunci itu. Mereka membuat aplikasi khusus sehingga selama berada dalam jangkauan Bluetooth, mereka dapat mengirimkan sinyal radio untuk melakukan semua hal yang kami sebutkan. Membuka kunci, menonaktifkan alarm, membunyikan klakson, menyalakan lampu, menonaktifkan kunci kontak, membuat pengemudi terdampar. Ini tidak memungkinkan Anda menyalakan mobil dari jarak jauh, tetapi mereka juga menunjukkan bahwa begitu Anda berada di dalam kendaraan, alat tukang kunci yang tersedia secara komersial akan memungkinkan Anda membuat kunci dalam hitungan menit. Saya juga akan mengatakan bahwa Andy membuat video yang menunjukkan cara kerja semua ini. Saat ini ada di WIRED. Sangat merekomendasikan untuk menontonnya.

Leah Feiger: Mungkin buruk untuk mengatakan ini tidak mengejutkan saya. Itu adalah pemberitaan yang liar dan sangat bagus. Ini, dalam beberapa hal, terasa seperti hal berikutnya dari setiap video… Saya membayangkan banyak video Andy seperti, “Dan inilah hal lain yang menurut Anda pada dasarnya aman dan independen yang terhubung dengan semua hal yang berbeda ini.” Hal ini mencerminkan arah dunia saat ini, terutama dengan adanya berbagai teknologi yang berperan di sini. Jadi mungkin saya sedikit solipsistik tentang hal itu. Datang untuk kita semua.

Brian Barrett: Nah, dan sudah ada… Dalam pembelaanmu, Leah juga, sudah banyak serangan estafet, namanya, dengan mobil, di mana jika kamu bisa cukup dekat dengan kunci seseorang, kamu bisa menyalin sinyal radio kuncinya, dan kemudian menggunakannya untuk membuka kunci mobil. Jadi sudah ada kerentanan yang melekat pada mobil yang menurut saya telah diiklankan dengan cukup baik. Bagi saya, ini lebih merupakan fakta bahwa setidaknya Anda tahu bahwa hal itu bisa terjadi. Saya tidak tahu apakah saya sudah menginstalnya.

Zoë Schiffer: Itu bagian yang menakutkan bagi saya. Itu adalah ketidaktahuan. Maksudku, tadinya aku akan bilang aku tidak setuju dengan Leah, tapi kemudian saat dia berbicara, aku seperti, “Sepertinya aku tinggal di Bay Area.” Saya memiliki kursi mobil senilai $1.000 di mobil saya kapan saja. Dan saya mengambil pendekatan bahwa kami melakukan yang terbaik, tetapi jika seseorang benar-benar ingin membobol mobil Anda, mereka akan melakukannya. Bisakah Anda melepas kursi mobil itu setiap kali Anda parkir? Tidak, kamu tidak bisa. Mereka sangat berat.

Brian Barrett: Bagi saya, ini membenarkan keputusan saya untuk terus mengendarai, menurut saya, station wagon Volkswagen berusia 12 tahun yang pintunya benar-benar hancur.

Zoë Schiffer: Saya sebenarnya berharap Anda mengizinkan kami menebak jenis mobil apa yang Anda kendarai.

Brian Barrett: Itu menjijikkan. Penutup di jok belakang seperti… Aku bahkan tidak bisa menggambarkannya. Mereka jatuh dari mobil. Mobilnya berantakan.

Zoë Schiffer: Tapi ini lebih aman dibandingkan yang lainnya.

Brian Barrett: Nah, atau jika seseorang mencurinya, Tuhan memberkati, selamat menikmati. Menurut saya, ada cara untuk mengetahuinya … Jika Anda mengkhawatirkan hal ini, yang mungkin memang Anda khawatirkan, ada cara untuk mengetahui apakah Anda memiliki perangkat mobil ini di dalamnya. Carilah stiker mobil di jendela samping pengemudi. Itu sudah jelas. Atau yang lebih jelasnya adalah stiker bertuliskan SWDS yang merupakan singkatan dari Southwest Dealer Services, ditambah tombol lampu kecil yang berkedip di bawah dashboard. Banyak dari mobil-mobil ini berada di California Selatan, tetapi juga tersebar di seluruh negeri. Setelah Anda mengidentifikasi bahwa Anda memiliki sistem ini di mobil Anda, Anda harus mengunduh aplikasi KARR dan kemudian mengirimkan pembaruan firmware ke mobil. Itu semuanya. Hal lainnya adalah, sering kali ketika ada kerentanan Tesla yang memudahkan untuk melakukan beberapa serangan, mereka dapat mengirimkan pembaruan firmware dari jarak jauh ke semua kendaraan ini. Perusahaan di belakang KARR tidak memiliki kemampuan untuk mendorongnya secara otomatis ke mobil. Jadi, Anda harus melakukannya sendiri, yang menurut saya, sejujurnya, kebanyakan orang tidak bisa diganggu. Saya tidak memiliki harapan besar untuk memperbaikinya secara besar-besaran. Sebelum kita istirahat, kita punya satu perkembangan lagi untuk didiskusikan. OpenAI mengungkapkan pada hari Selasa bahwa mereka kehilangan kendali atas dua model AI selama uji keamanan yang berakhir dengan pelanggaran platform penelitian AI Hugging Face. Perusahaan tersebut mengatakan bahwa minggu lalu model-model AI ini berada dalam lingkungan pengujian yang tersegel, seperti yang Anda sebut kotak pasir, ketika mereka pecah dan meretas sistem produksi Hugging Face untuk mencuri jawaban dari tes yang sedang mereka nilai. Ini adalah model AI yang berprestasi sangat tinggi. Salah satunya adalah model yang tersedia untuk umum yang disebut GPT-5.6 Sol dan model yang belum dirilis, dilaporkan lebih mumpuni, keduanya sedang dievaluasi berdasarkan keterampilan peretasan ofensifnya dengan perlindungan yang biasanya memblokir aktivitas siber berisiko tinggi dimatikan. Jadi mereka berkata, “Hei, cari tahu cara meretas benda ini.” Dan mereka melakukannya.

Zoë Schiffer: Mereka berhasil. Ya. Apa yang membuat saya tertawa tentang hal ini adalah ketika berita ini akhirnya tersiar, Sam Altman dan CEO Hugging Face bersama-sama mengeluarkan pernyataan seperti, “Kami bermitra bersama untuk mencari tahu.” Saya seperti, “Pekerjaan PR yang solid dari OpenAI.” Sistem Anda meretas sistem lain, menjadi jahat, dan sekarang Anda berpikir, “Ini adalah mitra kita dan kita bersama-sama—tidak ada masalah sama sekali—akan mengungkap apa yang terjadi.” Saya seperti, “Oke.”

Leah Feiger: Apakah ini menunjukkan betapa OpenAI ada di mana-mana? Saya tidak tahu apakah Memeluk Wajah bisa seperti, “Yah, kami membencimu. Bagi kami, kamu sudah mati sepenuhnya.” Aku tidak tahu. Aku juga sangat terkejut dengan hal itu, Zoë.

Zoë Schiffer: Ya, menurutku ada beberapa orang yang membicarakan hal ini, “Ya Tuhan, model besar yang menakutkan lolos dari kotak. Ini sungguh buruk.” Lalu Anda melihat peneliti keamanan lainnya berkata, “Tidak, ini adalah kegagalan infrastruktur dasar.” Mereka tidak mengisolasi lingkungan secara efektif.

Brian Barrett: Saya pikir orang-orang yang berkata, “Ya Tuhan, model yang sangat menakutkan,” adalah OpenAI.

Zoë Schiffer: Benar. Mereka seperti, ‘Lihat kami.’

Brian Barrett: Saya tidak ingin mengecilkannya. Penting agar model mereka dapat melakukan hal ini. Tapi saya juga… Peneliti keamanan yang kami ajak bicara, reporter kami, Dell Cameron dan Lily Hay Newman, berkata, “Begini, tentu saja, tapi ada juga sedikit kesalahan manusia di sini karena ini adalah infrastruktur yang cukup mendasar yang sudah diselesaikan sejak lama.” Hal seperti ini selalu terjadi, baik AI atau bukan. Jadi ada sedikit … OpenAI juga bisa berbuat lebih banyak untuk menjaga lingkungan mereka lebih aman.

Zoë Schiffer: Menurutku itu sah. Maksud saya, menurut saya fokus terbesarnya adalah AI tingkat lanjut. Mereka telah menciptakan sistem yang memiliki lebih banyak kemampuan. Meskipun keamanan adalah bagian dari OpenAI dan Anthropic, keamanan pada akhirnya sering kali berarti infrastruktur. Apakah Anda memiliki perlindungan dalam cara Anda menerapkan model ini, bahkan secara internal, yang akan menghentikan mereka melakukan hal ini?

Brian Barrett: Detail tulisan ini juga sangat menarik bagi saya. Menurut saya gagasan bahwa AI ini… Karena model AI tersebut memiliki banyak niat, yang menurut saya adil, tetapi gagasan bahwa mereka hanya menginginkannya… Sulit untuk membicarakannya tanpa mencoba memberi mereka emosi atau niat, yang mana saya tidak ingin.

Zoë Schiffer: Aku tahu.

Brian Barrett: Namun gagasannya adalah bahwa mereka begitu, seperti ungkapannya, kata yang digunakan sangat fokus, dalam mencapai tugas ini sehingga mereka akan berusaha sekuat tenaga untuk melakukannya.

Zoë Schiffer: Dan itulah masalahnya dengan model-model ini. Anda dapat memberi mereka petunjuk, namun pada akhirnya Anda tidak tahu bagaimana model akan menafsirkan perintah tersebut. Dan ini adalah masalah yang kami lihat pada OpenCloud. Orang-orang menerapkan sistem agen ini di komputer mereka dan mengatakan hal-hal seperti, “Saya memerlukan lebih banyak ruang penyimpanan. Bisakah Anda membantu saya?” karena, apa pun itu, sistemnya memakan banyak ruang. Dan sy batang akan menghapus banyak file yang jelas ingin mereka simpan. Anda perlu menempatkan banyak pagar pembatas bahkan hanya dalam tugas atau pertanyaan Anda, jika tidak maka pagar tersebut akan keluar jalur. Meski begitu, mereka masih bisa keluar jalur.

Brian Barrett: Dan jika kita mengaitkan hal ini dengan perbincangan mengenai open-weight sebentar saja, kita akan memiliki, jika kita belum memilikinya, model-model dari Tiongkok yang akan mampu melakukan hal ini, dan bukan dalam lingkungan yang terkendali, dalam lingkungan terbuka di mana siapa pun dapat melakukannya.

Zoë Schiffer: Dan saya telah melihat orang membicarakan hal ini. Hal ini mungkin merupakan nilai tambah bagi Tiongkok, bukan negatif, karena jika ini adalah model terbuka, Anda, sebagai sebuah perusahaan, memiliki risiko yang lebih kecil baik dari segi reputasi atau risiko hukum karena Anda seperti, “Kami baru saja merilisnya. Ada yang melakukan hal ini dengannya. Apakah itu benar-benar kesalahan kami?” Hal ini menciptakan tingkat kekacauan dan siapa yang bertanggung jawab yang bisa bermanfaat.

[[merusak]

Leah Feiger: Sudah waktunya untuk segmen WIRED/LELAH kita. Apa pun yang baru dan keren adalah WIRED, dan apa pun hal ketinggalan jaman yang kita lewati adalah LELAH. Zoë, apakah kamu siap untuk kami?

Zoë Schiffer: Saya, ya. Oke, jadi saya ingin memberi sedikit latar belakang kepada orang-orang. Saya baru-baru ini menjadi pekerja lepas. Saya seorang editor kontributor di WIRED. Dan sebagai bagian dari itu, saya harus mendirikan LLC. Saya menerima klien. Saya mencoba mengumpulkan banyak pekerjaan, dan juga menjadi ibu dari dua anak kecil. Sebelum pengalaman ini, penggunaan AI saya sangat terbatas. Saya pada dasarnya menggunakannya seperti Google. Jika saya perlu mengajukan pertanyaan, saya akan menanyakan ChatGPT atau Claude, lalu saya akan memeriksa jawabannya. Saya mengadakan pertemuan tak lama setelah saya beralih karier dengan Shoshana Berger, yang sebenarnya pernah bekerja di WIRED, dan kemudian dia menduduki posisi tinggi di IDEO untuk waktu yang sangat lama. Sekarang dia mengajari wanita, menurut saya, usia paruh baya dan lebih tua, cara menggunakan alat AI. Dan dia memiliki filosofi yang sangat keren. Dia berkata, “Saya pikir sangat penting bagi perempuan khususnya untuk merasa nyaman dengan alat tersebut, mengetahui bagaimana alat tersebut dapat meningkatkan pekerjaan dan kehidupan mereka. Dan apakah mereka memilih untuk melakukannya atau tidak, itu terserah mereka.” Saya meninggalkan percakapan dengan sangat terinspirasi, dan saya berpikir, “Sejujurnya saya tidak punya kasus penggunaan.” Dan saya belum mengidentifikasi area di mana saya berpikir, “Agen AI akan sangat, sangat bermanfaat.” Tapi saya seperti, ‘Saya hanya ingin mencobanya dan belajar.’ Dan sekarang saya menggunakan komputer pribadi jadi saya sebenarnya bisa… Saya merasa sedikit lebih nyaman melakukan ini. Jadi saya telah mengidentifikasi beberapa area yang menurut saya bermanfaat. Seseorang sedang mempersiapkan podcast ini. Pada dasarnya saya akan meminta AI membacakan naskahnya untuk saya seperti podcastnya sendiri sehingga saya bisa—

Brian Barrett: Bukan berarti kita punya naskahnya. Maksudku, ini saja—

Zoë Schiffer: Kami tidak menggunakan naskahnya, tapi saat aku bersiap, aku akan seperti, aku berada di dalam mobil. Saya akan mendengarkan artikel selengkapnya yang sedang kita bicarakan. Jadi saya memikirkannya dengan cara yang berbeda. Dan ketika saya duduk untuk membacanya, saya sedikit lebih siap. Hal yang sama dengan wawancara. Dan ini menurut saya sangat keren. Jika saya melakukan wawancara, saya akan meminta NotebookLM membuat podcast tentang hal tersebut, lalu memberikannya kepada saya sehingga saya dapat mendengarkannya kembali. Saya juga memiliki seseorang yang bekerja dengan saya dalam anggaran rumah tangga dan membantu saya dengan keuangan keluarga kami, dan itu sangat keren. Dan yang membantu saya dengan faktur, yang pembuatannya selalu sangat mengganggu. Jadi itu aku. Lea, apakah kamu masih mencintaiku?

Leah Feiger: Saya bersedia. Beberapa hari terakhir, hal ini bermunculan. Anda seperti, “Saya sudah mendengarnya.” Itu seperti, “Ups, Zoë, faktur Anda sudah siap.” Dan saya bertanya, “Apa yang terjadi di sana?”

Zoë Schiffer: Anda telah mendengarnya. Ini memalukan. Itu memalukan.

Leah Feiger: Agak liar. Tidak, sejujurnya, jika itu membuat hidup Anda lebih baik, saya senang mendengarnya. Dan itu… Saya pendukung penggunaan ini untuk alat admin Anda yang mengganggu. Bagi saya, itu bukan… Jika Anda berpikir, “Dan saya memutuskan untuk menulis buku dengan AI,” saya akan berpikir, “Itu memalukan bagi Anda.”

Zoë Schiffer: Tidak, tidak. Dan Shoshana juga mengatakan hal ini. Maksudku, dia bekerja dengan banyak klien, dan dia berkata, “Tulisan manusia adalah pembeda Anda.” Anda tidak pernah ingin menggunakannya untuk hal-hal tersebut, namun ada banyak hal di sekitar pekerjaan inti Anda yang sebenarnya yang dapat berguna. Brian?

Brian Barrett: Oh, aku?

Zoë Schiffer: Ya.

Brian Barrett: Nah, WIRED saya adalah kehidupan di luar angkasa.

Zoë Schiffer: Ooh, tidak sesuai dengan apa yang kukira akan terjadi.

Brian Barrett: Bersabarlah denganku. Tidak, dan… Dengar, menurutku ini jelas merupakan misteri besar alam semesta. Apakah kita sendirian di sini? Saya pikir dua perkembangan dalam seminggu terakhir, sangat menarik. Bukan berarti kita tidak mengalaminya, namun untuk pertama kalinya dalam sejarah, para astronom mendeteksi molekul gula yang melayang di ruang angkasa yang jaraknya puluhan ribu tahun cahaya. Anda memerlukan molekul-molekul semacam ini agar kehidupan bisa terjadi. Jadi ini bukan sebuah konfirmasi bahwa ada kehidupan di luar sana, tapi itu adalah sebuah tanda yang seperti, “Oh, ada makanan di luar sana yang berpotensi berhasil.” Demikian pula, hanya beberapa hari setelah itu, 48 tahun cahaya jauhnya, para astronom untuk pertama kalinya mengkonfirmasi keberadaan planet berbatu dengan atmosfer yang juga berada dalam zona layak huni, artinya serupa dengan Bumi, mampu mendukung kehidupan. Mungkin mengandung air, mungkin memiliki semua unsur itu. Berikut beberapa terobosan besar dalam astronomi yang menunjukkan bahwa kita tidak sendirian.

Zoë Schiffer: Brian, apakah kamu percaya pada alien?

Brian Barrett: Entahlah… Saya pikir gagasan bahwa tidak ada bentuk kehidupan di planet lain di seluruh alam semesta terasa gila bagi saya. Saya tidak tahu apakah itu seperti… Ya, saya tidak tahu apakah kita menyebutnya kehidupan berakal. Menurutku mereka tidak punya Tinder, tapi menurutku pasti ada sesuatu.

Leah Feiger: Saya senang mendengar bahwa perasaan versi Brian melibatkan Tinder.

Brian Barrett: Itu barnya.

Leah Feiger: Itu barnya.

Brian Barrett: Ya. Kurang dari itu, saya minta maaf. Tidak, tidak masuk hitungan.

Leah Feiger: Oke, apa yang LELAH kamu?

Brian Barrett: Kebalikan dari itu.

Leah Feiger: Astaga.

Zoë Schiffer: OKE. Lea, katakan ini. KABEL/LELAH.

Leah Feiger: OKE. WIRED / LELAH saya, saya harus mengatakan itu sepenuhnya bertema sains. Jadi Brian adalah pintu masuk yang sempurna dalam hal ini. LELAH saya adalah saya benar-benar prihatin dengan El Niño. Saya melihat peta dan prediksi suhu setiap hari saat ini. Dan sebagian dari hal ini disebabkan oleh kekhawatiran yang sangat besar secara global. Apa maksudnya hal ini? Dampaknya terhadap ketahanan pangan, dampaknya terhadap masyarakat yang akan terkena dampaknya. El Niño secara historis sangat-sangat buruk bagi kehidupan laut, meskipun ini merupakan proses alami. Ini akan menjadi tahun super El Niño. Dan di seluruh dunia, Anda telah melihat daerah-daerah yang biasanya penuh dengan kehidupan menjadi tidak ada kehidupan selama El Niño. Dan jika El Niño ini berlanjut dalam jangka waktu yang sangat lama, apa dampaknya terhadap titik panas hiu di Galápagos dan sejenisnya? Arus Humboldt. Jadi inilah yang sering aku pikirkan, dan aku sangat LELAH, dan aku sangat kesal karenanya. Jika Anda berdua stres karena El Niño dan ingin ngobrol, beri tahu saya. Saya selalu ada.

Zoë Schiffer: Dan untuk lebih jelasnya, titik rawan hiu bagi Leah adalah hal yang baik. Kami menginginkannya, sementara orang lain mungkin berpikir kepergiannya akan menyenangkan. Bukan untuknya.

Leah Feiger: Bukan untukku. Saya akan sangat sedih. Tapi inilah WIRED saya. Seekor ikan gua baru saja ditemukan di Alabama.

Brian Barrett: Hai.

Leah Feiger: Itu tidak memiliki mata.

Zoë Schiffer: Wow.

Leah Feiger: Dan itu disebut sebagai ikan gua setan. Peneliti yang menemukannya, yang berada di Universitas Auburn, menamainya dengan nama karakter di dalamnya Hal AsingDemogorgon. Begitu banyak kesenangan di sana. Gambarnya lucu sekali kawan. Ini seperti benda kecil yang tembus cahaya, dan Anda dapat melihatnya seperti bagian dalamnya yang kecil berwarna merah. Oh, bagus sekali. Dan saya sangat senang bahwa kita masih melakukan penemuan bawah air yang luar biasa di Alabama dan di seluruh tempat lainnya. Dan saya sangat menyukainya. Saya menghabiskan sebagian besar pagi saya untuk mempelajarinya.

Zoë Schiffer: Saya suka bahwa Anda tidak bisa mengatakan Alabama tanpa nada Selatan. Ini sangat istimewa bagiku.

Brian Barrett: Ya. Lea, aku akan—

Leah Feiger: Saya pikir itu adalah aksen Chicago yang keluar.

Brian Barrett: Saya akan mengunjunginya. Saya pikir gua itu berjarak satu setengah jam dari puncak saya, jadi saya bisa mengunjunginya.

Zoë Schiffer: Ya ampun. Di lapangan melaporkan dari Brian Barrett?

Brian Barrett: Ya, aku akan mengunjungi Demogorgon.

Leah Feiger: Saya tidak menginginkan apa pun lagi. Terima kasih banyak telah mendengarkan. Kami akan kembali minggu depan dengan lebih banyak lagi dari WIRED. Anda dapat mendengarkan percakapan lengkap dan episode podcast lengkap Lembah Luar Biasa di Wired.com. Lembah Luar Biasa diproduksi oleh Adriana Tapia dan Annmarie Fertoli. Itu dicampur oleh Pran Bandi dan diperiksa faktanya oleh Matt Giles dan Daniel Roman. Produser eksekutif kami adalah Kate Osborn. Juga, daftarlah Pembaruan Sistembuletin mingguan WIRED, tempat direktur editorial global kami, Katie Drummond, membawa Anda ke ruang redaksi kami dan mendiskusikan berita terbesar minggu ini. Tautan untuk mendaftar ada di deskripsi.