Mengapa Amazon Menghentikan Film OpenAI-nya, Pekerja Pusat Data Melawan, dan Meta Membocorkan Data Karyawan

Leah Feiger: Dan nanti di acaranya, kita akan mendapatkan update tentang bagaimana pembicaraan di antara keduanya Antropis dan pemerintah tampaknya menjadi lebih baik sekarang karena CEO Dario Amodei tidak ada di dalam ruangan.

Zoë Schiffer: Oke teman-teman, saya sangat bersemangat untuk membicarakan bisnis dengan film ini Palsuyang tiba-tiba dihentikan oleh MGM Studios Amazon. Jadi untuk mempercepat semua orang, Palsu adalah film karya sutradara Panggil Aku dengan Namamu Dan Penantangdua film bagus jika menurut saya demikian. Dan ini adalah drama biografi tentang OpenAI dan khususnya The Blip, yang merupakan momen di bulan November 2023 ketika Sam Altman tiba-tiba dipecat oleh dewan direksinya dan kemudian dengan cepat dipekerjakan kembali setelah pada dasarnya seluruh kompi memberontak. Saya benar-benar tidak percaya mereka membuat film lengkap tentang ini.

Brian Barrett: Ya.

Zoë Schiffer: Ini telah digambarkan sebagai Jejaring Sosialtapi untuk Era AI. Film ini menampilkan pemeran bertabur bintang dengan Andrew Garfield sebagai Sam Altman dan Monica Barbaro sebagai mantan CTO OpenAI, Mira Murati. Film itu seperti anggaran menengah. Saya pikir mereka menghabiskan $40 juta untuk produksi, tetapi pada dasarnya hampir selesai ketika Amazon mengumumkan bahwa mereka menghentikan film tersebut, dengan mengatakan, “Akan lebih baik jika dirilis oleh studio lain.” Keputusan tersebut menuai kritik karena Amazon pada dasarnya terlihat melakukan hal yang baik untuk Sam Altman, yang digambarkan dalam film tersebut dengan sangat buruk. Aku harus tahu apa yang kalian pikirkan.

Leah Feiger: Saya langsung mempunyai banyak pemikiran. Pertama, Andrew Garfield, kami tahu itu. Kami tahu itu akan selalu menjadi dia. Memainkan peran sebagai teknisi yang cengeng benar-benar ada di ruang kemudinya.

Zoë Schiffer: Dia terkenal berperan sebagai salah satu pendiri Facebook yang didorong oleh Mark Zuckerberg Jejaring Sosial.

Brian Barrett: Saya rasa juga ada konteksnya di sini, yaitu Amazon berinvestasi sebesar $50 miliar di OpenAI, bukan? Jadi kalau dibilang, ketika mereka bilang filmnya akan lebih baik dilayani oleh studio lain, menurut saya yang mereka maksud sebenarnya adalah studio itu akan lebih baik dilayani oleh film lain, bukan? Ini benar-benar seperti—

Leah Feiger: Untuk ya.

Brian Barrett: —jauh sekali dalam hal ini. Apa yang benar-benar mengejutkan saya tentang hal ini adalah sesuatu yang kita tahu akan datang dan sedang terjadi, namun sejauh mana industri film dan industri teknologi saling terkait saat ini. Amazon memiliki MGM. Paramount diakuisisi oleh keluarga EllisonLarry Ellison, jelas merupakan pendiri Oracle. Jadi semua miliarder teknologi ini sekarang saling terkait dengan industri film, yang benar-benar akan menentukan film mana yang akan dibuat dan mana yang tidak. Dan ini adalah contoh yang sangat mencolok.

Zoë Schiffer: Ya. Maksud saya, saya dapat berbicara secara langsung bahwa ada banyak proyek film Twitter/Elon Musk yang sedang dalam pembicaraan, tetapi sangat sulit untuk menampilkannya ke layar karena alasan yang jelas. Saya pikir filmnya, semua yang kami dengar adalah bahwa film itu tidak akan menarik bagi Sam Altman. Faktanya, The Blip cukup tidak menarik bagi Sam Altman karena alasan banyak eksekutif Sam Altman berpaling darinya dan mengatur apa yang disebut kudeta adalah karena mereka menganggapnya bermuka dua, berbohong, mengatakan hal yang berbeda kepada orang lain berdasarkan apa yang menurutnya ingin mereka dengar. Dan di film tersebut, sepertinya Ilya Sutskever, mantan kepala ilmuwan OpenAI, benar-benar tampil sebagai pahlawan. Dia kemudian mendirikan perusahaan lain yang benar-benar fokus pada kecerdasan buatan yang aman. Oleh karena itu, tidak mengejutkan saya bahwa ini akan menjadi proyek rumit yang harus diperjuangkan oleh Amazon. Selain investasi yang baru saja Anda bicarakan, Brian, mereka juga baru saja mencapai kesepakatan komputasi senilai $38 miliar.

Brian Barrett: Dan Sam Altman menjadi tamu di pernikahan Jeff Bezos tahun lalu. Ini masalah pribadi, finansial, dan semuanya.

Zoë Schiffer: Benar.

Brian Barrett: Dan harapan Anda, seperti versi ideal dari hal ini, adalah bahwa mereka akan memperlakukannya dengan cara yang sama seperti mereka memperlakukan industri media ketika para miliarder ini mengambil alih perusahaan-perusahaan ini di mana hal itu semacam lepas tangan, Anda melakukan apa yang Anda lakukan. Saya percaya seninya. Saya melakukan ini karena saya percaya akan hal itu. Bukan itu masalahnya. Hal serupa juga terjadi di industri media. Jeff Bezos jelas telah membuat beberapa perubahan besar di The Washington Post, ada semacam pengaruh yang, dalam dunia ideal, tidak akan terjadi. Perusahaan-perusahaan Hollywood sudah lama dimiliki oleh kepentingan-kepentingan yang kuat, namun hal ini hanyalah sebuah kasus yang terang-terangan.

Zoë Schiffer: Ya. Dan menurut saya untuk OpenAI, saat ini mereka sangat sensitif terhadap opini publik. Mereka merasa, dan bukan satu-satunya, Anthropic juga merasakan hal yang sama, bahwa AI semakin tidak populer. Sudah ada beberapa pembicaraan tentang Sam Altman yang akan digulingkan lagi sebelum OpenAI go public pada tahun ini, mungkin tahun depan. Jadi menurut saya, meskipun Anda mungkin berkata, “Oh, mereka bisa saja mengabaikannya. Mereka fokus pada hal lain. Mereka terbiasa dengan artikel media yang buruk dan mungkin penggambaran yang negatif.” Saya pikir mereka semakin berusaha mengendalikan pesan tersebut.

Brian Barrett: Dan juga medianya kan? Saya pikir kesepakatan lain yang terjadi minggu ini yang menarik banyak perhatian adalah Google DeepMind mengumumkan investasi $75 juta di A24kekasih indie tercinta, untuk menciptakan alat AI. Leah, aku tahu kamu merasa sangat sedih dan sedih tentang hal ini.

Leah Feiger: Ya. Tapi masalahnya aku agak benci A24.

Brian Barrett: Oh.

Leah Feiger: Lagipula itu sudah sangat terprogram. Saya seperti, ah, ya, film lain dengan warna sepia yang sama yang menampilkan aktor-aktor yang memainkan peran yang sama persis. Saat saya melihat A24 masuk ke tempat tidur dengan Google DeepMind, saya merasa, “Sempurna. Ini sudah merupakan algoritma yang menunggu untuk terjadi. Tentu saja mereka akan memberikannya kepada bot.”

Zoë Schiffer: Ya, konten ini dibuat untuk saya. Saya penggemar berat A24. Namun, saya telah berbicara dengan banyak orang di Hollywood tentang hal ini karena sudah ada semua kesepakatan ini, namun kita telah melihat OpenAI dan Anthropic, seperti laboratorium AI yang besar ini memberikan petunjuk bahwa kita akan dapat memproduksi film dengan AI dalam waktu dekat. Dan kemudian Anda benar-benar melihat film yang dihasilkan AI dan Anda menyukainya, tentu saja tidak. Namun yang saya dengar adalah AI semakin banyak digunakan untuk tujuan yang sangat spesifik. Ini seperti storyboard. Dan saya yakin bahwa dalam siaran persnya, Google DeepMind dan A24 menyebutkan hal itu sebagai kemungkinan kasus penggunaan. Hal-hal seperti rotoscoping, pada dasarnya sangat padat karya, area spesifik dari proses pengembangan film yang biasanya memakan banyak tenaga manusia dan sangat mahal serta Anda benar-benar dapat mengotomatiskannya. Menurut sebagian orang, hal-hal tersebut merupakan kasus penggunaan AI yang sangat bagus. Dan saya pikir kita akan mulai melihat lebih banyak gambar, seperti gambar tertentu di layar lebar yang dihasilkan oleh AI. Saya rasa saya akan sangat terkejut jika kita melihat film berdurasi panjang di layar lebar yang dihasilkan oleh AI dari awal hingga akhir dan bukan sekadar gimmick. Ada faktor buruk dalam menyadari bahwa sesuatu yang Anda lakukan dihasilkan oleh AI dan Anda tidak mengetahuinya—dan menurut saya hal ini penting untuk tidak diabaikan. Lalu adakah, bisakah hal itu benar-benar menciptakan sesuatu yang cukup berkualitas untuk muncul dalam konteks seperti itu?

Brian Barrett: Saya juga berpikir, satu hal yang, seperti yang Anda sampaikan sebelumnya, Zoë, adalah ketika orang melihat ada kesepakatan sebesar $75 juta, Anda berasumsi bahwa itu adalah untuk melatih AI. Anda berasumsi bahwa hal itu akan terjadi, oh, sekarang Google akan menyerap semua barang A24 ke dalam borg dan sejenisnya—tetapi bukan itu. Jadi ini menarik t Tentu saja hal ini masih kontroversial, tetapi hal ini benar-benar ditujukan untuk mereka, seperti mencoba menemukan alat yang dibuat khusus untuk mendukung pembuatan film non-AI, yang kemudian hilang dan, ya.

Zoë Schiffer: Anda membutuhkan manusia. Saya rasa ada ketakutan bahwa Google akan melatih modelnya pada katalog A24 dan hal itu secara khusus bukan bagian dari kesepakatan. Saya pikir mungkin Google menginginkan akses ke IP tersebut, jika saya harus menebaknya, tetapi akan menjadi langkah merek yang sangat buruk jika A24 memberi mereka akses tersebut.

Brian Barrett: Kita telah membicarakan tentang bagaimana segala sesuatunya terhubung—ajukan satu koneksi lagi di bawah ini: A24 memiliki Thrive Capital sebagai salah satu investornya. Yaitu perusahaan modal ventura milik Josh Kushner, saudara laki-laki Jared Kushner. Thrive memiliki OpenAI sebagai investasi besar, memegang saham besar di SpaceX, Warner Brothers yang akan dimiliki oleh keluarga Ellison—banyak hal yang terjadi dalam hal semua orang dimiliki oleh siapa pun yang terkait dengan semua orang.

Leah Feiger: Industri film mencoba menyesuaikan diri dengan AI. Ada orang lain yang membencinya karena berbagai alasan berbeda juga. Selain masalah kreativitas, ada pola yang terus kami perhatikan, yaitu reaksi yang terus-menerus dan semakin meningkat terhadap pusat data di seluruh negeri. Saat ini, lebih dari 40 persen rumah di AS berada dalam jarak 5 mil dari pusat data yang beroperasi, menurut analisis Pew Research Center. Dan ledakan konstruksi terus berlanjut ketika perusahaan AI besar menghabiskan miliaran dolar untuk infrastruktur guna memenuhi permintaan. WIRED telah melaporkan tentang warga yang menentang pembangunan pusat data di komunitas mereka karena segala dampak yang ditimbulkannya, mulai dari tagihan listrik yang lebih tinggi hingga kelangkaan air, kebisingan, apa saja. Jadi para pekerja yang secara teori merupakan pihak yang melaksanakan proyek-proyek ini sebenarnya juga melakukan penolakan dengan cara apa pun yang mereka bisa. Apakah kalian sudah mengikuti ini?

Brian Barrett: Ya, sangat menarik melihat evolusi ini. Saya pikir kita telah berbicara banyak tentang penolakan komunitas dan itu tetap menjadi cerita yang penting, tapi kita punya beberapa cerita di WIRED dan ada cerita di tempat lain tentang orang-orang yang terlibat langsung. Caroline Haskins, staf penulis WIRED, telah mempelajari dengan baik bagaimana teknisi listrik—bukan?—teknisi listrik sangat penting dalam membangun pusat data. Beberapa dari mereka sekarang berkata, “Tunggu sebentar, apakah ini membuat Anda laris? Apakah bekerja di pusat data berarti Anda mengkhianati prinsip yang lebih luas, bukan hanya prinsip kelistrikan, hanya prinsip manusia?”

Zoë Schiffer: Anda melewatkan bagian terbaik dari cerita itu, yaitu ketika tukang listrik mengatakan bahwa sangat sulit untuk berkencan setelah dia memberi tahu orang-orang bahwa dia adalah tukang listrik yang bekerja di pusat data.

Brian Barrett: Ini seperti Cybertruck. Ini seperti memiliki Cybertruck.

Zoë Schiffer: Itu benar-benar mengingatkanku akan hal itu.

Brian Barrett: Bekerja di pusat data adalah hal baru dalam memiliki Cybertruck.

Zoë Schiffer: Hal yang sulit tentang ini, menurut saya, maksud saya, jadi ya. Orang tidak ingin tinggal di dekat pusat data. Mereka meningkatkan tagihan energi Anda, mereka keras dan terang, dan mengambil segala macam sumber daya. Menurut saya itu sangat masuk akal. Dalam hal inisiatif ekonomi nasional, pusat data dalam beberapa hal merupakan satu-satunya yang kita miliki. Apakah aku akan tersinggung karena mengatakan hal itu? Menurut saya, ini adalah hal yang besar, AI adalah hal besar yang dipertaruhkan Amerika, dan menurut saya sulit untuk mencoba memperlambat atau memutarbalikkan hal tersebut dibandingkan mencoba dan mendorong mereka agar tidak terlalu mengerikan jika tinggal di dekatnya.

Brian Barrett: Tapi menurutku inilah masalahnya. Saya setuju. Pembangunan pusat data dan investasi pada AI adalah hal yang sedang menjadi fokus perekonomian AS saat ini. Dan ketika hal itu hilang—

Zoë Schiffer: Benar.

Brian Barrett: Ini akan sangat, sangat menyakitkan. Namun menurut saya, dampak buruknya adalah tidak banyak manfaat ekonomi langsung bagi Anda secara lokal jika pusat data tersedia. Biasanya ketika Anda merasa, oh, mereka membawa jalur kereta api ke kota, setidaknya Anda mendapat tambahan perdagangan dari jalur kereta api, bukan?

Zoë Schiffer: Benar.

Brian Barrett: Inilah yang terjadi.

Zoë Schiffer: Astaga.

Brian Barrett: Saya sudah cukup umur.

Zoë Schiffer: Ini adalah satu-satunya contoh kereta api yang akan saya terima.

Brian Barrett: Terima kasih. Ya bagus. Saya sudah berhasil. Jadi menurut saya itu bagian dari itu. Saya pikir pada saat yang sama, ada orang-orang di dalam perusahaan-perusahaan ini yang memimpin tugas ini. Jadi bukan hanya masyarakat yang terdampak langsung. Orang-oranglah yang benar-benar mendapat manfaat dari hal ini, baik para tukang listrik, maupun orang-orang di dalam Amazon. Misalnya, beberapa karyawan Amazon baru-baru ini mendesak Dewan Kota Seattle untuk mengatur pusat data. Jadi, bahkan orang-orang yang mungkin memiliki kepentingan finansial dalam hal ini pun menolaknya. Saya mengerti apa yang Anda katakan, Zoë, tapi menurut saya ada satu hal yang pasti—masuk akal bagi saya jika orang-orang berkata, “Tunggu, tunggu sebentar,” karena ini bukan perekonomian yang bisa diikuti oleh semua orang.

Zoë Schiffer: Tidak, sepenuhnya. Saya ingin menjadi jelas. Saya sepenuhnya memahami penolakan tersebut. Jika salah satu dari ini dibangun di lingkungan saya, saya akan menolaknya. Menurutku, wajar jika kita tidak ingin tinggal di dekat mereka. Saya rasa situasinya menjadi rumit ketika sebagian besar perekonomian kita kini bergantung pada industri ini. Ini bukan alasan untuk tidak mengatur, tapi menurut saya akan sangat rumit untuk membatalkannya. Saya juga penasaran, dan Leah, saya penasaran dengan perspektif Anda mengenai hal ini, hanya untuk melihat politisi mana yang benar-benar—saya terkejut bahwa Bernie Sanders telah menjadi penentang yang sangat vokal terhadap pusat data.

Leah Feiger: Ya. Senator Bernie Sanders dan perwakilan Alexandria Ocasio-Cortez, AOC, mereka memperkenalkan Undang-Undang Moratorium Pusat Datayang akan menghentikan pembangunan pusat data AI baru hingga ada upaya perlindungan nasional yang nyata. Dalam banyak hal, hal ini terdengar seperti isu yang sangat diperdebatkan oleh kelompok sayap kiri, namun yang mengejutkan, isu ini bersifat bipartisan. Ada banyak orang dari berbagai kalangan yang ikut terlibat karena konstituen mereka berusaha menjangkau dan berkata, “Apa yang kamu lakukan atas nama saya? Apa yang kamu lakukan di halaman belakang rumah saya? Apa manfaatnya bagi saya? Bagaimana hal ini merugikan saya?” Jadi menurut saya hal yang paling mengejutkan saya adalah sikap bipartisan dalam hal ini.

Zoë Schiffer: Ini menarik karena menurut saya, dan ini murni spekulasi saya, tetapi hanya berdasarkan bagaimana OpenAI berbicara tentang pusat data, benar-benar menjadi yang terdepan pada hari pertama konferensi. pemerintahan Trumpsemacam memperjuangkan proyek pembangunan pusat data besar. Saya seperti sedang membaca Chris Lehane, chief global Affairs officer perusahaan, yang sebelumnya menjabat posisi tinggi di Airbnb dan seorang pemecah masalah politik, karena ini adalah sesuatu yang dia dan OpenAI mungkin pikir akan sangat bermanfaat bagi perusahaan. Itu seperti pesan yang pertama di Amerika, bangun, sayang, bangun.

Leah Feiger: Kami memberikan pekerjaan kepada semua orang.

Zoë Schiffer: Mereka hanya salah membaca momen. Mereka tidak menyadari betapa beracunnya isu ini. Dan sekarang sangat sulit untuk mengubah pendirian mereka ketika mereka selalu merilis siaran pers setiap kali ada pusat data baru. Sekarang seperti, “Uh-oh, kita harus merahasiakannya karena orang-orang tidak menyukai ini.”

Brian Barrett: Dan menurut pendapat Anda, mereka tidak dapat mengembalikannya, sampai Anda dapat menempatkan pusat data di luar angkasa, karena mereka memerlukan komputasi.

Zoë Schiffer: Ngomong-ngomong, ini akan sangat sulit dilakukan.

Brian Barrett: Jika bukan tidak mungkin. Zoë, apakah ada kemungkinan perbedaan pendapat internal semacam itu, benar, tukang listrik berkata, “Saya rasa tidak.” Para pekerja di dalam perusahaan berkata, “Hei, kami juga tidak menyukai pusat data.” Adakah kemungkinan bahwa hal ini akan mengubah arah pembangunan, perusahaan, dan belanja negara?

Zoë Schiffer: Saya akan sangat terkejut. Saya tidak ingin mengatakan sama sekali tidak karena kita telah melihat contoh di mana para pekerja Google yang terkenal berkumpul, menolak Proyek Maven, beberapa proyek pencarian yang disensor untuk Tiongkok dan apa saja yang Anda miliki, dan peluncuran tersebut benar-benar dihentikan.

Brian Barrett: Secepatnya, Project Maven pada dasarnya bekerja dengan Pentagon, bukan, menggunakan Google Tech untuk DOD?

Zoë Schiffer: Tepat sekali. Jadi ya, itu pernah terjadi sebelumnya. Hal ini bisa saja terjadi lagi. Apa yang ingin saya katakan adalah dua hal. Pertama, penolakan yang kami lihat dari pekerja per jam sangat kecil jika Anda melihat keseluruhan angkatan kerja. Mereka mendatangkan ribuan orang. Saya pernah mendengar bahwa mereka membayar tarif yang jauh lebih tinggi daripada yang biasanya diterima orang dalam pekerjaan ini. Jadi menurut saya untuk industri yang secara historis membutuhkan banyak pekerjaan, saya kira akan ada orang-orang yang bersedia mengerjakan proyek-proyek ini dan kemudian kita akan mendengar sedikit perbedaan pendapat dan penolakan, yang lagi-lagi layak diberitakan, dan relevan, dan bukan siapa-siapa, tapi menurut saya mereka masih mampu mempekerjakan ribuan orang. Saya juga bisa mengatakan bahwa di tingkat perusahaan, meskipun kita mulai melihat adanya penolakan, penolakan yang lebih vokal dari para pekerja di perusahaan terkait dengan apa yang dilakukan perusahaan mereka, namun tingkat penolakannya masih jauh lebih rendah dibandingkan pada tahun 2018.

Brian Barrett: Terutama ketika pasar kerja sekarang sangat berbeda bagi para insinyur ini. Dan saya pikir beberapa tahun yang lalu ada titik balik ketika Google memecat sekelompok orang karena melakukan protes, padahal sebelumnya mereka mengizinkannya, setidaknya membiarkannya terjadi. Menurut saya, ada satu hal yang akan membuat manajemen mendengarkan karyawan dan itu adalah kesalahan besar, yang kita lihat di Meta baru-baru ini. Kami telah membicarakan sebelumnya tentang bagaimana Meta menginstal perangkat lunak pada perangkat karyawan untuk melacak setiap penekanan tombol, semua aktivitas layar, pada dasarnya pengawasan penuh terhadap karyawannya untuk membantu melatih AI. Minggu ini, WIRED menyampaikan berita tentang perusahaan tersebut membiarkan informasi yang berpotensi sensitif dari sesi tersebut terekspos dan dapat diakses oleh siapa pun di dalam Meta. Jadi, jika Anda adalah karyawan Meta, semua yang Anda lakukan di layar dapat dilihat oleh rekan kerja mana pun. Bisakah Anda bayangkan?

Zoë Schiffer: Tidak, dan saya merasa kita harus mundur sedikit lebih jauh lagi dan menjelaskannya kepada orang-orang. Jadi Mark Zuckerberg merasa tertinggal dalam perlombaan AI. Dia menginvestasikan miliaran dolar untuk membangun laboratorium AI baru ini, menghabiskan begitu banyak uang untuk talenta tertentu, memberi mereka begitu banyak sumber daya untuk mengejar ketertinggalan dan membangun model terdepan. Kemudian perusahaan tersebut berkata, “Kami menghabiskan begitu banyak dana untuk pembangunan AI sehingga kami harus memberhentikan banyak dari Anda, 10 persen dari angkatan kerja.” Lalu mereka berkata—

Brian Barrett: 8.000 orang.

Zoë Schiffer: Benar, 8.000 orang. Lalu mereka berkata, “Omong-omong, Anda akan memasang teknologi pengawasan di laptop Anda untuk melacak penekanan tombol Anda, suka atau tidak, untuk melatih model yang coba dibuat oleh laboratorium AI mewah yang terhubung dengan semua PHK ini. Dan kemudian, oh, ngomong-ngomong, kami membiarkan semua data itu terekspos secara tidak sengaja.”

Brian Barrett: Tapi kita akan menjadi seperti itu mengadakan hackathon dalam beberapa bulan untuk meningkatkan semangat. Satu hal yang mungkin menjadi hikmah atau hal baik dari hal ini adalah Meta mengumumkan hal itu mereka menghentikan sementara program pengumpulan data sementara mereka menyelidiki apa yang sebenarnya terjadi di sini, tapi itu adalah jeda. Ini adalah jeda.

Zoë Schiffer: Mereka bilang jeda. Kemudian kami memperbarui cerita itu pada malam itu juga dan mereka membuatnya sangat—mereka tidak mengatakan apa pun kepada seluruh perusahaan tentang kebocoran tersebut. Kami telah mendengarnya dari berbagai sumber berbeda. Mereka masih menguncinya. Kemudian pada larut malam, kami akhirnya mendapat pesan yang telah mereka kirimkan dan mereka sangat berkata, “Kami akan mengevaluasi apa yang terjadi di sini, pastikan tidak terjadi lagi sebelum kami meluncurkan kembali alat tersebut,” begitulah pesannya.

Brian Barrett: Orang yang sering menerima permintaan maaf tersebut adalah Meta CTO Andrew Boswo rth, yang dikenal sebagai Boz, dan ini terasa lebih menarik karena sebelum hal ini terjadi, sebelum kebocoran internal ini terjadi, orang-orang langsung bertanya kepadanya, “Bukankah ini berpotensi berbahaya dari sudut pandang privasi?” Dan dia mengatakan kepada karyawannya, “Sebenarnya, ini dikontrol dengan ketat dan kami menggunakan standar perlindungan, sistem penyimpanan, dan kontrol akses yang sama seperti kumpulan data sensitif lainnya,” yang membuat Anda khawatir tentang kumpulan data sensitif lainnya—

Zoë Schiffer: Sungguh-sungguh.

Brian Barrett: tempat Meta duduk.

Zoë Schiffer: Sama sekali. Saya senang dengan fitur yang kami tetapkan yang berjudul Boz dan Metamate-nya. Saya merasa seperti Brian, entahlah, sepertinya itu hanya sebuah cerita yang Anda akan menjawab ya.

Brian Barrett: Itu benar. Tidak dapat cukup menekankan bahwa Metamates adalah sebutan orang satu sama lain di dalam Meta. Apakah Anda ingin mendengar bocoran audio Mark Zuckerberg yang membahas inisiatif pelatihan dengan karyawan bulan lalu dan mengapa menurutnya hal itu penting?

Leah Feiger: Selalu.

Zoë Schiffer: Sangat.

Mark Zuckerberg, audio arsip: Kita berada dalam fase di mana pada dasarnya model AI belajar dari melihat orang-orang yang sangat pintar melakukan sesuatu. Secara umum, rata-rata kecerdasan orang-orang yang bekerja di perusahaan ini jauh lebih tinggi daripada rata-rata orang yang dapat Anda tugaskan. Jadi jika kita mencoba untuk mengajarkan model coding, misalnya, kemudian meminta orang secara internal membuat alat atau menyelesaikan tugas yang membantu mengajarkan model cara membuat kode, menurut kami kemampuan coding model kita akan meningkat secara signifikan lebih cepat dibandingkan dengan kemampuan yang dimiliki oleh orang lain di industri yang tidak memiliki ribuan insinyur yang sangat kuat di perusahaannya.

Zoë Schiffer: Anda sebenarnya sangat pandai membuat catatan rapat, sehingga Anda hebat dalam hal itu. Jadi kami harus memberimu pekerjaan itu.

Brian Barrett: Anda semua akan sangat ahli dalam mengganti diri Anda dengan AI, sehingga kami akan membiarkan Anda melakukannya lebih cepat.

Leah Feiger: Bisakah kita membicarakan perusahaan AI lainnya?

Zoë Schiffer: Ya ampun, Lea.

Leah Feiger: Mimpimu, Zoë, kamu sedang bermimpi—

Zoë Schiffer: Pergi kamu-

Leah Feiger: Tentang saya yang mengatakan itu.

Zoë Schiffer: Untuk sedikit waktu dan Anda siap untuk berbicara tentang AI sepanjang waktu.

Brian Barrett: Salah satu dari kita. Salah satu dari kita.

Leah Feiger: Ya, ini ada hubungannya dengan Anthropic dan pemerintah AS. Seperti yang kita ketahui, Anthropic sedikit berselisih dengan pemerintahan Trump mengenai model paling canggih mereka, Fable 5 dan Mythos 5, setelah Badan Keamanan Nasional menegaskan bahwa ada cara untuk melakukan jailbreak dan menonaktifkan pagar pengaman dalam model ini. Sejak itu, kedua belah pihak berusaha mencari jalan ke depan. Terkadang tampak ada pergerakan, terkadang tidak begitu. Namun baru-baru ini, Hugo Lowell dari WIRED melaporkan untuk buletinnya Lingkaran Dalam bahwa pemerintah telah melakukan banyak pembicaraan dengan Anthropic dalam beberapa hari terakhir, tampaknya membuat beberapa langkah, beberapa langkah yang menggembirakan, namun hal ini terutama disebabkan oleh fakta bahwa mereka tidak perlu lagi berinteraksi dengan CEO perusahaan, Dario Amodei. Kutipan ini akan selalu saya ingat selamanya, karena pemerintah sangat gembira karena Tom Brown, salah satu pendiri Anthropic dan kepala kebijakan publik Anthropic, Sarah Heck, telah memimpin penjangkauan ini. Ini adalah kutipan tentang ini yang kami dapatkan dari seorang pejabat. Saya tidak akan pernah bisa melupakannya. “Tom Brown tidak menjadi orang aneh seperti Dario dan benar-benar bisa terlibat.”

Zoë Schiffer: Menakjubkan. Maksudku, tidak ada yang pernah mengatakan bahwa Dario tidak terlalu aneh. Maksudku, pria itu eksentrik.

Brian Barrett: Saya suka kutipan ini untuk kita. Saya merasa kasihan padanya.

Leah Feiger: Aku merasa kasihan padanya, tapi sungguh luar biasa, apa yang berubah di sini. Tidak, tidak, ini bukan masalah teknis. Itu adalah dengan siapa interaksinya—

Zoë Schiffer: Benar.

Leah Feiger: Yang mana, saya tidak tahu, mungkin secara singkat adalah pemerintahan Trump. Pembicaraan ini telah dilakukan di tingkat tinggi, tingkat kelompok kerja, dan staf teknis.

Zoë Schiffer: Saya merasa kita perlu segera memberikan pertaruhan itu kepada orang-orang yang belum mengikuti setiap liku-liku kisah ini, yang mana, wow, otak Anda pasti sangat sehat dan saya iri, tapi…

Brian Barrett: Pasti menyenangkan. Ya.

Zoë Schiffer: Itu pasti menyenangkan. Pemerintah AS, setelah NSA pada dasarnya menuduh bahwa ada cara untuk melakukan jailbreak pada model tersebut, menerapkan kontrol ekspor pada model tersebut dan pada dasarnya mengatakan bahwa Anthropic tidak boleh mengizinkan warga negara asing mengakses model tersebut. Tidak ada cara teknis bagi Anthropic untuk melakukan itu. Jadi yang harus mereka lakukan adalah mengembalikan akses ke kedua model tersebut untuk semua orang. Ini adalah masalah besar bagi perusahaan. Jadi pembicaraan ini pada dasarnya mencoba untuk membahas dari sisi Antropis, apa yang perlu kita lakukan agar model tersebut kembali ke pasar? Dan dari pihak pemerintah AS, apa yang kita perlukan dari Anthropic agar model-model ini dapat diluncurkan dan tidak menjadi mimpi buruk keamanan siber yang besar?

Brian Barrett: Ya, terutama sepertinya pemerintahan Trump dari pemahaman kita adalah bahwa mereka meminta sesuatu yang pada dasarnya tidak mungkin. Mereka meminta model yang tidak bisa Anda jailbreak, dan itu bukan masalah. Sifat dari model-model ini, hal terbaik yang dapat Anda lakukan, yang dikatakan Anthropic, “Hei, kita bisa melakukan ini,” adalah membuat hampir mustahil untuk melakukan jailbreak universal di mana Anda bisa membuatnya melakukan apa pun yang Anda inginkan. Namun Anda dapat melihat bagaimana dalam percakapan, terutama seperti ini, dengan adanya seseorang yang dapat membicarakan masalah ini pada tingkat non-teknis dan politik, serta seseorang yang mungkin dapat menekan gagasan muluk-muluk mereka tentang AI, Anda dapat melihat betapa hal ini sangat penting dalam situasi seperti ini dan akan terus menjadi hal yang penting bagi semua perusahaan ini. Mereka semua harus pergi ke Gedung Putih suatu saat nanti dan menjelaskan mengapa model super kuat ini harus dirilis.

Zoë Schiffer: Anda sangat membutuhkan seseorang yang dapat memberikan penjelasan tanpa mengatakan paradoks Fermi, ortogonal. Mereka harus bisa berbicara bahasa Inggris.

Leah Feiger: Jadi apakah hal ini akan terjadi? Apakah kekhawatiran terhadap keamanan nasional dapat diatasi jika seseorang benar-benar mendengarkan narasumbernya selama lebih dari tiga menit tentang cara berbicara di depan umum?

Brian Barrett: Maksudku, ya. Saya akan melangkah lebih jauh. Jika mereka mendengarkan staf PR mereka dua bulan yang lalu, atau jika staf PR mereka mengambil cara yang berbeda, saya rasa kami tidak akan berada di sini.

Zoë Schiffer: Ya. Maksud saya, tapi ini adalah hal yang menarik, karena Anthropic telah menghabiskan banyak waktu di depan umum untuk mengatakan, “AI benar-benar berbahaya. AI dapat mengakhiri umat manusia. Model kami sangat menakutkan, dan sangat baik dalam keamanan siber, dan peretasan, sehingga kami tidak dapat merilisnya ke publik.” Jadi saya merasa mereka sudah melakukannya, dan Dario Amodei khususnya telah menempatkan dirinya dan perusahaan pada posisi yang sangat spesifik ini, dan sebenarnya juga mengatakan bahwa kita memerlukan banyak peraturan pemerintah. Ketika mereka mengatakan semua hal tersebut dan mereka tidak memiliki hubungan yang kuat dengan Pentagon, mereka mengambil tindakan yang sangat, sangat baik. Belum lama ini terjadi perselisihan besar karena Anthropic mencoba memberikan batasan dan mengatakan, “Anda tidak dapat menggunakan model kami untuk jenis aksi militer apa pun yang Anda inginkan. Anda tidak dapat membuat senjata otonom dengan model tersebut,” atau apa pun yang Anda lakukan. Dan Pentagon berkata, “Anda tidak bisa memutuskan apa yang kami lakukan dengan model-model ini. Ini adalah AI Amerika dan kami ingin melakukan apa yang ingin kami lakukan.”

Brian Barrett: Setelah jeda, kami akan membagikan pilihan WIRED/TYRED kami untuk minggu ini. Tetaplah bersama kami.

Zoë Schiffer: Saatnya untuk segmen WIRED/LELAH kita. Anda tahu latihannya, apa pun yang baru dan keren adalah WIRED, apa pun hal lama yang kita selesaikan adalah LELAH.

Leah Feiger: OKE. Saya akan memulai dengan positif. WIRED saya adalah Caroline Calloway. Dia adalah—

Brian Barrett: Wow.

Leah Feiger: Kembali ke feed kami, kembali ke feed kami, teman-teman, yang baru saja mengalami perpisahan yang buruk dan mempostingnya.

Brian Barrett: Beri orang dua kalimat tentang Caroline Calloway, karena saya sudah terlalu banyak online selama dekade terakhir, tetapi tidak semua orang melakukannya. Jadi beri tahu mereka sedikit tentang siapa ini dan mengapa ini sangat menarik.

Leah Feiger: Caroline Calloway seperti seorang gadis yang dulunya lebih grifter, sekarang berada di pusat kota Dime Square. Saya mendorong Anda, jika Anda tidak tahu siapa wanita ini, untuk terjun ke lubang kelinci. Sangat, sangat menyenangkan. Tidak dapat merekomendasikan lebih banyak.

Zoë Schiffer: Jadi dia WIRED.

Leah Feiger: Ya, dia adalah WIRED-ku dan LELAH-ku adalah Emily Sundberg dari Feed Me.

Brian Barrett: Leah hanya akan melakukannya.

Zoë Schiffer: Kami sedang membakar.

Brian Barrett: Melakukannya.

Leah Feiger: Kami sedang membakar. Zoë tahu aku sudah mempunyai firasat tentang hal ini sejak lama. Substack Emily Sundberg dulunya adalah salah satu favorit saya. Menurutku dia melakukan sesuatu yang sangat, sangat keren. Dia membuat berita bisnis, berita teknologi, dan berita budaya. Baru-baru ini, dalam beberapa minggu, bulan terakhir, banyak orang yang juga memperhatikan Emily Sundberg. Dia mendapatkan banyak pers dan kolaborasi, dan saya berusaha keras untuk mengungkapkannya dengan benar dan ramah, tetapi buletin terbarunya minggu ini di mana dia mewawancarai Mark Zuckerberg dari Meta tentang gaya dan waktunya di Harvard membuat saya ingin mati. Sangat LELAH, Emily Sundberg. Saya sangat menyesal. Saya pikir Anda bisa menariknya kembali. Sebenarnya, tapi semua yang kamu tulis sekarang memalukan dan aku sudah melupakannya.

Zoë Schiffer: OKE. Itu pendapat khusus Leah, Emily. Saya masih menyukai buletin Anda.

Brian Barrett: Leah belum tentu berbicara mewakili Lembah Luar Biasa secara keseluruhan.

Zoë Schiffer: Tidak, sebenarnya kami sangat terpecah. Kami telah menyadarinya selama pod ini. Baiklah, Brian, ayo pergi ke—

Brian Barrett: Tidak, saya tidak bisa mengikuti itu.

Zoë Schiffer: Saya harap Anda mendapatkan WIRED/LELAH paling hangat yang pernah ada.

Brian Barrett: Saya tidak bisa mengikuti itu. Tidak. WIRED berteman dan TIRED berteman—tidak, milikku membosankan dibandingkan dengan itu, tapi aku akan tetap mengatakannya. Leah, kamu seharusnya berada di urutan kedua. Anda seharusnya bersikeras. WIRED saya adalah truk EV murah. Truk EV murah. Di sana saya mengatakannya. Jangan lihat aku seperti itu. Slate adalah truk EV baru itu sudah dikerjakan selama beberapa waktu. Ada banyak hype di baliknya, tetapi mereka akan menjualnya seharga $25.000, yang masih merupakan perubahan yang bagus. Tapi rata-rata harga mobil baru di Amerika, ada yang tahu berapa? $50.000 adalah harga rata-rata mobil baru. Jadi mereka datang dengan truk listrik. Semuanya abu-abu. Ini sangat membosankan. Tanpa embel-embel, tapi harganya $25.000. Jadi ini adalah truk listrik yang mudah diakses dan dapat dibeli oleh siapa saja. Dan alasan mereka bisa melakukan itu adalah karena mobil ini tidak punya apa-apa. Anda harus memutar jendelanya, Anda harus membayar ekstra untuk setiap jendelanya—seperti Spirit Airlines dari kendaraan listrik di mana Anda harus membayar untuk—

Zoë Schiffer: Tunggu, ini LELAH. Kami tidak menginginkan ini.

Brian Barrett: Tidak, ini KABEL. Saya suka ini. Menurut saya ini WIRED, ada EV terjangkau yang bisa Anda beli dan kemudian Anda tinggal menambahkannya, ada lebih dari 200 aksesori yang bisa Anda tambahkan ke dalamnya. Jadi jika Anda menginginkan hal-hal lain pada mobil ini, Anda ingin mobil tersebut memiliki warna, misalnya, atau Anda ingin jendela otomatis atau apa pun, Anda dapat menambahkannya sepotong demi sepotong dan berbeda pada setiap mobil daripada secara otomatis Anda masuk dan harus membayar $50.000 untuk barang-barang yang mungkin tidak Anda inginkan atau butuhkan. Saya pikir saat ini, terutama ketika pemerintah menarik kembali insentif f atau EV, ada dorongan besar terhadap minyak. Untuk melihat sesuatu yang benar-benar dapat dibeli dan disesuaikan oleh orang-orang, yang memiliki jangkauan yang layak, menurut saya sangat bagus, tidak terduga. Itu WIRED saya. LELAH adalah kebalikannya.

Zoë Schiffer: Saya tahu ketika Anda mengatakan Spirit Airlines, saya merasa, kedengarannya negatif. Saya sangat ingin menjadikan Rivian sebagai mobil saya berikutnya. Aku semua terlibat dalam listrik. Ya.

Brian Barrett: aku menunggunya R3yang tampaknya tidak akan keluar hingga tahun 2030.

Zoë Schiffer: Ya ampun. Ya.

Brian Barrett: Tetap bertahan.

Leah Feiger: Aku hanya ingin Subaru. Saya ingin Subaru EV. Saya menyebarkannya ke alam semesta.

Brian Barrett: Ya.

Leah Feiger: Datanglah melalui Subaru.

Zoë Schiffer: Itulah pertunjukan kami hari ini. Kami akan menautkan ke semua cerita yang kami bicarakan di catatan acara. Lembah Luar Biasa diproduksi oleh Konten Kaleidoskop. Adriana Tapia memproduseri episode ini. Itu di-mix oleh Amar Lal dengan suara Makro. Fakta itu diperiksa oleh Daniel Roman. Pran Bandi adalah insinyur studio kami di New York. Marc Leyda adalah insinyur studio kami di San Francisco. Kimberly Chua adalah manajer produksi digital senior kami. Kate Osborn adalah produser eksekutif kami dan Katie Drummond adalah direktur editorial global WIRED.