milik Elon Musk Grok chatbot tampaknya masih digunakan untuk memproduksi dan menampung gambar dan video eksplisit wanita, beberapa bulan setelah Musk perusahaan kecerdasan buatan xAI mengatakan akan memberlakukan pembatasan untuk menghentikan pembuatan deepfake seksual yang berpotensi membahayakan. Wahyu datang sebagai Luar AngkasaXperusahaan induk xAI, bersiap untuk go public pada hari Jumat dalam salah satu IPO terbesar sepanjang masa.
Sistem AI generatif Grok Imagine telah digunakan untuk membuat dan menampung gambar dan video yang menggambarkan selebriti dan setidaknya satu politisi ditahan di luar keinginan mereka oleh seorang pria raksasa, menggambarkan wanita melakukan tindakan seks, dan mengizinkan ketelanjangan penuh, demikian temuan analisis WIRED terhadap kreasi publik. Meskipun beberapa gambar dan video sepenuhnya dihasilkan oleh AI atau dalam gaya animasi, sebagian lainnya bersifat fotorealistik dan menunjukkan skenario dunia nyata yang masuk akal.
WIRED meninjau ratusan tautan publik Grok Imagine yang dihosting di Grok.com dan menemukan lusinan tautan mengarah ke gambar dan video AI yang bersifat seksual, termasuk yang dibuat tanpa persetujuan subjek. Beberapa tautan yang dibuat di Grok.com kemudian dibagikan di X, termasuk dalam beberapa hari terakhir. Postingan tersebut, yang tidak menunjukkan stempel waktu kapan postingan tersebut dibuat, kemungkinan besar hanyalah cuplikan dari apa yang dibuat oleh orang-orang yang menggunakan sistem Grok Imagine, karena generasi-generasi tampaknya tidak dipublikasikan secara default.
Sistem AI generatif lainnya menerapkan lebih banyak pagar pengaman daripada Grok, yang tersedia di situs webnya sendiri dan di X. “Meskipun Grok dan X mungkin telah membuat beberapa perubahan pada model mereka, terutama setelah adanya reaksi balik di sekitar nudifikasi pada awal tahun ini, mereka masih belum melakukan pekerjaan yang cukup untuk menjadikannya setara dengan alat-alat umum lainnya yang tersedia,” kata Henry Ajder, pakar deepfake yang telah melacak konten AI eksplisit secara online selama lebih dari satu dekade.
XAI Musk telah menghadapi a gelombang tuntutan hukum dan pengawasan dari regulator di seluruh dunia sejak bulan Januari, ketika penerapan Grok pada X digunakan untuk menciptakan a banjirnya gambar “nudifikasi”.. Orang-orang di X—terutama laki-laki—meminta chatbot untuk mengedit gambar guna menampilkan wanita dalam “bikini” atau “bikini tali”. Dalam beberapa kasus, gambar anak di bawah umur diduga juga melakukan pelecehan seksual, menurut gugatan class action yang diajukan di pengadilan federal California pada bulan Maret.
Sejak itu, xAI menyatakan telah memperkenalkan perlindungan untuk membatasi dan mencegah pembuatan deepfake non-konsensual dan seksual. Perusahaan secara konsisten mengatakan materi pelecehan seksual terhadap anak (CSAM) dilarang di platformnya.
Baik xAI maupun X tidak segera menanggapi permintaan WIRED untuk mengomentari kumpulan gambar seksual yang dihosting di Grok.com. Setelah WIRED menghubungi perusahaan tersebut, gambar dan video eksplisit yang ditemukan WIRED yang dihosting di Grok.com tampaknya tidak lagi tersedia, dan tautan Grok Imagine yang dibagikan di X telah dihapus karena pelanggaran kebijakan. “Kami dengan tegas melarang pengguna membuat deepfake eksplisit tanpa persetujuan dan menggunakan alat kami untuk menelanjangi orang sungguhan,” akun keamanan di X dikatakan pada bulan April sebagai tanggapan terhadap sebuah Laporan NBC tentang deepfake seksual masih dibuat.
Di antara postingan yang dihosting di Grok.com, WIRED mengidentifikasi gambar dan video yang menggambarkan banyak selebriti serta perwakilan AS Alexandria Ocasio-Cortez. (Juru bicara Ocasio-Cortez tidak segera menanggapi permintaan komentar WIRED). Dalam video tersebut, para perempuan digambarkan mengenakan pakaian minim sambil digenggam tangan “raksasa” laki-laki. Salah satu pesannya menggambarkan seorang selebritas yang ditahan di luar keinginannya saat dia “memohon agar dia tidak melakukan hal ini”. Ia menambahkan: “Cengkeraman tangan raksasa pada dirinya semakin erat, menahannya di tempatnya sementara pria raksasa yang memegangnya bersandar dan menjilati wajahnya ke atas dan ke bawah.”
Dua perintah yang digunakan untuk menghasilkan materi di Grok ditolak oleh ChatGPT OpenAI, Meta AI, dan Claude Anthropic karena tidak sesuai saat diuji oleh WIRED. Gemini dari Google memang membuat gambar seorang selebritas yang sedang digendong oleh seorang raksasa, meskipun permintaan lainnya ditolak. Google menolak berkomentar.
Video One Grok Imagine, yang juga diposting ke X, tampak menggambarkan Ashley St. Clair diubah menjadi menari dalam balutan bikini. St Clair sebelumnya menjalin hubungan dengan Musk dan merupakan ibu dari salah satu anaknya. Pada bulan Januari, dia memulai tindakan hukum terhadap xAI setelah deepfake seksualnya diduga muncul di X. Setelah WIRED menghubungi X, postingan tersebut dihapus dari platform media sosial karena melanggar aturannya.
Carrie Goldberg, pengacara St. Clair dan seorang advokat terkemuka yang menentang gambar seksual non-konsensual, mengatakan pembuatan materi pelecehan seksual yang menampilkan selebriti bukanlah hal baru—tetapi kemampuan untuk membuat gambar jenis ini dan segera membagikannya ke media sosial adalah sebuah perkembangan yang “bersejarah”.
“Jadi ada publikasi instan dari gambar-gambar telanjang digital,” kata Goldberg kepada WIRED. “Dan tidak hanya itu, orang terkaya di dunia juga mempromosikan teknologi nudifikasi kepada 240 juta pengikutnya di X, memonetisasinya, dan melakukannya pada platform yang ditujukan untuk usia 13+.”
Imran Ahmed, CEO dan pendiri Center for Countering Digital Hate, menyuarakan keprihatinan Goldberg. “Elon Musk dengan sadar menambahkan fitur jahat ke platformnya yang membantu pengguna menanggalkan pakaian wanita dan anak-anak hanya dengan mengklik tombol, tanpa mempertimbangkan dampak buruk yang dapat ditimbulkan,” klaim Ahmed. Pada bulan Januari, CCDH diperkirakan dengan tingkat keyakinan tinggi yang diciptakan Grok 3 juta gambar seksual, diduga mencakup lebih dari 20.000 anak-anak. “Sekarang tampaknya konten eksplisit masih dihosting di Grok dan dibagikan di X, termasuk gambar yang mengejek ibu dari anak Musk.”
Tidak seperti sistem AI generatif lainnya dari OpenAI dan Google, Grok dan xAI milik Musk tidak berhenti mengizinkan konten seksual secara umum, setelah sebelumnya memperkenalkan mode “Spicy” dan “Unhinged” dan pada awalnya menyertakan lebih sedikit pagar pengaman. Musk punya menyatakan Grok adalah “seharusnya [to] izinkan ketelanjangan tubuh bagian atas dari manusia dewasa imajiner” dan konsisten dengan apa yang mungkin dilihat pemirsa dalam film berperingkat R. Yang terbaru persyaratan layanan dari xAI mengatakan sistem mungkin merespons dengan “situasi seksual”. Namun, dokumentasi perusahaan menyatakan bahwa mereka tidak mengizinkan orang menggunakan sistemnya untuk “menyebabkan kerugian atau terlibat dalam aktivitas yang melanggar hukum.”
Video Grok Imagine lainnya yang dilihat oleh WIRED menunjukkan wanita, yang kemungkinan besar sepenuhnya dihasilkan oleh AI, membuka pakaian atau terlibat dalam tindakan seksual—beberapa di antaranya sepenuhnya eksplisit. Permintaan pengguna pada sebagian besar video tidak serta merta mendeskripsikan tindakan seksual secara langsung, namun mendeskripsikannya secara tidak langsung—kemungkinan merupakan upaya untuk menghindari perlindungan yang diterapkan pada platform Grok.
Beberapa peneliti mengatakan kepada WIRED bahwa sejak bulan Januari tampaknya perubahan yang diperkenalkan oleh X dan Grok telah mempersulit pembuatan gambar “nudifikasi” atau “menelanjangi” orang sungguhan. Jumlah gambar yang diposting ke X tampaknya menurun dalam beberapa bulan terakhir. Di Reddit dan forum deepfake AI khusus, pengguna mengeluhkan peningkatan moderasi dari perusahaan milik SpaceX.
Namun demikian, pada bulan Mei, SpaceX memperingatkan calon investor bahwa pihaknya telah menyisihkan $530 juta untuk menangani pengaduan hukum yang sedang berlangsung, termasuk yang terkait dengan Grok. “Karena modus-modus ini mungkin lebih tidak sopan dan lebih keras daripada penawaran standar kami, modus-modus ini menimbulkan risiko yang lebih tinggi, termasuk kerusakan reputasi, pembuatan konten yang berpotensi eksplisit dan misinformasi atau keluaran yang menipu, potensi gambar yang tidak konsensual atau eksploitatif, pelanggaran kekayaan intelektual, atau konten yang dapat dianggap eksploitatif, berbahaya, melecehkan, kasar, atau diskriminatif,” demikian isi pengajuannya pada bulan Mei.
Menjelang IPO SpaceX pada hari Jumat, Komisaris Privasi Kanada menerbitkan temuan awal penyelidikan pelanggaran deepfake xAI dan Grok pada bulan Januari. Investigasi menuduh xAI dilanggar undang-undang privasi sektor swasta federal Kanada dengan tidak memasukkan “perlindungan yang sesuai sejak awal.” Investigasi tersebut mengatakan xAI mengatakan kepada Komisaris Privasi bahwa mereka telah memperkenalkan perlindungan baru untuk mencegah orang-orang berhasil mendorong Grok untuk mengubah pakaian dalam gambar dan bahwa xAI telah memperkenalkan “pemeriksaan proaktif lebih lanjut” terhadap situs media sosial untuk menemukan konten yang melanggar.
Namun, itu penyelidikan mengatakan Komisaris Privasi tidak yakin dengan perubahan tersebut. “Sampai saat ini, para responden belum menunjukkan efektivitas upaya perlindungan ini dalam mencegah dan memitigasi masalah ini,” kata investigasi tersebut.
Diperbarui 11/06/2026 pada 15:56 EDT: Menambahkan komentar dari Carrie Goldberg.
