Ketika ahli disinformasi Tal Hagin bertanya Grok untuk memverifikasi postingan di X tentang rudal Iran yang diduga menyerang Tel Aviv, chatbot bertenaga AI milik Elon Musk gagal total.
Grok berulang-kali salah diidentifikasi lokasi dan tanggal video aslinya dibagikan di X oleh outlet media milik negara Iran pada hari Minggu. Kemudian, chatbot mencoba membuktikan maksudnya dengan berbagi gambar yang dihasilkan AI.
“Sekarang Grok membalas dengan kehancuran AI,” tulis Hagin sebagai tanggapan. “Dimasak, aku beritahu kamu.”
Interaksi ini dengan rapi merangkum betapa terpecahnya realitas X sejak AS dan Israel memulai serangan mereka terhadap Iran pada tanggal 28 Februari. WIRED melaporkan pada saat ituplatform media sosial dengan cepat dibanjiri disinformasi oleh akun-akun yang membagikan video palsu dan digunakan ulang.
Ketika konflik terus berlanjut, banjir semakin parah. Dalam beberapa hari terakhir, teknologi ini telah ditingkatkan dengan gambar dan video AI Grok berulang kali memberikan informasi palsu ketika diminta untuk memverifikasi klaim yang dibuat pada platform. Gambar AI dibagikan oleh akun berbayar yang diberi tanda centang biru dan pejabat Iran berusaha menggambarkan kerusakan yang berlebihan.
Perkembangan alat pembuat gambar dan video AI yang mudah diakses telah menyebabkan semakin canggihnya konten palsu. Pada tanggal 2 Maret, misalnya, para pejabat Iran dan media pemerintah membagikan video a gedung bertingkat tinggi di Bahrain terbakar. Video dan gambar tampak cukup realistis bagi banyak orang: Satu gambar tentang pesawat pembom B-2 AS yang ditembak jatuh oleh Iran saat pasukan AS ditahan telah dilihat lebih dari satu juta kali sebelum dihapus, sementara gambar anggota Delta Force yang ditangkap oleh otoritas Iran dilihat lebih dari 5 juta kali sebelum dihapus.
Beberapa konten AI yang dipromosikan di X kurang realistis. Salah satu video, misalnya, menunjukkan pasukan Iran membuat rudal jauh di dalam gua. Namun, video tersebut masih dibagikan oleh banyak akun dan telah dilihat lebih dari satu juta kali.
AI juga digunakan oleh pemerintah Iran untuk mendorong narasi antisemit secara terang-terangan, dengan akun-akun di jaringan propaganda pro-rezim di X membagikan postingan yang dibuat oleh AI yang menggambarkan orang-orang Yahudi Ortodoks memimpin tentara Amerika berperang atau merayakan kematian orang Amerika, menurut para peneliti dari Institute of Strategic Dialogue (ISD), yang berbagi analisis mereka dengan WIRED.
Sejumlah akun di jaringan pro-rezim ini juga membagikan video palsu yang diduga menunjukkan barisan gadis-gadis muda berjalan melewati Presiden Donald Trump hanya dengan mengenakan pakaian dalam. Postingan tersebut telah dilihat lebih dari 6,8 juta kali, menurut ISD, sebelum dihapus, meskipun postingan tersebut terus dibagikan oleh akun lain di X.
“Hal yang unik tentang perang ini adalah peningkatan dramatis dalam konten yang dihasilkan AI yang saya bantah,” kata Hagin kepada WIRED. “Hal ini mungkin terjadi karena AI sudah cukup canggih untuk membodohi jurnalis, dan mudahnya pengguna membuat kesalahan AI tanpa konsekuensi apa pun. Semakin lama kita tidak menerapkan peraturan yang melarang penyalahgunaan AI, semakin banyak kerugian yang akan ditimbulkan. Saya melihat perkembangan berita palsu berbasis AI mendorong kita ke ambang batas dunia yang berbasis fakta kecuali kita melakukan perubahan sekarang.”
Ketika banjir konten palsu yang dihasilkan oleh AI mulai mengambil alih platform tersebut minggu lalu, X mengumumkan bahwa mereka akan melakukan demonetisasi sementara terhadap akun-akun yang diberi tanda centang biru jika mereka memposting video konflik bersenjata yang dibuat oleh AI tanpa label. X tidak menanggapi permintaan komentar tentang berapa banyak akun yang telah didemonetisasi sejak penerapan kebijakan tersebut. Sampai saat ini, sejumlah Para pejabat Iran tampaknya membayar X untuk layanan premiumnya, yang memberi akun mereka tanda centang biru, meningkatkan keterlibatan, dan menciptakan potensi menghasilkan uang untuk postingan mereka.
Disinformasi non-AI juga terus berkembang di X. Dalam beberapa hari terakhir, hal ini terfokus pada serangan terhadap sebuah sekolah dasar di Minab, Iran, pada tanggal 28 Februari, di mana lebih dari 168 orang, 110 di antaranya adalah anak-anak, terbunuh. Akun pro-Trump punya menggunakan kembali rekaman dari tempat lain dalam konflik saat ini untuk mendorong narasi bahwa pemerintah Iran menembakkan rudal yang menghantam sekolah tersebut. Sebuah video yang dirilis oleh kantor berita Iran pada hari Minggu, dan diverifikasi oleh The New York Timesmenunjukkan rudal jelajah Tomahawk menghantam pangkalan angkatan laut yang terletak di sebelah sekolah. Meskipun klaim Trump bahwa Iran memilikinya, AS adalah satu-satunya pihak dalam konflik yang menggunakan rudal Tomahawk.
Meskipun banyak disinformasi tentang perang, termasuk konten yang dihasilkan AI, dibagikan di X, pada hari Selasa, Dewan Pengawas Meta dikritik pendekatan perusahaan dalam memberi label pada konten lain yang dihasilkan AI. Dewan tersebut mengatakan Meta “tidak cukup kuat dan komprehensif untuk menangani skala dan kecepatan misinformasi yang dihasilkan oleh AI, terutama selama krisis dan konflik.” Meta berkata dalam a pernyataan yang diposting online bahwa pihaknya menyambut baik temuan dewan tersebut.
“Seiring dengan semakin canggihnya gambar dan video yang dihasilkan AI, pengguna mungkin tidak akan mempertanyakan visual yang dijadikan sebagai ‘bukti’ untuk mendukung klaim pro-Iran padahal terlihat begitu nyata,” Isis Blachez, analis pengawas media NewsGuard, mengatakan kepada WIRED. “Sumber daya yang tersedia untuk mengevaluasi keaslian konten juga memiliki kekurangan. Misalnya, alat pendeteksi AI tidak selalu berhasil mengenali konten AI.”
