Minggu lalu, Taylor Swift mengajukan a trio aplikasi merek dagang untuk melindungi citra dan suaranya. Salah satunya dimaksudkan untuk menutupi foto terkenal penyanyi pop yang memegang gitar merah muda selama konser tur Eras yang memecahkan rekor, sedangkan dua merek dagang suara adalah untuk frasa pengidentifikasi sederhana: “Hei, ini Taylor Swift” dan “Hei, ini Taylor.”
Langkah itu dilakukan sebagai Kepalsuan AI terus berkembang biak di media sosial. Setiap individu kemungkinan besar kemiripannya akan dieksploitasi dalam pembuatan materi yang dihasilkan oleh AI tanpa persetujuan; awal bulan ini, seorang pria Ohio adalah orang pertama yang dihukum berdasarkan undang-undang federal baru yang mengkriminalisasi penipuan visual “intim” semacam ini. Sementara itu, para selebritis menghadapi risiko deepfake yang eksplisit dan dukungan palsu.
Yang baru laporan dari perusahaan pendeteksi AI Copyleaks menunjukkan bahwa Swift dan bintang lainnya baru-baru ini menggunakan kemiripan mereka dalam iklan penipuan. Para peneliti mengidentifikasi sekelompok video bersponsor di TikTok yang tampaknya menunjukkan Swift, Kim Kardashian, Rihanna, dan lainnya mempromosikan “layanan yang berpotensi menipu atau jahat,” dengan klip tersebut memanfaatkan apa yang oleh para peneliti disebut sebagai “suara yang terdengar realistis” serta “filter bertekstur yang dimaksudkan untuk menutupi beberapa kelemahan dalam visual yang dihasilkan AI.”
Iklan palsu tersebut menampilkan Swift dkk. dalam suasana wawancara yang umum—acara karpet merah atau acara bincang-bincang. Namun, alih-alih menjawab pertanyaan, para selebritas yang diciptakan oleh AI ini justru membicarakan program hadiah yang mana pengguna TikTok dibayar untuk memberikan masukan terhadap konten yang disajikan kepada mereka.
“Saya membaca tentang perilaku digital minggu ini dan menemukan fitur pengujian yang disebut TikTok Pay,” kata Swift yang dipalsukan dalam sebuah iklan yang menggunakan rekaman yang dimanipulasi dari sebuah video. penampilan Swift yang asli dibuat Pertunjukan Malam Ini Dibintangi Jimmy Fallon pada bulan Oktober. “Pengguna tertentu diundang untuk menonton video dan menyampaikan pendapat.” Swift yang dipalsukan melanjutkan dengan mengatakan bahwa program tersebut sedang dalam “peluncuran terbatas” untuk saat ini tetapi mendorong pemirsa untuk melihat apakah mereka memenuhi syarat untuk itu, dengan menambahkan: “Jika halaman terbuka untuk Anda, jangan terlalu memikirkannya.”
Tentu saja, siapa pun yang mengklik diterima. Iklan-iklan ini pada akhirnya mengarahkan pengguna ke layanan pihak ketiga yang, terlepas dari nama dan logo TikTok, ternyata telah diberi kode getaran menggunakan platform AI Lovable, yang mereknya sendiri muncul di halaman dan di URL. Pada titik ini, kata para peneliti, pengguna diminta untuk mulai memasukkan nama dan informasi pribadi mereka.
Meskipun tidak jelas apa yang ingin dilakukan pengiklan dengan semua data yang diperoleh melalui promosi deepfake selebriti mereka, iklan penipuan dengan tujuan serupa sangat umum terjadi. Pekan lalu, Federasi Konsumen Amerika nirlaba menggugat Meta, menuduh bahwa raksasa teknologi tersebut menyesatkan pengguna Facebook dan Instagram tentang upayanya untuk menindak iklan penipuan—dan mengambil keuntungan dengan membiarkan iklan tersebut berkembang biak. Pada hari Senin, Komisi Perdagangan Federal AS dilaporkan bahwa penipuan media sosial telah meningkat secara keseluruhan, penipuan Facebook menyumbang total kerugian finansial tertinggi.
Tidak mengherankan jika Swift dan rekan-rekannya mengambil langkah hukum untuk menjauhkan diri dari penipuan ekonomi ini. Meskipun Swift belum secara terbuka mengomentari alasan di balik pengajuan merek dagangnya, kerusakan reputasi yang ditimbulkan oleh deepfake yang menipu terhadap mereknya yang bernilai miliaran dolar tidak dapat diabaikan. Masalahnya, mereka semakin canggih dari hari ke hari.
