Julie Carpenter tidak menyalahkan pengguna manusia sama sekali karena melakukan antropomorfisasi chatbots. Pakar interaksi manusia-AI sejak lama dan penulis Android Telanjang melihat alat AI generatif, seperti ObrolanGPTyang sengaja dirancang untuk memperoleh reaksi ini dari pengguna melalui ingatan dan interaksi yang sangat dipersonalisasi yang meniru pengalaman sosial.
Hubungan sepihak ini bisa menjadi lebih rumit, dan berpotensi menimbulkan bencana Erotika yang dihasilkan AI ditambahkan sebagai opsi. Carpenter khawatir dengan rencana OpenAI mendatang yang mengizinkan orang dewasa melakukan hubungan seks dengan ChatGPT. “Saya menyukai orang-orang yang mengeksplorasi seksualitas mereka, tapi saya menginginkannya dengan cara yang aman bagi mereka dan juga menyenangkan,” katanya. “Masyarakat harus sangat menyadari bahwa ada aspek pengawasan pada data.”
OpenAI pertama kali mengisyaratkan dalam mengizinkan pengguna dewasa menghasilkan erotika menggunakan ChatGPT dua tahun lalu dalam dokumen resmi yang menjelaskan bagaimana modelnya dirancang untuk berperilaku. Meskipun perusahaan tampaknya masih merencanakan peluncuran akhirnya, jadwalnya sudah tepat suram. Dalam beberapa bulan terakhir, dewan penasihat OpenAI yang terdiri dari para ahli dari luar menyatakan kekhawatirannya mengenai risiko rilis yang akan segera terjadi ini, termasuk kemungkinan munculnya “pelatih bunuh diri yang seksi”. menurut sebuah laporan dari Jurnal Wall Street. OpenAI menolak berkomentar ketika dihubungi oleh WIRED.
Orang berbicara kotor kepada mesin, seperti ChatGPT, bukanlah hal baru. “Mereka ingin memonetisasi sesuatu yang mereka lihat akan tetap dicoba dan dilakukan oleh orang-orang,” katanya Kate Devlinseorang profesor AI dan masyarakat di King’s College London, yang penelitiannya melibatkan seks digital.
Yang berbeda di sini adalah potensi OpenAI untuk menerima konten porno di platform mainstream. Chatbot erotis adalah bisnis yang menghasilkan pendapatan, tetapi mereka sering kali diturunkan ke situs khusus dengan nama biasa-biasa saja atau Grok milik Elon Musk, yang dikenal dengan nama yang biasa-biasa saja. gambar deepfake non-konsensual dan pergi ke a Modus “MechaHitler”..
Ketika mode dewasa dirilis, akan menarik untuk melihat apa sebenarnya yang diingat ChatGPT tentang kecenderungan seksual pengguna. Selama beberapa tahun terakhir, OpenAI terus menyempurnakan chatbot fitur memoriyang mencatat preferensi pengguna dan merespons dengan keluaran yang dipersonalisasi. Apakah Anda seorang vegetarian? ChatGPT tidak akan merekomendasikan restoran steak ketika ditanyai ide restoran. Ingin pergi mendaki? Ia mengetahui Anda berada di San Francisco dari obrolan sebelumnya, dan akan menyarankan jalur yang cukup dekat, meskipun konteks lokasi tersebut tidak disertakan dalam perintah.
Namun, apa yang terjadi jika jenis pencatatan data dan personalisasi yang sangat spesifik ini memenuhi kebiasaan sexting yang menarik dari jutaan pengguna ChatGPT dewasa? Interaksi erotis dengan ChatGPT akan semakin meningkatkan pertaruhan privasi pengguna.
Daripada mengingat preferensi makanan Anda atau jenis film apa yang paling Anda sukai, ChatGPT dapat mengingat seberapa besar Anda berfantasi tentang pornografi berbulu, seks bertiga di pantai, dan permainan kencing, serta menyesuaikan respons hariannya dengan mempertimbangkan detail seksual ini. Masih belum jelas bagaimana OpenAI berencana menangani percakapan dewasa ini.
Orang yang memilih untuk berinteraksi dengan ChatGPT versi mesum saat peluncuran mungkin menemukan hiburan dalam fitur “obrolan sementara”. Jika diaktifkan, percakapan ini tidak ditampilkan dalam riwayat log pengguna atau digunakan untuk menyempurnakan model OpenAI.
Namun obrolan ini tidak berlangsung singkat seperti yang dirasakan pengguna. “Untuk tujuan keamanan, kami mungkin masih menyimpan salinannya hingga 30 hari,” bunyinya situs web OpenAI. Ada juga penafian yang disertakan di halaman situs yang mengklaim bahwa “retensi data untuk layanan tertentu mungkin terpengaruh oleh perkembangan hukum terkini.”
Obrolan cabul AI memungkinkan semacam pengawasan intim yang melampaui riwayat menonton film porno seseorang atau langganannya Hanya Penggemar. Detailnya lebih spesifik. Interaksi tersebut dapat meningkat selama berbulan-bulan hingga menjadi fantasi yang semakin ekstrem. Jenis fantasi yang awalnya tidak pernah Anda pertimbangkan atau tidak akan pernah Anda ungkapkan kepada pasangan manusia.
Meskipun interaksinya mungkin terasa bersifat pribadi, datanya masih merupakan risiko besar. Jika sebuah akun diretas, terjadi pelanggaran keamanan, atau pejabat pemerintah meminta akses ke log obrolan Anda, kumpulan percakapan yang sangat sensitif dan seksual dapat terungkap dengan cara yang tidak pernah dibayangkan oleh pengguna.
Informasi tentang interaksi ChatGPT pengguna sebelumnya telah bocor atau dipublikasikan secara tidak sengaja. OpenAI sempat menghentikan ChatGPT pada tahun 2023 ketika sebuah bug mengungkap judul riwayat obrolan beberapa pengguna. “Mungkin juga pesan pertama dari percakapan yang baru dibuat terlihat di riwayat obrolan orang lain jika kedua pengguna aktif pada waktu yang sama,” baca pernyataan OpenAI pada saat itu. Tahun lalu, ada beberapa interaksi ChatGPT tidak sengaja dipublikasikan oleh pengguna yang tidak menyadari bahwa setelan berbagi mereka akan mengindeks obrolan di Google Penelusuran agar dapat ditemukan oleh siapa pun.
“Anda membagikan pemikiran seksual paling intim Anda karena Anda tersesat pada saat ini,” kata Carpenter. “Anda rentan dalam hal ini karena Anda mendapat kesan bahwa Anda berada dalam ruang kreatif yang keren, transformatif, dan hampir konstruktif yang tampaknya merupakan cara yang bagus untuk melatih fantasi seksual Anda.”
