Keluhannya terdengar akrab. “Saya kecewa Anda berupaya memasukkan sampah AI ke dalam situs,” kata salah satu orang yang kesal, yang memposting secara anonim, dalam pesan online. “Tidak ada yang meminta hal ini—kami ingin Anda meningkatkan situs ini, berhenti mengenakan biaya untuk fitur baru.”
Hanya saja, ini bukanlah keluh kesah netizen biasa makhluk AI dipaksa masuk aplikasi favorit mereka. Sebaliknya, mereka mengeluhkan rencana forum kejahatan dunia maya untuk memperkenalkan AI yang lebih generatif. Seperti jutaan orang lainnya, penipu, penipu, dan peretas tingkat rendah merasa kesal karena AI mengganggu kehidupan mereka dan bangkitnya teknologi. air kotor AI berkualitas rendah diposting di komunitas online mereka.
“Orang-orang tidak menyukainya,” kata Ben Collier, peneliti keamanan dan dosen senior di Universitas Edinburgh. Sebagai bagian dari a studi terbaru tentang caranya penjahat dunia maya tingkat rendah menggunakan AI, Collier dan rekan peneliti melihat semakin banyaknya penolakan terhadap penggunaan AI generatif di forum kejahatan dunia maya bawah tanah dan kelompok peretas.
Selama siklus boom dan hype AI generatif dalam beberapa tahun terakhir, beberapa orang yang memposting di forum peretasan telah berubah dari sikap positif tentang bagaimana AI dapat membantu peretasan menjadi lebih skeptis terhadap teknologi tersebut, menurut penelitian tersebut, yang juga melibatkan peneliti dari Universitas Cambridge dan Universitas Strathclyde.
Para peneliti menganalisis 97.895 percakapan terkait AI di forum kejahatan siber sejak peluncuran ChatGPT pada tahun 2022 hingga akhir tahun lalu. Mereka menemukan keluhan tentang orang-orang yang membuang “penjelasan singkat” tentang konsep dasar keamanan siber, keluhan tentang jumlah postingan berkualitas rendah, dan kekhawatiran tentang Ikhtisar pencarian AI Google menurunkan jumlah pengunjung forum.
Selama beberapa dekade, papan pesan dan pasar kejahatan dunia maya, yang sebagian besar berasal dari Rusia, telah memungkinkan para penipu melakukan bisnis bersama. Ini adalah tempat di mana data yang dicuri dapat diperdagangkan, pekerjaan peretasan diiklankan, dan para penipu menyebarkan berita buruk tentang pesaing mereka. Ketika penipu sering kali mencoba menipu satu sama lainforum juga memiliki rasa kebersamaan. Misalnya, pengguna membangun reputasi sebagai orang yang dapat diandalkan dan pemilik forum mengadakan lomba menulis.
“Ini pada dasarnya adalah ruang sosial. Mereka sangat membenci orang lain yang menggunakannya [AI] di forum-forum,” kata Collier. Ia mengatakan dinamika sosial dari kelompok-kelompok tersebut dapat dikacaukan oleh calon penjahat dunia maya yang mencoba mendapatkan reputasi yang lebih baik dengan memposting penjelasan peretasan yang dihasilkan oleh AI. “Saya pikir banyak dari mereka yang agak ragu-ragu tentang AI karena AI melemahkan klaim mereka sebagai orang yang terampil.”
Postingan yang ditinjau oleh WIRED di Hack Forums, sebuah ruang bagi mereka yang tertarik untuk membicarakan teknik peretasan dan berbagi, menunjukkan kejengkelan yang disebabkan oleh orang-orang yang membuat postingan dengan AI. “Saya melihat banyak anggota menggunakan AI untuk membuat thread/postingan mereka dan itu membuat saya kesal karena mereka bahkan tidak meluangkan waktu untuk menulis satu atau dua kalimat sederhana,” tulis salah satu poster. Yang lain mengatakannya dengan lebih blak-blakan: “Berhenti memposting omong kosong AI.”
Dalam beberapa kasus, kata Collier, pengguna di berbagai forum tampaknya merasa terganggu dengan postingan AI karena mereka ingin berteman. “Jika saya ingin berbicara dengan chatbot AI, ada banyak situs yang bisa saya lakukan… Saya datang ke sini untuk berinteraksi dengan manusia,” salah satu postingan yang dikutip dalam penelitian tersebut.
Sejak ObrolanGPT muncul menjelang akhir tahun 2022, terdapat minat yang besar terhadap kemampuan peretasan AI dan bagaimana teknologi tersebut dapat mengubah kejahatan online. Baik hacker yang canggih maupun yang lainnya kurang mampu telah mencoba menggunakan AI dalam serangan mereka. Sementara beberapa penipu terorganisir semakin meningkatkan operasi mereka teknologi pertukaran wajah AI yang realistis dan pesan rekayasa sosial diterjemahkan menggunakan AIbanyak perhatian tertuju pada kemampuan AI generatif untuk menulis kode berbahaya dan menemukan kerentanan.
“Pelaku ancaman yang lebih canggih sadar akan kelemahan model komersial yang memiliki pagar pembatas, dan mereka tahu cara untuk melakukan jailbreak terhadap petunjuk tersebut,” kata Ian Gray, wakil presiden intelijen di perusahaan keamanan Flashpoint, mengacu pada mekanisme keselamatan yang diterapkan oleh OpenAI, AntropisDan Google. “Mereka juga berhati-hati terhadap proyek yang dihasilkan AI di forum atau pasar—ada kelemahan dan kerentanan, yang terkadang mengekspos infrastruktur yang mendasarinya,” kata Gray.
Flashpoint telah melihat para peretas baru-baru ini berbicara tentang potensi kemampuan Pratinjau Claude Mythosmodel AI frontier terbaru dari Anthropic, yang telah banyak digunakan industri keamanan siber ke dalam panik. Beberapa penjahat dunia maya juga meremehkan orang lain karena diduga menggunakan AI dalam operasi peretasan mereka—“yang bisa mereka lakukan hanyalah menggunakan AI,” kata salah satu kelompok, menurut analisis Flashpoint.
Collier mengatakan bahwa sejauh ini, di antara penjahat dunia maya tingkat rendah yang dilacak oleh studinya—bukan peretas canggih atau yang didukung oleh negara—belum ada tanda-tanda jelas adanya “gangguan nyata” yang disebabkan oleh AI. “Hal ini tidak secara signifikan mengurangi hambatan keterampilan untuk masuk, juga tidak menyebabkan gangguan serius terhadap model atau praktik bisnis yang sudah ada,” kata studi tersebut. “Sebaliknya, dampak utamanya adalah pada area yang sudah sangat otomatis seperti penipuan SEO, bot media sosial, dan beberapa bentuk penipuan percintaan.”
Meskipun penggunaan AI di forum kejahatan dunia maya mendapat sambutan yang sangat dingin, banyak pihak lain yang melihat adanya potensi ini. Beberapa pembuat postingan di Forum Peretasan mengatakan bahwa mereka mungkin akan menyambut asisten AI yang akan “membantu” mereka menyusun postingan dan meningkatkan tata bahasa, namun mereka membatasi AI yang dapat memposting sepenuhnya untuk mereka. “Generator AI untuk postingan akan mengubah ini menjadi forum komunikasi AI satu sama lain,” tulis seseorang.
Sementara itu, para peneliti Flashpoint telah melihat para peretas mendiskusikan gagasan untuk membangun pasar kejahatan dunia maya yang “ditingkatkan dengan AI”, yang disebut-sebut sebagai cara untuk membantu orang membeli data curian dan akun online dengan lebih cepat. Tidak semua orang ikut serta. Seperti yang ditulis seseorang, “ITULAH IDE BODOH UNTUK MENEMPATKAN AI KE PASAR ANDA.”
