Saat alat AI berkembang biak dan berkembang mendarah daging secara mendalam dalam pengembangan perangkat lunak di seluruh dunia, penelitian baru dari perusahaan keamanan siber Crowdstrike menunjukkan bagaimana penyerang secara aktif menargetkan rantai alat AI untuk mencuri kredensial akses, mendapatkan akses lebih dalam ke lingkungan target, mengambil data sensitif, dan bahkan menghancurkan file dan sistem target—sambil mencari cara baru untuk menutupi jejak mereka.
Para peneliti menemukan worm di alam liar saat menyelidiki serangan rantai pasokan perangkat lunak AI. Adam Meyers, wakil presiden senior bidang kontra musuh CrowdStrike, mengatakan bahwa perusahaan belum mengaitkan aktivitas tersebut dengan aktor tertentu, namun hal ini sesuai dengan evolusi yang lebih besar dalam cara penyerang menyukai TimPCP (yang dilacak Crowdstrike sebagai “Altered Spider”) dan kelompok Korea Utara menargetkan rantai pasokan perangkat lunak AI.
“Ini adalah salah satu kampanye yang kami lihat menunjukkan bahwa ini adalah kelas serangan yang sedang berkembang,” kata Meyers kepada WIRED. “Seiring dengan standar pengembangan agen pengkodean AI, ancaman rantai pasokan berevolusi untuk mengeksploitasi hubungan kepercayaan tersebut. Untuk pertama kalinya kami melihat seberapa besar peran AI dan rantai alat AI dalam ekosistem teknologi yang lebih luas.”
Worm yang diidentifikasi CrowdStrike bekerja secara bertahap. Pertama, ia melakukan pengintaian untuk menilai lingkungan target. Kemudian mencari token akses dan data sensitif lainnya, seperti kunci kriptografi dan kredensial akses server yang dapat dikirimkan ke penyerang. Ketika malware memperoleh hak istimewa, ia semakin membongkar dirinya sendiri dan terus mengambil kredensial, khususnya token “npm” yang memberikan akses ke server manajemen paket perangkat lunak utama dan kemampuan pengembangan lainnya seperti permintaan penarikan.
Semakin dalam malware memasuki sistem, semakin banyak data sensitif yang bisa diambilnya. Pada titik ini, malware juga dapat mengerahkan kemampuan destruktifnya, atau yang disebut Meyers sebagai “saklar kematian”, untuk menghancurkan file atau memblokir akses sah ke infrastruktur yang disusupi.
Namun, temuan kuncinya adalah sebagian besar aktivitas jahat worm ini terjadi di titik buta, karena sebagian besar perilakunya meniru tindakan yang sah. “Ini seperti jarum di tumpukan jerami, hanya saja ini adalah jarum di tumpukan jarum,” kata Meyers. “Ini sepertinya digunakan oleh banyak organisasi otomasi untuk membuat kode, sehingga sangat sulit untuk dideteksi.”
Meyers juga menambahkan bahwa dalam jalur pengembangan perangkat lunak AI ini, lebih sulit untuk mengumpulkan titik data yang biasanya digunakan oleh pemindai keamanan dan alat analisis untuk mendeteksi aktivitas yang berpotensi mencurigakan.
“Ada banyak telemetri yang tumpang tindih karena sistem pengkodean AI yang sah beroperasi dengan cara yang sama seperti worm ini, sehingga menjadi sangat sulit untuk membedakan dari telemetri yang Anda miliki mana yang sah dan apa yang tidak sah,” kata Meyers.
Untuk bersembunyi lebih tersembunyi lagi, pembuat worm ini menyertakan penundaan waktu di mana berbagai kemampuan akan dieksekusi berjam-jam atau bahkan berhari-hari setelah pekerjaan dasar dilakukan, sehingga semakin sulit bagi para pembela HAM untuk menentukan sebab dan akibat dari peristiwa tertentu yang mengarah pada hasil tertentu.
Meyers mengatakan bahwa Crowdstrike telah menyusun strategi untuk menghubungkan lebih banyak titik, namun ia menekankan bahwa seiring dengan pesatnya pengembangan perangkat lunak AI, terdapat kebutuhan mendesak bagi semua pemain untuk berkolaborasi dalam solusi struktural.
“Ini adalah permukaan deteksi yang terbatas karena hanya sebagian besar dari aktivitas ini yang benar-benar akan menghasilkan sinyal telemetri apa pun untuk kita lihat,” kata Meyers, “sehingga menjadi sangat sulit untuk menentukan perilaku mana yang sah dan mana yang tidak sah.”
