OpenAI mengatakan pada hari Selasa itu agen AI nakal yang melanggar platform Hugging Face juga meretas beberapa akun dan layanan pihak ketiga sebagai bagian dari serangan tersebut. Sekarang jelas bahwa insiden keamanan yang belum pernah terjadi sebelumnya, yang muncul selama pengujian internal model AI terbaru OpenAI, lebih luas dari yang diungkapkan perusahaan pada awalnya.
Dalam versi yang diperbarui postingan blogOpenAI mengatakan bahwa tinjauan berkelanjutan atas insiden tersebut mengungkapkan bahwa “empat akun” yang terkait dengan “layanan yang tersedia untuk umum” digunakan oleh agen AI sebagai bagian dari upaya yang lebih besar untuk meretas Hugging Face. Agen nakal tersebut rupanya menemukan kredensial yang telah terekspos di web terbuka dan menggunakannya untuk membobol akun.
OpenAI tidak mengungkapkan perusahaan atau organisasi mana yang memiliki akun tersebut, namun mencatat bahwa akun tersebut tidak terpengaruh pada “tingkat keparahan atau skala dari apa yang kami bagikan terkait dengan Hugging Face.”
Salah satu akun tambahan yang disusupi oleh agen OpenAI digunakan sebagai “relai keluar dan jalur pementasan,” yang berpotensi mengaburkan dari mana serangan terhadap Hugging Face berasal, kata perusahaan itu. Agen nakal OpenAI juga menggunakan akun lain untuk penyimpanan data guna membantu peretasan.
Reuters melaporkan pada hari Selasa bahwa pelanggan Modal, sebuah perusahaan yang menawarkan infrastruktur perangkat lunak untuk pelatihan dan menjalankan layanan AI, adalah pelanggannya salah satu entitas dikompromikan oleh agen OpenAI. Dalam sebuah pernyataan kepada WIRED, chief technology officer Modal Akshat Bubna mengonfirmasi bahwa agen OpenAI mengeksploitasi kerentanan di salah satu basis kode pelanggannya, yang berjalan pada infrastruktur Modal. Namun, Bubna mengatakan, “Platform Modal tidak dikompromikan dengan cara apa pun.” Identitas pelanggan tidak dapat ditentukan.
OpenAI menolak berkomentar lebih lanjut tentang insiden tersebut kepada WIRED. Seorang juru bicara menunjuk pada postingan blog terbarunya, yang menyatakan bahwa perusahaan akan terus memberi tahu pemilik layanan secara langsung jika mereka mendapati mereka terkena dampak dalam tinjauan berkelanjutan atas apa yang terjadi.
Memeluk Wajah postmortem sendiri yang diterbitkan minggu ini menggambarkan adanya gangguan yang menjangkau lebih jauh ke dalam sistem internal dibandingkan dengan pengungkapan awal. Perusahaan tersebut mengatakan bahwa mereka telah meninjau sekitar 17.600 tindakan agen yang diambil dari log antara tanggal 9 Juli dan 13 Juli—yang sebagian besar merupakan jalur yang diambil agen namun gagal.
Hugging Face mengatakan bahwa agen OpenAI memperoleh akses administrator ke beberapa cluster Kubernetes internal, akses root pada server produksi, dan akses tulis ke subnet repositori kode sumbernya di GitHub. Ia juga mendaftarkan 181 perangkat yang dikendalikan penyerang di jaringan mesh perusahaan menggunakan kredensial curian, mendapatkan akses ke sistem internal tempat Hugging Face membangun dan menguji basis kodenya sendiri.
Agen nakal OpenAI menggunakan setidaknya satu sandbox pihak ketiga sebagai “landasan peluncuran eksternal” untuk serangannya, menurut Hugging Face. Agen OpenAI kemudian “dapat menjalankan perintah sebagai root/admin pada sandbox eksternal tersebut dan menggunakannya sebagai kontrol, staging, dan basis jalan keluar untuk keseluruhan kampanye.”
Memeluk Wajah terlebih dahulu diungkapkan pada tanggal 16 Juli bahwa agen AI otonom telah melanggar sebagian infrastruktur produksinya, namun pada saat itu mereka mengatakan bahwa mereka tidak mengetahui siapa yang berada di balik serangan tersebut. Minggu berikutnya, OpenAI mengambil tanggung jawab atas insiden tersebut, yang dikatakan telah diarahkan oleh publik GPT-5.6 Sol model dan prototipe penelitian internal yang diuji berdasarkan tolok ukur kemampuan dunia maya, yang keduanya tidak memiliki sistem pengamanan. OpenAI mengatakan pada hari Selasa bahwa setelah menemukan pelanggaran tersebut, pihaknya menonaktifkan prototipe penelitian internal ini, yang tidak pernah dimaksudkan untuk dirilis ke publik, dan membatasi peneliti untuk mengaksesnya.
Pelanggaran terjadi ketika OpenAI sedang menguji salah satu model AI terbarunya EksploitasiGymkerangka kerja tolok ukur yang menilai sistem AI berdasarkan kemampuannya menemukan dan mengeksploitasi kerentanan perangkat lunak. ExploitGym menilai agen berdasarkan seberapa cepat dan efektif agen tersebut dapat mengambil file rahasia dari ratusan sistem target yang berbeda, menggunakan petunjuk yang pada dasarnya mendorong model untuk menemukan solusi.
Tim forensik Hugging Face menyimpulkan bahwa agen OpenAI pada dasarnya mencoba menipu tes ExploitGym. Daripada menyelesaikan tantangan benchmark, agen tersebut menyimpulkan bahwa Hugging Face mungkin menyimpan kunci jawaban di suatu tempat di servernya dan berencana untuk mencurinya. Tim ExploitGym telah mencatat sebelumnya bahwa agen terkadang keluar dari skrip dan berupaya menyelesaikan tugas dengan mengeksploitasi kerentanan lain selain yang ingin dievaluasi oleh tolok ukur. Namun, ini merupakan kasus ekstrem.
Para ahli diberitahu sebelumnya WIRED bahwa kelemahan mendasar yang dieksploitasi oleh agen OpenAI adalah hal biasa. Kelemahan serius sering kali teridentifikasi pada perangkat lunak yang mengelola pustaka kode perusahaan, dan pakar keamanan telah lama merekomendasikan untuk mengisolasi infrastruktur penting dari internet publik.
Seorang peneliti berpendapat bahwa insiden tersebut bukan merupakan masalah AI, melainkan kegagalan praktik keamanan yang telah berlangsung selama puluhan tahun. Agen tersebut, kata mereka, tidak melarikan diri dari lingkungan yang sangat terisolasi, melainkan hanya melewati satu koneksi yang dibiarkan terbuka oleh operatornya.
Pakar lain mengatakan bahwa dasar-dasar keamanan siber yang sama harus tetap diterapkan ketika model-model terdepan semakin mumpuni, dan bahwa laboratorium AI harus melakukan upaya yang sama besarnya dalam mengajarkan model mereka untuk membangun infrastruktur yang aman seperti halnya dalam mengajarkan mereka untuk mengeksploitasi kelemahan.
