Peretas Menggunakan AI untuk Membuat Eksploit Zero-Day yang Mengelak Dua Faktor Otentikasi: Google

Singkatnya

• Kelompok Intelijen Ancaman Google mengonfirmasi bahwa penjahat siber menggunakan AI untuk mengembangkan eksploit zero-day yang menargetkan alat administrasi web sumber terbuka yang populer.
• Google mengatakan ini adalah pertama kalinya perusahaan mengidentifikasi pengembangan zero-day berbantuan AI di alam liar.
• Google bekerja sama dengan vendor yang terkena dampak untuk menambal kerentanan sebelum kampanye meluas, tetapi mengatakan aktor ancaman yang terkait dengan China dan Korea Utara juga aktif menggunakan AI untuk penelitian kerentanan dan pengembangan eksploit.

Penjahat siber menggunakan model AI untuk menemukan dan mengubah kerentanan zero-day dalam alat administrasi web sumber terbuka yang populer, menurut Kelompok Intelijen Ancaman Google. Dalam laporan yang diterbitkan hari Senin, Google mengatakan kerusakan tersebut memungkinkan penyerang melewati otentikasi dua faktor, dan memperingatkan bahwa penyerang sedang mempersiapkan kampanye eksploitasi massal sebelum perusahaan campur tangan. Ini adalah pertama kalinya Google mengonfirmasi pengembangan zero-day berbantuan AI di alam liar. “Seiring kemampuan pengkodean model AI berkembang, kami terus mengamati musuh semakin banyak memanfaatkan alat ini sebagai pengganda kekuatan tingkat ahli untuk penelitian kerentanan dan pengembangan eksploit, termasuk untuk kerentanan zero-day,” tulis Google. “Meskipun alat ini memberdayakan penelitian pertahanan, mereka juga menurunkan hambatan bagi musuh untuk membalikkan rekayasa aplikasi dan mengembangkan eksploit yang canggih dan dihasilkan AI.”

Laporan ini muncul saat para peneliti dan pemerintah memperingatkan bahwa model AI mempercepat serangan siber dengan membantu peretas menemukan kerentanan, menghasilkan malware, dan mengotomatisasi pengembangan eksploit. “Meski LLM frontier kesulitan menavigasi logika otorisasi perusahaan yang kompleks, mereka semakin mampu melakukan penalaran kontekstual, secara efektif membaca niat pengembang untuk mengkorelasikan logika penegakan 2FA dengan kontradiksi dari pengecualian yang dikodekan secara keras,” kata laporan tersebut. “Kemampuan ini dapat memungkinkan model menampilkan kesalahan logika yang tidak aktif yang tampaknya benar secara fungsional bagi pemindai tradisional tetapi secara strategis rusak dari perspektif keamanan.”  Menurut Google, penyerang tak dikenal menggunakan AI untuk mengidentifikasi cacat logika di mana perangkat lunak mempercayai kondisi yang melewati perlindungan otentikasi dua faktornya. Berbeda dengan pemindai tradisional yang mencari kode yang rusak atau crash, AI menganalisis bagaimana perangkat lunak dimaksudkan untuk bekerja dan mendeteksi kontradiksi tersebut, memungkinkan penyerang melewati pemeriksaan keamanan tanpa merusak enkripsi itu sendiri.

“Pengkodean berbasis AI telah mempercepat pengembangan rangkaian infrastruktur dan malware polimorfik oleh musuh,” tulis Google. “Siklus pengembangan yang didukung AI ini memfasilitasi penghindaran pertahanan dengan memungkinkan pembuatan jaringan obfuscation dan integrasi logika umpan balik palsu yang dihasilkan AI dalam malware yang telah kami kaitkan dengan aktor ancaman yang diduga berhubungan dengan Rusia.” Laporan tersebut mengatakan bahwa aktor ancaman dari China dan Korea Utara menggunakan AI untuk menemukan kelemahan perangkat lunak, sementara kelompok Rusia menggunakannya untuk menyembunyikan malware mereka. “Para aktor ini telah memanfaatkan pendekatan canggih terhadap penemuan dan eksploitasi kerentanan yang didukung AI, dimulai dari upaya jailbreak berbasis persona dan integrasi dataset keamanan berkualitas tinggi untuk meningkatkan alur kerja penemuan dan eksploitasi kerentanan mereka,” tulis Google. Meskipun laporan Google bertujuan untuk memperingatkan tentang risiko meningkatnya serangan siber berbasis AI, beberapa peneliti berpendapat bahwa ketakutan tersebut dibesar-besarkan. Sebuah studi terpisah yang dipimpin oleh Universitas Cambridge dari lebih dari 90.000 thread forum kejahatan siber menemukan bahwa sebagian besar penjahat menggunakan AI untuk spam dan phishing daripada menulis kode cybercanggih. “Peran LLM yang dibajak (Dark AI) sebagai instruktur juga dilebih-lebihkan, mengingat pentingnya subkultur dan pembelajaran sosial dalam inisiasi - pengguna baru menghargai koneksi sosial dan identitas komunitas yang terlibat dalam belajar hacking dan kejahatan siber sama seperti pengetahuan itu sendiri,” kata studi tersebut. “Hasil awal kami, oleh karena itu, menyarankan bahwa bahkan mengeluhkan naiknya Viberiminal mungkin berlebihan dalam menilai tingkat gangguan sampai saat ini.” Namun, temuan Cambridge, laporan Kelompok Intelijen Ancaman juga muncul saat Google menghadapi kekhawatiran keamanan terkait alat berbasis AI. Pada bulan April, perusahaan menambal kerentanan injeksi prompt di platform pengkodean AI Antigravity yang menurut peneliti dapat memungkinkan penyerang menjalankan perintah di mesin pengembang melalui prompt yang dimanipulasi. “Meski kami tidak percaya Gemini digunakan, berdasarkan struktur dan isi eksploit ini, kami yakin aktor kemungkinan memanfaatkan model AI untuk mendukung penemuan dan pengubahan kerentanan ini,” tulis peneliti Google. Awal tahun ini, Anthropic membatasi akses ke model Claude Mythos setelah pengujian menunjukkan bahwa model tersebut dapat mengidentifikasi ribuan kerusakan perangkat lunak yang sebelumnya tidak diketahui. Temuan ini juga menambah kekhawatiran yang berkembang bahwa model AI mengubah keamanan siber dengan membantu baik pembela maupun penyerang menemukan kerentanan lebih cepat.

“Seiring kemampuan ini mencapai tangan lebih banyak pembela, banyak tim lain sekarang mengalami vertigo yang sama seperti yang kami rasakan saat temuan ini pertama kali terungkap,” tulis Mozilla dalam sebuah posting blog pada bulan April. “Untuk target yang keras, hanya satu bug seperti itu sudah akan menjadi peringatan merah pada tahun 2025, dan begitu banyak sekaligus membuat Anda berhenti bertanya-tanya apakah bahkan mungkin untuk mengikuti perkembangan.”