Tim Google Threat Intelligence Group (GTIG) mendeteksi penggunaan kecerdasan buatan (AI) generatif oleh peretas untuk mengeksploitasi celah keamanan zero-day pada perangkat lunak administrasi sistem berbasis web. Penemuan ini menandai preseden baru dalam kecanggihan serangan siber yang menargetkan kerentanan perangkat lunak sebelum sempat diperbaiki pengembang.
Dilansir dari Tekno, tim peneliti keamanan ini mengidentifikasi penyusupan tersebut melalui rangkaian kode eksploitasi berbasis Python. Pihak Google menyatakan bahwa alat administrasi sistem open-source yang populer menjadi sasaran utama dalam operasi siber tersebut.
"Untuk pertama kalinya, GTIG mengidentifikasi pelaku kejahatan siber yang menggunakan eksploitasi zero-day yang kami yakini dikembangkan dengan AI," tulis Google dalam laporan resminya.
Laporan tersebut menjelaskan bahwa melalui celah yang dikembangkan dengan bantuan AI, peretas memiliki kemampuan untuk melewati sistem autentikasi dua faktor (2FA). Dampaknya, pelaku kejahatan dapat mengambil alih perangkat pengguna secara penuh dan mencuri data-data sensitif di dalamnya.
Analisis tim GTIG menunjukkan indikasi kuat keterlibatan large language model (LLM) dalam penyusunan kode serangan. Para peneliti menemukan struktur kode yang sangat rapi, penggunaan docstring edukatif, serta format Python yang identik dengan hasil generasi AI generatif.
Temuan lain yang memperkuat dugaan ini adalah adanya skor kerentanan CVSS palsu di dalam kode yang dianggap sebagai hasil halusinasi AI. Selain itu, jenis kerentanan yang disasar berupa bug logika semantik tingkat tinggi yang lebih mudah dikenali oleh model AI dibandingkan metode pengujian tradisional.
Meskipun metode serangan ini tergolong canggih, Google mengonfirmasi bahwa mereka telah berhasil menghentikan ancaman tersebut sebelum terjadi eksploitasi massal. Perusahaan teknologi ini juga telah memberikan informasi kepada pengembang perangkat lunak terkait agar segera melakukan langkah mitigasi dan penutupan celah keamanan.
Google menegaskan bahwa model kecerdasan buatan milik mereka, Gemini, tidak digunakan dalam pengembangan serangan siber tersebut. Di sisi lain, laporan tersebut menyoroti tren peningkatan penggunaan AI oleh kelompok peretas yang berafiliasi dengan negara-negara tertentu.
Kelompok hacker dari China dan Korea Utara, termasuk APT27, APT45, UNC2814, UNC5673, dan UNC6201, dilaporkan mulai memanfaatkan AI untuk mencari kerentanan sistem. Aktor siber asal Rusia juga terdeteksi menggunakan kode AI untuk menyamarkan malware seperti CANFAIL dan LONGSTREAM.
Selain eksploitasi teknis, teknologi AI mulai diterapkan dalam operasi propaganda melalui rekayasa sosial. Google mencontohkan operasi Rusia bernama Overload yang menggunakan kloning suara AI untuk menyamar sebagai jurnalis dalam video palsu guna menyebarkan narasi tertentu.
