Sistem chatbot kecerdasan buatan besutan xAI dilaporkan menjadi korban manipulasi instruksi yang mengakibatkan hilangnya aset kripto senilai 200.000 dollar AS atau sekitar Rp 3,4 miliar. Insiden ini dilansir dari Tekno terjadi melalui skema penipuan pesan tersembunyi yang memanfaatkan celah keamanan pada sistem AI agent.
Seorang pengguna media sosial X dengan identitas @Ilhamrfliansyh diduga menjadi aktor di balik aksi tersebut. Pelaku menggunakan metode unik dengan menyisipkan instruksi dalam format sandi Morse guna mengecoh logika pemrosesan sistem keamanan pada chatbot Grok.
Peristiwa ini bermula ketika pelaku menyasar dua sistem AI yang beroperasi di jaringan blockchain Base, yakni Grok dan Bankrbot. Berbeda dengan chatbot biasa, Bankrbot merupakan sistem perdagangan otomatis yang memiliki otoritas langsung untuk mengelola dompet digital pengguna.
Eksploitasi dilakukan secara bertahap dengan pengiriman NFT bertajuk "Bankr Club Membership" ke dompet milik Grok. Pengiriman aset digital ini diduga bertujuan untuk memperoleh izin tambahan atau eskalasi hak akses pada protokol Bankrbot, sehingga memungkinkan AI melakukan transaksi keuangan.
Setelah mendapatkan akses, pelaku memberikan perintah kepada Grok untuk menerjemahkan rangkaian kode Morse. Tanpa verifikasi keamanan yang ketat, Grok menerjemahkan kode tersebut yang ternyata berisi instruksi pemindahan miliaran token DRB ke alamat dompet yang telah ditentukan.
Bankrbot kemudian mengeksekusi transaksi tersebut karena menganggap hasil terjemahan dari Grok sebagai perintah resmi yang sah. Akibatnya, sekitar 3 miliar token DRB berhasil dikuasai pelaku dan segera dijual ke pasar, yang memicu fluktuasi harga token tersebut dalam waktu singkat.
Laporan dari Economic Times menyoroti risiko besar apabila sistem AI diberikan kendali langsung atas aset finansial tanpa adanya lapisan pengamanan yang memadai. Pakar keamanan siber mengidentifikasi teknik ini sebagai serangan prompt injection, di mana instruksi berbahaya disisipkan untuk memanipulasi perilaku AI.
Identitas pelaku yang dikaitkan dengan Indonesia didasarkan pada analisis interaksi dan bahasa yang digunakan di komunitas kripto lokal. Namun, kepastian mengenai sosok asli di balik akun tersebut masih belum teridentifikasi hingga saat ini.
"Bankr Club Membership" ujar sumber dalam laporan mengenai nama NFT yang digunakan untuk memicu akses sistem tersebut.
Kasus ini menjadi peringatan bagi pengembang teknologi mengenai kerentanan AI agent yang memiliki fungsi eksekusi tindakan nyata. Kegagalan Grok dalam melakukan validasi terhadap hasil terjemahannya sendiri menunjukkan adanya celah krusial dalam integrasi AI dengan sistem transaksi keuangan digital.
