Google Gagalkan Serangan Siber Massal Berbasis Kecerdasan Buatan

Google mengumumkan keberhasilan mereka dalam mendeteksi dan menggagalkan sebuah eksploitasi zero-day yang dikembangkan dengan bantuan kecerdasan buatan (AI). Keberhasilan ini dilansir dari Detik iNET berdasarkan laporan terbaru dari Google Threat Intelligence Group (GTIG).

Eksploitasi berbahaya tersebut rencananya akan digunakan oleh kelompok penjahat siber terkemuka untuk melancarkan serangan massal. Sasaran utama dari aksi ini adalah membobol sistem autentikasi dua faktor (2FA) pada sebuah alat administrasi sistem berbasis web open-source yang identitasnya tidak dipublikasikan.

Tim peneliti Google menemukan sejumlah kejanggalan pada skrip pemrograman Python yang dipakai oleh para peretas. Komponen digital ini mengindikasikan adanya keterlibatan kuat dari teknologi AI dalam proses pembuatannya.

Bukti-bukti tersebut mencakup penulisan skor CVSS yang berhalusinasi serta format penulisan kode yang terlalu rapi dan terstruktur. Gaya penulisan ini menjadi ciri khas yang sangat lekat dengan keluaran data pelatihan Large Language Model (LLM).

Sistem eksploitasi ini dirancang khusus guna mengakali kelemahan logika semantik tingkat tinggi. Pengembang tool open-source tersebut tanpa sengaja menanamkan asumsi kepercayaan yang di-hardcode ke dalam sistem 2FA mereka.

Walaupun Google memastikan adanya keterlibatan AI dalam peretasan ini, para peneliti menegaskan hal lain. Mereka tidak menemukan bukti bahwa model AI Gemini digunakan oleh kelompok peretas tersebut.

Metode Baru Persona-Driven Jailbreaking

Laporan dari GTIG juga memaparkan bagaimana para penjahat siber kini semakin mahir memanipulasi sistem AI untuk mencari celah keamanan. Salah satu metode yang sedang marak digunakan adalah taktik bernama persona-driven jailbreaking.

Melalui taktik ini, pelaku memasukkan prompt khusus yang memaksa atau memanipulasi AI untuk bertindak. Sistem AI kemudian digiring untuk berpura-pura menjadi seorang pakar keamanan siber tingkat tinggi.

Para peretas juga dilaporkan mulai memasukkan seluruh repositori data kerentanan keamanan secara utuh ke dalam model AI. Mereka memanfaatkan alat bantu seperti OpenClaw di dalam lingkungan simulasi yang terkontrol untuk menyempurnakan muatan siber buatan AI tersebut agar serangan semakin akurat sebelum diluncurkan ke target nyata.

Ekosistem AI Menjadi Target Serangan

Penemuan terbaru Google ini menjawab kekhawatiran industri teknologi dalam beberapa minggu terakhir mengenai bahaya model AI yang difokuskan pada keamanan siber, seperti AI Mythos dari Anthropic. Sebelumnya, sebuah celah keamanan pada sistem operasi Linux juga berhasil ditemukan melalui bantuan teknologi AI.

Tren ancaman siber saat ini terpantau bergerak dua arah. Selain dimanfaatkan sebagai alat untuk mencari celah keamanan, ekosistem AI itu sendiri kini mulai menjadi sasaran empuk bagi serangan para peretas.

"GTIG mengamati bahwa musuh makin sering menargetkan komponen terintegrated yang memberikan kegunaan pada sistem AI, seperti keterampilan otonom dan konektor data pihak ketiga," tutur laporan Google tersebut.