.webp)
Google mengaku sukses mendeteksi sekaligus menggagalkan sebuah eksploitasi zero-day yang dikembangkan dengan bantuan kecerdasan buatan (AI).
Berdasarkan laporan terbaru dari Google Threat Intelligence Group (GTIG), eksploitasi berbahaya ini sedianya akan digunakan oleh kelompok penjahat siber terkemuka untuk melakukan serangan massal.
Target utama mereka adalah membobol sistem autentikasi dua faktor (2FA) pada sebuah alat administrasi sistem berbasis web open-source yang identitasnya tidak dipublikasikan.
SCROLL TO CONTINUE WITH CONTENT
Jejak AI di Skrip Peretas
Tim peneliti Google menemukan sejumlah kejanggalan pada skrip pemrograman Python yang digunakan oleh para peretas. Jejak digital ini secara kuat mengindikasikan adanya campur tangan AI dalam proses pembuatannya.
Beberapa bukti tersebut meliputi penulisan skor CVSS yang berhalusinasi serta format penulisan kode yang terlalu rapi dan terstruktur, yang sangat khas dengan gaya keluaran data pelatihan Large Language Model (LLM).
Eksploitasi tersebut dirancang untuk mengakali kelemahan logika semantik tingkat tinggi, di mana pengembang tool open-source itu secara tidak sengaja menanamkan asumsi kepercayaan yang di-hardcode ke dalam sistem 2FA mereka.
Meskipun Google mengonfirmasi keterlibatan AI dalam peretasan ini, para peneliti menekankan bahwa mereka tidak menemukan bukti model AI Gemini digunakan oleh peretas.
Taktik Baru: Persona-Driven Jailbreaking
Laporan dari GTIG turut merinci bagaimana para peretas kini makin mahir memperbudak sistem AI untuk mencari celah keamanan bagi mereka.
Salah satu metode yang marak digunakan adalah taktik persona-driven jailbreaking. Melalui taktik ini, peretas memasukkan prompt yang memaksa atau memanipulasi AI untuk bertindak dan berpura-pura menjadi seorang pakar keamanan siber tingkat tinggi.
Lebih jauh lagi, para peretas dilaporkan mulai menyuapi model AI dengan seluruh repositori data kerentanan keamanan secara utuh. Mereka juga menggunakan alat bantu seperti OpenClaw di dalam lingkungan simulasi yang terkontrol, guna menyempurnakan muatan siber buatan AI tersebut agar serangannya makin jitu sebelum benar-benar diluncurkan ke target nyata.
AI Turut Menjadi Target Serangan
Penemuan Google ini seakan menjawab kekhawatiran industri teknologi dalam beberapa minggu terakhir terkait bahaya model AI yang difokuskan pada keamanan siber, seperti AI Mythos dari Anthropic. Sebelumnya, sebuah kerentanan pada sistem operasi Linux juga berhasil ditemukan dengan bantuan AI.
Menariknya, tren ancaman siber saat ini memiliki dua arah. Selain digunakan sebagai senjata pencari celah, ekosistem AI itu sendiri kini juga mulai menjadi sasaran empuk serangan peretas.
"GTIG mengamati bahwa musuh makin sering menargetkan komponen terintegrasi yang memberikan kegunaan pada sistem AI, seperti keterampilan otonom dan konektor data pihak ketiga," tutup laporan Google tersebut.
(asj/fay)
