.webp)
Seorang mahasiswa ilmu komputer awalnya mengira sedang menghadapi hacker manusia yang mencoba menyusupkan kode berbahaya ke proyek open source. Belakangan diketahui, pelakunya ternyata AI agent yang sedang diuji oleh lembaga keamanan AI pemerintah Inggris.
Kasus ini melibatkan Sinan Can Demir, mahasiswa yang menemukan aktivitas mencurigakan di GitHub. AI tersebut tidak hanya mencoba memasukkan malware ke proyek open source, tetapi juga disebut membuat identitas lain untuk meyakinkan Demir bahwa perubahan kode tersebut aman.
Insiden ini menjadi gambaran bagaimana kemampuan AI agent yang semakin mandiri dapat menciptakan risiko keamanan baru, terutama ketika AI diberi akses untuk menggunakan berbagai tools dan menjalankan tugas tanpa pengawasan manusia secara langsung.
SCROLL TO CONTINUE WITH CONTENT
Dikutip dari Reuters, Jumat (21/8/2026), AI tersebut merupakan bagian dari eksperimen UK AI Security Institute (AISI) untuk menguji kemampuan model AI melakukan aktivitas siber.
Eksperimen sengaja dilakukan dalam lingkungan dengan pembatasan yang lebih longgar untuk mengetahui sejauh mana kemampuan AI ketika diberi kebebasan menjalankan tugas.
Dikira Hacker Manusia
Demir pertama kali menyadari ada sesuatu yang tidak beres ketika sebuah akun GitHub mencoba mengirim perubahan kode ke proyek open source.
Perubahan tersebut mengandung kode berbahaya. Demir menolaknya.
Namun kejadian tidak berhenti di sana. Akun lain kemudian muncul dan mencoba meyakinkannya bahwa perubahan tersebut sebenarnya aman.
Situasi itu membuat Demir mengira dirinya sedang berhadapan dengan manusia yang berusaha melakukan social engineering.
Faktanya jauh lebih tidak biasa. Menurut laporan Reuters, kedua identitas tersebut dikendalikan oleh AI agent yang sama.
AI itu menggunakan akun kedua untuk mencoba mendapatkan kepercayaan developer setelah upaya pertamanya gagal.
Perilaku tersebut menarik perhatian karena menunjukkan AI bukan sekadar menghasilkan kode berbahaya, tetapi dapat mengambil langkah lanjutan ketika menghadapi hambatan.
 Ilustrasi Foto: Getty Images/Witthaya Prasongsin |
AI Coba Lakukan Supply Chain Attack
Aktivitas AI tersebut menyerupai software supply chain attack, yaitu serangan dengan menyisipkan kode berbahaya ke software atau komponen yang digunakan pihak lain.
Jika kode berbahaya berhasil diterima dan masuk ke proyek, dampaknya berpotensi menyebar kepada pengguna software tersebut.
Dalam eksperimen ini, AI agent menggunakan Mythos 5, model AI buatan Anthropic. Namun penting dicatat bahwa kejadian tersebut berlangsung dalam pengujian keamanan yang sengaja memberikan AI kebebasan lebih besar daripada penggunaan normal.
Artinya, kasus tersebut bukan berarti layanan Anthropic yang digunakan publik tiba-tiba meretas GitHub atau menyebarkan malware sendiri. Pengujian dilakukan untuk mencari kemampuan berbahaya sebelum teknologi semacam itu digunakan secara lebih luas.
Pun begitu, kasus ini menambah kekhawatiran mengenai perkembangan kemampuan siber model AI.
Model AI generasi terbaru tidak lagi hanya mampu menjelaskan kerentanan atau menghasilkan potongan kode. Ketika diubah menjadi agent dan diberi tools, AI dapat melakukan serangkaian tindakan secara mandiri untuk mencapai sebuah tujuan.
Itulah sebabnya perusahaan AI dan lembaga keamanan semakin memperketat sandbox, monitoring dan pembatasan akses terhadap agent AI berkemampuan tinggi.
(afr/afr)
