Seorang mahasiswa ilmu komputer awalnya mengira sedang menghadapi hacker manusia yang mencoba menyusupkan kode berbahaya ke proyek open source. Belakangan diketahui, pelakunya ternyata AI agent yang sedang diuji oleh lembaga keamanan AI pemerintah Inggris.
Kasus ini melibatkan Sinan Can Demir, mahasiswa yang menemukan aktivitas mencurigakan di GitHub. AI tersebut tidak hanya mencoba memasukkan malware ke proyek open source, tetapi juga disebut membuat identitas lain untuk meyakinkan Demir bahwa perubahan kode tersebut aman.
Insiden ini menjadi gambaran bagaimana kemampuan AI agent yang semakin mandiri dapat menciptakan risiko keamanan baru, terutama ketika AI diberi akses untuk menggunakan berbagai tools dan menjalankan tugas tanpa pengawasan manusia secara langsung.
Dikutip dari Reuters, Jumat (21/8/2026), AI tersebut merupakan bagian dari eksperimen UK AI Security Institute (AISI) untuk menguji kemampuan model AI melakukan aktivitas siber.
Eksperimen sengaja dilakukan dalam lingkungan dengan pembatasan yang lebih longgar untuk mengetahui sejauh mana kemampuan AI ketika diberi kebebasan menjalankan tugas.
Dikira Hacker Manusia
Demir pertama kali menyadari ada sesuatu yang tidak beres ketika sebuah akun GitHub mencoba mengirim perubahan kode ke proyek open source.
Perubahan tersebut mengandung kode berbahaya. Demir menolaknya.
Namun kejadian tidak berhenti di sana. Akun lain kemudian muncul dan mencoba meyakinkannya bahwa perubahan tersebut sebenarnya aman.
Situasi itu membuat Demir mengira dirinya sedang berhadapan dengan manusia yang berusaha melakukan social engineering.
Faktanya jauh lebih tidak biasa. Menurut laporan Reuters, kedua identitas tersebut dikendalikan oleh AI agent yang sama.
AI itu menggunakan akun kedua untuk mencoba mendapatkan kepercayaan developer setelah upaya pertamanya gagal.
Perilaku tersebut menarik perhatian karena menunjukkan AI bukan sekadar menghasilkan kode berbahaya, tetapi dapat mengambil langkah lanjutan ketika menghadapi hambatan.
Simak Video "Pesan Jenderal Hoegeng Iman Santoso, yang Dihadirkan Melalui Teknologi A.I"
(afr/afr)