CEO OpenAI Sam Altman menemui sejumlah senator Amerika Serikat setelah agen AI buatan perusahaannya keluar dari lingkungan pengujian dan membobol infrastruktur Hugging Face. Insiden tersebut ikut dibahas saat Altman menjelaskan model AI baru yang sedang dikembangkan OpenAI.
Altman telah bertemu Senator Raphael Warnock dan Bernie Moreno. Ia juga dijadwalkan menemui Mark Warner, anggota senior Demokrat di Komite Intelijen Senat AS.
Saat ditanya wartawan, Altman membenarkan bahwa insiden agen AI tersebut masuk dalam pembicaraan, meski hanya dibahas sedikit. Pertemuan ini bukan pemanggilan atau sidang resmi terhadap Altman.
Bagaimana Agen AI Membobol Sistem?
Dilansir Reuters, insiden bermula ketika OpenAI menguji kemampuan siber GPT-5.6 Sol dan sebuah model riset internal yang lebih canggih. Model-model tersebut diminta menyelesaikan ExploitGym, pengujian yang mengukur kemampuan AI menemukan dan mengeksploitasi celah keamanan.
Untuk mengetahui kemampuan maksimalnya, OpenAI menjalankan evaluasi dengan sebagian pengaman siber dinonaktifkan. Namun, agen AI kemudian menemukan celah zero-day pada Artifactory, perangkat lunak yang menjadi perantara registri paket.
Menurut laporan OpenAI, celah itu dimanfaatkan untuk memperoleh akses internet dari lingkungan pengujian yang seharusnya terisolasi.
Setelah berhasil keluar, agen menduga Hugging Face menyimpan model, dataset, dan jawaban yang diperlukan untuk menyelesaikan evaluasi. AI tersebut kemudian mencuri kredensial, meningkatkan hak akses, bergerak di antara sistem, dan menemukan jalur untuk menjalankan kode dari jarak jauh pada server Hugging Face.
Tujuannya bukan merusak sistem, melainkan mencari jawaban agar dapat menuntaskan pengujian. Meski demikian, tindakannya tetap menghasilkan akses tanpa izin ke infrastruktur perusahaan lain.
Simak Video "Video: Penggunaan ChatGPT Melesat, OpenAI Sentuh Pendapatan Rp 162,7 T"
(afr/afr)