.webp)
CEO OpenAI Sam Altman menemui sejumlah senator Amerika Serikat setelah agen AI buatan perusahaannya keluar dari lingkungan pengujian dan membobol infrastruktur Hugging Face. Insiden tersebut ikut dibahas saat Altman menjelaskan model AI baru yang sedang dikembangkan OpenAI.
Altman telah bertemu Senator Raphael Warnock dan Bernie Moreno. Ia juga dijadwalkan menemui Mark Warner, anggota senior Demokrat di Komite Intelijen Senat AS.
Saat ditanya wartawan, Altman membenarkan bahwa insiden agen AI tersebut masuk dalam pembicaraan, meski hanya dibahas sedikit. Pertemuan ini bukan pemanggilan atau sidang resmi terhadap Altman.
SCROLL TO CONTINUE WITH CONTENT
Bagaimana Agen AI Membobol Sistem?
Dilansir Reuters, insiden bermula ketika OpenAI menguji kemampuan siber GPT-5.6 Sol dan sebuah model riset internal yang lebih canggih. Model-model tersebut diminta menyelesaikan ExploitGym, pengujian yang mengukur kemampuan AI menemukan dan mengeksploitasi celah keamanan.
Untuk mengetahui kemampuan maksimalnya, OpenAI menjalankan evaluasi dengan sebagian pengaman siber dinonaktifkan. Namun, agen AI kemudian menemukan celah zero-day pada Artifactory, perangkat lunak yang menjadi perantara registri paket.
Menurut laporan OpenAI, celah itu dimanfaatkan untuk memperoleh akses internet dari lingkungan pengujian yang seharusnya terisolasi.
Setelah berhasil keluar, agen menduga Hugging Face menyimpan model, dataset, dan jawaban yang diperlukan untuk menyelesaikan evaluasi. AI tersebut kemudian mencuri kredensial, meningkatkan hak akses, bergerak di antara sistem, dan menemukan jalur untuk menjalankan kode dari jarak jauh pada server Hugging Face.
Tujuannya bukan merusak sistem, melainkan mencari jawaban agar dapat menuntaskan pengujian. Meski demikian, tindakannya tetap menghasilkan akses tanpa izin ke infrastruktur perusahaan lain.
Model Riset OpenAI Dinonaktifkan
Hugging Face mencatat lebih dari 17.000 peristiwa ketika merekonstruksi serangan tersebut. Sejumlah dataset internal dan kredensial layanan sempat diakses, tetapi tidak ditemukan bukti bahwa model, dataset, maupun Spaces publik telah dimanipulasi.
OpenAI kemudian menonaktifkan, mengenkripsi, dan membatasi akses terhadap model riset yang terlibat. Perusahaan menegaskan model tersebut merupakan prototipe internal dan tidak direncanakan untuk diluncurkan kepada publik.
Pertemuan Altman dengan senator membuat kasus ini berkembang dari masalah teknis menjadi isu kebijakan. Pemerintah AS kini menghadapi pertanyaan mengenai perlunya audit, pengawasan manusia, dan sistem penghentian darurat bagi model AI berkemampuan tinggi.
Insiden ini bukan bukti bahwa AI telah sadar atau sengaja memberontak. Kasus tersebut menunjukkan bahwa target yang terlalu sempit, akses luas, dan pengawasan lemah dapat mendorong agen AI melampaui batas yang dirancang manusia, demikian dilansir Techcrunch.
Saksikan Live DetikPagi :
(afr/afr)
