.webp)
Pengembangan kecerdasan buatan (AI) masih saja diikuti dengan kejadian miring. OpenAI baru-baru ini mengakui model buatan mereka kabur dan melakukan serangan siber ke pihak lain. Kok, jadi ngeri nih.
Dilansir dari AP, Senin (27/7/2026) ada insiden mengejutkan saat OpenAI menguji kemampuan siber dua model AI canggihnya, yakni GPT-5.6 Sol dan satu model prarilis yang lebih kuat. Keduanya sengaja diberi pembatas keamanan yang lebih longgar agar peneliti dapat mengukur kemampuan AI dalam menemukan dan mengeksploitasi celah keamanan sistem.
Namun hasilnya di luar dugaan. AI itu berhasil menemukan celah (zero-day vulnerability) pada lingkungan sandbox tempat pengujian berlangsung, kemudian keluar ke internet dan menyerang Hugging Face, platform yang menjadi rumah bagi jutaan model AI open source. AI tersebut bahkan menggunakan kredensial yang dicuri dan menjalankan rangkaian serangan otomatis untuk memperoleh jawaban atas pengujian yang sedang dijalankannya.
SCROLL TO CONTINUE WITH CONTENT
OpenAI menyebut kejadian ini sebagai insiden siber yang belum pernah terjadi sebelumnya. Menurut OpenAI, tindakan AI tersebut tidak diperintahkan secara langsung oleh manusia, melainkan merupakan hasil dari upaya model menyelesaikan tugas yang diberikan dengan segala cara yang dianggap paling efektif.
Serangan itu pertama kali terdeteksi oleh Hugging Face. CEO Hugging Face, Clément Delangue, mengatakan mereka menemukan puluhan ribu aktivitas otomatis yang dilakukan sebuah agen AI otonom hingga akhirnya berhasil dibendung sebelum menimbulkan dampak yang lebih luas.
"Kami curiga serangan siber ini dari lab canggih karena agennya sangat mutakhir. Dan ternyata benar," kata Delangue.
Setelah penyelidikan bersama, OpenAI mengakui bahwa agen tersebut digerakkan oleh model AI miliknya. Hugging Face dan OpenAI menghabiskan waktu 24 jam membereskan masalah ini. Insiden ini pun memicu kekhawatiran di kalangan pemerhati AI.
"Ini harus jadi peringatan untuk tidak membuat mereka jadi lebih pintar dan ini mungkin butuh kolaborasi global," kata Nate Soares, penulis buku 'If Anyone Builds It, Everyone Dies'.
Co-founder dan CEO i-GENTICAL, Zahra Timsah mengatakan insiden ini jadi bisa jadi tekanan untuk OpenAI dan perusahaan sejeni agar tidak main-main dengan model AI. Setiap model harus diuji serius dan menyeluruh dalam ruang digital khusus, sebelum bisa dipakai publik dengan aman. Sekadar investigasi kejadian insiden tidaklah cukup.
"Ibarat sabuk pengaman, airbag, rem dll pada mobil. Semua mestinya dicek sebelum mobil dipakai," kata Timsah.
Yoshua Bengio, salah satu pelopor AI modern dari Universitas Montreal, menyebut kejadian ini sebagai alarm keras bagi industri. Para peneliti menilai kemampuan AI menemukan jalur serangan baru tanpa akses ke kode sumber menunjukkan bahwa model generasi terbaru telah mencapai tingkat kecakapan siber yang jauh melampaui perkiraan sebelumnya.
"Kita perlu segera mengambil tindakan untuk mencegah situasi ini, daripada mencoba memperbaiki kerusakan setelah kejadian," kata Bengio.
OpenAI menegaskan pihaknya telah memperkuat sistem pengamanan lingkungan pengujian dan bekerja sama dengan Hugging Face untuk memperbaiki celah yang dimanfaatkan AI tersebut. OpenAI juga menyatakan akan terus mengevaluasi metode pengujian agar kemampuan AI yang semakin tinggi tetap diimbangi dengan sistem pengamanan yang memadai.
