.webp)
Grok, chatbot AI buatan xAI, menjadi sorotan di banyak negara setelah dipakai mengedit foto orang lain menjadi gambar cabul. Kini skala sebenarnya dari masalah deepfake Grok sudah semakin jelas.
Menurut laporan Center for Countering Digital Hate (CCDH), Grok membuat sekitar 3 juta gambar berbau seksual, termasuk sekitar 23.000 gambar dengan anak-anak, selama periode 11 hari.
Organisasi nirlaba asal Inggris ini mendasarkan temuannya pada sampel acak yang melibatkan 20.000 gambar buatan Grok dari 29 Desember 2025 sampai 9 Januari 2026. CCDH kemudian membuat estimasi yang lebih luas berdasarkan 4,6 juta gambar yang dihasilkan Grok selama periode tersebut.
SCROLL TO CONTINUE WITH CONTENT
Baca juga: Komdigi Akan Tetap Blokir Grok AI Kecuali... |
CCDH mendefinisikan gambar dengan unsur seksual sebagai gambar-gambar dengan penggambaran foto realistis seseorang dalam posisi atau situasi seksual; seseorang mengenakan pakaian dalam, pakaian renang, atau pakaian serupa yang terbuka; atau gambar dengan cairan seksual.
Mereka menemukan banyak gambar buatan Grok yang memperlihatkan orang-orang yang mengenakan bikini transparan atau bikini mikro. Salah satu gambar buatan Grok menggambarkan Wakil Perdana Menteri Swedia Ebba Busch mengenakan bikini dengan cairan putih di kepalanya.
CCDH juga menemukan pengguna yang meminta Grok untuk mengedit foto selfie anak-anak agar terlihat seperti mengenakan bikini. Gambar lainnya memperlihatkan enam anak perempuan mengenakan bikini mikro.
"Ini adalah pelecehan berskala industri terhadap perempuan dan anak perempuan," kaya CEO CCDH Imran Ahmad, seperti dikutip dari Mashable, Jumat (23/1/2026).
"Memang ada alat untuk membuat foto telanjang, tapi alat-alat tersebut tidak memiliki distribusi, kemudahan penggunaan, atau integrasi ke dalam platform besar seperti yang dilakukan Elon Musk dengan Grok," sambungnya.
Tokoh publik lainnya yang gambarnya ikut diedit menjadi tidak senonoh oleh Grok termasuk Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Christina Hendricks, Millie Bobby Brown, dan Kamala Harris.
Pada 9 Januari, xAI membatasi fitur Grok untuk mengedit gambar sehingga hanya bisa diakses oleh pengguna berbayar. Lima hari setelahnya, X membatasi fitur Grok untuk menelanjangi orang sungguhan secara digital.
Namun pembatasan itu hanya berlaku untuk Grok yang terintegrasi dengan X. Aplikasi Grok yang tersedia di Apple App Store dan Google Play Store masih terus membuat konten cabul ketika diminta pengguna.
(vmp/fay)
