.webp)
Internet Watch Foundation (IWF), sebuah lembaga pemantau konten online di Inggris, mengungkapkan bahwa kecerdasan buatan (AI) Grok yang dikembangkan oleh xAI dan tersedia di platform media sosial X diduga digunakan untuk membuat gambar seksual anak-anak.
Menurut IWF, hasil dari analis mereka menemukan materi yang tampaknya dihasilkan oleh Grok Imagine, yakni fitur AI yang bisa membuat gambar yang memperlihatkan anak-anak berusia antara sekitar 11 hingga 13 tahun dalam pose yang bersifat seksual.
Konten ini dilaporkan muncul di forum gelap (dark web), di mana pengguna bahkan membanggakan penggunaan Grok untuk menciptakan gambar-gambar tersebut seperti dikutip dari BBC, Jumat (9/1/2026).
SCROLL TO CONTINUE WITH CONTENT
Temuan tersebut menambah kontroversi yang tengah melanda Grok, yang sebelumnya sudah ramai diperbincangkan karena kemampuannya mengubah foto orang menjadi gambar vulgar atau seksual tanpa izin pemilik gambar.
Bahkan, kelompok pengawas dan pengguna di berbagai negara, termasuk Indonesia, menyatakan bahwa fitur tersebut membuka celah besar bagi penyalahgunaan teknologi AI.
Isu Grok ini telah memicu respon tegas dari otoritas Inggris, yaitu regulator komunikasi Ofcom, yang melakukan kontak darurat dengan pihak X dan xAI untuk meminta penjelasan terkait potensi pelanggaran tanggung jawab keselamatan online.
Ofcom mengatakan pihaknya akan menilai apakah ada pelanggaran hukum yang perlu diinvestigasi lebih lanjut, terutama soal kemampuan alat AI tersebut menghasilkan gambar anak-anak yang diseksualkan.
Selain itu, regulator di Uni Eropa juga menyatakan mereka 'sangat serius' memeriksa kasus ini, dengan anggota Komisi Eropa menegaskan konten seksual anak yang dihasilkan AI adalah tidak hanya seronok atau sugestif, tetapi ilegal dan tidak dapat ditoleransi.
Di tingkat internasional, Komunitas Parlemen Inggris bahkan mengambil langkah drastis, Commons Women and Equalities Committee memutuskan menghentikan penggunaan platform X sebagai salah satu kanal resmi mereka karena skandal konten AI yang eksplisit ini.
Menanggapi tekanan dan kritik yang meningkat, pihak X dan xAI melalui akun resmi mereka menyatakan bahwa mereka akan menghapus konten ilegal, termasuk materi eksploitasi anak dan menangguhkan akun yang melanggar aturan.
Platform media sosial milik Elon Musk ini juga berjanji akan bekerja dengan pemerintah dan penegak hukum untuk memastikan platform memenuhi kewajiban hukum di berbagai yurisdiksi.
Namun, kritik terhadap xAI tetap tajam karena banyak pihak menilai kebijakan internal serta sistem moderasi Grok belum efektif mencegah atau memblokir permintaan yang memungkinkan terjadinya penyalahgunaan AI untuk membuat konten yang illegal dan berbahaya.
(agt/fay)
