.webp)
Tiga remaja asal Tennessee, Amerika Serikat menggugat xAI atas klaim bahwa chatbot AI Grok milik perusahaan tersebut mengubah foto mereka menjadi konten berbau seksual saat masih di bawah umur.
Gugatan class action itu menuduh Elon Musk, co-founder dan pemilik xAI, dan eksekutif lainnya mengetahui bahwa Grok dapat menghasilkan materi pelecehan seksual anak buatan AI ketika meluncurkan 'spicy mode' akhir tahun lalu.
Penggugat adalah dua anak di bawah umur, dan satu orang dewasa yang masih di bawah umur ketika peristiwa di gugatan itu terjadi. Salah satu korban, yang disebut Jane Doe 1, mengatakan bahwa Desember lalu ia mengetahui gambar eksplisit buatan AI yang memperlihatkan wajahnya dan setidaknya 18 anak di bawah umur lainnya beredar di Discord.
SCROLL TO CONTINUE WITH CONTENT
"Setidaknya lima file ini, satu video dan empat gambar memperlihatkan wajah dan tubuhnya dengan latar yang ia kenal, tapi diubah menjadi pose-pose yang eksplisit secara seksual," klaim gugatan tersebut, seperti dikutip dari The Verge, Kamis (19/3/2026).
Pelaku pembuat dan penyebar gambar tidak senonoh itu sudah ditangkap. Pelaku diduga menggunakan gambar AI ilegal yang menggambarkan Jane Doe 1 sebagai alat barter di grup Telegram dengan ratusan anggota untuk mendapatkan konten seksual anak di bawah umur lainnya.
Gugatan itu mengklaim pelaku menghasilkan gambar eksplisit Jane Doe 1 dan dua korban lainnya menggunakan Grok. Gugatan itu juga menuding xAI gagal menguji keamanan fitur yang mereka kembangkan, dan bahwa Grok memiliki desain yang cacat.
"Ini adalah anak-anak yang foto sekolah dan keluarganya diubah menjadi materi pelecehan seksual anak oleh layanan AI milik perusahaan bernilai miliaran dolar, dan kemudian diperdagangkan di antara para predator," kata salah satu pengacara korban Annika K. Martin.
"Kami bertujuan untuk meminta pertanggung jawaban xAI atas setiap anak yang mereka rugikan dengan cara ini," sambungnya.
Gugatan tersebut menuntut ganti rugi bagi para korban yang terdampak oleh 'gambar ilegal' buatan Grok. Penggugat juga meminta pengadilan untuk mencegah xAI menghasilkan dan menyebarkan materi pelecehan seksual anak yang dibuat oleh AI.
Musk dan xAI menjadi sorotan setelah Grok membanjiri X dengan gambar eksplisit orang dewasa dan anak di bawah umur. Insiden ini memicu pemblokiran Grok di Indonesia, penyelidikan dari Uni Eropa, dan peringatan dari Perdana Menteri Inggris Keir Starmer.
X sudah berupaya mempersulit pengguna untuk mengedit gambar dengan Grok, dan menyatakan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.
(vmp/vmp)
