.webp)
xAI dituding melatih model kecerdasan buatan (AI) mereka, Grok, menggunakan materi pelecehan seksual terhadap anak (CSAM). Kabar tersebut menimbulkan keresahan, terutama bagi para penyintas yang berusaha pulih dari trauma.
Dalam gugatannya, penggugat yang disebut sebagai 'Jane Doe' menjelaskan bahwa ia masih berusia prasekolah pada awal tahun 2000-an ketika sejumlah lelaki dewasa berulang kali memerkosanya untuk membuat materi pelecehan seksual anak (CSAM). Kontennya kemudian dijual kepada para pedofil secara online.
Sejak saat itu, citra diri Doe telah diberi tanda pengenal digital unik oleh organisasi-organisasi seperti National Center for Missing and Exploited Children (NCMEC) dan Canadian Centre for Child Protection (CCCP).
SCROLL TO CONTINUE WITH CONTENT
Demi keselamatannya, Doe memilih untuk menerima pemberitahuan dari Sistem Pemberitahuan Korban Departemen Kehakiman AS setiap kali ia mungkin jadi korban dalam penyelidikan pidana baru. Meskipun telah menerima banyak pemberitahuan, ia sangat terkejut ketika CCCP memberi tahu bahwa mereka mengidentifikasi CSAM buatan AI di platform xAI yang menampilkan dirinya.
Melansir Ars Technica, Minggu (30/8/2026), hal ini memicu trauma kembali bagi Doe. Kini, Doe khawatir xAI tidak hanya mempermudah pembuatan lebih banyak gambar yang melanggar hukum terkait masa paling menyakitkan dalam hidupnya,tapi juga diduga menyimpan gambar-gambar yang dihasilkan oleh Grok dan menggunakan keluaran tersebut untuk melatih Grok lebih lanjut.
Oleh karena itu, ia meyakini Grok telah dilatih menggunakan kumpulan gambar awal yang telah menghantuinya selama lebih dari 20 tahun tersebut, maupun gambar-gambar buatan AI yang lebih baru.
Kasus pertama
Ini adalah kasus pertama yang menuduh xAI melakukan pelatihan menggunakan CSAM. Gugatan tersebut tidak memaparkan rincian mendalam mengenai klaim itu.
Dalam siaran pers dari kuasa hukum Doe, dijelaskan bahwa gambar-gambar Doe termasuk dalam Daftar Hash CSAM yang dikelola oleh NCMEC. Kemudian, 'materi yang sama' tersebut diduga menjadi bagian dari kumpulan data yang digunakan xAI untuk membangun kemampuan pembuatan gambar dan video Grok.
Gugatan tersebut juga hanya menyatakan bahwa CSAM yang menampilkan Penggugat -- dengan nilai hash yang sudah lama dikenal -- telah digunakan sebagai bagian dari kumpulan data yang dipakai oleh xAI.
Rincian lebih lanjut disampaikan terkait klaim yang menuduh Grok dilatih menggunakan CSAM buatan AI.
"Karena ketentuan layanan Grok memperlakukan postingan publik di X dan hasil keluaran Grok sendiri sebagai data pelatihan secara default, mengunggah gambar ke publik tidak hanya membuatnya dapat dilihat oleh pengguna lain, tetapi juga memasukkannya secara langsung ke dalam alur kerja yang digunakan xAI untuk melatih dan menyempurnakan modelnya, serta menghasilkan gambar-gambar baru," demikian bunyi gugatan Doe.
Gugatan tersebut lebih lanjut mencatat bahwa meskipun xAI menyaring konten kekerasan dari hasil keluaran Grok agar tidak disertakan dalam data pelatihan, ketentuan xAI secara khusus tidak menyebutkan apakah materi CSAM, gambar intim tanpa persetujuan, atau materi not safe for work lainnya termasuk dalam 'kategori yang dikecualikan'.
"Dikarenakan penghapusan total pengaruh suatu contoh data pelatihan dari model yang sudah terlatih merupakan hal yang sulit secara teknis -- dan bukan sesuatu yang pernah diklaim secara publik telah dilakukan oleh xAI -- maka materi CSAM apa pun yang masuk ke dalam proses pelatihan sebelum penghapusan konten kemungkinan besar tetap memengaruhi hasil keluaran model, bahkan setelah gambar aslinya tidak lagi dapat dilihat oleh publik," ungkap gugatan Doe.
