.webp)
Kecerdasan buatan Elon Musk, Grok, dituntut para remaja yang menjadi korban pornografi menggunakan foto mereka. Mereka yang tidak tahu apa-apa, tiba-tiba saja menemukan 'foto mereka' tanpa busana atau hal-hal lainnya berbau seksual. Laporan telah diajukan ke pengadilan pada Senin ini, waktu setempat.
Melansir BBC, tindakan hukum ini merupakan bagian dari dampak sejak peluncuran fitur baru Grok yang kontroversial tahun lalu yang disebut X sebagai mode 'Spicy'.
Grok adalah chatbot yang dikembangkan oleh xAI dan dihosting di platform media sosial milik Musk, X. xAI tidak menanggapi permintaan komentar yang diajukan melalui perusahaan induknya.
SCROLL TO CONTINUE WITH CONTENT
Lebih lanjut, pengacara para perempuan muda tersebut mengatakan bahwa kemampuan Grok untuk mengubah gambar/video telah dibuat dan dirilis oleh xAI semata-mata untuk mendorong penggunaan chatbot serta platform X. Mereka menyamakan cara gambar para korban tersebut diubah dengan 'boneka kain yang dihidupkan melalui ilmu hitam'.
"xAI -- dan pendirinya Elon Musk -- melihat peluang bisnis. Mereka tahu Grok dapat menghasilkan hasil seperti itu, termasuk dengan menggunakan gambar dan video anak-anak, dan tetap merilisnya secara publik," kata pengaduan tersebut.
Akibatnya, korban foto tak senonoh menuntut ganti rugi yang tidak ditentukan, serta perintah segera yang melarang Grok untuk membuat gambar-gambar tersebut.
"Kehidupan mereka hancur karena kehilangan privasi, martabat, dan keselamatan pribadi yang sangat menyakitkan," ujar pengacara mereka dalam pengaduan.
Dua dari remaja yang mengajukan gugatan tersebut berusia di bawah 18 tahun, tetapi ketiganya merahasiakan nama mereka dari publik untuk melindungi privasi mereka.
Salah satu penggugat muda mengatakan dia mengetahui tentang gambar-gambar tersebut setelah menerima pesan anonim di Instagram yang mengarahkannya ke gambar dan video. Di sana terdapat, salah satunya, foto buku tahunan sekolah menengahnya yang telah diubah jadi tak senonoh.
Materi tersebut dibagikan di server Discord, ruang obrolan pribadi di platform tersebut. Terdapat pula beberapa gambar serupa yang juga telah diubah menggunakan Grok dari setidaknya 18 perempuan lain yang masih di bawah umur, menurut pengaduan tersebut.
Dua perempuan lain yang menggugat xAI juga menemukan gambar seksual eksplisit palsu tentang mereka secara online, yang diketahui telah dibuat melalui Grok.
Grok diluncurkan pada tahun 2023 oleh xAI milik Musk. Perusahaan tersebut, bersama dengan X, kini menjadi bagian dari perusahaan SpaceX milik Musk. Tahun lalu, xAI merilis apa yang disebutnya Grok Imagine atau 'mode pedas', dengan fitur yang memungkinkan pengguna Grok untuk memintanya membuat gambar palsu yang lebih bersifat seksual.
Mode tersebut bahkan dapat menanggalkan pakaian orang sungguhan menggunakan gambar mereka secara online. Korbannya bisa jadi artis seperti Taylor Swift hingga pengguna biasa.
Dalam waktu kurang dari dua minggu, Grok telah menciptakan jutaan gambar seksual, termasuk lebih dari 20.000 gambar anak-anak, menurut sampel gambar yang dikumpulkan oleh Center for Countering Digital Hate.
Musk awalnya meremehkan kemampuan Grok untuk membuat konten seksual palsu, dengan mengatakan pada bulan Januari bahwa ia tidak mengetahui adanya gambar anak di bawah umur telanjang yang dihasilkan oleh Grok.
"Jelas, Grok tidak secara spontan menghasilkan gambar, ia hanya melakukannya berdasarkan permintaan pengguna," tulis Musk di X.
Namun, karena pelecehan daring semacam itu terus berlanjut tahun ini, badan pengawas Inggris Ofcom, Komisi Eropa, dan California masing-masing meluncurkan penyelidikan terhadap kemampuan fitur tersebut untuk membuat gambar-gambar seksual dari orang sungguhan, khususnya anak-anak.
