.webp)
Gelombang protes dari berbagai berbagai negara terhadap Grok AI, sistem kecerdasan buatan milik X, terus berdatangan, terbaru Indonesia juga melayangkan protes kepada media sosial kepunyaan Elon Musk tersebut.
Grok AI belum lama ini menghadirkan fitur kontroversial yang menghasilkan gambar mesum dan eksplisit dari foto nyata, termasuk anak-anak. Grok akan menuruti permintaan pengguna untuk memproduksi konten senonoh.
SCROLL TO CONTINUE WITH CONTENT
Kemarahan terhadap Grok ini memuncak setelah sejumlah negara dan otoritas pemerintah secara serempak mempertanyakan keselamatan, legalitas, dan etika fitur Grok, terutama ketika alat tersebut dimanfaatkan untuk deepfake yang merendahkan martabat individu, memanipulasi foto pribadi, atau mengubah pakaian subjek menjadi pakaian minim tanpa persetujuan.
Menanggapi banjir kritikan yang silih berdatangan, pihak X dan Grok AI tidak sepenuhnya bungkam. Dalam pernyataan yang disebarkan melalui platform X, Grok mengakui bahwa sistemnya pernah menghasilkan gambar berpakaian minim yang tidak sesuai dengan kebijakan, meskipun kasus itu disebut sebagai isolated atau kasus terpisah.
"Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Seksual Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan," ujar X dikutip dari BBC, Kamis (8/1/2026).
"Siapa pun yang menggunakan atau mendorong Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal," lanjut pernyataan tersebut.
Kontroversi fitur Grok AI itu muncul di tengah maraknya laporan banyak pengguna menggunakan Grok untuk edit foto orang lain, mengubahnya menjadi gambar eksplisit atau seksual tanpa izin.
Hal tersebut membuat otoritas di berbagai negara menganggap hal ini melanggar hukum dan merusak martabat individu, bahkan dugaan konten yang melibatkan gambar yang menyerupai anak-anak telah terdeteksi.
Prancis, India, dan Malaysia memprotes kemampuan Grok AI itu yang juga diikuti oleh Indonesia. Kementerian Komunikasi dan Digital (Komdigi) resmi mengambil langkah tegas terhadap platform X (sebelumnya Twitter) terkait dugaan penyalahgunaan fitur kecerdasan buatan, Grok AI. Teknologi tersebut disinyalir menjadi sarana produksi dan penyebaran konten asusila melalui manipulasi foto pribadi (deepfake) tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa temuan awal menunjukkan Grok AI belum memiliki sistem moderasi yang memadai. Fitur AI ini dinilai belum mampu mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi," ujar Alexander di Jakarta, dalam keterangan resmi Rabu (7/1).
(agt/fay)
