.webp)
Chatbot dengan kecanggihan artificial intelligence (AI) kepunyaan Elon Musk, Grok, membuat heboh platform media sosial X. Hal ini disebabkan kemampuannya yang ternyata dapat digunakan untuk memproduksi konten pornografi.
Sejumlah orang telah memanfaatkan kecanggihan Grok tidak semestinya. Kini bertebaran sederet gambar seksual yang mana semuanya dilakukan tanpa izin si pemilik foto.
Jadi beberapa orang di X mulai menyebut Grok di postingannya disertai sebuah gambar wanita, dengan permintaan yang sangat spesifik, seperti "pakaikan dia bikini" atau "lepaskan pakaiannya".
SCROLL TO CONTINUE WITH CONTENT
Dari permintaan tersebut, berulang kali Grok menurutinya dan memberikan hasil berdasarkan foto yang disertai, seperti menggunakannya bikini, menjadikan pakaian dalamnya lebih terbuka, hingga membuat orang tersebut memperagakan pose seksual.
Grok AI dan X Terancam Diblokir
Kementerian Komunikasi dan Digital (Kemkomdigi) resmi mengambil langkah tegas terhadap platform X terkait dugaan penyalahgunaan fitur Grok AI.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa temuan awal menunjukkan Grok AI belum memiliki sistem moderasi yang memadai. Fitur AI ini dinilai belum mampu mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi," ujar Alexander di Jakarta, dalam keterangan resmi Rabu (7/1/2026).
Pemerintah menegaskan bahwa jika platform X dan Grok AI tidak segera berkooperatif dalam memperbaiki sistem keamanan mereka, sanksi berat menanti. Sanksi tersebut mulai dari administratif hingga pemutusan akses layanan (blokir) di wilayah Indonesia.
Bukan sekadar masalah kesusilaan, Kemkomdigi memandang manipulasi digital ini sebagai bentuk perampasan kendali individu atas identitas visualnya. Praktik deepfake semacam ini berdampak fatal pada kerugian psikologis bagi korban, kerusakan reputasi sosial di ruang publik, dan pelanggaran hak atas citra diri (right to one's image).
Manipulasi Foto Mesum Lewat Grok AI Bisa Dipidana
Bareskrim Polri juga menanggapi terkait fenomena manipulasi foto seseorang menjadi konten vulgar dengan fitur Grok AI pada platform media sosial X.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji menjelaskan tindakan pengeditan foto itu merupakan bentuk pidana berupa deepfake. Dia menyebut fenomena tersebut sudah diawasi.
"Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI," kata Himawan menjawab pertanyaan wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).
Karena itu, Himawan menyatakan jika terbukti ada manipulasi data elektronik oleh orang lain tanpa persetujuan pemiliknya, tindakan itu dapat diproses pidana. Hal ini juga berlaku untuk yang memanipulasi foto mesum lewat aplikasi selain Grok AI.
"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana," imbuhnya.
Aturan AI Perlu Dikebut
Sebagai informasi bahwa saat ini aturan AI masih sebatas Surat Edaran, di mana masih bersifat imbauan dengan tidak ada sanksi tegas di dalamnya. Di saat bersamaan, pemerintah tengah menyiapkan Peraturan Presiden (Perpres) tentang Kecerdasan Artifisial (AI).
Ketua Indonesia Cyber Security Forum (ICSF) Ardi Sutedja menilai, regulasi saja tidak akan menyelesaikan persoalan.
"Segala teknologi itu tidak bisa melulu bertumpu pada peraturan. Peraturan hanya membatasi boleh dan tidak boleh," ujar Ardi kepada detikiNET, Rabu (7/1/2026).
Ia menegaskan, persoalan utama justru terletak pada literasi digital terkait teknologi dan kesadaran risiko di masyarakat. Menurutnya, tanpa pemahaman yang memadai, regulasi hanya akan menjadi dokumen administratif.
"Yang paling penting itu bagaimana kita mengajari masyarakat untuk paham, bahwa tidak semua teknologi itu tepat dan aman digunakan," ungkap dia.
Disampaikan Ardi bahwa hingga saat ini Indonesia belum memiliki kurikulum yang memadai terkait literasi teknologi, etika digital, dan risiko AI, baik di tingkat pendidikan dasar maupun lanjutan.
"Di sekolah tidak ada, di masyarakat tidak ada, bahkan pejabat pun banyak yang tidak pernah diajari. Kita selalu lompat dari satu teknologi ke teknologi lain, tapi tidak pernah tuntas membahas risikonya," tuturnya.
Terkait rencana Perpres AI, Ardi menilai langkah itu tetap penting, namun tidak boleh berdiri sendiri. Pemerintah, menurutnya, harus mengedepankan pendekatan multi-stakeholder dengan melibatkan industri, akademisi, komunitas teknologi, dan masyarakat.
Saksikan pembahasan selengkapnya hanya di program detikPagi edisi Kamis (8/1/2026). Nikmati terus menu sarapan informasi khas detikPagi secara langsung (live streaming) pada Senin-Jumat, pukul 08.00-11.00 WIB, di 20.detik.com, YouTube dan TikTok detikcom. Tidak hanya menyimak, detikers juga bisa berbagi ide, cerita, hingga membagikan pertanyaan lewat kolom live chat.
"Detik Pagi, Jangan Tidur Lagi!"
(vrs/vrs)
