Susul Indonesia, Malaysia Juga Blokir Grok AI Terkait Konten Mesum

Jakarta -

Setelah Indonesia, giliran negara tetangga Malaysia memblokir akses terhadap Grok AI di X. Regulator Malaysia memerintahkan pembatasan sementara terhadap chatbot milik xAI itu pada hari Minggu menyusul kegagalan berulang X Corp dalam menangani risiko konten terkait dengan tool AI tersebut.

Langkah ini diambil hanya berselang satu hari setelah Indonesia memutuskan untuk memblokir sementara akses ke Grok karena kekhawatiran serupa dan meminta petinggi X memberikan klarifikasi terkait masalah ini.

Tindakan negara-negara Asia Tenggara ini dilakukan setelah terungkap sejumlah pengguna Grok membuat gambar eksplisit tanpa izin dan deepfake, termasuk gambar anak di bawah umur dengan pakaian minim.

Terkait insiden itu, X baru-baru ini memperbarui fitur Grok Imagine, yang memudahkan pembuatan gambar dari perintah berbasis teks di platform tersebut. xAI mengumumkan akan membatasi fitur pembuatan dan pengeditan gambar hanya bagi pelanggan berbayar, sebagai upaya untuk meminimalisir pembuatan konten bernuansa seksual.

Namun sepertinya, tindakan X gagal memuaskan kekhawatiran regulator di Indonesia dan Malaysia, serta negara lain yang telah meluncurkan penyelidikan. Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan jawaban X dinilai tidak memadai.

"Karena itu, pembatasan ini diberlakukan sebagai langkah preventif dan proporsional selama proses hukum dan regulasi berlangsung. Akses ke Grok akan tetap dibatasi hingga pengaman yang efektif diterapkan, terutama untuk mencegah konten yang melibatkan perempuan dan anak-anak," kata mereka yang dikutip detikINET dari CNBC, Senin (12/1/2026).

Baik Indonesia maupun Malaysia menerapkan UU anti pornografi ketat, yang melarang penyebaran konten cabul dan seksual secara online secara lebih luas.

Adapun Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, menyebut pemerintah Indonesia memandang deepfake seksual non-konsensual adalah pelanggaran serius HAM, martabat, dan keamanan warga negara di ruang digital. Meutya juga mengategorikan penyalahgunaan AI untuk membuat pornografi palsu sebagai bentuk kekerasan berbasis digital.

Otoritas di area lain, termasuk Uni Eropa, Inggris, Brasil, dan India, juga telah menyerukan penyelidikan terhadap peran Grok dalam memfasilitasi deepfake cabul dan tanpa izin.

Sementara itu, beberapa anggota parlemen Partai Demokrat di Washington DC telah merekomendasikan agar toko aplikasi menangguhkan tool AI tersebut, setidaknya sampai Musk menerapkan perubahan besar.

(fyk/fay)