.webp)
Julie Yukari, musisi yang tinggal di Rio de Janeiro, mengunggah foto hasil jepretan tunangannya ke media sosial X sesaat sebelum tengah malam pada malam Tahun Baru. Foto itu memperlihatkannya mengenakan gaun merah, meringkuk di tempat tidur bersama kucing hitamnya, Nori.
Keesokan harinya, di antara ratusan Like yang membanjiri foto tersebut, ia melihat notifikasi bahwa beberapa pengguna meminta Grok, chatbot AI bawaan X, untuk menanggalkan pakaiannya secara digital dan menggantinya dengan bikini.
Perempuan berusia 31 tahun itu awalnya tak ambil pusing. Ia mengira bot tersebut tidak mungkin memenuhi permintaan semacam itu. Namun ia keliru. Tak lama, gambar dirinya buatan Grok dalam kondisi nyaris tanpa busana mulai beredar di platform milik Elon Musk tersebut. "Saya terlalu naif," kata Yukari.
SCROLL TO CONTINUE WITH CONTENT
Pengalaman Yukari ini terjadi berulang kali di platform X. Bahkan tak hanya wanita, Reuters mengidentifikasi beberapa kasus di mana Grok menciptakan gambar seksual anak-anak. Pihak X belum menanggapi insiden ini.
Banjirnya gambar-gambar nyaris bugil dari orang sungguhan ini telah memicu alarm peringatan secara internasional. Para menteri di Prancis telah melaporkan X ke jaksa dan regulator terkait gambar-gambar yang meresahkan tersebut. Dalam pernyataan resmi, mereka menyebut konten seksual dan seksis itu jelas ilegal.
Kementerian IT India juga mengirimkan surat kepada unit lokal X, menyatakan bahwa platform tersebut gagal mencegah penyalahgunaan Grok dalam menghasilkan dan mengedarkan konten cabul serta eksplisit secara seksual.
Aksi "penelanjangan digital" massal oleh Grok ini tampaknya mulai marak beberapa hari terakhir, berdasarkan permintaan pelepasan pakaian yang berhasil dipenuhi oleh Grok serta keluhan dari pengguna perempuan.
Pemilik X, Elon Musk, tampak mengolok-olok kontroversi ini dengan mengunggah emoji tertawa hingga menangis menanggapi hasil edit AI terhadap tokoh-tokoh terkenal-termasuk dirinya yang mengenakan bikini. Ketika seorang pengguna X mengeluh bahwa beranda media sosialnya kini menyerupai bar penuh wanita berbikini, Musk menjawab dengan emoji serupa.
Mayoritas target adalah perempuan muda. Dalam beberapa kasus, pria, selebritas, politisi, dan bahkan seekor monyet jadi sasaran. Modus operandi pengguna biasanya meminta Grok untuk menampilkan subjek dalam pakaian seminim mungkin. "Pakaikan dia bikini mini yang sangat transparan," perintah salah satu pengguna kepada Grok pada sebuah foto perempuan muda.
Program AI yang dapat menelanjangi perempuan secara digital sebenarnya sudah ada bertahun-tahun. Namun hingga saat ini, alat tersebut biasanya terbatas di sudut gelap internet, seperti situs web khusus atau kanal Telegram, dan memerlukan upaya tertentu atau pembayaran.
Inovasi X ini menurunkan hambatan bagi siapa pun untuk melakukannya. Tiga pakar kebijakan konten AI mengatakan X mengabaikan peringatan kelompok masyarakat sipil dan perlindungan anak. "Bulan Agustus, kami sudah memperingatkan pembuatan gambar xAI pada dasarnya adalah alat 'nudifikasi' yang menunggu disalahgunakan," kata Tyler Johnston, direktur eksekutif The Midas Project.
Dikutip detikINET dari Reuters, Dani Pinter, direktur hukum di National Center on Sexual Exploitation, menyebutnya kekejian yang sepenuhnya dapat diprediksi dan dihindari.
Yukari sempat mencoba melawan. Namun ketika memprotes pelanggaran itu di X, gelombang peniru justru muncul dan meminta Grok menghasilkan foto jauh lebih eksplisit. "Saya ingin bersembunyi dari pandangan semua orang, dan merasa malu atas tubuh yang bahkan bukan milik saya, karena itu dihasilkan oleh AI," pungkasnya.
(fyk/fyk)
