TikTok Kecolongan Konten AI Tak Pantas yang Menargetkan Anak

Video AI yang menampilkan sosok seperti anak perempuan di bawah umur dalam pakaian atau posisi tidak pantas, telah meraup jutaan like di TikTok, meskipun aturan platform melarang konten semacam itu. Ini terungkap menurut penelitian sebuah organisasi keamanan online.

Peneliti menemukan lebih dari selusin akun yang mengunggah video gadis buatan AI dengan pakaian ketat, pakaian dalam, atau seragam sekolah, terkadang dalam pose sugestif. Akun-akun tersebut total punya ratusan ribu pengikut. Menurut laporan itu, kolom komentar di banyak video memuat tautan ke obrolan di Telegram, yang menawarkan transaksi pornografi.

Tiga belas akun masih aktif setelah 15 di antaranya dilaporkan melalui fitur pelaporan TikTok pekan lalu, menurut Carlos Hernandez-Echevarria, yang memimpin penelitian tersebut sebagai kepala kebijakan publik di Maldita.es. Organisasi nirlaba di Spanyol ini mengkaji disinformasi dan mempromosikan transparansi media.

Laporan ini mempertanyakan kemampuan TikTok menegakkan kebijakannya terkait konten AI, bahkan saat konten menampilkan gambar tak pantas anak-anak. Platform teknologi, termasuk TikTok, menghadapi tekanan untuk melindungi pengguna muda seiring makin banyaknya area yang mengesahkan UU keamanan online, termasuk larangan medsos bagi anak di bawah 16 tahun di Australia yang berlaku minggu ini.

"Ini sama sekali bukan hal samar. Tidak ada manusia sungguhan yang tidak menganggap ini menjijikkan dan ingin konten ini dihapus," kata Hernandez kepada CNN yang dikutip detikINET.

TikTok memiliki kebijakan tanpa toleransi terhadap konten yang memperlihatkan, mempromosikan, atau terlibat pelecehan atau eksploitasi seksual anak muda. Panduan komunitasnya secara khusus melarang akun yang berfokus pada gambar AI anak muda dengan pakaian yang ditujukan untuk orang dewasa, atau pose maupun ekspresi wajah yang diseksualisasi.

Bagian lain dari kebijakannya menyatakan bahwa TikTok tidak mengizinkan konten seksual yang melibatkan anak muda, termasuk apa pun yang memperlihatkan atau mengisyaratkan pelecehan atau aktivitas seksual, yang mencakup "gambar yang dihasilkan AI dan apapun yang menseksualisasi atau memfetisisasi tubuh anak muda.

Perusahaan mengatakan pihaknya menggunakan kombinasi tool berbasis visual, audio, dan teks, serta tim manusia, untuk memoderasi konten. Antara April dan Juni 2025, TikTok menghapus lebih dari 189 juta video dan memblokir lebih dari 108 juta akun.

Mereka mengklaim 99% konten yang melanggar kebijakan tentang ketelanjangan dan paparan tubuh, termasuk yang melibatkan anak muda, dihapus secara proaktif, dan 97% konten yang melanggar kebijakan tentang konten buatan AI dihapus secara proaktif. Juru bicara TikTok tidak memberikan komentar spesifik terkait laporan tersebut.

Maldita.es menemukan video TikTok tersebut melalui akun uji coba untuk memantau potensi disinformasi atau konten berbahaya lainnya. "Salah satu anggota tim kami mulai melihat adanya tren video AI yang menampilkan anak-anak yang masih sangat kecil berpakaian layaknya orang dewasa dan, terutama ketika Anda melihat kolom komentar, Anda bisa melihat adanya motif uang di sana," kata Hernandez.