Korea Darurat Pornografi Deepfake, Telegram Biang Keroknya

Setelah pendiri dan sang CEO Pavel Durov ditangkap di Prancis, Telegram kini menghadapi potensi masalah hukum di Korea Selatan. Aparat negara itu mengumumkan penyelidikan awal atas dugaan peran Telegram dalam membantu kejahatan seksual, khususnya pornografi deepfake.

Seperti dikutip detikINET dari CNBC, Rabu (4/9/2024) Korsel memang sedang berupaya mengatasi maraknya penyebaran pornografi deepfake yang menargetkan wanita muda, termasuk remaja, di negara itu.

Mirip dengan penyelidikan Korea Selatan, otoritas Prancis menyelidiki peran Telegram dalam distribusi gambar pornografi anak di bawah umur, serta memfasilitasi kejahatan terorganisir, perdagangan narkoba, dan penipuan. Durov dituduh gagal mengurangi aktivitas kriminal semacam itu di aplikasi buatannya.

Menurut laporan Yonhap, Woo Jong-soo, kepala Kantor Investigasi Nasional, berencana untuk bekerja sama dengan kolega di Prancis dan lembaga internasional lain terkait persoalan Telegram. Penyelidikan ini kemungkinan rumit karena Telegram tak secara langsung menyediakan data investigasi, seperti informasi akun, ke badan investigasi negara manapun.

Penolakan Telegram membagi informasi ke penyidik ketika diharuskan oleh hukum juga menjadi fokus dalam penyelidikan Prancis. Tak hanya di Korea, Telegram juga berpotensi menghadapi masalah hukum di negara seperti Brasil dan Jerman, atas kekhawatiran seputar konten ilegal dan berbahaya.

Walau Telegram mengklaim praktik moderasi kontennya sesuai standar dan terus ditingkatkan, fitur tertentu menjadikannya target pengawasan pemerintah. Dengan hanya nomor telepon untuk mendaftar dan kemampuan percakapan terenskripsi di fitur secret chat, Telegram menawarkan anonimitas tinggi. Fitur anonim ini menarik pelaku kejahatan.

Kini, di Korea Selatan, fitur-fitur ini menarik pelaku pornografi deepfake. Deepfake adalah video, suara, atau gambar orang sungguhan yang diubah dan dimanipulasi secara digital dan semakin marak di tengah munculnya teknologi AI generatif.

Kepolisian Korsel menyelidiki delapan program otomatis yang menghasilkan pornografi deepfake untuk grup-grup Telegram, beserta chatroom yang menyebar konten tersebut. Grup-grup Telegram, beberapa di antaranya beranggota hingga 220.000 orang, digunakan membagikan gambar deepfake dari para mahasiswi, pelajar sekolah menengah atas, bahkan sekolah menengah pertama.