Beberapa media sosial seperti Facebook, Instagram dan TikTok memperketat aturan mereka soal konten seksual. Hal ini karena maraknya pornografi yang memakai kecerdasan buatan.
Beberapa waktu terakhir terdapat konten seksual bisa lolos moderasi media sosial, caranya dengan Artificial Intelligence (AI). Konten ini menawarkan obrolan kotor atau menciptakan karakter berpakaian minim dari AI seperti dilansir dari NBC News, Kamis (7/9/2023).
Dari data yang dimiliki NBC News terdapat 35 pengembang aplikasi yang menjalankan konten seksual yang saat ini menciptakan lebih dari 1.000 iklan yang ditayangkan di beberapa media sosial milik Meta.
Selain itu, TikTok juga menjadi media sosial yang kebobolan dalam menayangkan konten seksual olahan AI tersebut. Terdapat 14 pengembang aplikasi yang menciptakan ratusan iklan dengan konten seksual di TikTok.
Namun, pihak Meta dan TikTok mulai menyadari model baru dari konten seksual yang berasal dari AI tersebut. Mereka mengatakan bahwa mereka melarang segala jenis konten seksual baik yang dihasilkan AI maupun bukan.
"Kebijakan kami melarang iklan yang mengandung konten dewasa yang terlalu sugestif atau provokatif secara seksual, apakah itu dihasilkan oleh AI atau tidak," ungkap pihak Meta dalam sebuah keterangan.
Meta juga mengatakan sedang merumuskan aturan yang jelas tentang keberadaan tren baru dalam publikasi konten seksual di media sosial mereka.
"Kebijakan dan penegakan kami dirancang untuk beradaptasi di ruang yang sangat bermusuhan ini, dan kami secara aktif memantau tren baru dalam konten yang dihasilkan AI," tambah mereka.
Dalam menyatakan aturan tentang larangan iklan yang mengandung konten seksual olahan AI, TikTok juga menyatakan komitmen yang sama seperti Meta untuk melarang seluruh iklan yang mengandung konten seksual.
Meta menerapkan kebijakan bahwa tidak boleh ada iklan yang mengandung konten dewasa termasuk penggambaran orang dalam suatu posisi atau aktivitas eksplisit dan sugestif yang terlalu provokatif secara seksual.
Keberadaan Aplikasi Chatbot Seks
Walau Meta dan TikTok sudah menerapkan standar iklan yang tidak mengizinkan konten seksual, mereka belum menerapkan kebijakan tersebut ke chatbots seks.
Terdapat 35 perusahaan Chatbots yang mengarahkan pengembangan mereka kepada Chatbots Seks. Banyak dari mereka berbasis di Belarus dan Cina. Beberapa di antaranya juga tidak menyertakan lokasi mereka.
Aplikasi Chatbots Seks juga banyak diiklankan di Google dan dapat diunduh dengan gratis dengan paket langganan di dalamnya. Google menandai beberapa aplikasi tersebut dengan batasan usia namun masih ada beberapa aplikasi yang bisa diunduh kalangan remaja.
*Artikel ini ditulis oleh Argya D Maheswara, peserta Program Magang Bersertifikat Kampus Merdeka di detikcom.
Simak Video "Video: Skill Kuasai AI Kini Jadi Pertimbangan Perusahaan Rekrut Karyawan"
(fay/fay)