YouTube Larang Konten Simulasi Korban Anak Meninggal dengan AI

YouTube tidak akan lagi mengizinkan dan akan menindak tegas konten yang mensimulasikan secara realistis anak-anak di bahwa umur yang telah meninggal atau yang menjadi korban kekerasan maupun peristiwa tragis.

Layanan miliki Google ini mengatakan akan mulai menindak konten semacam itu mulai 16 Januari 2024. Perubahan kebijakan ini dilakukan karena beberapa kreator dengan konten peristiwa/kejahatan menggunakan AI untuk membuat ulang kemiripan dengan korban anak-anak yang telah meninggal atau hilang.

Dalam beberapa bulan terakhir, para pembuat konten telah menggunakan AI untuk menceritakan berbagai kasus terkenal, termasuk penculikan dan kematian James Bulger yang masih berusia dua tahun asal Inggris, seperti yang dilaporkan oleh The Washington Post, Rabu (10/1/2024). Bahkan di Indonesia sendiri juga ada konten seperti itu.

Melansir dari TechCrunch, YouTube akan menghapus konten yang melanggar kebijakan baru ini, dan pengguna yang terkena teguran tidak akan dapat mengunggah video, streaming langsung, atau cerita selama satu minggu. Setelah tiga kali teguran, saluran pengguna akan dihapus secara permanen dari YouTube.

Perubahan baru ini muncul hampir dua bulan setelah YouTube memperkenalkan kebijakan baru seputar pengungkapan yang bertanggung jawab untuk konten AI, bersama dengan alat baru untuk meminta penghapusan deepfake.

Salah satu perubahan mengharuskan pengguna untuk mengungkapkan ketika mereka telah membuat konten yang diubah atau sintetis yang tampak realistis.

YouTube memperingatkan bahwa pengguna yang gagal mengungkapkan penggunaan AI dengan benar akan dikenakan penghapusan konten, penangguhan dari Program Mitra YouTube, atau hukuman lainnya.

Selain itu, YouTube mencatat pada saat itu bahwa beberapa konten AI dapat dihapus jika digunakan untuk menunjukkan kekerasan yang realistis, meskipun sudah diberi label. Terkait hal ini, TikTok juga melakukan hal serupa.

Pada September 2023, TikTok meluncurkan alat yang memungkinkan kreator memberi label pada konten buatan AI mereka. TikTok telah memperbarui panduannya untuk mewajibkan kreator mengungkapkan ketika mereka memposting media sintetis atau manipulasi yang menunjukkan adegan realistis. Kebijakan TikTok memungkinkannya untuk menghapus gambar-gambar AI yang realistis tersebut.