.webp)
Australia telah memperkenalkan peraturan baru yang mewajibkan perusahaan mesin pencari untuk mengambil langkah tegas untuk memerangi konten pelecehan seksual anak yang dibuat oleh teknologi AI atau kecerdasan buatan.
Media lokal Australia melaporkan bahwa aturan keamanan online yang telah diumumkan pada Jumat lalu (8/9) akan mengharuskan mesin pencari seperti Google, Bing, DuckDuckGo, dan Yahoo untuk mengambil langkah-langkah yang tepat untuk mencegah proliferasi eksploitasi seksual anak, termasuk gambar-gambar sintetis yang dibuat oleh AI.
"Ketika alat-alat ini menjadi lebih demokratis, para predator dapat menggunakan ini untuk membuat materi pelecehan seksual anak sintetis sesuai dengan kecenderungan mereka, atau menggunakan anime, langit adalah batasnya," kata Komisioner eSafety Australia, Julie Inman Grant sebagaimana dikutip detiKINET dari The Independent, Senin (11/9/2023).
SCROLL TO CONTINUE WITH CONTENT
Baca juga: Apple Habiskan Jutaan Dolar Perhari demi AI |
"Kita perlu tahu bahwa perusahaan-perusahaan memikirkan hal ini dan memasang pagar pengaman yang sesuai," lanjutnya.
Bulan lalu dilaporkan bahwa anak-anak muda menggunakan konten eksplisit deepfake yang dibuat oleh AI untuk melecehkan teman sebayanya, sehingga berkontribusi pada lonjakan pelecehan online yang didorong oleh AI.
"Saya memperkirakan selama tahun depan, kita akan melihat peningkatan yang sangat besar dalam laporan semacam ini (terkait AI)," kata Grant.
eSafety Australia adalah lembaga pemerintah independen yang didedikasikan untuk menghentikan perundungan dan pelecehan berbasis gambar secara online.
Menurutnya penggunaan AI generatif telah berkembang begitu cepat sehingga hal ini membuat seluruh dunia lengah sampai tingkat tertentu.
Pengumuman peraturan baru ini menyusul keputusan komisaris eSafety untuk menunda peluncuran aturan sebelumnya pada bulan Juni.
"Ketika para pemain terbesar di industri ini mengumumkan bahwa mereka akan mengintegrasikan AI generatif ke dalam fungsi pencarian mereka, kami memiliki draf aturan yang jelas-jelas tidak lagi sesuai dengan tujuan dan tidak dapat memberikan perlindungan komunitas yang kami butuhkan dan harapkan," ujar Inman Grant.
"Kami meminta industri untuk mencoba lagi menyusun aturan untuk memenuhi harapan tersebut dan saya ingin memuji mereka karena telah memberikan aturan yang akan melindungi keamanan semua warga Australia yang menggunakan produk mereka. Industri teknologi sekarang membutuhkan momen sabuk pengaman," pungkasnya.
(jsn/fay)
