.webp)
Tiga senator Partai Demokrat di Amerika Serikat, mendesak Apple dan Google untuk menangguhkan aplikasi X dan Grok dari toko aplikasi mereka, setidaknya sampai sang pemilik, Elon Musk, melarang platform tersebut membiarkan pengguna membuat dan menyebarkan gambar eksplisit tanpa izin.
Dalam surat terbuka kepada CEO Apple Tim Cook dan CEO Google Sundar Pichai, Senator Ron Wyden dari Oregon, Ed Markey dari Massachusetts, dan Ben Ray Luján dari New Mexico menyatakan raksasa teknologi tersebut harus "segera menghapus aplikasi X dan Grok dari toko aplikasi mereka sampai CEO perusahaan, Elon Musk, menangani aktivitas meresahkan dan kemungkinan besar ilegal ini."
"Menutup mata terhadap perilaku X yang sangat buruk akan memperolok praktik moderasi Anda," tulis mereka yang dikutip detikINET dari CNBC. Ditambahkan bahwa kegagalan mengambil tindakan akan melemahkan klaim bahwa toko aplikasi menawarkan pengalaman pengguna yang lebih aman.
SCROLL TO CONTINUE WITH CONTENT
Grok dan X memungkinkan pengguna dengan mudah membuat dan menyebarluaskan konten deepfake eksplisit dan bermuatan seksual yang menampilkan orang-orang yang tidak pernah memberikan izin gambar mereka digunakan. Grok juga dipakai menghasilkan gambar yang merendahkan orang berdasarkan ras atau etnis.
Masalah ini memicu kritik luas dan penyelidikan di Eropa, Malaysia, Australia, India, sampai Indonesia. Namun, Komisi Perdagangan Federal (FTC) dan Departemen Kehakiman AS belum menyatakan apakah akan menyelidiki xAI.
Awal Januari, Musk dan X mengeluarkan pernyataan bahwa siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menanggung konsekuensi sama seperti jika mereka mengunggah konten ilegal.
Apple dan Google sama-sama memiliki pedoman ketat bagi pengembang aplikasi yang mewajibkan mereka mencegah pengunggahan dan penyebaran gambar yang menggambarkan pelecehan seksual anak, serta konten eksplisit atau berbahaya lainnya.
Aplikasi media sosial termasuk Tumblr dan Telegram, sebelumnya pernah ditangguhkan toko aplikasi Apple karena gagal menyaring berbagai konten tidak pantas.
Menanggapi insiden ini, X dilaporkan membuat fitur pembuatan gambar AI Grok hanya tersedia bagi pelanggan berbayar. Namun, aplikasi dan situs Grok masih memungkinkan pengguna memerintahkan Grok untuk menelanjangi secara digital, menseksualisasi, atau merendahkan orang tanpa izin.
CNN melaporkan bahwa pembaruan fitur Grok baru-baru ini, beserta minimnya fitur pengaman, merupakan desakan dari Musk. Tiga staf xAI yang bekerja di tim keamanan perusahaan mengumumkan mereka mengundurkan diri setelah Musk mengajukan tuntutan tersebut.
Di tengah reaksi keras, xAI meraih putaran pendanaan USD 20 miliar dari investor termasuk Nvidia dan Cisco Investments, serta pendukung lama perusahaan Musk seperti Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX dari Abu Dhabi, dan Baron Capital Group.
(fyk/fyk)
