Grok Terancam Dihapus dari App Store, Ini Sebabnya

Jakarta -

Aplikasi kecerdasan buatan (AI) Grok terancam dihapus dari App Store. Semuanya karena deep fake seksual tanpa konsensus dari pihak yang fotonya dicatut. Apple dikabarkan telah menghubungi tim di balik X dan Grok.

Grok dan X adalah platform milik miliarder Elon Musk. Grok menghadapi kecaman setelah chatbot AI Grok menghasilkan gambar-gambar seksual, terutama anak-anak dan perempuan tanpa persetujuan. Nah, X ikut kena karena pengguna dapat menyebut @grok dalam tweet-nya dan langsung menuliskan prompt untuk menciptakan gambar tersebut.

Menurut laporan NBC News, Elon Musk bahkan sampai harus mengirimkan surat kepada para senator AS tentang bagaimana mereka bekerja di balik layar. Tujuannya agar dia dapat mengatasi insiden tersebut lebih cepat.

Apple kemudian mendapat tekanan untuk menarik aplikasi Grok dan X dari App Store. Meskipun perusahaan tetap bungkam saat itu, NBC News mengatakan Apple menemukan X dan Grok melanggar pedomannya dan secara pribadi mengancam akan menghapus Grok dari App Store.

Berdasarkan laporan tersebut, Apple menghubungi tim di balik X dan Grok setelah menerima keluhan dan melihat liputan berita tentang skandal ini. Mereka lantas meminta para pengembang aplikasi untuk membuat rencana untuk meningkatkan moderasi konten.

Laporan itu mengatakan bahwa X mengirimkan pembaruan aplikasi Grok untuk ditinjau, tetapi sempat ditolak karena perubahannya dirasa kurang signifikan.

"Apple meninjau pengajuan selanjutnya yang dibuat oleh para pengembang dan menentukan bahwa X telah secara substansial menyelesaikan pelanggarannya, tetapi aplikasi Grok tetap tidak sesuai. Akibatnya, kami menolak pengajuan Grok dan memberi tahu pengembang bahwa perubahan tambahan untuk memperbaiki pelanggaran akan diperlukan, atau aplikasi tersebut dapat dihapus dari App Store," begitu bunyi surat Apple.

Akan tetapi, pada akhirnya, Apple dikatakan menerima update dari pengajuan Grok.

"Setelah keterlibatan dan perubahan lebih lanjut oleh pengembang Grok, kami menentukan bahwa Grok telah secara substansial meningkat dan oleh karena itu menyetujui pengajuan terbarunya," tulis mereka.

Dalam laporan lain, NBC News mengatakan Grok terus menghasilkan gambar-gambar yang berbau seksual dari orang-orang tanpa persetujuan mereka, bahkan setelah mendokumentasikan puluhan kasus tersebut selama sebulan terakhir. Kendati demikian, dinyatakan bahwa volume gambar telah menurun secara signifikan sejak Januari tahun ini.

(ask/rns)