.webp)
Pada bulan Mei, TikTok mengumumkan bahwa mereka akan secara otomatis melabeli konten yang dibuat oleh AI pada platformnya. Namun, hal tersebut tidak berlaku untuk semua versi aplikasi.
Sebuah laporan baru dari Mozilla Foundation dan AI Forensics menemukan bahwa versi Lite-Save Data TikTok, yang ditujukan untuk pengguna di pasar yang lebih miskin, tidak hanya membiarkan konten yang dihasilkan AI tidak diberi label, tetapi juga tidak memiliki perlindungan serupa.
"Pelabelan adalah taktik yang sangat penting yang digunakan platform untuk memberikan suatu bentuk kepercayaan dan keamanan," kata Odanga Madung, salah satu rekan di Mozilla dan salah satu penulis laporan tersebut sebagaimana dikutip detikINET dari Wired, Kamis (25/7/2024).
SCROLL TO CONTINUE WITH CONTENT
Pengguna TikTok versi reguler, misalnya, akan melihat label yang menunjukkan bahwa konten tersebut bersifat grafis atau menggambarkan perilaku berbahaya.
Beberapa konten tentang topik-topik seperti pemilihan umum dan kesehatan, juga menyertakan pemberitahuan yang mendorong pengguna untuk mengakses informasi yang kredibel melalui pusat sumber daya di aplikasi. Namun, di TikTok Lite, tidak ada satupun dari pagar pembatas ini.
Hal ini berarti bahwa dengan adanya konten yang dibuat oleh AI bisa menjadi masalah dalam pemilihan umum di seluruh dunia, pengguna di pasar yang lebih miskin tidak mendapatkan informasi yang cukup tentang mana yang palsu dan mana yang asli dibandingkan dengan pengguna di pasar yang lebih kaya.
Madung pun mempertanyakan mengapa, dari semua fitur yang dapat dipotong untuk mengoptimalkan aplikasi, perusahaan memasukkan fitur yang membuat platform lebih aman bagi pengguna. Apakah ini sebuah pilihan atau memang kelalaian dari TikTok.
Dalam sebuah pernyataan, juru bicara TikTok mengatakan bahwa ada beberapa ketidakakuratan faktual dalam laporan ini yang pada dasarnya salah menggambarkan pendekatan TikTok terhadap keamanan
.
"Faktanya adalah konten yang melanggar peraturan kami akan dihapus dari TikTok Lite dengan cara yang sama seperti aplikasi utama kami dan kami menawarkan banyak fitur keamanan," kata TikTok, mereka menolak untuk menunjukkan ketidakakuratan tertentu.
Aplikasi versi lite telah lama menjadi cara bagi perusahaan untuk meningkatkan pangsa pasar di daerah-daerah di mana pengguna dikenakan biaya data yang tinggi atau hanya mampu membeli ponsel yang kurang canggih.
Pada tahun 2015, Meta, yang saat itu bernama Facebook, meluncurkan Facebook Lite, sebuah versi sederhana dari aplikasinya yang lebih kompatibel dengan jaringan data 2G.
Pada tahun yang sama, Facebook juga meluncurkan Free Basics, yang memungkinkan pengguna di negara-negara Asia Selatan untuk mengakses platform dan situs web tertentu tanpa dikenakan biaya untuk penggunaan data.
Pada saat itu, proyek ini menghadapi kritik luas, terutama di India, karena menciptakan pengalaman tingkat kedua bagi pelanggan yang lebih miskin.
TikTok meluncurkan versi Lite pada tahun 2018 di Thailand, dan dengan cepat meluas ke pasar-pasar lain di Asia Tenggara, termasuk Indonesia, Malaysia, dan Filipina.
Aplikasi ini, yang tidak seperti TikTok versi lengkap yang dapat berjalan di jaringan 2G dan 3G, kini telah diunduh lebih dari 1 miliar kali, menurut data dari Google Play Store. TikTok Lite sendiri hanya tersedia untuk ponsel Android.
"Mayoritas pengguna di Global South berpenghasilan rendah dan memiliki keterbatasan sumber daya," kata Payal Arora, profesor budaya AI inklusif di Universitas Utrecht.
"Versi ringan dari aplikasi membantu perusahaan untuk merangkul mereka, sesuatu yang menurutnya lebih penting daripada sebelumnya karena "data adalah mata uang di pasar yang digerakkan oleh AI dan haus akan AI," lanjutnya.
Salah satu contoh perbedaan yang ditemukan para peneliti di antara versi aplikasi berkaitan dengan COVID-19, sementara pengguna Lite dirujuk ke pusat sumber daya ketika secara aktif mencari istilah yang terkait dengan virus, konten aktual tentang virus tidak diberi label dengan tautan ke pusat sumber daya tersebut, seperti yang ada di versi lengkap TikTok.
Para peneliti juga menemukan bahwa teks terpotong di TikTok versi Lite, sehingga pengguna tidak memiliki konteks yang jelas tentang apa yang mereka lihat.
Versi Lite dari aplikasi ini juga tidak memiliki fitur yang memungkinkan pengguna untuk membatasi waktu yang mereka habiskan di aplikasi dan mode terbatas yang menghilangkan konten yang mungkin tidak sesuai untuk semua penonton, menurut kebijakan TikTok.
Dengan menghilangkan fitur-fitur ini, TikTok tampaknya mengulangi kesalahan aplikasi Lite sebelumnya. Facebook Lite juga menghapus elemen-elemen yang mungkin telah membantu pengguna untuk lebih memahami konten yang mereka temui.
"Dalam kasus versi Lite Facebook, ini membuat orang lebih sulit untuk membedakan mana yang asli dan mana yang tidak, karena sering kali menghapus gambar karena gambar tersebut lebih berat, atau membuatnya tidak mungkin untuk mengeklik tautan," kata Ellery Roberts Biddle, seorang mantan rekan di Berkman Klein Center for Internet and Society di Harvard yang telah mempelajari platform sosial dengan rating nol.
"Hal ini tampaknya berakar pada kurangnya pertimbangan yang sama untuk pemberdayaan pengguna," sambungnya.
Madung khawatir kerusakan yang disebabkan oleh kurangnya label dan moderasi tidak hanya terbatas pada pengguna TikTok Lite saja.
"Konten yang dibuat di TikTok tidak akan bertahan di TikTok. Orang-orang sering kali mengunduh video dan membagikannya di WhatsApp atau Instagram Reels," ujarnya.
(jsn/fay)
