Facebook meminta maaf setelah teknologi AI-nya (artificial intelligence atau kecerdasan buatan) gagal mengenali jenis video pria kulit hitam yang tengah bertengkar dengan polisi kulit hitam. Video tersebut kena label 'tentang primata'.

Label tersebut muncul setelah pengguna selesai menonton video tersebut. Pengguna menerima pertanyaan apakah mereka ingin 'terus melihat video tentang Primata' dan tentu saja hal ini membuat publik terganggu.

"Ini jelas kesalahan yang tidak dapat diterima dan kami menonaktifkan seluruh fitur rekomendasi topik segera setelah kami menyadari ini terjadi sehingga kami dapat menyelidiki penyebabnya dan mencegah hal ini terjadi lagi," kata juru bicara Facebook Dani Lever dalam sebuah pernyataan kepada USA Today seperti dilihat Senin (6/9/2021).

"Seperti yang telah kami katakan, kami telah membuat peningkatan pada AI kami, kami tahu itu tidak sempurna dan kami memiliki lebih banyak kemajuan yang bakal terus dilakukan. Kami meminta maaf kepada siapa pun yang mungkin telah melihat rekomendasi ofensif ini," lanjutnya.

Sebagai informasi, hal Ini bukan pertama kalinya sebuah perusahaan teknologi mendapat kecaman karena bias rasial yang terjadi pada sistem otomatisnya. Pada 2015, Google pernah meminta maaf setelah aplikasi fotonya salah mengidentifikasi orang kulit hitam sebagai gorila.

Setahun sesudahnya, chatbot AI Microsoft Tay tak terduga melontarkan penghinaan rasial dan harus ditarik secara offline. Bias rasial lain yang merayap ke dalam produk teknologi juga termasuk isu filter Instagram yang mencerahkan kulit atau fetishize fitur etnis dan filter Snapchat yang menggunakan wajah hitam atau karikatur orang Asia.