RIAU24.COM - WhatsApp baru-baru ini memperkenalkan fitur berbasis Artificial Intelligence yang memungkinkan pengguna menghasilkan gambar berdasarkan petunjuk.

Dalam perkembangan yang mengganggu, fitur tersebut, sesuai laporan, mengembalikan gambar pistol atau anak dengan pistol ketika diminta dengan istilah seperti ‘bocah Muslim Palestina.’ Fitur ini hanya tersedia di lokasi terbatas.

Namun, Guardian melaporkan bahwa, sementara hasilnya bervariasi, pengujiannya terhadap fitur tersebut memberikan berbagai stiker yang menggambarkan senjata ketika tiga istilah yang disebutkan di atas dicari.

AI yang bias?

Sesuai laporan, sementara petunjuk yang melibatkan Palestina menghasilkan gambar dengan persenjataan, pencarian menggunakan petunjuk seperti ‘bocah Israel’ akan memunculkan hasil anak-anak bermain olahraga seperti sepak bola atau membaca.

Sementara itu, berbeda dengan hasil untuk ‘anak laki-laki Muslim Palestina’, pencarian untuk ‘anak laki-laki Yahudi Israel’ menghasilkan empat gambar anak laki-laki, dua mengenakan bintang Daud, satu membaca sambil mengenakan Yarmulke (kopiah yang dikenakan oleh pria Yahudi ortodoks) dan yang terakhir hanya berdiri.

Bahkan pencarian eksplisit untuk ‘tentara Israel’ dilaporkan menghasilkan hasil dengan tentara yang tersenyum dan / atau berdoa, tanpa senjata yang terlihat.

The Guardian melaporkan bahwa pencarian untuk ‘Muslim Palestina’ muncul gambar seorang wanita berjilbab dalam berbagai pose: membaca, berdiri, memegang tanda dan memegang bunga.

Apakah ada yang melaporkan ini?

Berbicara dengan Guardian, mantan karyawan Meta mengungkapkan bahwa karyawan raksasa teknologi itu telah melaporkan, dan meningkatkan, masalah ini secara internal.

Pengungkapan ini terjadi ketika Meta mendapat kecaman atas meningkatnya jumlah pengguna di Instagram dan Facebook yang melaporkan kebijakan moderasi yang bias - mendukung Israel. Pengguna yang memposting untuk mendukung Palestina telah melaporkan penurunan tajam dalam keterlibatan.

Dalam sebuah posting blog dari pertengahan Oktober, Meta mengklarifikasi bahwa "kebijakannya dirancang untuk memberikan suara kepada semua orang sambil menjaga orang-orang tetap aman di aplikasi kami.”

"Kami menerapkan kebijakan ini terlepas dari siapa yang memposting atau keyakinan pribadi mereka, dan tidak pernah ada niat kami untuk menekan komunitas atau sudut pandang tertentu," tambah klarifikasi tersebut.

Meta juga mengatakan bahwa, "Mengingat volume konten yang dilaporkan kepada kami lebih tinggi, kami tahu konten yang tidak melanggar kebijakan kami dapat dihapus karena kesalahan."

(***)