Itulah yang terjadi saat kontes kecantikan pertama di dunia dengan penilainya dari AI, yang program komputer tidak memilih satu orang pun peserta berkulit warna dari hampir 50 pemenang lainnya.
Perusahaan tersebut mengakui kepada Observer bahwa sistem kontrol kualitas yang dibangun mungkin telah mengecualikan beberapa gambar ketika latar belakang dan warna wajah tidak membantu membuat analisis yang tepat.”
Awal tahun ini, alat kecerdasan buatan yang telah merevolusi kemampuan komputer untuk menafsirkan bahasa ditunjukkan untuk memamerkan bias ras dan gender.
Joanna Bryson, seorang ilmuwan komputer di University of Bath dan rekan penulis penelitian tersebut, mengatakan kepada The Guardian bahwa AI memiliki potensi untuk memperkuat bias yang ada.
"Banyak orang mengatakan bahwa hal ini memperlihatkan kalau AI berprasangka buruk," katanya.
Industri teknologi secara keseluruhan berada dalam praktik diskriminasi yang ketat mengenai jenis kelamin dan ras sepanjang tahun 2017.