Coded Bias

Joy Buolamwini MIT Media Lab'de bir proje üzerinde çalışırken yüz tanıma yazılımının kendi yüzünü görmediğini fark eder. Yazılım ancak beyaz bir maske taktığında tepki verir. Buradan çıkan araştırma, Gender Shades adıyla bilinen çalışma, ticari sistemlerin koyu tenli kadın yüzlerini yüzde 34,7'ye varan oranda yanlış sınıflandırdığını, açık tenli erkek yüzlerinde ise hata payının yüzde 0,8'de kaldığını gösterdi. Shalini Kantayya'nın belgeseli bu keşiften yola çıkıp Buolamwini'nin kurduğu Algorithmic Justice League ile Amerikan yasama süreçlerine uzanıyor. Cathy O'Neil ve Meredith Broussard gibi isimler tartışmayı yüz tanımanın ötesine, kredi ve işe alım algoritmalarına taşıyor. Film teknolojinin tarafsız olmadığını söylemiyor sadece; kimin verisiyle eğitildiğinin sonucu belirlediğini gösteriyor. 2020 Sundance'te prömiyer yaptı, 2021 Martında PBS'in Independent Lens kuşağında yayınlandı. Kimin için: Algoritmik ayrımcılık, gözetim ve teknoloji politikası ile ilgilenenler için. Kimin için değil: Teknik derinlik arayan yeterince bulamaz; film konu başlıkları arasında hızlı geçiyor ve karşı argümanlara yer açmıyor.