Yapay zeka: Irkçı algoritmalardan nasıl kaçınırız?

Hayatımızla ilgili kararları etkileyen algoritmaların insanlar arasındaki çeşitliliği gözardı eden veritabanlarına dayanıyor olduğu endişesi git gide büyüyor.

İnternette neleri beğendiğimizden tutun, bir suçu teşvik etme ya da suça maruz kalma olasılığımızla ilgili yargılara kadar her şeyi bu algoritmalar belirleyebiliyor.

Kazayla da olsa bu durum, karar süreçlerinde önyargılara neden olabilir.

İnternette herhangi bir arama motorunda "eller" ya da "bebekler" kelimelerini aratın. Görsel arama sonuçlarında çoğunlukla beyaz insanları göreceksiniz.

Grafik tasarımcısı Johanna Burai, Google aramalarında karşılaştığı sonuçların ağırlık olarak "beyaz" olması üzerine, "World White Web Project" adlı internet sitesini kurdu.

Sitede içerik üreticilerine "alternatif" el fotoğrafları sunularak, dengenin sağlanması amaçlandı.

Dev arama motoru Google, eleştiriler karşısında görsel arama sonuçlarının kendi "değerleriyle" ilgisi olmadığını savunuyor. Google yetkilileri, arama sonuçlarının "internetteki içeriklerde ne tür görsellerin daha çok kullanıldığı ve internette bu görsellerin nasıl tanımlandıklarını" yansıttığını belirtiyor.

Öte yandan, Johanna Burai farkındalığın giderek arttığını söylüyor. Burai, "İnsanlar sorunu görmeye başladılar. Projeye ilk başladığımda, insanlar şok içindeydi" diyor.

Algoritmalarda adaletin sağlanması amacıyla kurulan Algorithmic Justice League (AJL) de, bu konudaki farkındalığın en iyi örneklerinden.

'BEYAZ MASKE TAKMAK ZORUNDA KALIYORDUM'

Bu inisiyatifin kurucusu olan Joy Buolamwini, ABD'nin tanınmış üniversitelerinden Massachusetts Institute of Technology'de (MIT) doktora öğrencisi.

Yapay zeka, siyah olan Joy Buolamwini'yi ten renginden dolayı tanımayınca, beyaz maske takmaya başlamış.

Bir yüz tanıma programı ten renginden dolayı onu tanıyamadığı için, bu projeyi başlatmış. Boulamwini, yapay zeka yüzünü tanımadığı için, bir noktada beyaz maske kullanmaya başlamış. Bundan 5 yıl önce de, teni daha açık olan oda arkadaşından yardım istiyormuş:

"Çok karışık hisler içindeydim. Hem bu sorunun beş yıldır halen devam ediyor olması karşısında kızıyordum, hem de beyaz maskenin bu kadar işe yaraması bana eğlenceli geliyordu."

Örneğin bir tıp araştırmacısı, AJL'ye danışarak cilt kanserini tanıyan bir algoritmanın siyahlarda çalışıp çalışmadığını görmek istemiş.

Aşırı kilo ya da obezitesi olanlar ile yaşlılara yönelik yapay zeka teknolojilerinin nasıl çalıştığı da, Buolamwini için merak konusu.

BBC TÜRKÇE