Multikulti bir yapay zekâ mümkün mü?
Multikulti, 1970’ler ve 80’lerdeki Alman ilerici hareketinin ortaya attığı çok kültürlülük merkezli kamu politikası yaklaşımının sloganı. Bugün sözkonusu kavramın yeni nesil yapay zekâ deneyiminin de merkezinde yer alması gereken önemli bir unsur olduğunu düşünüyorum. Ancak yapay zekânın tarihi, bırakın multikulti deneyimler sunmayı, kültürel önyargıların (bias) yol açtığı krizlerle tanımlanıyor.
Aslında bu durum çok da şaşırtıcı değil. 1960’larda bilgisayar bilimciler, makinelerin “zeki” davranışları taklit etmesini sağlamak için çalışırken, doğal olarak ilk önce kendi kişisel dünya görüşlerini kodlarına taşıdılar. 1980- 1990 arasında erken yapay zekâ sistemleri neredeyse tamamen İngilizce üzerine odaklandı, diğer dillerin ve kültürlerin özgün özelliklerini göz ardı etti. 2010’ların başında, büyük veri ve makine öğrenmesinin yükselişiyle birlikte, kültürel önyargı sorunu daha da belirginleşti. Algoritmalar, büyük ölçüde Batı odaklı veri setleriyle eğitildi ve bu da küresel perspektiften bakıldığında markalar nezdinde kriz iletişimini gerektiren talihsiz sonuçlar doğurdu. Örnek vermek gerekirse, 2016 yılında Microsoft’un geliştirdiği Tay adlı sohbet botu, yalnızca birkaç saat içinde ırkçı ve cinsiyetçi ifadeler kullanmaya başlamıştı. Bunun nedeni, botun mevcut çevrimiçi içerikler üzerinden kendini eğitmesi ve yine bu içeriklerdeki tüm toplumsal önyargıları olduğu gibi yansıtmasıydı.
2015 yılında Google Photos’un görüntü tanıma algoritmasının siyahi insanları “goril” olarak etiketlemesi, bu bağlamdaki en çarpıcı örneklerden biri olarak hafızalara kazındı. Bunun sebebi, algoritmayı eğitmek için kullanılan veri setindeki kültürel temsiliyet eşitsizliğiydi.
Benzer bir skandal Facebook’ta da yaşanmıştı. 2018’de Amazon’un işe alım sürecinde kullandığı bir yapay zekâ modeli, geçmiş verilerden hareketle benimsediği cinsiyetçi örüntü nedeniyle kadın adayları sistematik olarak eliyordu. Benzer şekilde, yüz tanıma sistemlerinin koyu tenli bireyleri tanımada düşük başarı göstermesi, veri setlerinde ağırlıklı olarak beyaz tenli yüzlerin yer........
© MediaCat
