Yapay zekâ teknolojileri ilk ortaya çıktığında, birçok kişi bu sistemlerin insan önyargılarından arındırılmış daha adil bir dünya yaratacağını düşünüyordu. İnsanların cinsiyet, yaş, ırk, sınıf ya da sosyal statü temelli önyargılarının yerine; veriye dayalı, nesnel ve tarafsız karar mekanizmalarının geçeceği iddia ediliyordu.

Ancak bugün geldiğimiz noktada, gerçekliğin çok daha farklı olduğu görülüyor.

Yapay zekâ, insanlığın en büyük teknolojik sıçramalarından biri olarak sunulmaktadır; fakat bu sıçramada kadınlar çoğu zaman geride bırakılmakta, hatta bazı alanlarda sistematik biçimde hedef alınmaktadır.

Yapay zekâ (YZ), sağlıktan eğitime, istihdamdan güvenliğe dek toplumsal yaşamın her alanında hızla belirleyici bir güç haline gelmektedir. Küresel ölçekte değerlendirildiğinde, yapay zekânın en ağır bedelini ödeyenlerin başında kadınlar gelmektedir.[1]

Ne var ki bu sistemler, geliştirildikleri toplumların önyargılarından bağımsız değildir. Yapay zekâ sistemleri geçmiş verilerle eğitilir. Eğer bu veriler, onlarca yıllık —hatta yüzyıllık— toplumsal cinsiyet eşitsizliklerinin izlerini taşıyorsa, yapay zekâ da bu eşitsizliği öğrenir, tekrarlar ve çoğu zaman daha sistematik hale getirir.

Bir başka deyişle, yapay zekâ kendi başına cinsiyetçi olmayabilir; ancak cinsiyetçi bir dünyanın verileriyle eğitildiğinde, geçmişin ayrımcılığını geleceğin teknolojisine kodlar.

Bu nedenle bugün karşı karşıya olduğumuz sorun yalnızca teknik bir mesele değildir. Mesele, teknolojinin kimin verileriyle eğitildiği, kimin ihtiyaçlarına göre tasarlandığı, kimin denetiminden geçtiği ve sonuçta kimi güçlendirip kimi dışarıda bıraktığı meselesidir.

Algoritmik önyargı: Makine öğreniyor, ama neyi öğreniyor?

Yapay zekâ sistemleri çoğu zaman “tarafsız” makineler olarak sunulur. Oysa bu tarafsızlık büyük ölçüde bir yanılsamadır. Çünkü algoritmalar, geçmişte toplanmış verilerden öğrenir. Geçmişte kadınlar belirli alanlardan dışlanmışsa, karar verici pozisyonlarda daha az temsil edilmişse, daha düşük ücret almışsa veya belirli mesleklere yönlendirilmişse; yapay zekâ bu eşitsizlikleri “normal” kabul edebilir.

Bunun en çok tartışılan örneklerinden biri işe alım algoritmalarıdır.

Amazon’un 2018 yılında kamuoyuna yansıyan otomatik işe alım sistemi, özgeçmişleri değerlendirirken kadın adaylara sistematik olarak daha düşük puan verdiği için kapatılmıştı. Sistem, teknoloji sektöründeki geçmiş işe alım verileriyle eğitilmişti. Bu verilerde erkek çalışanlar ağırlıklı olduğu için yapay zekâ, “başarılı çalışan” profilini erkeklerle özdeşleştirmişti. Sonuçta kadın adayların özgeçmişlerinde yer alan bazı ifadeler, hatta “kadın” kelimesinin geçtiği bazı bölümler, sistem tarafından olumsuz değerlendirilebilmişti.

Bu örnek, yapay zekânın nasıl çalıştığını anlamak açısından son derece öğreticidir. Algoritma açıkça “kadınları ele” dememiştir. Ancak geçmişin erkek egemen verileriyle beslendiği için, erkekleri daha uygun aday olarak görmeyi öğrenmiştir.

Benzer sorunlar başka şirketlerin işe alım sistemlerinde de ortaya çıkmıştır. Dünya Ekonomik Forumu’nun 2024 verilerine göre, yapay zekâ destekli işe alım araçları kullanan şirketlerde kadın adayların mülakat aşamasına geçme oranı erkeklere kıyasla yüzde 35 daha düşük seyredebilmektedir.[2]

Bu durum, klasik cam tavanın dijitalleşmiş yeni biçimidir.

Eskiden kadınların yükselmesini engelleyen görünmez kurumsal duvarlar vardı. Bugün bu duvarların yanına algoritmik filtreler eklenmektedir. Kadınlar çoğu zaman neden elendiklerini bile bilmeden, sistemlerin görünmez kararlarıyla dışarıda kalabilmektedir.

Finansal algoritmalar ve ekonomik dışlanma

Yapay zekâ destekli eşitsizlik yalnızca işe alım süreçlerinde görülmüyor. Kredi notlama sistemleri, finansal hizmetler ve risk analizleri de kadınlar aleyhine sonuçlar üretebiliyor.

ABD’de Apple Card’ın Goldman Sachs tarafından yönetilen kredi algoritması, 2019 yılında ciddi tartışmalara yol açmıştı. Aynı finansal profile sahip eşler arasında erkeklere kadınlardan çok daha yüksek kredi limiti tanındığı iddia edilmiş ve konu soruşturma konusu olmuştu.[3]

Bu tür sistemlerde temel sorun şudur: Kadınların tarihsel olarak daha düşük gelir elde etmeleri, doğum nedeniyle kariyerlerine ara vermeleri, part-time çalışma oranlarının daha yüksek olması ya da ev içi ücretsiz emeğin finansal kayıtlarda görünmemesi, algoritmalar tarafından “risk” göstergesi olarak okunabilir.

Böylece toplumsal bir eşitsizlik, finansal bir........

© T24