Köşe Yazıları Diş Hekimliği Eczacılık Edebiyat Eğitim Fen Güzel Sanatlar ve Tasarım Hemşirelik Hukuk İktisadi ve İdari Bilimler İlahiyat İletişim İnsan ve Toplum Bilimleri İşletme Mimarlık Mühendislik Orman Sağlık Bilimleri Siyasal Bilgiler Spor Bilimleri Tıp Veteriner Ziraat

Güzel Sanatlar ve Tasarım

İktisadi ve İdari Bilimler

İnsan ve Toplum Bilimleri

"HAYATI: doğal bir OKUyuşla; PAYLAŞmak"

Algoritmik Yönetişimin Karanlık Yüzü

Kamu yönetiminde hız ve verimliliği artırmak amacıyla yapay zekâ sistemlerinin kullanımı giderek yaygınlaşıyor ve bu süreç, yönetişimi adım adım algoritmik yönetişime dönüştürüyor. Bu dönüşümün birçok yönden olumlu olduğu kuşkusuz. Ne var ki algoritmik yönetişim, insan odaklı bir anlayışla ve anlamlı bir insan kontrolüyle birlikte ele alınmadığı takdirde doğurduğu riskler çok yönlü ve ciddidir. Dünyadan örnekler bunu açıkça gösteriyor.

Hollanda’da bir aile, çocuk bakım yardımı için devlete başvurdu. Aradan yıllar geçtikten sonra kapılarına, dolandırıcılık şüphesiyle düzenlenmiş bir borç bildirimi dayandı. Ailenin neden şüpheli sayıldığını kimse açıklayamıyordu; çünkü kararı bir memur değil, vergi idaresinin kullandığı bir risk hesaplama programı vermişti. Program, başvuru sahibinin Hollanda vatandaşı olup olmadığını bir risk işareti olarak okuyor, yabancı uyruklulara baştan daha yüksek puan biçiyordu. Toeslagenaffaire adıyla bilinen bu skandalda 2005-2019 arasında yaklaşık yirmi altı bin ebeveyn haksız yere suçlandı; ortada gerçek bir suç yokken iki binden fazla çocuk ailesinden alınıp devlet bakımına verildi. Bedelini sonunda hükümet ödedi: Başbakan Mark Rutte 2021’in başında istifa etti.

Bu olay münferit bir aksaklık değil, idarenin yüzyıllardır bildiği kavramların ayağının altından kaydığı bir dönemin işaretiydi. Klasik idare hukukunda idari işlem, bir kamu görevlisinin somut olayı takdir yetkisi içinde değerlendirerek verdiği karardır. Algoritmik kararda ise süreç baştan farklı işler: karar, bir yazılımın geniş veri kümeleri üzerinde yaptığı istatistiksel çıkarıma dayanır. “Gerekçe” dediğimiz şey korelasyona, “takdir yetkisi” dediğimiz şey parametre ayarına dönüşür. Karen Yeung bu durumu, kararların bilgi işlemsel kurallarca yönlendirildiği ya da büsbütün yürütüldüğü bir yönetim biçimi olarak tanımlar; bu biçimin şeffaflık, gerekçelendirme ve yargısal denetim gibi hukuk devleti ilkelerini yapısal bir baskı altına aldığını gösterir. Frank Pasquale ise vatandaşların, hayatlarını belirleyen kararların gerekçesine ulaşamadığı bu düzeni “kara kutu toplumu” olarak adlandırır.

Sorunun ilk boyutu şeffaflıktır. Bir algoritmanın hangi mantıkla çalıştığı, kararını hangi ölçütlere dayandırdığı çoğu zaman onu kullanan kamu kurumu tarafından bile tam olarak bilinmez. OECD’nin Kasım 2024 tarihli raporu, dünya genelinde kamu algoritmalarına ilişkin kayıtların büyük bölümünün “anlamlı şeffaflık” sağlayamadığını saptıyor. Hollanda’da kullanıldığı bildirilen sistemlerin yalnızca yüzde beşi kamu kütüğünde yer alıyor; Birleşik Krallık’ın merkezî kayıt defteri ise kurulmasından yıllar sonra hâlâ seyrek dolduruluyor. Élise Degrave’ın Belçika’da devlet arşivlerinde rastlantı eseri keşfettiği OASIS sistemi bu körlüğün vardığı noktayı gösteriyor: sistem, vatandaşların vergi, sosyal güvenlik ve emeklilik verilerini birleştirerek “potansiyel dolandırıcı” profilleri çıkarıyor, vakaların yaklaşık yüzde onunda kişileri haksız yere işaretliyordu. Üstelik bunu neden yaptığını kimse açıklayamıyor, sistemin işleyişini düzenleyen herhangi bir kanun da bulunmuyordu.

İkinci boyut önyargıdır. Algoritma geçmişin verisiyle beslenir; o veri eşitsizlik taşıyorsa, sistem bu eşitsizliği nesnel bir ölçütmüş gibi yeniden üretir. Avusturya’da iş arayanları istihdam şanslarına göre sınıflandıran AMS algoritması bunun açık bir örneğiydi. Sistem kadınlara sistematik olarak daha düşük puan veriyor; çocuk sahibi kadınları negatif puanla cezalandırırken çocuk sahibi erkekleri aynı ölçüye vurmuyordu. Engelliler ve otuz yaş üstündekiler de baştan düşük puanla yola çıkıyordu. Kurum bunu “iş piyasasının sert gerçekliğini yansıtmak” diye savundu. Oysa mevcut eşitsizliği veri diye kodlamak, dezavantajlı grupların dezavantajını otomatikleştirmekten başka bir sonuç vermiyordu.

Üçüncü boyut hesap verebilirliktir. Vatandaş kararının gerekçesini sorduğunda çoğu zaman “sistem böyle hesapladı” yanıtının ötesine geçilemez; bu da itiraz hakkını fiilen ortadan kaldırır. Avustralya’nın Robodebt programı, bu açığın nereye varabileceğini gösterdi. 2016-2020 arasında işleyen sistem, yıllık geliri basitçe haftalara bölen kaba bir varsayımla yaklaşık beş yüz........

© Akademik Akıl