Yapay zekânın düşünebilme kapasitesini tartışırken, bir diğer kırılgan alan olan karar verme becerisi giderek daha fazla gündeme geliyor. Çünkü karar vermek yalnızca bilgiye değil, değerlere dayanır. Bir doktorun teşhis koyması, bir hâkimin hüküm vermesi ya da bir sürücünün ani fren yapması sadece bilişsel bir süreç değildir; aynı zamanda etik, duygusal ve toplumsal bir süreçtir.

Peki bu karmaşık süreci bir algoritmaya emanet etmek gerçekten ne kadar doğru?

Bugün yapay zekâ sistemleri, neredeyse her sektörde karar destek mekanizmalarının merkezinde yer alıyor. Bankalar kredi verirken, hastaneler teşhis koyarken, sigorta şirketleri risk hesaplaması yaparken, hatta bazı ülkelerde mahkemeler cezaları belirlerken bile algoritmalar devreye giriyor. Ancak bu sistemlerin beslendiği temel şey, geçmiş verilerdir.

Ve geçmiş her zaman adil değildir.

Bir toplumun geçmişinde cinsiyetçi, ırkçı ya da sınıfsal önyargılar varsa; bu önyargılar veriye, oradan da algoritmalara sızar. Böylece, “tarafsız” olması beklenen sistemler, farkında olmadan insan hatalarını yeniden üretir. Kısacası, matematik tarafsız değildir; hangi veriyle beslendiğine bağlı olarak yön alır. Bir yapay zekâ, olasılıklar üzerinden en mantıklı kararı verir ama mantık, her zaman doğruyu göstermez. Bazen bir hayat kurtarmak için kuralı çiğnemek gerekir — işte vicdan tam da bu noktada devreye girer.

Vicdan, sadece aklın değil, duygunun da rehberidir. Bir makine içinse “vicdan”, ancak kod satırlarında........

© Analiz