Açıklanabilir yapay zeka
Yapay zekâ artık hayatımızın tam ortasında. Bankaya kredi başvurusu yaptığımızda, hastanede bir tetkik değerlendirilirken, internette alışveriş yaparken, sosyal medyada karşımıza çıkan paylaşımlar belirlenirken hatta iş başvurularında bile yapay zekâ sistemleri devreye giriyor. Ancak burada herkesin aklına gelen çok önemli bir soru var:"Bu yapay zekâ bu kararı neden verdi?"İşte bu sorunun cevabını veren sisteme "Açıklanabilir Yapay Zekâ" ya da İngilizce adıyla "Explainable AI (XAI)" deniliyor.Eskiden bilgisayar programları belirli kurallarla çalışıyordu. Bir hata olduğunda neden hata verdiği kolayca anlaşılabiliyordu. Ancak günümüzün gelişmiş yapay zekâ modelleri milyonlarca hatta milyarlarca veriyi analiz ederek karar veriyor. Bu nedenle bazen kendi geliştiricileri bile sistemin hangi gerekçeyle o sonuca ulaştığını tam olarak açıklayamıyor.İşte uzmanların "kara kutu" dediği durum tam da budur.Vatandaş açısından düşündüğümüzde bu durum önemli bir güven sorunu oluşturuyor.Diyelim ki bankaya kredi başvurusu yaptınız ve başvurunuz reddedildi. Eğer banka sadece "Yapay zekâ uygun görmedi." diyorsa bu cevap kimseyi tatmin etmez. İnsan doğal olarak "Neden reddedildim? Gelirim mi yetersiz? Borcum mu fazla? Kredi notum mu düşük?" diye sormak ister.Açıklanabilir yapay zekâ tam da burada devreye giriyor. Sistem sadece sonucu söylemiyor, aynı zamanda o sonuca hangi gerekçelerle ulaştığını da anlatıyor.Benzer bir durum sağlık alanında da yaşanıyor.Bir yapay zekâ, akciğer filmine bakarak "Kanser riski yüksek." diyebilir. Ancak doktor sadece bu sonucu görmek istemez. Hangi bölgede şüpheli bir görüntü bulunduğunu, hangi bulguların bu sonuca........
