Yapay zeka hakkında her gün yeni bir mucize duyuyoruz: İnsan gibi yazıyor, şarkı söylüyor, resim yapıyor. Derken bir gün biri çıkıp “AI şimdi artık pazarlık da ediyor” diyor. Ve tam bu noktada durup düşünmek gerekiyor!

Çünkü yapay zekanın gerçeklerini abartılı hayallerden ayırmak her geçen gün daha da zorlaşıyor. Bu yüzden bazı araştırmacılar bir “AI Hype Endeksi” bile hazırlamış durumda. Olay şu: Ne kadar havalı görünürse görünsün, hala pek çok AI sistemi tam anlamıyla güvenilir değil. Özellikle de yeni gözdemiz olan “AI ajanları” konusunda işler biraz karışık.

Yapay zeka ajanları şu anda sektörün gözbebeği.

Ama nedir bu “ajan” dedikleri? Daha önce yazdım ama tekrar hatırlatayım…

Yapay zeka ajanları, sadece soruya cevap vermekle yetinmeyen, bir hedef doğrultusunda kendi başına karar alıp işlem yürütebilen yazılımlar. Bir nevi “karar motoru” diyebiliriz.

Yani çocuğunuz “Bana yeni bir oyun öner” dediğinde sadece liste sunmaz, o anki ruh halini, hava durumunu ve daha önce oynanan oyunları analiz edip öneri üretir.

Ancak burada sorun şu: Ne kadar bağımsız hareket edebilirlerse, o kadar öngörülemez de olabilirler. İşte tam bu yüzden, yapay zekanın en önemli isimlerinden biri olan Yoshua Bengio, bu sistemlerin güvenliği için alarma geçmiş durumda.

Yoshua Bengio, derin öğrenmenin üç kurucusundan biri olarak kabul edilen ve 2018’de “Yapay Zekanın Nobel’i” sayılan Turing Ödülü’nü alan bir bilim insanı. Montréal Üniversitesi’nde profesör, Mila AI Enstitüsü’nün kurucusu ve OpenAI gibi şirketlerin teknolojik gidişatını etik açıdan sorgulayan en güçlü akademik seslerden biri.

Şimdilerde, “yapay zeka ajanlarının ne söylediği kadar, ne ima ettiği de tehlikeli olabilir” diyerek yeni bir sivil oluşum kuruyor.

Bu sistemlerin yanıltıcı, manipülatif ya da kontrol dışı davranışlar sergilemesi halinde doğabilecek sosyal riskleri araştırıyor.

“YA BU OYUNCAK ÇOK AKILLIYSA?”

Peki ya bu........

© Karar