Diğer

T24 Haftalık Yazarı

09 Şubat 2025

Büyük dil modellerinin hayatımızda belirli alanlarda kolaylık sağladığı şüphesiz bir gerçek. Özellikle yanıtını kısa sürede bulmak istediğimiz bir soruyu, arama motorlarına sormaktansa direkt ChatGPT ya da DeepSeek gibi modellere sorup yanıt almak daha pratik.

Ancak bu modellerin tamamının bir sorunu var. Bu modeller biraz “yalancılar”. Yani olmamış bir şeyi uydurabiliyorlar ve bunu da kendilerinden çok emin bir şekilde yapıyorlar.

Ben yalancılık diyorum ama, dil modellerinin bu spekülasyon üretmesine henüz evrensellik kazanmasa da genellikle halüsinasyon deniyor. 2024’te yayınlanan bir makalede olduğu gibi “saçmalıyor” diyenler de var.

Mesajı vermek adına başlıkta yalancı ifadesini kullansak da yazı boyunca halüsinasyon terimi üzerinden ilerleyeceğiz. Peki halüsinasyon nedir?

Büyük dil modelleri özelinde halüsinasyon, girdi olarak yazdığınız gönderinizle alakasız, uydurma ya da tutarsız içerik üretimi olarak tanımlanabilir. Bu durum dil modellerinin yaratıcılığını gösterirken aynı zaman da gerçeği bükme, sansürleme gibi tehlikeli potansiyellerini de yansıtıyor.

Halüsinasyonlar genellikle iki farklı grupta inceleniyor. Gerçeklik ve sadakat/bağlılık halüsinasyonu.

Gerçeklik halüsinasyonu, modelin ürettiği içerik, doğrulanabilir gerçeklerle çeliştiğinde ortaya çıkar. Örneğin, "UEFA 2000 şampiyonu Galatasaray’dır " yerine yanlışlıkla "17 Mayıs 2000 tarihindeki UEFA Kupası finalini Arsenal kazandı." demek gibi. Bu durum, yanlış bilgi yayılmasına ve modelin güvenilirliğinin azalmasına yol açar.

Sadakat ya da bağlılık halüsinasyonları ise üretilen içerik, kullanıcı talimatlarına veya verilen bağlama uyumlu olmadığında görülür. Örneğin, bir haberdeki gerçekte 2025 olan bilgiyi 2020 olarak değiştirmek ya da A kişisinin yazdığı bir makalenin yazarını B kişisi yazmış gibi lanse etmek.

Bu halüsinasyonların ise en belirgin........

© T24