ChatGPT gibi üretken yapay zekâ uygulamaları artık günlük yaşamlarımızın ayrılmaz bir parçasına dönüştü. Büyük Dil Modelleri (LLM’ler) kullanıcının istemiyle metin üretebilmekte, metni özetleyebilmekte, değiştirebilmekte, iyileştirebilmekte, özet çıkartabilmekte ve diller arası çeviriyi hızla yapabilmektedir. Hal böyle olunca bu işlevler günlük yaşamlarının ayrılmaz bir parçası olan öğrenciler, öğretmenler, akademisyenler, gazeteciler vs için görevlerinin destekleyici bir unsuruna dönüşmektedir. LLM’lerin kapasitesi ve performansı iyileşirken insanlar tarafından kullanım oranı da sürekli artmaktadır. Kullanım oranı arttıkça bu araçlarla ilişki maalesef bir bağımlılık ilişkisine dönüşmekte, nihayetinde kendileri için destekleyici olan araçlar giderek ikame edilen araçlara dönüşmektedir.

Tam da bu noktada üretimin faili belirsizleşmektedir. Dolayısıyla, bu araçlar günlük yaşamda işlerimizi kolaylaştırırken eylemin faili insan-makine ilişkisinde giderek makineye kaymaktadır. Oldukça kapsamlı ve derin etkileri olan bir sorunla karşı karşıyayız. Bu nedenle, özellikle eğitim sisteminde ve bilimsel alanda ödevlerin, makalelerin, yazıların failini belirginleştirmeye yönelik yeni yaklaşımlar üretilmeye başlanmıştır. Eğitim sistemlerinde öğrencinin ürettiği bir ürünün faili öğrenci mi yoksa makine mi sorusuna cevap elde etmek için yeni ölçme değerlendirme yaklaşımları geliştirilmeye çalışılmaktadır. Bu yaklaşımlara bakıldığında failliği belirmede klasik sözlü sınavların ve sohbet merkezli münazaraların giderek tekrar alternatif haline geldiği görülüyor.

Diğer taraftan, özellikle bilimsel alanda üretilen makalelerin ne ölçüde bu araçlar tarafından üretildiği, yani makalenin gizli yazarları olup olmadığına dair yapay zekâ detektörleri geliştirilmeye çalışılmaktadır. Ancak, bu araçların yetersizliklerinin ötesinde başka derin komplikasyonlara yol açtıkları görülmektedir. Öncelikle bu tespit araçlarının neyi ölçtüklerine bakmak gerekiyor. Bu araçlar, bir metinde insan yazısı ile LLM çıktısı arasında istatistiksel olarak ayırt edilebilir bir iz bulunduğunu kabul etmekte, dolayısıyla genellikle dilin öngörülebilirliği, kelime dağılımları, tekrar örüntüleri, cümle uzunluğu varyansı ve söz dizimsel düzenlilik gibi yüzeysel olasılıksal özellikleri analiz ederek bir karara varmaktadır. Birinci gerilim tam da bu noktada ortaya çıkmaktadır. Çünkü LLM’ler, tam da insan yazısının bu istatistiksel dağılımlarını taklit etmek üzere eğitilmişlerdir. Dolayısıyla bu araçlar, insan yazısını insan yapan bilişsel ve epistemik süreçleri değil biçimsel farkları ölçmeye çalışmakta ve modeller geliştikçe bu farklar da ortadan kalkarak yapılan ölçüm ilkesel olarak çok daha kırılgan hâle gelmektedir.

Literatürde bu durumu ampirik olarak ortaya koyan çalışmalar, detektörlerin gerçekte LLM kullanımını değil, belirli bir yazı tarzını, yani yüksek derecede düzenli, normatif ve disipliner dili işaretlediğini göstermektedir. Bu da insan tarafından üretilmiş bilginin, makinenin istatistiksel ortalamaları üzerinden yeniden yargılanması anlamına gelmektedir. Böyle bir durumda insan yazısı, kendinde meşru bir epistemik ürün olmaktan çıkarak algoritmik onaya ihtiyaç duyan bir nesneye dönüşmektedir. Diğer taraftan, özellikle akademik alanda insan yazımında da akademik klişeler, disipliner dil normları, editoryal beklentiler ve hakem geri bildirimleri ile metin zaten yüksek ölçüde standartlaştırılmaktadır. Standartlaşma arttıkça bu araçların yazımı kendilerine mal etme olasılığı artmaktadır. Bu nedenle özellikle akademik metinler, tamamen insan tarafından yazılmış olsalar bile istatistiksel olarak LLM çıktısına benzeyen bir forma sahip olabilir. Tespit araçlarının disiplinine hâkim, düzgün ve normatif insan metinlerini şüpheli olarak işaretlemesi bu yüzden şaşırtıcı değildir.

Dahası, bu araçların LLM’ler piyasaya çıkmadan önce yazılmış metinlerde bile LLM katkısı tespit edebilmesi daha derin bir soruna işaret etmektedir. Örneğin bu kapsamda yapılan ilk çalışmalardan bir tanesinde 1980–2023 yılları arasında önde gelen beş bilimsel dergiden alınan 14 bin 400 gerçek özet üzerinde yapılan analizlerde özetlerin büyük bölümünü doğru biçimde insan ürünü olarak tanımladığı,........

© SuperHaber