Kusurun İspatı: Yapay Zekâ Paranoyası Yeni Bir İçsansür Rejimi mi Kuruyor?
Bir tarlada, bir ekranda
Trinidad’ın kırsalında, şekerkamışı tarlalarının kıyısındaki rom dükkânlarının önünden okula giden bir çocuk vardı. Kamış işçilerinin sesleri, kahkahaları, kavgaları; alkolün bir aileyi nasıl içeriden çökerttiğine dair erken bir sezi edindi. Çocuk büyüdü, memur oldu, emekli oldu; diyabet, nöropati, bir böbrek nakli… Artık ekranında bir seferde ancak üç-dört satır görebiliyordu ve yazamadığı için konuşuyor, sözünü metne çeviren bir yazılıma emanet ediyordu tümcelerini. Her küçük parçayı defalarca, sabırla cilalıyordu; çünkü bütünü bir arada görmesi mümkün değildi. Böyle böyle, “The Serpent in the Grove” (Koruluktaki Yılan) adlı öyküsünü yazdı Jamir Nazir ve 2026 Commonwealth Kısa Öykü Ödülü’nü, 7806 başvurunun içinden sıyrılarak kazandı.
Sonra olanlar oldu. Öykü fazla iyiydi. Fazla cilalıydı, fazla akışkan, fazla “pürüzsüzdü”. Wharton’da yapay zekâ üzerine çalışan bir profesör, Ethan Mollick, metni sosyal medyada “bir tür Turing sınavı” diye niteledi ve delil olarak bir yapay zekâ dedektörünün skorunu gösterdi. “Humming” (mırıldanma) gibi fiiller “YZ diliydi”; oysa Nazir için babasının Hint müziğinden gelen en doğal sözcüktü. Metnin bazı yerleri “yapay zekâ halüsinasyonu” sayıldı; oysa “sıraların adamlara dönüşmesi” gibi satırlar için Nazir, Rushdie’nin ve Garcia Marquez’in büyülü gerçekçi repertuvarına yaslandığını söylüyordu. Vakıf, hiçbir dedektöre güvenmeyip yazarlardan yaratıcı sürecin kanıtını istedi: eski taslaklar, zaman damgalı belgeler, notlar, karakter eskizleri, hatta denenip vazgeçilmiş sonlar. Nazir aklandı. Granta Trust ortaklıktan çekildi; ödülün eski sahiplerinden Trinidadlı romancı Kevin Jared Hosein ödülün fiilen bittiğini söyledi. Vakıf akladı; tartışma kapanmadı bugün de sürüyor.
Bu öyküde beni en çok sarsan şey ne suçlama ne de aklanmaydı. Söyleşinin sonlarında, suçlamanın yazışını değiştirip değiştirmediği sorulduğunda verdiği yanıttı. Dedesinin Hindistan’daki hayatını anlattığı yeni kitabı üzerinde çalışıyormuş; kendini çok temkinli buluyormuş, bunun doğal yaratıcılığı öldürmesinden korkuyormuş, yazdığı şeyin “işaretlenip işaretlenmeyeceğini” ikinci kez düşünerek yazıyormuş.
Bir yazar “ikinci kez düşünerek” yazmaya başladığında omzuna biri oturmuş demektir. O birinin kim olduğunu bulmak istiyorum.
Tersine Turing sınavı
Profesörün seçtiği kavramda, “Turing sınavı”nda, gizli bir tersine dönme var. Alan Turing’in kurduğu sınavda makine, insanmış gibi davranarak jürisini kandırmaya çalışırdı; kanıtlama yükü makinedeydi. Nazir vakasında sınav baş aşağı döndü: bu kez jürisini kandırmakla suçlanan insandı. Yeterince iyi yazmak, insan olmadığının delili sayıldı. Üstelik bu sınavda “insan” ölçüsü tarafsız değil. Stanford’da yapılan bir çalışma, yaygın dedektörlerin ABD’li sekizinci sınıf öğrencilerinin denemelerini neredeyse hatasız tanıdığını, ama anadili İngilizce olmayanların yazdığı denemelerin yarıdan fazlasını makine ürünü saydığını gösterdi.[1] Ölçüt, dedektörün eğitildiği İngilizce; onun dışına düşen her ses, daha ölçülmeden şüpheli. Nazir’i asıl yakalayanın bu olduğunu söyleyemesem de, sınavın nerede yapıldığını söyleyebilirim: merkezde bir İngilizce var, Trinidad kenarda. Eskiden makine “insanım” demeye çalışırdı; şimdi insan “makine değilim” demeye mecbur.
Bu ters dönüşü ilk düşünen ben değilim; çok az anılan bir düşünürü hatırlatayım: Almanya doğumlu Avusturyalı Günther Anders ve onun prometheusçu utanç (prometheische Scham) kavramı.[2] Anders, 1950’lerde gelişen teknolojiyle birlikte belirmeye başlayan bir duyguyu adlandırmıştı: insanın, kendi elleriyle yaptığı kusursuz makineler karşısında doğmuş olmaktan, yani üretilmemiş, hatalı, eskiyen, ölümlü olmaktan utanması. İnsan, buzdolabının pürüzsüz mükemmelliği karşısında kendi bedeninden mahcuptu. Yetmiş yıl sonra o utanç yön değiştirdi: artık insan fazla pürüzsüz olmaktan utandırılıyor, kusurunu bir mazeret gibi masaya sürmek zorunda. Utancın yönü döndü, ama referans noktası değişmedi. İnsan, dün de bugün de kendini makineye göre, makine üzerinden tanımlıyor. Nazir aklandı; aklanmak için bile makinenin diliyle konuşmak, hastalığını, sakatlığını, sürecinin sancısını delil diye sermek zorunda kaldı. Terazi hâlâ makinenin terazisi.
İçe yerleşen sansürcü
“İkinci kez düşünmek” masum bir ifade değil. Sansür literatürünün en kirli ve pis kavramına açılan bir kapı.
M. Coetzee’nin pek okunmayan deneme kitabı Giving Offense bunu anlatır: sansürün asıl tahribatı, yasakladığı cümlede değil, yazarın zihnine yerleştirdiği hayali okurda gizlidir.² Yazar, bir süre sonra, gerçek sansürcüye ihtiyaç duymaz; onu içselleştirmiştir. Yazarken artık görünmez gözün ne düşüneceğini hesaplar, cümlesini daha kalem ucundayken ona göre eğip büker. Coetzee’ye göre bu, yazarı içeriden zehirleyen paranoyak bir ikizdir; çünkü yaratım anının savunmasız, hesapsız halini yok eder.
Klasik sansürcü anlamı yasaklardı: şu siyasi görüşü yazamazsın, şu tanrıyı eleştiremezsin, şu bedeni betimleyemezsin. Yeni sansürcü anlamı umursamıyor; biçimi denetliyor, ne kadar akıcı yazdığına bakıyor. Yasakladığı şey bir fikir değil, bir pürüzsüzlük. Bir yazara artık “şunu söyleme” değil, “bunu bu kadar iyi söyleme” deniyor; içe yerleşen sansürcü bir ideolog değil, bir üslup dedektörü. Nazir’in omzundaki figür bu.
Ezop’un dili artık işe yaramıyor
Yazarlar sansüre karşı hep çaresiz değildi elbette. Ellerinde yaratıcı ve estetik bir silah vardı: ezopik dil. Terimi 19. yüzyılda Rus yazar Saltıkov-Şçedrin icat etti: anlamı imgenin, alegorinin, masalın altına........
