Bugün neredeyse her hafta benzer bir haberle karşılaşıyoruz: "Yapay zekâ nedeniyle binlerce çalışan işten çıkarıldı", "Şu meslek beş yıl içinde yok olacak", "Şirketler insan yerine yapay zekâyı tercih ediyor." Bu haberler çoğu zaman işin yalnızca ilk halkasını anlatıyor. Oysa asıl soru işten çıkarmaların kendisi değil; bunun ekonomik ve toplumsal sistem üzerinde yaratacağı zincirleme etkiler. 

  Yıllar önce yayınlanan Person of Interest, bugün yapay zekâ üzerine yürüttüğümüz tartışmaların önemli bir kısmını henüz ortada ChatGPT, Gemini ya da Claude yokken gündeme getirmişti. Dizi, yapay zekâyı çoğu bilim kurgu örneğinde olduğu gibi lazer silahlarıyla dünyayı ele geçiren bir robot olarak değil; veriyi işleyen, davranışları tahmin eden ve toplumu görünmez biçimde yönlendirebilen bir sistem olarak ele alıyordu. 

 Harold Finch'in geliştirdiği "Makine", insan hayatını koruyabilmesi için etik sınırlarla tasarlanmıştı. Buna karşılık Samaritan, insanlığı yönetilmesi gereken büyük bir veri kümesi olarak görüyordu. Bugün OpenAI, Google ya da Anthropic gibi şirketlerin üzerinde çalıştığı "AI Alignment" yani yapay zekâyı insan değerleriyle uyumlu hâle getirme problemi tam da bu ikilemin gerçek hayattaki karşılığı. Çünkü mesele artık sadece güçlü bir yapay zekâ üretmek değil; onun hangi amaçları optimize edeceğini belirlemek. 

  Burada ilginç olan ise yapay zekânın en büyük risklerinden birinin kötü niyet değil, aşırı rasyonellik olması. 

  Bir şirket düşünelim. 

  Yönetim kuruluna entegre edilmiş gelişmiş bir yapay zekâ, kârı maksimize etmek için yüz binlerce çalışanı işten çıkarmayı öneriyor. Muhasebe açısından bakıldığında öneri kusursuz görünüyor. Maaş giderleri düşüyor, verimlilik artıyor, hisseler yükseliyor. 

  Sorun şu ki aynı öneriyi aynı anda binlerce şirket uyguladığında ortaya bambaşka bir tablo çıkıyor. 

  Çünkü o işten çıkarılan insanlar yalnızca çalışan değil; aynı zamanda o şirketlerin müşterileri.  

Ekonomi tek tek şirketlerin bilançosundan ibaret değildir. Bir otomobil firması, gıda zinciri, dijital platform ya da tekstil markası için tüketici, en az üretim kadar hayati öneme sahiptir. Yapay zekâ her şirketi kendi içinde optimize ederken sistemin bütününü gözden kaçırabilir. Ekonomide buna yerel optimizasyon problemi denebilir: Her aktör kendi açısından doğru kararı verirken, toplam sistem çökmeye başlar. 

  Bugün "Yapay zekâ şu kadar kişiyi işsiz bıraktı" haberlerini okurken belki de asıl........

© Muhalif