CIA yöneticileri 300’den fazla yapay zeka projesi yürüttüğünü de söyledi. Yani yapay zeka artık sadece dışarıdan izlenen bir teknoloji değil; istihbarat analizinin masasına oturmuş durumda. Trendleri işaretliyor, taslaklar yazıyor, hipotezler öneriyor.

Resmi güvence ise tanıdık: “Kararı elbette yapay zeka vermiyor. İnsan analist onaylıyor.”

Kağıt üzerinde bu cümle rahatlatıcı. Ama mesele tam da burada başlıyor. Çünkü istihbaratta asıl güç, her zaman son imzada değil! Bazen gücün en kritik kısmı, karar vericinin önüne gelen tablonun nasıl çizildiğinde saklı ki iki hafta önce ‘Yargının sessiz dönüşümü’ başlıklı yazımda hukukta yapay zeka kullanımında benzeri riskleri anlatmıştım.

Evet bir istihbarat raporu yalnızca bilgi aktarmaz kuşkusuz. Veriyi seçer, sıralar, yorumlar, bazı riskleri büyütür, bazı ihtimalleri geri plana iter. Bir telefon dinlemesi, uydu görüntüsü ya da saha notu tek başına anlamlı değil. Analistin işi, bu parçaları bir hikayeye dönüştürmek. İşte yapay zeka şimdi o hikayenin ilk taslağını yazıyor.

Sorun şu; ilk taslak masum olmayabilir. Psikolojide buna çerçeveleme etkisi deniyor. Aynı bilgiyi farklı biçimde sunarsanız, insanların verdiği karar değişebilir. “Bu operasyon yüzde 60 başarılı olabilir” demekle, “Bu operasyonun yüzde 40 başarısızlık riski var” demek aynı matematiğe dayanıyor. Ama zihinde bıraktığı iz aynı değil!

Yapay zeka raporun çerçevesini kuruyorsa, insanın verdiği karar da o çerçevenin içinde şekillenebilir. Bir de otomasyon önyargısı var. İnsanlar, makinelerin güvenle sunduğu cevaplara gereğinden fazla inanma eğiliminde. Hele o cevap akıcı, düzenli ve makul görünüyorsa. Yapay zekanın en tehlikeli yanı da bazen yanılması değil; yanılırken bile çok ikna edici görünmesi.

ABD ordusunun Project Maven sistemi bu tartışmanın erken örneklerinden biri. Drone görüntülerini analiz ediyor, potansiyel hedefleri işaretliyor, nesneleri sınıflandırıyor. Ama yanlış veriyle beslendiğinde yanlış hedefleri de aynı özgüvenle gösterebiliyor. Sorun sadece hatada değil; o hataya kurum içinde kimin, ne zaman ve nasıl itiraz edeceğinde.

CIA’nın kendi yol haritası da bu geçişin hızını gösteriyor. Önce “yardımcı”, sonra “iş arkadaşı”, en sonunda “özerk görev ortağı.” Kulağa verimlilik planı gibi geliyor. Ama aslında devlet aklının bir kısmının yavaş yavaş algoritmik sistemlere devredilmesinden söz........

© Karar