Aydınlık gazetesi yazarı Prof. Dr. Uğur Güven, uluslararası alanda tanınan itibarlı bir Uzay Bilimleri Teknolojileri Yüksek Mühendisi ve Nükleer Enerji Yüksek Mühendisidir. Dün Aydınlık gazetesinde yayımlanan “Savaşı Yapay Zekâ Değil Denetimsizlik Çıkarır” yazısını okumanızı öneririz. Sayın Güven, yapay zekânın yasaklanmasının çözüm olmadığını söylüyor. “Denetim” ve işin başında “uzman” kadroların olması gerektiğini öneriyor. Aksi takdirde bir müddet önce “yanlış bir okuma, değerlendirme veya anlaşılma” sonucunda ABD ve Çin arasında olası bir savaşa ortam hazırlayan hadisenin telafisi zor felaketlere yol açabileceğinin uyarısını yapıyor. Çözüm noktasında denetim ve güvenilir uzman kadrolar önerisine evet ama yetmez; yapay zekâ kamu malı ve daha fazlası olmalıdır.

ORTAK DÜŞMAN KARŞI DEVLET Mİ OTONOM SİSTEM Mİ?

Zira yapay zekânın üreteceği bir halüsinasyon (hata), yanlış bir radar uyarısı veya siber saldırı algısı, karşı tarafa saniyeler içinde nükleer misilleme yapma refleksini tetikleyebilir. Bu durum, kazananı olmayan küresel bir felaket demektir. Hem ABD hem de Çin, teknolojinin kendi kontrollerinden çıkıp otonom bir şekilde kendi sistemlerine de zarar vermesinden korkmaktadır. Ortak düşman artık karşı devlet değil, “kontrol edilemeyen otonom sistemler” haline gelmektedir. Yapay zekânın yanlış analizleri veya verilerin yanlış yorumlanması sebebiyle nükleer ya da konvansiyonel bir küresel çatışma riskinin doğması hem en kritik tartışma konusu hem de insanları en çok korkutan konulardan biridir.

Zira yapay zekâ ile ulaştığımız bu son aşamada, insanlığın geçmişteki kumarı oynama lüksü kalmadı. Çünkü bu sefer karşı karşıya olduğumuz riskin iki benzersiz farkı var: Nükleer bir savaştan veya geçmişteki büyük yıkımlardan sonra insanlık (büyük kayıplarla da olsa) küllerinden yeniden doğabildi. Fakat otonom, süper zeki ve kontrolden çıkmış bir yapay zekâ sisteminin yaratacağı bir felakette, insanlığa “ikinci bir şans” tanınmayacaktır. Mazi tekerrür etmeyecek, direkt olarak ati (gelecek) hiç olmayacaktır. İnsan beyni hırslarına yenik düştüğünde bile kararlarını günlere, haftalara yayar; bu da bir pişmanlık veya geri adım süresi tanır. Yapay zekâ ise mikro saniyeler içinde karar verir.

Zira insan hırsı, otonom sistemlerin hızına musallat olduğunda frene basacak bir “insan eli” dahi yetişemeyebilir. Bu yüzden, bu son dönemeçte insanlığın kurtuluşu “ahlaki bir aydınlanma” veya “hırslarından tamamen arınma” ile olmayacaktır; çünkü insan bencil ve tamahkâr yapısını kolay kolay değiştiremez. Kurtuluş, ancak ve ancak korkunun ve yok olma riskinin netliğinin, güç hırsından daha baskın gelmesiyle mümkündür. Liderlerin........

© Aydınlık