İnsanoğlu tüm medeniyetler tarihi boyunca sürekli savaşmış ve önemli kaynakları elde etmeye çalışmıştır. Ancak bu savaşlar her zaman ya bir kralın ya bir imparatorun ya da bir devlet yöneticisinin kararı ile olmuştur.

Yani savaşı başlatan kararın arkasında her zaman bir insan iradesi olmuştur.

Ancak günümüz koşullarında bir ülkeyi savaşa sürüklemek için artık sahte bir belgenin hazırlanması bile gerekmeyebilir.

Bir soruya verilen yanlış cevap, askerî rapora dönüşüp komuta kademesine ulaştığında, bilgisayar ekranındaki hata gerçek insanların hayatına mal olabilir. Yapay zekâ çağının belki de en ciddi güvenlik meselelerinden biri budur.

Bu durumda karşımızda insanlığa savaş ilan eden bilinçli bir makine bulunması gerekmiyor. Makinenin ürettiği yanlış bilgiye, doğru yerdeki insanların yeterince inanması tehlikeyi başlatmaya yeterli olabilir. CNN'in dört kaynağa dayandırdığı haber tam da böyle bir iddiayı gündeme taşıdı. Habere göre bu ilkbaharda, Orta Doğu'daki bir Çin gemisinin nükleer silah programına ait bileşenler taşıdığı yönünde hazırlanan rapor, Amerikan ordusunu harekete geçirdi. Gemiye çıkılması planlandı ve hatta askerî uçaklar gemiyi tespit etmek ve belki de vurmak için havalandı. Sonraki incelemede, rapor hazırlanırken kullanılan sohbet botunun yükü yanlış tanımladığı anlaşıldı ve operasyon durduruldu. Burada anlatılan, bilgisayarda oynanan bir savaş senaryosu değil gerçek bir askerî hazırlık iddiasıdır.

Henüz bu olayın ayrıntıları kamuya açık resmî bir soruşturmayla doğrulanmış değil. Haberi veren CNN geminin gerçek yükünü öğrenemediğini, Pentagon'un da sorularına yanıt vermediğini belirtiyor. Dolayısıyla dünya savaşının kesinlikle başlayacağını söyleyemeyiz. Buna karşılık haberin işaret ettiği mekanizma üzerinde ciddiyetle durmalıyız: Doğrulanmamış bir makine verisinin, devletin güvenilir kabul ettiği bilgiye dönüşmesi ve o bilgiye dayanarak devletin silahlı kuvvetlerinin harekete geçmesi. Millî güvenlik bakımından asıl tehlike bu çarkın fark edilmeden gerçekleşebilmesidir.

SAVUNMA TEKNOLOJİSİNDE YAPAY ZEKÂ GÜVENİLİRLİĞİ

Peki yapay zekâ nasıl böyle bir hata yapabilir? Üretken yapay zekâ sistemleri, gerçeğe dayanmayan bilgileri son derece tutarlı bir anlatımla sunabilir. Teknik literatürde buna halüsinasyon deniliyor. Cümlelerin düzgünlüğü, anlatılanın doğruluğunu garanti etmiyor. Amerikan Ulusal Standartlar ve Teknoloji Enstitüsü de hem bu riske hem insanların otomatik sistemlere gereğinden fazla güvenmesine........

© Aydınlık