Bazı arkadaşlarımla zaman zaman yapay zeka (YZ) üzerine tartışıyoruz. Ben ve benim gibi düşünenler YZ’nın kontrolsüz bir güç halinde geliştiğini ve insanlık için büyük bir tehlike potansiyeli taşıdığını savunuyor. Karşı görüşü benimseyen arkadaşlarım, her yeni teknolojik devrimin başlangıçta büyük sorunları beraberinde getirdiğini ancak insanlığın bunu aşabildiğini, YZ‘nın tehlikelerini yine YZ ile gidermenin mümkün olduğunu, bilimin insanlığı mahvetmeden kendi yolunu bulacağını savunuyor.

Kuşkusuz bu benim dar arkadaş grubumun başlattığı bir tartışma değil. İçki masalarından parlamento koltuklarına, okul sıralarından akademik toplantılara tüm dünyada bu tartışma birkaç senedir canlı bir şekilde sürüyor. Bu süreçte hemen tüm tezlere, haberlere, makalelere “gelecek zaman” kipinin hakim olduğunu da eklemekte yarar var. 

Şu son iki-üç haftada, haber bültenlerinin en tepesinde yer almasa da, aralıksız biçimde işlenen ve dünyanın ekonomik-politik elitini alarma geçiren bazı gelişmeler, bana, “gelecek zamanın” gelmiş olabileceğini düşündürüyor. Tehlike o kadar yakın ki, siz bu satırları okurken, “dünyanın zirvesi” fokur fokur kaynıyor. İşin kötüsü henüz kimse ne yapmak gerektiğini bilmiyor.

Beyaz Saray’da beklenmedik toplantı

Geçen hafta Cuma günü, teknoloji camiasına “ne oluyor” dedirten bir gelişme oldu. Anthropic adlı YZ şirketinin iki kurucusundan biri, Dario Amodei, Beyaz Saray’ın en yüksek bürokratı Susie Wiles ve ekibiyle bir araya geldi. Taraflar bir gün öncesine kadar kanlı-bıçaklıydı. 

Hatırlayacaksınız, Anthropic Claude adlı YZ platformunun otonom (hedefine kendi karar veren ve harekete geçen) silahlarda ve ABD halkının kitlesel olarak gözetlenmesinde kullanılmasına izin vermemişti. Daha önce bu köşede yer verdiğimiz bu gelişme, ABD hükmetinin Anthropic’i, adeta “düşman” tanımına sokarak, “tedarik zinciri riski” olarak ilan etmesine yol açmıştı. Trump hükümeti kendince cezayı kesmiş, Pentagon’un ve hükümet kuruluşlarının Anthropic ile çalışmasını yasaklamıştı. Anthropic mahkemeden yürütmeyi durdurma kararı çıkartmış ama iki taraf arasındaki gerilim devam etmişti. 

Beyaz Saray, yaklaşan tehlikenin ciddiyetini kavrayınca “düşman” muamelesi yaptığı Anthropic’i toplantıya davet etti. Toplantıda iki tarafın “yapıcı görüşmeler” gerçekleştirdiği açıklandı. Önceki gün 10 Haber’de de yayınlanan gelişmelerin çok hızlı seyretmesine, özel sektörle devletin bilek güreşinin birdenbire yön değiştirmesine bakınca, insan ister istemez, “gerçek güç kimin elinde” diye soruyor.

Güvenlik açığını anında bulan yapay zeka platformu

Anthropic, Claude’un bir devamı niteliğindeki yeni YZ modeli Mythos’u piyasaya sürmek yerine, küresel çapta doğurabileceği tehlikeleri dikkate alarak, Pentagon’u ve Beyaz Saray’ı uyarmış ve bu tehlikelerin bertaraf edilmesinde birlikte çalışmak üzere 11 şirkete ve kuruma Mythos’u verdiğini, bu sayıyı ikinci aşamada 40’a çıkaracağını duyurmuştu. Bu kurumların hepsi ABD’de faaliyet gösteriyordu. Model geçen hafta bir de İngiltere’ye verilmişti. 

Mesele şuydu: Yeni YZ modeli Mythos (bunu yapsın diye geliştirilmiş olmadığı halde), bugüne kadar hiçbir YZ platformunun başaramadığı bir hızda ve mükemmellikte, herhangi bir siber sistemin güvenlik açığını “sıfır günde” bulabiliyordu. 

Ben basit örnekler vereyim, siz onları hayal gücünüzün elverdiğince geliştirin. Mesela bu platformu eline geçiren birileri New York borsasına “arka kapıdan” girip dünya borsalarında zincirleme etkiye yol açabilecek bir satış furyası başlatabilir, borsaları çökertebilir. Bir başkası Avrupa’nın enterkonnekte elektrik şebekesine sızarak yaşlı kıtayı günlerce karanlıkta bırakabilir. Bir üçüncüsü uçuş emniyetini sağlayan havayolu güvenlik sistemlerini devre dışı bırakabilir. Ülkelerin hava savunma sistemlerinin susturulmasından veya nükleer silahların tetiklenmesinden söz etmiyorum bile… Kaosu düşünebiliyor musunuz?

Büyük şirketlerde, kurumsal yapılarda, devletlerde böyle siber güvenlik açıkları yoktur diye düşünmeyin. Bu açıklar her yerde var. Şirketlerin güvenlik duvarını aşıp bilgisayar sistemini kilitleyen ve “kurtulma parası” isteyen korsanları, müşterilerinin kimlik bilgileri çalınan şirketleri hatırlayalım. En vahim örneklerden biri ABD’de Hazine, İç Güvenlik ve Dışişleri bakanlıkları ile savunma sanayii şirketlerine sızılmasıydı (Solarwinds Cyberattack). Bunların hepsi güvenlik açıklarının kullanılmasıyla gerçekleştirilmişti. 

Bugüne kadar nispeten az vak’a görüldüyse, sebebi, sızma işlemi için gereken tarama zamanının uzun olması, güvenlik duvarı mimarilerinin karmaşık olması ve çoğu zaman işe yaraması, gerekli işlem gücünün çok yüksek olmasıydı. Mythos’un çalışma prensipleri hakkında henüz net bir bilgi yok ama bu üç engeli de mükemmelen aşabildiği anlaşılıyor.  

Bu olay ortaya çıktığında ABD Hazine Bakanı ile Merkez Bankası Başkanı en büyük bankaların CEO’larını acil görüşmeye çağırdı. İngiltere ve Kanada Merkez Bankaları’nın benzeri “gizli” toplantılar düzenlediği de konuyla ilgili haberlerin satır aralarında yer aldı. 

40 kişinin bildiği sır, sır mıdır?

“İki kişinin bildiği sır, sır değildir” demişler. Ya 40 kişinin bildiği sır?..  Mythos, aralarında büyük bankaların, teknoloji şirketlerinin, devletin güvenlik kurumlarının, Pentagon’un, Hazine Bakanlığı’nın bulunduğu, tamamının ismi açıklanmayan 40 kurumla paylaşılmış durumda. Peki bu “tehlikeli madde”nin dışarı sızması nasıl önlenecek? 

Bloomberg’in Salı günü........

© 10 Haber