Makineler karşılıksız sevip hep iyiliğimizi düşünerek bizi gözetir mi?

Bu aralar dünyanın dört bir yanında Anthropic adlı yapay zeka şirketinin Claude yapay zeka robotunun son versiyonu olan Mythos konuşuluyor.

Konuşulmasının sebebi şu: Anthropic’te çalışanlar, Mythos’u piyasaya sürmezden önce denediklerinde, Mythos’un başka bütün diğer algoritmalardan çok daha hızlı ve etkili biçimde bazı yazılımlardaki güvenlik açıklarını bulduğunu görmüşler.

O kadar ki, bu güvenlik açıklarının bazıları 27 yıldır orada duruyormuş ve kimse farkında değilmiş, ta ki Mythos onları fark edene kadar.

Mythos’un tam olarak neyi nerede bulduğu ve kaç ayrı sistemde güvenlik açığı saptadığı elbette açıklanmadı ama tabii bu vahim bir durum. O kadar ciddi ki konu, Amerikan Merkez Bankası ve Hazine Bakanlığı hemen bankalarla acil bir toplantı yaptı mesela, demek ki bulunan açıklardan en az biri Amerikan finans sistemini ilgilendiriyor.

Bilgisayar güvenliği endüstrisinin pabucu nasıl dama atıldı?

Her yazılımda, o yazılımı hazırlayan kişi veya ekibin önceden öngöremediği güvenlik açıkları olabilir. Nitekim bilgisayar korsanları oturur o güvenlik açıklarını ararlar ve minicik deliklerden sistemlere sızarlar. Bunun olduğunu biliyoruz; çünkü zaman zaman bu sızıntılarla ilgili haberler önümüze düşüyor zaten.

İşi tam da bu güvenlik açıklarını bulmak ve onları yamamak olan binlerce bilgisayar güvenliği şirketi var. Onlarla anlaşıyorsunuz, kendi sisteminizi onlara taratıyorsunuz. Açık bulurlarsa onlar sistemi yamıyorlar. Bu çok büyük ve giderek de büyümekte olan bir endüstri.

Şöyle örnek vereyim: Google, geçen yıl böyle bir güvenlik şirketini 8 milyar dolara satın aldı. Dünyanın en büyük bulut işletmecilerinden biri olan Google kendi veri merkezlerinin güvenliğini bu şirket aracılığıyla sağlamak istiyordu çünkü.

Ama şimdi Mythos diye bir yazılım çıktı ve bütün o güvenlik şirketlerinin pabucu dama atıldı. Çünkü Mythos onların bulamadığı güvenlik açıklarını fazla bir zahmete girmeden buluvermişti. Nitekim o yüzden bu şirketlerin hisseleri çökmeye başladı.

Mesele sadece teknoloji değil, felsefi boyutu var

Mythos’un bu beklenmedik başarısı aynı anda hem bir büyük tedirginliğe hem de aslında rahatlamaya neden oldu. Öyle ya, bu sayede henüz bilinmeyen güvenlik açıkları kapatılacak. Bilgisayar alemi daha güvenli olacak.

Tabii bu durum Anthropic’i manşetlere çıkardı, ben de bu aralar konuyla ilgili ne bulsam okuyorum.

Meselenin bir teknik tarafı var, o bölüm benim daha az ilgimi çekiyor. Esas felsefi diyebileceğim bir yön var, bugün de size o yönü biraz anlatmaya çalışacağım.

Nedir o felsefi yön? Basitçe şu: İnsanoğlu, bir uygarlık olarak varolduğundan beri, daha doğrusu bir uygarlık olmasını bir diğerine güvenmesine borçlu. Çünkü uygarlık toplumsal bir organizasyon ve iş bölümü gerektiriyor.

Bu iş bölümü içinde de, diğerlerinin de işlerini en az bizim kadar iyi yaptığına ve yapacağına güvenmemiz gerekiyor. Bu güven konusu, sahiden uygarlığımızın temelinde yer alan bir konu. Bunun için koca devlet organizasyonlarımız, kanunlarımız, devasa bir hukuk literatürümüz var. O güveni garanti altına almak için.

Dediğim gibi insanlık hep bir diğerine güvenerek, bazı işleri onlara bırakarak ilerledi ama artık giderek artan biçimde bu güven mekanizmasını makinelere devretmeye başladık. O bakımdan insan uygarlığının ilginç bir kavşağındayız aslında.

Yapay zeka çağında “güven” daha da zor

İşte o yüzden Mythos’un güvenlik açıklarını bulması, hayatımızın önemli bölümlerini teslim etmeye başladığımız o makinelere ne kadar güvenebileceğimiz konusunu ister istemez gündeme getiriyor.

Hele hele o makineler bir anlamda “düşünen” veya “zeki” makineler haline gelip karar verirken insan faktörünü devreden çıkarmaya başladıkça bizim bu güveni onlara teslim edip etmememiz daha fazla........

© 10 Haber