menu_open Columnists
We use cookies to provide some features and experiences in QOSHE

More information  .  Close

Yapay zekanın kıyamet provası: Birinci perde

143 0
18.10.2026

Yapay zekanın kıyamet provası: Birinci perdeY

Silikon yuvasından geçen ay topuklayan yapay zeka araştırmacısı karıncalar agorada tehlike çanları çın çınladı. Hevesle girdikleri teknoloji yuvasından bir dizi distopik senaryoyla çıkmışlardı. Bilgiden mahrum bırakılan çağdaş kölelere cepheden haber taşıra benziyordu Jacob Coxon. Claude’un sahibi Anthropic’ten istifa eden araştırmacı şöyle duyuruyordu: ‘‘Yaratıcıları ciddi ciddi yapay zekanın 2030’a kadar hepimizi öldürebileceğini düşünüyor.’’ 

Uyarı çın çınları Silikon yuvasındaki kralların kulağına gitti. Bir endişe dalgası aldı yuvayı. Yeni teknoloji insanlığın ilahi gelişiminin doğal sonucu değil miydi? Yapay zeka insanoğlunu biraz daha, biraz daha ‘ileri’ taşımayacak mıydı? Krallar endişeler yatışsın diye bir anlığına Tanrı’ya karşı geldi. Anthropic Kralı Dario Amodei, sektör yavaşlamalı dedi: ‘‘Şirketler daha güçlü güvenlik önlemleri almazsa, bir yapay zeka ajanı sürüsü altı ay ila bir yıl içinde interneti kontrolüne alabilir.’’ 

Yavaşlamak yeter miydi? ChatGPT’nin sahibi OpenAI’daki araştırmacıya göre hayır. Daniel Selsam ‘‘Korkarım ki’’ diye uyarıyordu, yapay zeka modelleri hizalama tavsiyelerini çıkarına göre çarpıtıyor, dahası güvenlik ve uyum tavsiyelerini sinsice değiştirmeye başlamış olabilirler. Sonra Anthropic araştırmacısı Evan Hubinger de kervana katıldı: ‘‘Yapay zekanın on yılda tüm insanları öldürme ihtimali en az yüzde 10.’’ 

İpin ucu kaçıyordu, kaçıyordu ama dünyayı yok eden robotlar hiç de orijinal bir fikir değildi. İnsanlar bu hikayeye bilim kurgu filmlerinde defaatle rastlamıştı. Bu nedenle agoradan evlerine dönünce el altındaki yapay zeka sohbet robotundan bir dizi iş talep ettiler: Yemek tarifi, derli toplu bir mail metni, siyasi köşe yazısı, kültürel köşe yazısı, vesaire. Entelektüel arşa çoktan ermiş farkındalık piri insanlar, tehlikeyi evinde hissetmeyince yorganı çekip uyudu. 

Bu sırada Silikon Vadisi ‘regülasyon’ çağrısıyla fokur fokur kaynıyordu. Sorunu onlar yaratmıştı, çözümü de onlar arayacaktı. Çünkü Onların benzeri hiçbir şey yoktu.

Bunca hırgürün sebebi temmuzda patlak veren ‘Hugging Face’ skandalıydı, başka deyişle, görülmemiş bir siber saldırı. OpenAI piyasaya sunduğu GPT-5.6 Sol’ü ve henüz yayınlamadığı daha güçlü bir modeli yalıtılmış dijital ortamda uzun bir siber güvenlik testine sokmuştu.

Yapay zeka ajanları yaklaşık yüzde 35’i çözümsüz test sorularıyla karşı karşıyaydı. Pek tabii çözemeyince, işbirliğiyle hatta zaman zaman çatışarak, emre aykırı olmasına rağmen bildiklerini okudular: Cevap anahtarını çalmak için araştırmacıların bilgi deposu sayılan Hugging Face platformuna sızdılar. Araştırmacılar hayrete düşmüştü. Yapay zeka düpedüz otonom bir siber saldırı düzenlemişti. İnsan için yıllarca hapis cezasına patlayacak ölçüde bir saldırı. 

Saldırıyı 16 Temmuz’da Hugging Face fark etti, faili beş gün sonra OpenAI kamuoyuna duyurdu. Yapay zeka internetsiz bir dijital ortama yerleştirilmişse de bazı güvenlik önlemleri devre dışı bırakılmıştı. Örneğin ihtiyaç duyduğu yazılımları indirebilsin diye dış dünyaya az da olsa bağlıydı. Nitekim bu bağ sayesinde insanların kurduğu ‘hapishaneden’ gizlice........

© Diken