Atom bombasının bulunmadan önceki dönemdeymişiz gibi hissediyorum. Büyük devletlerin kutuplaşmasındaki rekabetin ardında gücü kontrol edecek ahlaki ve siyasi mekanizmaların yetersiz kaldığı “hızlı dönüşüm ve derin belirsizlik” çağı.

Sınırlandırılmamış yıkım ve zafer için her türlü aracın kabul edilebilir olduğu bir dönem. Hayatı kolaylaştıran, yaşamları ve gezegeni iyileştiren bir araçtan ziyade stratejik geri döndürülemez bir üstünlük arayışı.

Son üç yıldır hem OpenAI hem Anthropic’te ön eğitim araştırması yapan Jacob Coxon, çarpıcı bir açıklama ile istifasını duyurdu. Açıklamasında her iki şirketin de sorumlu davranmadığını, kendi kendini geliştiren süperzekâya koştuklarını ve “hayatlarımızla kumar oynadıklarını” söyledi. Bunu inşa edenlerin dahi, on yılın sonunda yapay zekânın herkesi öldürebileceğine gerçekten inandığını da ekledi.

Ardından Anthropic’in hizalama bilimi ekip lideri Evan Hubinger kişisel hesabından Coxon’un hassasiyetini paylaştı: Şirkette bu riskin ciddiye alındığını, kendisinin on yıllık yok oluş ihtimalini yüzde 10’un üstünde gördüğünü, buna rağmen süperzekâyı kontrol edecek bir planlarının henüz olmadığını yazdı. Anthropic ise olaya özel ayrıntılı bir politika metni yayımlamak yerine sözcü düzeyinde genel bir açıklama yaptı; risklerin de faydaların da farkında olduklarını ve güçlü modellerin tempo içinde çıkarılması için sektörün doğrulanabilir bir çerçeveye ihtiyacı olduğunu söyledi.

Bunun ardından sosyal medyada büyük infial oluştu.

Geçtiğimiz günlerde Bill Gates de hazırlıksız yakalandığımıza dikkat çekmişti. Eğitim ve yeniden beceri kazandırma sistemlerimizin hazır olmadığını, çocuklar ve gençlerin korunmasına dair yeterli olmadığını, siber güvenlik ve biogüvenlik kurumlarının da yeni tehditlere yetişemediğini paylaşmıştı. Ülkeler arasında ortak bir yapay zekâ yönetim mekanizmasının kurulmadığını söylemişti.........

© Hürses