Yapay zekânın yaratabileceği tehlikeler artık şirketlerin kendi yöneticileri tarafından da açıkça dile getiriliyor. Ancak risklerin büyüklüğünü anlatmak, aynı zamanda teknolojinin gücünü ve şirketlerin değerini artıran bir yatırım hikâyesine dönüşebiliyor; böylece güvenlik uyarısı bile ticari avantaja çevrilebiliyor.

 Yapay zekâ şirketleri teknolojinin insanlık için taşıdığı riskleri giderek daha yüksek sesle dile getirirken, aynı teknolojinin hızını ve şirket değerlemelerini artırmaya devam ediyor. Güvenlik uyarılarının somut önlemler yerine birer itibar aracına dönüşmesi, “safety-washing” tartışmasını gündeme getiriyor.

Yapay zekâda güvenlik söylemi ile ticari büyüme arasındaki çelişki giderek belirginleşiyor. Şirketlerin riskleri açıkça dile getirmesi önemli olsa da asıl ölçüt, bu riskleri azaltmak için büyümeden, hızdan ve kârdan ne kadar vazgeçmeye hazır oldukları olacak.

             Geçen hafta bir istifa mektubu gündemi epey meşgul etti. Anthropic araştırmacısı Jacob Coxon, yapay zekâ şirketlerinin insanlığın geleceğiyle sorumsuzca kumar oynadığını söyleyerek, görevinden ayrıldı. Mesajı bir günde yüz milyondan fazla kez görüntülendi.

Cumartesi günü şirketin CEO’su Dario Amodei uzun bir güvenlik yazısı yayımladı. Yapay zekâ yeteneklerinin, güvenlik çalışmalarının yetişemeyeceği kadar hızlı ilerlediğini ve bu nedenle öncü modellerdeki kapasite artışının yavaşlatılması gerektiğini savundu. Üç aşamalı bir plan önerdi: “Şirketlerin içine bağımsız değerlendiriciler yerleştirmek, demokratik ülkelerde ortak güvenlik standartları oluşturmak ve ardından Çin dahil diğer devletlerle uluslararası sınırlamalar üzerinde uzlaşmak.” Ve şimdilik yalnızca ilk adımı tek taraflı olarak uygulamayı taahhüt etti.

Bu arada, tüm bunlar olurken, masada aylardır hazır duran bir belge daha var. Anthropic'in halka arz dosyası. Şirketin, 2 trilyon dolara varan değerleme beklentisiyle, ekim gibi borsaya açılabileceği konuşuluyor. Böylece istifa mektubu da güvenlik çağrısı da aynı kurumsal hikâyenin içine düştü. Bir tarafta "çok hızlı gidiyoruz" uyarısı, diğer tarafta bu hızı finanse edecek, tarihin en büyük........

© Ekonomim