Yapay zekâ deneme yazılarına devam. Önceki iki yazıda şunları vurgulamıştık. Önümüzde birbirinin tam karşıtı iki ihtimal var.

Yapay zekâ ve robotların yarattığı muazzam ekonomik güç birkaç şirketin veya küçük bir azınlığın elinde toplanırsa dijital feodalizme, oradan da dijital faşizme giden bir dünyanın kapısı açılabilir.

Ama aynı teknolojik devrim, insanların temel ihtiyaçlarının karşılandığı, yapay zekâ ile robotların yarattığı bolluğun toplumun tamamıyla paylaşıldığı başka bir dünyanın da kapısını açabilir.Ben buna, biraz da kavramı zorlayarak, “ütopik komünizm” demiştim.

İkinci yazıda da “Çin bu ütopyanın neresinde” diye sorgulamıştık.

Ancak hangi yola gidersek gidelim, şu soruyu deneme yazılarının merkezine taşımak gerekiyor: Teknoloji insanı özgürleştirmek için mi kullanılacak, yoksa insanı kontrol etmek için mi? Doğal olarak bu soruyu tartışırken, mülkiyet kavramını da ele almalıyız.

BEN DURURSAM RAKİBİM DURMAYACAK

Çinli yapay zekâ şirketi DeepSeek'in önemli mühendislerinden Liu Shengyu'nun geçenlerde yazdığı bir yazı ilgimi çekti. Söylediğinin özeti şu:

Ben ne kadar iyi kod yazarsam geliştirdiğimiz yapay zekâ o kadar iyi olacak. Yapay zekâ ne kadar iyi olursa benim yaptığım işi o kadar iyi yapacak. Sonunda bana ihtiyaç kalmayacak. O halde yapay zekâyı geliştirmeyi bırakayım mı? Bırakamam. Çünkü ben yavaşlarsam rakibim yavaşlamayacak.

Anthropic CEO'su Dario Amodei, yapay zekânın gelişme hızının güvenlik mekanizmalarının önüne geçmesinden kaygılı. Yapay zekâ geliştiren şirketlerin biraz frene basmasını, bağımsız denetçilerin devreye girmesini, şirketler arasında güvenlik konusunda koordinasyon kurulmasını ve sonunda uluslararası işbirliğine gidilmesini savunuyor.

OpenAI CEO'su Sam Altman ve xAI'ın kurucusu Elon Musk da Amodei'nin yavaşlama çağrısına destek verdi. OpenAI,  gelişmiş yapay zekâ sistemleri için zorunlu ve yetenek-temelli ulusal güvenlik düzenlemeleri ile bağımsız değerlendirmeleri savunmaya başladı.Yapay zekâyı geliştiren şirketlerin yöneticileri bile tehlikeden söz ediyorsa neden frene basılmıyor?

ABD Başkanı Donald Trump'ın yaklaşımı farklı. Amerikan yönetimi, ağır düzenlemelerin yapay zekâ sektörünü yavaşlatmasını istemiyor. Çünkü yapay zekâ artık yalnız teknolojik ve ekonomik bir yarış değil. ABD ile Çin arasındaki küresel güç mücadelesinin de en önemli alanlarından biri.

Micrsoft’un kurucusu Bill Gates, yapay zekânın iyi yönetilirse özellikle yoksul ülkeler açısından büyük yarar sağlayabileceğini düşünüyor. Gates, 15 Eylül'de Reuters'a da dünyadaki hiçbir hükümetin yapay zekânın yaratacağı dönüşüme yeterince hazır olmadığını söylemişti. Birkaç gün önce de, NBC'nin yayımladığı Meet the Press bölümünde yine çarpıcı bir uyarı yaptı. Yapay zekânın kötü niyetli insanların elinde “bir milyar ölüme” yol açabilecek olayları tetikleyecek kadar güçlü olduğunu söyledi. Şirketlerin kendi kendilerini denetlemesinin yeterli olmadığını, yapay zekâ için devletlerin de devreye girdiği zorunlu denetim mekanizmaları kurulması gerektiğini savundu.

Sonuçta kontrol edilmesi güç bir durum ortaya çıkıyor. Tıpkı geçmişte ABD ve SSCB arasındaki nükleer silahların azaltılması arayışları gibi… İki taraf da silahlanmanın insanlık için yarattığı tehlikeyi biliyordu ama hiçbiri diğerinden emin olmadan tek başına silahsızlanamıyordu.

Mühendis duramıyor; çünkü başka mühendis devam edecek.

Şirket duramıyor; çünkü rakip şirket devam edecek.

Devlet duramıyor; çünkü rakip devlet devam edecek.

KONTROL EDENLERİ KİM KONTROL EDECEK?

Herkes tehlikeyi görüyor ama hiç kimse tek başına yavaşlayamıyor. Peki o zaman yapay zekâyı kim kontrol edecek?

Devlet mi? Bu iş o kadar kolay mı? 

Bağımsız denetçiler görevlendirirsek onları kim seçecek, kim finanse edecek? Bağımsız olduğu söylenen denetçiler gerçekten bağımsız kalabilecekler mi?

Devlet denetleyecekse, iktidarın, devlet gücünü arkasına alarak, yapay zekâyı kendi siyasal gücünü artırmak için kullanmasını kim engelleyecek?

Uluslararası bir kuruluş denetleyecekse Amerika'yı, Çin'i ve diğer büyük güçleri aynı kurallara kim razı edecek? Kontrol edenleri kim kontrol edecek?

İşin içine kontrol girerse, mutlaka mülkiyeti de tartışmalıyız. 

Sanayi Devrimi'nin temel üretim araçları fabrikalar, makineler ve sermayeydi. Şimdi bunlara yeni ve belki hepsinden önemli bir üretim aracı ekleniyor:Zekânın kendisi.

Yapay zekâ kod yazacak, tasarım yapacak, hastalık teşhis edecek, ilaç geliştirecek, fabrikaları yönetecek, bilimsel araştırmalara katılacak. Robotlarla birleştiğinde yalnız düşünsel emeğin değil, fiziksel emeğin de önemli bölümünün yerini alabilecek.

İlk denemede üretim denkleminin değiştiğini bunun için yazmıştım.

Doğal kaynaklar sermaye emek = üretim.

Doğal kaynaklar sermaye daha az emek enerji yapay zekâ robotlar = üretim.

İnsan emeğinin üretim denklemindeki ağırlığı azalırken yapay zekâ en önemli üretim araçlarından biri haline geliyorsa, 21. yüzyılın belki de en önemli mülkiyet sorusuyla karşı karşıyayız:

Yapay zekâ kimin olacak?

Birkaç büyük şirketin mi?

Herkese açık sistemlerin mi?

Yoksa toplumun da bu yeni üretim aracının yarattığı servet üzerinde bir hakkı mı olacak?

Yukarıda alıntı yaptığım Çinli mühendis Liu Shengyu yazısında, yapay zekânın insanlığı iki radikal uçtan birine götürebileceğini düşünüyor: Bir tarafta üretici güçlerin muazzam ölçüde özgürleştiği bir komünizm, diğer tarafta ekonomik kaynakların ve teknolojik gücün birkaç şirketin elinde toplandığı Cyberpunk........

© 12punto