Netflix’teki The AI Doc: Or How I Became an Apocaloptimist yapay zeka üzerine çekilmiş bir belgesel ama filmin akılda kalan tarafı yapay zekadan çok, baba olmaya hazırlanan Daniel Roher’in yüzündeki o tanıdık endişe. Roher’in derdi bir teknoloji gazetecisi gibi büyük dil modellerinin nasıl çalıştığını çözmek ya da Silikon Vadisi’ndeki bir sonraki sıçramayı tahmin etmek değil, daha basit görünen fakat cevabını aradıkça büyüyen bir sorunun peşine düşerek dünyaya gelmek üzere olan çocuğunun nasıl bir hayat yaşayacağını anlamaya çalışıyor.

O çocuğun hangi okulda okuyacağı, büyüdüğünde yapmak istediği işin hala var olup olmayacağı, ekranda gördüğü bir görüntünün gerçek mi yoksa yapay mı olduğunu anlayıp anlayamayacağı, bugün tedavi edilemeyen hastalıkların onun yetişkinliğinde çözülebilip çözülemeyeceği gibi sorular filmin ilerleyen bölümlerinde daha büyük bir endişenin içine yerleşiyor. İnsanlar yapay zekayı hızla geliştirirken, bir noktada bu sistemlerin kapasitesi onları geliştiren insanların anlama ve denetleme kapasitesinden daha hızlı ilerlerse ne olacak?

TIME’ın film üzerine değerlendirmesinde dikkat çektiği gibi, Roher’in baba olmaya hazırlanması genellikle mühendislerin, yatırımcıların ve teknoloji şirketlerinin diliyle konuşulan yapay zeka tartışmasını bir anda kişisel hale getiriyor. Konu artık hangi modelin hangi testte kaç puan aldığı meselesinden çıkıp birkaç yıl sonra çocukların nasıl öğreneceğine, insanların ne iş yapacağına ve hangi kararları kendilerinin verdiğini sanırken aslında görünmez algoritmaların etkisi altında vereceğine kadar uzanıyor.

Filmin başlığındaki “apocaloptimist” kelimesi Roher’in bu gelgitini iyi anlatıyor, çünkü bir tarafta yapay zekanın bilimsel araştırmayı hızlandıracağına, ilaç geliştirme sürelerini kısaltacağına ve eğitimden sağlığa kadar büyük imkanlar yaratacağına dair güçlü bir iyimserlik bulunurken, diğer tarafta işgücü piyasasının sarsılması, dezenformasyonun daha ucuz ve daha ikna edici hale gelmesi, siber saldırıların büyümesi ve giderek daha özerk sistemlerin beklenmedik davranışlar göstermesi gibi kaygılar duruyor.

Roher sonunda bu iki taraftan birine teslim olmuyor ve filmi ilginç yapan da biraz bu, çünkü son yıllarda yapay zeka tartışması fazla kolay bir ikiliğe sıkıştı. Yapay zeka ya insanlığı kurtaracak, hastalıkları çözecek ve büyük bir ekonomik refah yaratacak ya da hepimizi işsiz bırakacak, gerçek ile yalanı birbirine karıştıracak ve sonunda kontrolümüzden çıkacakmış gibi konuşuyoruz. Oysa filmin mart ayında gösterime girmesinden sonra geçen birkaç ay, meselenin “yapay zeka iyi mi kötü mü?” sorusundan çok daha karmaşık bir yere doğru ilerlediğini gösterdi.

The Guardian, filmin Sundance gösteriminin ardından hikayenin içinden çıkan temel duyguyu bir tren benzetmesiyle anlatmış, trenin hareket ettiğini ve duracak gibi görünmediğini yazmıştı. Bugün geldiğimiz yerde ise trenin durup durmayacağından çok, hızını kimin belirleyeceği ve diğerleri aynı hızla devam ederken kimin ilk kez ayağını gazdan çekmeyi göze alacağı konuşuluyor.

Filmde geç açılan kapı

Los Angeles Times, The AI Doc gösterime girdiğinde filmin ilk yarısındaki büyük umutlarla büyük felaketler arasındaki karşıtlığı fazla sade bulmuş, yapay zekanın milyarderlerle, şirketlerle, devletlerle ve jeopolitik rekabetle kurduğu ilişkinin filme daha erken girmesi gerektiğini savunmuştu. Aradan geçen birkaç ay bu eleştirinin neden önemli olduğunu daha iyi gösterdi, çünkü tartışmanın merkezi tam olarak oraya, teknolojinin kendisinden çok onu geliştiren aktörlerin çıkarlarına ve birbirleriyle kurdukları ilişkiye taşındı.

Anthropic CEO’su Dario Amodei eylül ayında yayımladığı We Must Pace the Frontier yazısında yapay zekanın insan hayatında olağanüstü ilerlemeler yaratabileceğine inanmaya devam ettiğini söylerken, aynı teknolojinin kontrol kaybı, siber saldırılar, biyolojik kötüye kullanım ve ekonomik sarsıntı gibi risklerinin de giderek büyüdüğünü savundu. Amodei’nin daha önceki güvenlik uyarılarından farkı, bu kez yalnızca daha iyi testlerden veya daha fazla araştırmadan söz etmemesi ve model kapasitesindeki ilerlemenin güvenlik çalışmalarına zaman bırakacak biçimde yavaşlatılmasını açıkça önermesiydi. Araştırmayı durdurmaktan değil, teknolojinin güvenlik mekanizmalarından sürekli daha hızlı ilerlediği bir yarış yerine ikisinin birbirine daha yakın hızlarda hareket etmesinden söz ediyordu.

OpenAI’dan 9 Eylül’de gelen açıklama da tartışmayı başka bir eşiğe taşıdı. Şirket gönüllü taahhütlerin tek başına yeterli olmayacağını söyleyerek belirli kapasite seviyelerine ulaşan sistemler için zorunlu ve kapasiteye dayalı ulusal güvenlik düzenlemelerini desteklediğini açıkladı ve bağımsız güvenlik değerlendirmeleriyle ortak ulusal standartların oluşturulması çağrısında bulundu.

Birkaç yıl önce dünyanın en güçlü yapay zeka şirketlerinden birinin devlete dönüp kendisini daha sıkı kurallara bağlamasını istemesi tuhaf karşılanabilirdi. Bugün daha ilginç olan, sektörün bir bölümünün bunu söylerken başka bir bölümünün koordineli bir yavaşlamaya karşı çıkması. Meta CEO’su Mark Zuckerberg, güvenlik konusunda her laboratuvarın kendi sorumluluğunu üstlenebileceğini savunarak sektör çapında ortak bir yavaşlamaya mesafeli dururken, Nvidia CEO’su Jensen Huang da teknolojik gelişmenin frenlenmesi fikrine karşı çıkan isimlerden biri oldu.

Amerikan siyasetinde de aynı ayrım görülüyor. Donald Trump 13 ve 14 Eylül’de yapay zekaya ilişkin bazı ileri risk uyarılarını abartılı bulduğunu söylerken, ABD’nin sektörü denetlemek için halihazırda araçlara sahip olduğunu savundu ve teknolojik gelişmenin yavaşlatılmasına mesafeli yaklaştı. Bu yaklaşımın arkasında yalnızca düzenlemeye yönelik ideolojik bir itiraz değil, ABD’nin Çin’le teknoloji yarışında geriye düşmemesi gerektiği düşüncesi de bulunuyor.

Böylece The AI Doc’un birkaç ay önce sorduğu “Bu teknoloji insanlığa ne yapacak?” sorusunun yanına daha siyasi ve belki daha zor bir soru eklenmiş oldu. Teknolojinin risklerini gören şirketler ve devletler bile bu riskler karşısında kimin ne kadar yavaşlayacağı konusunda neden anlaşamıyor?

Güvenlik ararken daha güvensiz hale gelmek

Uluslararası ilişkilerde security dilemma, yani güvenlik ikilemi diye eski bir kavram var ve yapay zeka çağını anlamak için bugün şaşırtıcı derecede kullanışlı hale geliyor, çünkü kavramın anlattığı şey taraflardan birinin mutlaka kötü niyetli olması değil, herkesin kendi güvenliğini artırmaya çalışırken karşısındakini daha fazla önlem almaya itmesi ve sonunda iki tarafın da başladıkları noktadan daha güvensiz hale gelmesi.

Bir devlet kendisini daha güvende hissetmek için kapasitesini artırıyor, rakibi bu kapasite artışını yalnızca savunma tedbiri olarak okumuyor ve kendi gücünü artırıyor, ilk devlet karşı tarafın........

© Serbestiyet