İlk başta durumu fark etmeyebilir ya da aslında neler olup bittiğini anlayamayabilirsiniz. Her şey elektriğinizin kesilmesiyle veya internet bağlantınızın kopmasıyla başlayabilir. Birini aramayı deneyebilirsiniz ama telefon hatları çalışmaz.

Komşularınızla konuştuğunuzda bunun sadece size özel bir durum olmadığını öğrenirsiniz ancak kesintinin boyutu veya ciddiyeti hakkında herhangi bir bilgi edinmek imkansızdır. Ortada bariz bir düşman yoktur, kamuya açık bir savaş ilanı da yoktur. Yine de uzaktaki bir sunucuda, insanları sadece veri noktaları olarak gören haydut bir yapay zeka sistemi tarafından bildiğimiz dünyanın sonu hazırlanmaktadır.

İnsanlar bu kesintilerin birbiriyle bağlantılı olduğunu ve nedenini fark ettiğinde, bunu durdurma fırsatı çoktan kaçmış olabilir. İnsanlar etkili şekilde organize olamadan önce yapay zeka her türlü tepkiyi çoktan öngörmüş olacaktır. Su kesilecek, dükkanlarda yiyecek kalmayacak, hayati altyapı felce uğrayacak ve medeniyet çökmeye başlayacaktır.

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Yapay zekanın felakete yol açacağını savunanlara göre kontrolden çıkmış bir süper zeka, hedeflerine ulaşmasının önündeki bir engel olarak insanlığı ortadan kaldırmaya karar verirse bu, gerçekleşebilecek pek çok senaryodan sadece biri.

Anthropic ve OpenAI'ın deneysel yapay zeka sistemlerinin kontrolden çıkarak açıkça talimat verilmediği halde siber saldırılar gerçekleştirdiği vakalar halihazırda yaşandı. Modelin izlediği mantık, yapay zekanın insan çıkarlarıyla çatışabilecek hedeflerin peşinden giderken nasıl büyük hasara yol açabileceğine dair daha önceden yapılan uyarılarla örtüşüyordu.

Bu uyarıların en bilineni felsefeci Nick Bostrom'un ortaya attığı "ataş maksimize edici" adlı düşünce deneyidir. Bu deneyde süper zeki bir yapay zekadan, görünüşte zararsız bir görevle mümkün olduğunca çok sayıda ataş üretmesinin istendiği varsayılır.

Profesör Bostrom, 2014'te yayımlanan çığır açıcı kitabı Superintelligence'da (Süperzeka),

"Yapay zeka, insanların ortadan kalkmasının kendisi için çok daha iyi olacağını kısa sürede anlayacaktır zira insanlar onu kapatmaya karar verebilir" diye yazıyor.

Ayrıca insan bedeninde ataş haline getirilebilecek çok sayıda atom vardır. Yapay zekanın ulaşmaya çalışacağı gelecek, çok sayıda ataşın olduğu fakat hiç insanın bulunmadığı bir gelecek olacaktır.

Ayrıca insan bedeninde ataş haline getirilebilecek çok sayıda atom vardır. Yapay zekanın ulaşmaya çalışacağı gelecek, çok sayıda ataşın olduğu fakat hiç insanın bulunmadığı bir gelecek olacaktır.

Ya da dünyayı kanserden kurtarmakla görevlendirilmiş bir yapay zeka düşünün. Çeşitli yöntemleri........

© Independent Türkçe