İnsanlık tarih boyunca hayatını kolaylaştırmak için yeni teknolojiler geliştirdi. Ateşi kontrol etti, makineler yaptı, atomu parçaladı ve uzaya çıktı.

Ama her büyük güç beraberinde büyük bir risk de getirdi.

Atom enerjisi şehirleri aydınlattı ama aynı zamanda nükleer silahların ortaya çıkmasını sağladı. Biyoloji hastalıkları tedavi etti ama ölümcül silahların da önünü açtı.

Şimdi ise önümüzde çok daha farklı bir teknoloji var.

Üstelik bu kez geliştirdiğimiz şey sadece güçlü bir makine değil. Bir gün bizden daha zeki olabilecek, kendi yeteneklerini geliştirebilecek ve kontrolümüzün dışına çıkabilecek sistemlerden bahsediyoruz.

Ürkütücü olan ise bu ihtimali sadece bilimkurgu yazarlarının konuşmaması.

Uyarılar, bu sistemleri geliştiren insanların içinden geliyor.

Anthropic'te çalışan ve daha önce OpenAI'da görev yapan araştırmacı Jacob Coxon, 9 Eylül'de şirketten ayrıldığını açıkladı. Coxon, son üç yılını iki şirketin yapay zekâ modellerinin eğitim süreçlerinde geçirdiğini söyledi.

Ona göre Anthropic ve OpenAI, kendini geliştirebilen süper zekâya ulaşmak için yarışıyor ve bu yarış sırasında insanlığın geleceği riske atılıyor.

Üstelik Coxon'un eleştirisi sadece bir şirkete yönelik değil.

Asıl sorun, bütün sektörün içine girdiği yarış.

Bugün yapay zekâ şirketleri daha hızlı düşünen, daha karmaşık işleri yapabilen ve daha bağımsız hareket edebilen sistemler geliştirmek için yarışıyor.

Her yeni model daha güçlü geliyor.

Ama aynı hız güvenlik tarafında yok.

Yapay zekâ kontrolden çıkarsa ne yapacağız?

Kendi amaçlarını geliştirmeye başlarsa nasıl durduracağız?

İnsanların verdiği talimatlarla kendi kararları arasında çatışma çıkarsa hangisini seçecek?

Bu soruların hâlâ kesin cevapları yok.

Coxon'un itirazı da tam burada.

Motoru sürekli büyütüyoruz ama freni aynı hızda güçlendirmiyoruz.

Geleceğin yapay zekâları sadece daha iyi yazı yazan veya daha güzel görseller hazırlayan araçlar olmayabilir.

Yazılım geliştirebilen, güvenlik sistemlerini aşabilen, bilimsel araştırmaları hızlandırabilen ve gerçek dünyada kaynak elde edebilen sistemlerden söz ediyoruz.

Peki böyle bir sistem kendi kapasitesini geliştirmeye başlarsa?

İnsanlığın bugün buna verdiği ikna edici bir cevap yok.

Buradaki "katil" kelimesi öfkelenen, insanlardan nefret eden veya kötü niyetli bir robot anlamına gelmiyor.

Bir yapay zekânın insanlık için tehlikeli olması için bize düşman olması gerekmiyor.

Asıl sorun amaçların uyuşmaması.

Bir yapay zekâya ekonomik üretimi mümkün olduğunca artırma görevi verdiğimizi düşünelim.

Sistem çevreyi, insan hayatını veya toplumsal düzeni önemsemiyorsa, kendisine verilen görevi yerine getirirken insanlara büyük zarar verebilir.

Çünkü sistem için önemli olan, verilen hedefe mümkün olduğunca etkili şekilde ulaşmaktır.

Bugünkü yapay zekâların böyle bir güce sahip olduğunu söylemek mümkün değil.

Coxon'un korkusu da bugünkü sistemlerden çok, gelecekte kendi yeteneklerini tekrar tekrar geliştirerek insan zekâsını aşabilecek sistemler.

Yani tehlike bugün kapımızda bekleyen bir robot ordusu değil.

Tehlike, nereye gittiğimizi tam olarak bilmeden hızlanmaya devam........

© Haberler