İstifa mektupları genelde kurudur: teşekkür, veda. Jacob Coxon'ınki öyle değildi.

Anthropic ve OpenAI'da üç yıl ön eğitim araştırması yapmış şahıs, X'te ayrıldığını yazarken, iki şirket için de "hayatlarımızla kumar oynuyorlar" demişti.

Asıl cümlesi şu: “Yapay zekâyı yapanlar, bunun on yılın sonunda hepimizi öldürebileceğine içtenlikle inanıyor”.

Sektör genel olarak öyle düşünmüyordu, ancak Coxon yalnız da kalmadı. Anthropic'te hizalama araştırması yapan Evan Hubinger, olasılığın önümüzdeki on yılda yüzde ondan büyük olduğunu yazdı. Üstüne şirketin süper zekâ için bir hizalama planı olmadığını, o yolda net biçimde ilerlemediklerini de ekledi.

Kendi ürünü için riski "yüzde on'dan fazla" diye ifade eden bir şirket…

Bir Havayolu şirketibunu söyleseydi bilet satabilir miydi?

Ai’nin mucitlerinden olmakla beraber sektörü bırakıp ‘eleştiren taraf’ olmaya karar vermesiyle bilinen GeofrreyHinton da rakam verenlerden... Eylül'de BBC Newsnight'ta on yıl içinde yok oluş ihtimalini yüzde onun üzerinde gördüğünü söyledi. Ekim'de The Guardian'a verdiği röportajda aralık yüzde on ile yirmi oldu, bir de şunu dedi: Yapay zekâ kontrolü ele geçirirse "ikinci şansınız olmaz."

Hinton’un rakamları hesaba değil tahmine dayanıyor. Korku da böyle, ölçülemiyor ama davranışı yönetiyor.

MUTLU AI, İNSANI GÜVENDE TUTAR MI?

Aynı Guardian röportajında beni çarpan ise şu oldu: Hinton, yapay zekâları insanlarla "simbiyotik" bir ilişkide "mutlu" olacak biçimde tasarlamamız gerektiğini söylüyor. Ama o ilişkide bizim kaygılarımız onlarınkinden daha ağır basmalı.

Refahı reddetmiyor, sıraya koyuyor: Önce biz. PekiHinton’un bizi yok edebileceğini söylediği şeyin mutluluğunu planlaması kaç puan?

O zaman soru şu: İnsan, yapay zekânın refahını ondan korktuğu için mi önemsemeye........

© Habertürk