Yapay zekâyı dert ortağı gibi kullananları mı ararsınız, günlük falına baktıranı mı? İşleri açısından bir kolaylaştırıcı olarak kullananları mı yoksa boş vakit faaliyeti olarak göreni mi?

Hayatımıza o kadar fazlasıyla dâhil oldu ki tartışmaların boyutu ve yönü de değişmeye başladı…

Nihayet Trump da bir yerinden dahil oldu ve yapay zeka tartışmalarının “yapay” olduğunu belirtti… Dile getirilen tehlikelere katılmadığını söyledi.

Trump’ın dahil olması tartışmaların ana fikrini değiştirmiyor elbette…

Çünkü yapay zekânın geleceği üzerine yürütülen tartışmalar daha hızlı, daha doğru veya daha üretken makineler yapıp yapamayacağımız sorusundan ibaret değil.

Tartışmaların merkezine yerleşen asıl meseleler daha yetenekli, daha özerk ve daha geniş bir görev alanında hareket edebilen sistemlerin insan denetimiyle ne ölçüde uyumlu kalabileceği konusunda.

Tabii uyarılar da peş peşe geliyor. Ancak yapay zekâ konusunda en ciddi uyarıların önemli bir bölümünün teknolojiye dışarıdan bakan çevrelerden değil bizzat bu teknolojinin geliştirilmesinde öncü rol üstlenmiş bilim insanları ve şirket yöneticilerinden gelmesi ise işin en dikkat çekici tarafı…

Bu bağlamda Anthropic'in kurucularından Dario Amodei'nin uyarıları önemli. Hem de çok önemli… Amodei'nin yaklaşımı teknolojik ilerlemenin bütünüyle durdurulmasına yönelik değil ama kapasite artışının güvenlik araştırmalarının gerisinde kalmaması yönünde. Ona göre gelişmiş sistemler insanlara soruların cevaplarını veren pasif araçlar olmaktan çıkarak daha fazla özerklik kazandıkça, güvenlik değerlendirmelerinin de aynı hızda gelişmesi gerekmektedir.

Amodei'nin bağımsız güvenlik değerlendirmeleri ve uluslararası koordinasyon çağrısı yapay zekâ güvenliğinin şirketlerin iç denetim mekanizmalarına bırakılamayacağı yönündeki düşüncenin güçlendiğini göstermektedir.

Benzer biçimde  OpenAI'nin CEO'su Sam Altman insanlık açısından çok düşük bile olsa ciddi bir felaket ihtimalini kabul edilemez bulması konunun salt teknik performans üzerinden değerlendirilemeyeceğini göstermektedir. Burada elbette önemli olan belirli bir yüzdeye inanıp inanmamaktan ziyade düşük olasılıklı fakat gerçekleşmesi durumunda geri döndürülemeyecek sonuçlar doğurabilecek risklerin nasıl yönetileceğidir. Nükleer güvenlikten biyogüvenliğe kadar birçok alanda olduğu gibi yapay zekâda da risk yönetimi beklenen zararın büyüklüğüne ve olası sonucun geri döndürülebilir olup olmadığına da dayanmalıdır.

Toronto Üniversitesi’nden bilgisayar bilimcisi ve yapay zekâ araştırmacısı Geoffrey Hinton'ın uyarıları ise meselenin daha temel bir boyutuna işaret etmektedir. Derin öğrenme alanının öncülerinden biri olan Hinton yapay zekânın ekonomik sonuçları ile birlikte insan bilişsel kapasitesini aşabilecek sistemlerin ortaya çıkması ihtimali üzerinde de........

© Haber7