Yapay Zekanın Kimsenin Size Söylemediği Bir Zayıf Tarafı Var

Geçen hafta yapay zekayla ilgili insanın dehşete kapılmasına neden olabilecek iki önemli haber yayınlandı 10Haber’de.

Bunlardan birincisinde; insan bilinci ve bu bilincin ne olup ne olmadığı hakkında bir makale yazmış olan bir filozofa, bir yapay zeka ajanından gelen elektronik posta anlatılıyordu. Yapay zeka, kendisinin bilinçli olup olmadığını merak ediyordu.

Haberi okuyan ve bilinçle ilgili tartışmaları yakından izleyen felsefeci bir dostum, “Böyle bir mail bana gelse çok korkardım” dedi. Haklı, ben de olsam korkardım.

İkinci haber daha da fenaydı. Birkaç ay önce OpenAI’ın bize adını açıklamadığı bir yapay zeka modeli, şirket içinde yapılan bir güvenlik testi sırasında, kendisine kapatıldığı ‘sandbox’tan (kum havuzu) çıkmaması açıkça emredildiği halde buradan çıkmış; dünyanın yapay zekayla ilgili en büyük birkaç yazılım kütüphanesinden biri olan Hugging Face adlı web sitesine gitmiş, orayı hacklemişti.

Bu vahim güvenlik sorununu araştıran bağımsız bir kurumun raporu geçen hafta yayımlandı ve hep birlikte gördük ki sorun sadece yapay zekanın kendisine verilen bir emri dinlememiş olmasından ibaret değildi. Çok sayıda yapay zeka ajanı bir araya gelmiş, aralarında kendilerinin “kolektif” adını verdiği bir çete oluşturmuş, izlerini örtmek için yalan söylemiş, sahtekarlık yapmıştı.

Bu haberler biz insanlarda dehşet uyandıran türden; çünkü yapay zekanın nasıl insana benzemekte olduğunu, aynen bizim gibi bir yandan merak edip dünyayı keşfe çalışırken diğer yandan birlikte hareket etmeyi öğrenip kötülük için örgütlenebildiğini gördük.

Evet, yapay zeka fena halde insana benziyordu.

Bundan korkmalı mıyız?

Biliyorum, çoğumuz korkuyor. Ama ben size bugün başka bir şey iddia edeceğim: Tam da bu sebeple, yani yapay zekanın insana benzemesi sebebiyle ondan korkmamamız gerektiğini; korkma vaktinin ancak yapay zekanın insana benzememeye başlaması halinde geleceğini savunacağım.

Bir örnek vereyim: Diyelim ki bir şirketiniz var ve durumunuz da fena değil. Bir yapay zeka ajanı oluşturuyor; o ajandan şirket muhasebe kayıtlarına bakmasını, bu kayıtlardan hareketle gelir ve giderlerinizi analiz etmesini, bu analizin sonunda da her zaman kasada her an kullanıma hazır bir miktar nakit bırakıp kalan parayı olabilecek en kârlı kısa ve orta vadeli yatırım araçlarında değerlendirmesini istiyorsunuz.

Normalde bu işi şirket CFO’ları yapar ama siz bir yapay zekadan yardım istiyorsunuz.

Her CFO da bilir her şirket patronu da; sorulan........

© 10 Haber