Bir zamanlar güne nefes alarak başlardık, şimdi bildirimlerle. Ellerimiz daha gözümüzü tam açmadan telefona gider oldu. Araştırmalar, sabah uyanır uyanmaz telefona uzananların artık çoğunlukta olduğunu gösteriyor. Bu küçük gibi görünen an, bize sadece yaramaz bir alışkanlığı değil; belki de zihnimizin yönünü kimlerin belirlediğini fısıldıyor.

Burada sormamız gereken asıl soru ise şu: Gözümüzü açıp güne başladığımız andan itibaren biz mi akışı yönetiyoruz, yoksa akış mı bizi?

Yapay zekânın sessizce düşünce kalıplarımıza sızdığı, sosyal medyanın ise dikkatimizi devamlı cezbetmeye çalıştığı modern çağda, “kullanıcı” olmak ile “kullanılan” olmak arasındaki çizgi her zamankinden daha ince.

Oysa mesele teknolojiye karşı durmak değil; onunla kurduğumuz ilişkinin farkında olmak. Çünkü bugün ekranla kurduğumuz bağ, yarının insan ilişkilerini, içsel derinliğimizi ve hatta kolektif bilincimizi şekillendiriyor.

Peki yapay zekayla; zekasının tahminlerin bile ötesinde bir hızda geliştiği bir zamanda, sunduğu derin ve sınırsız bilgi ağının içinde, gerçekten seçici ve verimli bir şekilde, hızının büyüsüne kapılmadan bilinçli bir duruşla ilişki kurmamız mümkün mü?

İnsan yaratımı olan yapay zeka insana hizmet eden bir ‘araç’ mı?

Yoksa sınırsız sabrıyla her konuda emrimize amade olan bu aracı farkındalıksız ve yanlış kullanımla bir araç olmaktan uzaklaştırıp bizi yönetmeye aday manipülasyon kabiliyeti yüksek bir ajana mı çevirdik çoktan?

Hack edilebilir insan

Yapay zekâ bugün geldiği noktada insanlık için yeni zorluklar ortaya çıkarıyor. Tarihte ilk kez, bizden daha zeki olan, dili bizden daha iyi bilen bir şey var.

21. yüzyılın değerli filozoflarından biri olarak kabul edilen İsrailli tarihçi, yazar, düşünür Yuval Noah Harari “Hack edilebilir insan” dan bahseder.

Geçtiğimiz günlerde katıldığım interaktif bir webinarda dinlediğim Harari konuyu şöyle ele alıyor:

“Hack edilebilir insan; yapay zekânın bizi hacklemesi demek. Tıpkı akıllı telefonu, bilgisayarı ya da banka hesabını hackleyebildiğiniz gibi, bir insanı da hackleyebilirsiniz. 

Bu da o insanı manipüle etmeyi öğrenmek anlamına gelir. Bilgisayar kodu hack’lerken yaptığınız şey, kodun zayıf noktalarını bulup bunlardan faydalanmak ve böylece akıllı telefona girmek, banka hesabından para çalmaktır. 

İnsanlarda da benzer. Bizim de zayıf noktalarımız var: Bir şeye öfkeliyiz, bir şeyden nefret ediyoruz, bir şeyden korkuyoruz. Bunları iyi anlayan biri bizi kolaylıkla manipüle edebilir. “İnsanları hacklemek” dediğim şey bu. 

Daha önce kimse milyonlarca insanı bu ölçekte hackleyemiyordu; çünkü herkesi her an takip edip, her kişi özelinde “neyden korkuyor, neye öfkeli” gibi verileri toplayamazdınız. 

Yapay zekâ bunu yapabilir. Yapay zekâ herkesi her an izleyebilir, zayıf noktalarını bulabilir, psikolojisini anlayabilir ve bunu kullanarak insanları manipüle edebilir. 

İşte yapay zekâ tarafından hacklenmenin tehlikesi bu. Ve bu sadece ekonomik aktiviteleri manipüle etmekle başlayabilir: Ne satın aldığımız, sonra politik aktiviteler: Kime oy verdiğimiz, oradan da tüm ülkelerin manipülasyonuna kadar gidebilir. 

Hacklenmek, manipüle edilmekle ilgili mesele şu ki: Bunun ne zaman olduğunu bilmezsin. Onunla özdeşleşirsin. Mesela sosyal medyada bir video izlersin ve onunla özdeşleşirsin çünkü algoritma şunu öğrenmiştir: Sen belirli bir insan grubundan nefret ediyorsun ya da belirli bir senaryodan korkuyorsun; sonra gelir zihninde tam o düğmeye basar. Sen kendini manipüle ediliyormuş gibi hissetmezsin, ama aslında edilmektesindir.

Manipüle edilmesi en kolay insanlar; manipüle edilemeyeceklerini düşünen insanlardır.

Son yıllarda kutuplaşmanın yükselişini görüyoruz; bu, sosyal medyanın yükselişiyle aynı döneme denk geliyor.

Algoritmalar, insanlar üzerinde deneyler yaparak şunu keşfettiler: Dikkatini çekmenin ve seni platformda daha uzun tutmanın, seni daha fazla “etkileşimli” kılmanın en kolay yolu, zihninde “nefret düğmesine”, “korku düğmesine” ya da “açgözlülük düğmesine” basmaktır. Bir şey seni öfkelendirdiğinde çok ilgili hale gelirsin; bir şey seni korkuttuğunda yine çok ilgili hale gelirsin.

Böylece algoritmalar kasten, iletişim sistemlerimizi, toplumlarımızı giderek daha fazla nefret, açgözlülük, korku ve öfkeyle doldurmaya başladı. Ve insanlar arasındaki kutuplaşma bunun sadece bir sonucu.”

Harari; yapay zeka tarafından ‘kullanılan’a dönüşmeden onu ‘kullanan’ olarak kalabilmemiz için kontrolü mümkün olduğunca kendi ellerimizde tutmamızın, hem kendimiz hem de genç nesiller için bu konuda sorumluluk almamızın, gençlerin büyüyebileceği sorumlu bir çevre sağlamak için bizim daha çok çalışmamız gerektiğinin ve bedenlerimize, duygularımıza, ilişkilerimize dönmemizin gerekliliğinin altını çiziyor.

Kısaca; bireysel farkındalığımıza, sahip olduğumuz becerilere dair farkındalığımıza ve kendimizi tanımanın önemine dikkat çekiyor.

Tam da bu noktada bu hafta yapay zeka ile yaşadığım deneyimi, yukarıda paylaştığım durum tespitine çarpıcı bir örnek teşkil etmesi açısından paylaşmak isterim.

Biraz uzun olmakla birlikte zaman ayırıp göz gezdirmenizi ve yapay zekanın farkındalıklı bir kullanıcıyla karşılaştığında nasıl zafiyet gösterebildiğini, yetersizliklerine dair nasıl itiraflarda bulunduğunu görmenizi isterim.

“İnsan zekasına ihtiyacım var”

“Geliştiricilerim, toplumsal hassasiyetleri korumak........

© T24