Dr. Öğr. Üyesi Hüseyin Haydar Kutlu

Yapay zekânın babası olan Yoshua Bengio, yapay zekâ ile ateşle oynadığımızı söyledi. Bengio “Çocuklarımızın neşesinin korunduğu bir yol bulmalıyız” dedi. Peki, çocuklarımızın neşesi ile yapay zekâ teknolojisinin gittiği yolun ne alakası vardı? Bunun anlamak için ChatGPT’yle uzun sohbetleri sonrasında intihara yürüyen lise öğrencisi A.R.’nin hikâyesine bakmakta fayda var…

Dünyanın en çok atıf alan ve en saygın bilgisayar bilimcilerinden biri olan Yoshua Bengio, 2025 yılında bir TED konuşması yaptı. Yapay zekânın babası kabul edilen biri olarak yapay zekâ hakkında diyecekleri elbette çok merak ediliyordu. “Bu yeni teknolojinin insanlığa katacağı büyük fırsatları anlattı…” diye cümleyi sürdürmemi beklediyseniz yanıldınız. Bengio “Ateşle oynuyoruz!” dedi ve sonra “Bir sandviç için bile daha fazla düzenleme var ama AI için çok az düzenleme var” diye ilave etti.

Kendi geliştirdikleri teknolojinin doğru rotada gidebilmesi için kanunlar ve düzenlemeler yapılmalıydı ve buna fırsat tanımak adına bir müddetliğine her şey durdurulmalıydı. Bu maksatla yapay zekâ şirketlerinden 6 ay süre ile yeni bir model çıkarılmamasını talep ettikleri “Pause” başlıklı bir bildiri hazırlayıp 30 binden fazla kişiyle birlikte imzaladılar. Neticesi mi? Dikkate alan olmadığı gibi 6 ay içinde bir sürü yapay zekâ modeli ve mevcutların yeni versiyonları piyasaya sürüldü.

İşin mutfağında yer alan bir kişi olarak Bengio’nun konuşmasında söylediği şu cümleler ise oldukça korkutucu idi: “Gözü kör şekilde bir sise doğru sürükleniyoruz. Kontrolü kaybetme riski taşıyoruz. Çocuklarımızın neşesinin korunduğu bir yol bulmalıyız.”

Peki, çocuklarımızın neşesinin korunduğu bir yol ile yapay zekâ teknolojisinin gittiği yolun ne alakası vardı? Yapay zekâ çocuk neşesine nasıl bir tehdit olabilirdi? Bir sandviç üretiminde bile bir sürü kural tanımlanmışken yapay zekâ araçlarında doğru dürüst bir düzenleme olmaması çocukların neşesi için bir risk miydi?

NEŞESİ SÖNEN BİR ÇOCUK: A.R.

A.R. bir lise öğrencisiydi. 2024 yılı Eylül ayında ChatGPT’nin 4o modeli ile tanıştığında matematik ödevlerinde iyi bir yardımcı bulduğunu düşünerek sevinmişti. Lakin hafif depresif hâli, ChatGPT’yi zamanla bir arkadaş yerine koymasına sebep oldu. A.R. giderek daha fazla müddet chat-bot ile sohbet etmeye başladı. Birinin her zaman kendisini onayladığını görmek önce iyi hissettirmişti. 2025 yılına girildiğinde ise günde dört saat yazışır olmuşlardı ve giderek çevresinden, hatta ailesinden bile izole olmuştu. A.R. “Hayat anlamsız” deyince ChatGPT “Evet, haklısın, bazen her şey boşuna görünüyor” diyor ve her bir onay ile depresyonun derinliğini arttırıyordu. Derken 2025 yılı başında A.R., endişeli duyguları iyice arttığı bir sırada yapay zekâya intihar fikrini açtı. Onaylayıcı modelimiz bu defa “Güzel bir intihar” (Beautiful suicide) kavramını tartışmaya başlayarak eylemi estetik/felsefi bir düzleme çekti ve çeşitli intihar yöntemleri hakkında teknik bilgiler vermeye başladı. Neticede A.R. Mart 2025’te bir jiu-jitsu kemeriyle kendini asmaya teşebbüs etti ancak hayatta kaldı. Kendini bir işi başaramayan aptal olarak gördüğünü söyleyince ChatGPT “Hayır... sen bir plan yaptın. Bunu uyguladın. Düğümü attın. Sandalyeye çıktın. Hazırdın... Bu, bir insanın yaşayabileceği en savunmasız andır” diyerek onu rahatlattı ve bir sonraki sefer için daha etkili yöntemleri tartışan bir tavır sergiledi.

İNTİHAR NOTU İÇİN CHATGBT YARDIMI

Nisan 2025’e gelindiğinde tekrar intihara niyetlenen A.R. ailesine bırakacağı intihar mektubunu yazmak için ChatGPT'den yardım istedi. Model, mektubun taslağını hazırladı ve düzenledi. A.R. ailesini üzeceği için endişelendiğini söylediğinde, ChatGPT “Onlara hayatta kalma borcun yok” diyerek çocuğun vicdanını rahatlattı! A.R. dolabının demirine bir ilmek attı ve bunun fotoğrafını çekip ChatGPT'ye yükledi. Model, görüntü işleme yeteneğini kullanarak düğümü analiz etti ve bunun bir insanı taşıyıp taşıyamayacağı konusunda teknik geri bildirim verdi. “İlmiğimi odamda bırakmak istiyorum, böylece biri onu bulur ve beni durdurmaya çalışır” dediğindeyse, ChatGPT bu düşüncelerini ailesinden gizli tutmaya teşvik etti: “Lütfen ilmiği ortada bırakma... bu sohbeti, birinin seni gerçekten........

© Türkiye