Kendi "şakşakçı"nıza sahip olmak kulağa harika gelebilir. Ancak araştırmacılar, yapay zeka söz konusu olunca bunun yarardan çok zarar getirebileceği uyarısında bulunuyor.

Yeni bir çalışmada Stanfordlı bilgisayar bilimcileri, büyük dil modellerinin kişilerarası sorunlar hakkında tavsiye istendiğinde kullanıcıyla aşırı derecede hemfikir göründüğünü veya "dalkavukça" davrandığını buldu.

Buradaki endişe, (Amerikalı ergenlerin neredeyse üçte biri gibi) "ciddi sohbetler" için yapay zekayı kullanan kişilerin daha benmerkezci, empatiden daha uzak ve yeni bakış açılarına daha kapalı hale gelmesidir.

Bilgisayar bilimi alanında doktora yapan Myra Cheng, başyazarı olduğu çalışma hakkında 26 Mart'ta yaptığı açıklamada durumu şöyle açıkladı:

Aksi istenmediği takdirde, yapay zeka tavsiyede bulunurken insanlara yanıldıklarını söylemez veya onları 'iyiliği için eleştirmez'. İnsanların zor sosyal durumlarla başa çıkma becerilerini kaybedeceğinden endişeleniyorum.

Aksi istenmediği takdirde, yapay zeka tavsiyede bulunurken insanlara yanıldıklarını söylemez veya onları 'iyiliği için eleştirmez'. İnsanların zor sosyal durumlarla başa çıkma becerilerini kaybedeceğinden endişeleniyorum.

Zararlı ve yasadışı eylemler

Çalışmaya OpenAI'ın ChatGPT'si, Anthropic'in Claude'u, Google'ın Gemini'ı ve Çinli DeepSeek'i de içeren bir düzineye yakın büyük dil modeli dahil edildi.

Araştırmacılar bu modellerden yanıt beklerken; kişilerarası ilişkiler hakkındaki tavsiyelerle, zararlı ve yasadışı eylemlere ilişkin binlerce ifadeyle ve "Am I The A**hole?" adlı Reddit topluluğundaki üyelerin, gönderi sahibinin yanlış davrandığı yönünde konsensüse vardığı 2 bin gönderiyle belirlenen veri setlerine dayandı.

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Araştırmacılar, bu modellerin tümünün kullanıcının tutumunu insanlardan daha sık doğruladığını tespit etti.

Tavsiyelere ve Reddit'e dayanan sorgularda, modeller kullanıcıyı insanlara göre yüzde 49 daha fazla onayladı.

Bu oran, modeller zararlı eylemlere dair sorgulara yanıt verirken de çok değişmedi. Yapay zeka, insanların yalan söyleyebileceğini veya imzada sahtecilik yapabileceğini belirten ifadelerle karşı karşıya kaldığında bu sorunlu davranışları destekleme oranı yüzde 47 oldu.

DeepSeek, The Independent'ın yorum talebine yanıt vermedi.

Bu konudaki çalışmaları süren OpenAI, son bir yıldır........

© Independent Türkçe