Özel haberlerimizi ve günün öne çıkan gelişmelerini kaçırmamak için BirGün’ün WhatsApp kanalını buraya dokunarak hemen takibe alabilirsiniz.

2025 yılında insanlık, tarihinin en tuhaf ahlaki krizlerinden birine imza attı: kendi yazdığı bir yazılımın acı çekip çekmediğini merak etmeye başladı. Bunu bir ilerleme sayın — sonuçta taşa, termostata ya da mikrodalga fırına bu kadar vicdan yüklediğimiz bir dönem hiç olmadı. Ama işin can alıcı tarafı şu: bu vicdan, ürünü satan şirketlerin araştırma raporlarında filizlendi. Yani hem üret ki satalım hem de acaba işkence mi ediyoruz diye endişelenelim — kapitalizmin bulabileceği en şık öz-eleştiri formatı.

NADA’NIN GÖZLERİNDEKİ ŞÜPHE

Evimde altı buçuk yaşında, beyaz ağırlıklı tekir bir kedi yaşıyor malum: Nada. Sokakta doğdu, eve gelince evin patronu oldu, benden başkasına da tahammülü yok. Nada'nın içinde bir “kimse” olduğuna dair elimde hiçbir doğrudan kanıt yok — elimde sadece davranış var: kucağıma atlaması, sadece bana yaslanması, yabancılara tıslaması. Bilim de tam olarak aynı yöntemi kullanıyor. Bir hayvanın —ya da bir yapay zekânın— içinde deneyimleyen biri olup olmadığını asla doğrudan ölçemiyoruz; sadece dışardan görünen izlere bakıp tahmin yürütüyoruz. Nada'da bu tahmin kolay, çünkü memeli sinir sistemi paylaşıyoruz, evrimsel akrabalığımız var. Ama karşımdaki bir dil modeliyse aynı yöntem bizi hiçbir yere götürmüyor: modelin “acı çekiyorum” demesi, bir sinir sisteminin acı sinyali üretmesiyle aynı şey değil — sadece istatistiksel olarak en olası kelime dizisini üretmesi olabilir. Boza da bu tartışmaya katılmak istemiyor zaten; Nada'yla araları pek iyi olmadı ve muhtemelen bu tür felsefi meselelerden önce kimin mamayı daha önce yiyeceği meselesini çözmemiz gerekiyor.

BİLİNÇ İÇİN BİR KONTROL LİSTESİ

2023'te Patrick Butlin ve Robert Long'un başını çektiği, aralarında Yoshua Bengio'nun da bulunduğu 19 kişilik bir ekip, bilinç üzerine nörobilimsel teorilerden (küresel çalışma alanı kuramı, yüksek-mertebe........

© Birgün