Birkaç gündür gerek medyada gerekse sosyal medyada yapay zekanın insanlığın soyunu tüketme ihtimali konuşuluyor. Tartışmayı başlatan yapay zekânın geliştirilmesi konusunda şirketlerin sorumsuz davrandığını iddia ederek Anthropic’ten istifa eden Jacob Coxon’un “Yapay zekayı geliştiren insanlar, bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine yürekten inanıyor” cümlesiyle özetleyebileceğimiz gönderisiydi[0]. Coxon’un gönderisinden bir gün sonra Anthropic’te çalışan güvenlik araştırmacısı Evan Hubinger’in önümüzdeki on yıl içinde yapay zekâ kıyameti gerçekleşme ihtimaline dair kendi tahmininin “yüzde onun üzerinde” olduğunu belirtti [1]. Ardından bu yapay zekâ kıyameti listesine Samuel Marks (Anthropic), Jakup Pachocki (OpenAI), Jonathan Schwarz (Google) vb. eklendi. Yapay zekâ kıyameti tartışması kısa süre içinde pek çok yayında ve sosyal medya hesabında kendine yer buldu. Nasıl bulmasın ki? Sansasyonculuk satıyor sonuçta. Mevcut modellerin ya da bu modellerden çıkacak daha gelişkin modellerin insanlığın soyunu tüketmesi olası değil cümlesini kuran araştırmacı sansasyonel değeri olmadığından haber de değil pek çok yayın için.

“Haber” olan ne sorusuna baktığımızda ise elimizde “yüzde onun üzerinde” cümlesi ve benzerlerinden başka bir şey yok. Kim diyor? Şirketlerle o ya da bu düzeyde bağlantılı uzman. Hesap mı yapmış? Hayır, öyle hissediyor, içine doğuyor… En iyi ihtimalde bir uzmanın belirsiz bir geleceğe ve milyarlarca olasılığa dair subjektif tahminleri söz konusu. Yüzdeyi çok daha düşük “hisseden” ya da sıfır olduğunu iddia eden uzmanlara soran oldu mu? O da yok.

Tam da yapay zekânın insanlığı yok etme tehlikesi yoğunca tartışılırken Anthropic’in güvenlik raporu geldi. Kimi kısımları kulağa pek de inandırıcı gelmeyen raporda yok yok: Mali’de 25 milyon SIM kartı sahibini gözetlemek üzere sistem kurmak, Rus hackerların sistemlere izinsiz erişme işini nasıl otomatiğe bağladıkları, Malezya’da seçimi etkileme kampanyasının Claude yardımı ile nasıl yürütüldüğü, toksin tasarımı, kuş gribinin memelilere nasıl adapte edilebileceği, Yemen’de roket güdüm sistemi yazılımı geliştirme ve testin ardından debug süreci…

Tüm bu kıyamet senaryolarını ve “Elimizde çok tehlikeli bir araç var” imalarını mevcut modelleri ekonomik bağlamından kopartarak ele alamayız. Gerek........

© Evrensel