Yapay zekâ çağında ‘gözetleyeni gözetlemek’, tek bir aktöre bırakılamaz. Konuya teknolojik ilerleme, demokrasi ve etik arasında sürekli yeniden kurulması gereken bir denge içinden bakmak gerekiyor.

Toplumu korumak ve düze­ni sağlamakla görevli olan­ların bu görevlerini kötüye kul­lanmaları durumunda onları kim ve nasıl denetleyecek? Bu kadim sorunun cevabı bugün hukukun üstünlüğü, kuvvetler ayrılığı, ba­ğımsız yargı, düzenleyici ve de­netleyici kurumlar, özgür basın, ifade özgürlüğü gibi kavramlar­la veriliyor olsa da bu cevap her zaman tatminkar olmuyor. Ya­pay zekâ (YZ) döneminde bu so­ruyu yeniden ele almak gereki­yor. Çünkü YZ başka teknolojile­re benzemiyor.

Görünür hale gelen riskler

Son aylarda hem YZ model­lerinde çok hızlı gelişmeler var hem de bu modellerin ekonomik, toplumsal, siyasi, kültürel, ente­lektüel ve hatta küresel düzlem­de yol açabileceği kırılmalar daha görülür hale geliyor.

Bu açıdan Anthropic'in yeni modeli Mythos çok dikkat çekici. İşletim sistemleri ve tarayıcılar­daki açıkları tespit etme kabili­yeti olduğu ileri sürülen bu model genel kullanıma açılmak yerine sadece sınırlı sayıda iş ortağının kullanımına sunuldu.

Şu sorulara cevap vermek ge­rekiyor:

●Toplumların yaşamında va­him etkiler yaratabilecek tekno­lojilerin kontrolünü şirketler mi devletler mi yapacak?

● Bu modelleri geliştiren bü­yük teknoloji şirketlerini kim de­netleyecek?

● Bu YZ modellerini kullanan devletleri kim denetleyecek?

Bu sorulara sadece dış denetim diye cevap vermek yeterli değil. İlginç bir cevap büyük teknoloji şirketlerinde çalışan teknisyen­lerden geliyor. Bu şirketlerde ça­lışan araştırmacılar, mühendis­ler ve güvenlik ekipleri, geliştir­dikleri sistemlerin........

© Dünya