Bir düşünce deneyi yapın: Bir silah, hedefini kendisi seçiyor, ateşleme kararını kendisi veriyor ve yanılıyor. Karşısında bir sivil var. Hayatını kaybediyor. Mahkeme salonunda sanık sandalyesi boş. Savcı kime dava açacağını bilmiyor. Yazılımcı, "Ben sadece kodu yazdım" diyor. Komutan, "Ben sadece sistemi devreye aldım" diyor. Şirketin hukuk müşaviri ise muhtemelen tatilde.

Otonom silah sistemleri çağına hoş geldiniz.

IEEE Standartlar Birliği bünyesinde bir araya gelen bağımsız uzmanlar geçtiğimiz yıllarda bir rapor yayımladı. Belge, "otonom silah sistemlerinin etik ve teknik zorlukları" başlığını taşıyor ve aslında son derece nazik bir dille şunu söylüyor: Bu işi nasıl yapacağımızı bilmiyoruz, kimin sorumlu olduğunu bilmiyoruz ve ne hakkında konuştuğumuz konusunda bile tam olarak anlaşamıyoruz. Raporun birinci maddesi "ortak bir dil oluşturma" sorunu. Yani insanlığın ölüm kararlarını delege etmeyi düşündüğü makineler için, henüz "özerklik" kelimesinin ne anlama geldiği konusunda uzlaşı yok. Güzel bir başlangıç.

Meseleyi küçümsemek için söylemiyorum bunu. Tam tersine, bu kavramsal kaosun içinde sahada neler olup bittiğine bakın: İsrail, Habsora ve "Where’s Daddy?" adını verdiği yapay zekâ hedefleme sistemlerini Gazze’de kullanıyor; birincisi toplu istihbarat verilerinden hedef listeleri üretiyor, ikincisi cep telefonu konumlarını takip ederek kişileri izliyor. Sistemin adı olan "Neredesin Baba?" bir çocuğun ağzından çıkmış gibi duran bu ismin, bir hedefleme algoritmasına verilmiş olması, insanlığın kendisiyle kurduğu ilişkiyi özetliyor gibi görünüyor.

İsrailli istihbarat yetkilileri bu sistemlerde yaklaşık yüzde onluk bir hata payı olduğunu kabul ediyor. Silikon Vadisi’nde bir e-posta uygulaması yüzde on hata yapsaydı, kullanıcılar derhal silerdi. Ama burada hata payı ölçü birimi insan hayatı. Toplantılarda kabul edilebilir bulunuyor. Tutanaklara geçiyor. Dosyalanıyor.

ULUSLARARASI GÖRÜŞLER

Şimdi asıl soruya gelelim: Bütün bunlar olurken uluslararası toplum ne yapıyor?

Aralık 2024’te BM Genel Kurulu, otonom silahlarla ilgili bir kararı oylamaya sundu. Sonuç: 166 evet, 3 hayır. Karşı çıkan üçlü Belarus, Kuzey Kore ve Rusya’dan oluşuyordu. Dünyanın ezici çoğunluğu "bu........

© Birgün