Bu yazdan beri yapay zekâ (YZ) kapasitesi çok hızla artarken YZ’nin yol açabileceği güvenlik riskleri ve düzenlen­me ihtiyacı konusundaki tartış­ma da giderek güçlendi. Bunun bir nedeni neredeyse hafta geç­miyor ki YZ’yle ilgili yeni bir va­him siber güvenlik ihlali haberi gelmesin.

OpenAI, Anthropic, Meta ve Google gibi önce gelen YZ şirketleri bir süredir YZ mo­dellerinin kontrolden çıktığını, insanların yönlendirmediği ba­zı adımları atarak güvenlik sı­nırlarını ihlal ettiği, farklı ülke­lerden aralarında hükümetlere ait olanların da bulunduğu web sitelerine sızdıkları bilgilerini raporluyorlar.

YZ’nin düzenlenmesi tartış­malarının bir ayağında da özel­likle de Çin ve ABD arasındaki rekabetin giderek kızışması yer alıyor.

Geçen hafta yapılan BM top­lantılarında dikkat çeken baş­lıklardan birisi de Anthropic’in CEO’su Dario Amodei ve Ope­nAI’ın CEO’su Sam Altman’ın BM güvenlik konseyinde yap­tıkları konuşmalardı. Amode­i’nin terörist grupların biyolo­jik silah üretmek için YZ’yi kul­lanmaya kalkıştığını söylemesi ve YZ’nin bu hızla gelişmeye de­vam etmesi halinde insanlığın YZ üzerinde denetiminin kal­mayabileceği uyarısı çok dikkat çekti.

YZ insanlığı yok eder mi?

YZ’nin yol açabileceği riskler­le ilgili senaryoları üç başlıkta toplayabiliriz:

YZ insan soyunun sonunu getirebilir. Buna artık sadece bir bilimkurgu distopyası ola­rak bakılmıyor. Buna yüzde 10’dan az olmayan bir ihtimal atfedenler arasında yapay si­nir ağları ve makine öğrenimi alanındaki çalışmalarıyla 2024 Nobel Fizik Ödülü'nü alan Ge­offrey Hinton ve........

© Dünya