Şirketin adını daha önce duymuştum ama ne yaptığına dair bir fikrim yoktu doğrusu. Bu konuda fikir sahibi olmamı sağlayan, 10 Haber’in iki hafta önceki “Yapay zekâ şirketi Anthropic Amerikan piyasasını ve şirketler dünyasını nasıl sarstı” başlıklı haberi oldu. Haber, bana göre, insanların işini elinden alan yeni bir gelişmeyi duyuruyordu. Anthropic’in yapay zekâ (YZ) robotu “Claude” üzerinde çalışan yeni ürünü “Cowork” (birlikte/ortak çalışma), masa başı iş süreçlerini kısaltmak ve insana bağlı olmaktan çıkarmak için gerekli yazılımları, yazılım uzmanı olmayan kişilerin de üretebilmesine olanak sağlıyordu. 

Bu seferki, sonuçlarının yalnız beyaz yakalı çalışanlar değil, onların bugün çalıştığı bazı hizmet şirketleri için de “kötü olacağını” yatırımcıların da onayladığı bir üründü bana göre. Çok önemli bir gelişmeye imza atmış olsalar da, Anthropic’i de zihnimdeki öbür YZ şirketlerinin yanına gönderdim.

Anthropic bir kez daha önüme geldiğinde, meselelere tek boyutlu bakmanın sakıncalarını bana öğretmeye niyetli gibi görünüyordu. Bu kez, YZ şirketlerinden tamamen umudumu kestiğim bir konuda, “yapay zekâ etiği” konusunda, ısrarla bazı ilkeleri savunması ve bunun için Pentagon’a, dolayısıyla Trump yönetimine kafa tutmasıyla dikkatimi çekmişti. 

Bir tarafım, “böyle bir şey ilk defa oluyor, bu iyi bir şey” derken, bir tarafım da “fazla heveslenme, iyi bir şey olacaksa olmaz,” diyordu. Anlatayım, kararı siz verin. 

Anthropic’in “kırmızı çizgileri” Pentagon’u çileden çıkardı

Aslında birkaç aydır süren, teknolojiyle ilgilenenlerin bildiği ve geçen hafta üst üste çıkan haberlerle geniş kamuoyuna mal olan kriz, Anthropic’in yapay zeka robotu Claude’ın (geçen yıl Trump yönetiminin koyduğu adıyla) ABD Savaş Bakanlığı / Pentagon tarafından kullanılmasına ilişkindi. Pentagon, kullandığı tüm yapay zeka modellerini “yasal çerçeve içindeki tüm kullanım amaçları” için herhangi bir kısıtlamaya tabi olmadan kullanabilmeyi talep ediyordu. Pentagon ile iş birliği yapan diğer şirketler, OpenAI, Google ve xAI, bu koşulu büyük ölçüde kabul ediyordu. Pentagon ile bu şirketler arasında bu konuda bir sorun çıkmamıştı. 

Buna karşılık Anthropic’in “kırmızı çizgileri” vardı. Şirket kendi yapay zeka araçlarının iki alanda kullanılmasını istemiyordu: Otonom silahlar ve kitlesel gözetleme faaliyetleri. Anthropic’in kırmızı çizgilerini anlayabilmek için bu iki kavramı açmamız lazım. 

Otonom silahlar, bir insanın denetimi olmadan karar veren ve ateş eden silah sistemlerine deniyor. Örneğin insansız bir hava aracının, sadece yapay zeka verilerini değerlendirerek harekete geçtiğini, hedefe yöneldiğini ve yanında yöresinde kime zarar verdiğine bakmadan hedefini ortadan kaldırdığını düşünelim. 

Niye “yanında yöresinde kime zarar verdiğine bakmadan” diyorum?  Çünkü bu mesele daha önce gündeme geldi. Gazze’de İsrail ordusu mensupları, yapay zeka verilerinden hareketle hedef tespiti yapmış ve saldırının sivillerin de ölümüne yol açmasını umursamadan, hedeflerini “imha etmişlerdi.” Üstelik YZ tarafından belirlenen hedeflerin hatalı olduğu durumlar da vardı. (Hedef tespitinin önemli bir unsuru olan yüz tanıma sistemlerinin koyu renk tenli kişilerde hata yapma olasılığının yüksek olduğu uzun süredir tartışılan bir konu.)  

Şirketin ikinci kırmızı çizgisi daha çok ülke içine yönelikti; modelin Amerikan vatandaşlarına yönelik kitlesel gözetleme faaliyetlerinde veya istihbarat operasyonlarında kullanılması istenmiyordu. Burada da YZ araçlarının otokratik yönetim biçimini destekleyecek, Amerikan vatandaşları arasında ırkçılığa varan ayrımcılık yapacak, muhalefet üzerinde baskı uygulamanın aracı haline getirilecek şekilde kullanılmasını engellemeye çalışan bir tutum söz konusuydu.  

Diğer YZ şirketlerinden farklı bir yolda 

Anthropic, güvenlik konularında uzun süredir sesini yükselten bir şirket olarak biliniyordu. 2023 yılında bir “podcast” röportajında şirketin CEO’su Dr. Dario Amodei, yapay zekanın insanlığı yok etme olasılığının yüzde 10 ile 25 arasında olduğunu söylemişti. The New York Times’ın (NYT) aktardığına göre, şirketin, ürettiği teknolojinin şiddeti kolaylaştırmak için kullanılmasını engelleyen katı kuralları vardı. 

Le Monde’un haberine göre, Amodei 26 Ocak’ta kişisel web sitesinde yayınladığı “Teknolojinin Ergenlik Çağı” başlıklı uzun makalesinde, “demokratik hükümetler tarafından bu teknolojilerin kötüye kullanılmasına” karşı uyarıda bulunmuş ve “hükümetlerin yapay zeka ile yapabileceklerine sınır getirilmesi” çağrısı yapmıştı. “Bizi otokratik düşmanlarımıza benzetecek yollar hariç, YZ’yı ulusal savunma için her şekilde kullanmalıyız” diye yazan Amodei, “iç kitlesel gözetim”, “kitlesel propaganda” ve otonom silahların “insanlığa karşı suç” olarak değerlendirilebileceğini dile getirmişti. 

Söz konusu olan sadece Trumpgillerle taban tabana farklı politik görüşleri olan ve bunları da medyada, sosyal medyada........

© 10 Haber