Yapay Zekânın Politik İnşası serimizin bu bölümünde araştırmacı gazeteci Karen Hao ile “Yapay Zekâ İmparatorluğu” (Empire of AI) başlıklı kitabı ekseninde gerçekleştirdiğimiz derinlemesine söyleşiyi sizlerle paylaşıyoruz.

Hao söyleşide, teknoloji devlerinin modern imparatorluklar gibi davrandığını; veri, emek ve doğal kaynakları sömürerek, bilgi üretimini tekelleştirerek güçlerini nasıl pekiştirdiğini ortaya koyuyor. “Ütopya-kıyamet” ikilemi ve soyut “bulut” metaforu gibi anlatıların, endüstrinin devasa ekolojik faturasını, küresel emek sömürüsünü ve akademik özgürlüğü baskılayan sansür mekanizmalarını nasıl perdelediğini gözler önüne seriyor.

Peki, bu sömürgeci teknoloji mimarisine karşı bir alternatif mümkün mü? Hao, bu karamsar tabloya karşı umut verici bir çıkış yolu sunuyor. Yeni Zelanda’daki Māori halkının topluluk odaklı ve rızaya dayalı yapay zekâ modelini inceleyerek, teknolojinin insanlık ve gezegen yararına nasıl yeniden inşa edilebileceğine dair somut bir vizyon çiziyor. Ona göre, bugün “radikal” görünen bu temel ilkeler, aslında daha adil bir teknolojik geleceğin yapı taşlarını oluşturuyor.

Kitabınızın başlığı oldukça iddialı: “Yapay Zekâ İmparatorluğu”. Bu imparatorluk metaforuyla ne anlatmak istiyorsunuz? Günümüzün teknoloji devleri, bu imparatorluğu hangi kaynakları sömürerek ve hangi alanları kendilerine bağlayarak ayakta tutuyor?

Aktarmak istediğim ilk şey, bu şirketlerin sadece ticari işletmeler olmadığı; birden fazla alanda olağanüstü bir güç toplayan siyasi ve ekonomik aktörler olduğudur. İkinci olarak, davranışları tarihsel imparatorluklarla doğrudan paralellik gösteriyor. Yapay zekâ modellerini eğitmek için ihtiyaç duydukları veri merkezlerini inşa etmek üzere kelimenin tam anlamıyla çok geniş toprakları ele geçiriyorlar.

Bu modelleri eğitmek için insanların verilerinin büyük bir kısmını gasp ediyorlar. Hem modellerin geliştirilmesine harcanan emeği hem de modellerinin şu an işgücü üzerindeki etkisini göz önüne alırsak, büyük bir emek sömürüsü söz konusu. Bu şirketler ayrıca günümüzdeki en iyi yapay zekâ araştırmacılarının çoğunu işe alarak bilgi üretimini tekelleştiriyorlar.

Dolayısıyla, üretilen yapay zekâ araştırmalarının çoğu, şirketlerin istediği süzgeçten geçiyor ve bilimin kendisi temelde onların gündemleri lehine çarpıtılıyor. Son olarak, iyi ve kötü imparatorlukların olduğu anlatısına sarılıyorlar ve “kötü imparatorluğu” yenecek kadar güçlü olmak için “iyi imparatorluk” olmaları gerektiğini savunuyorlar. Tıpkı Britanya İmparatorluğu’nun Fransız İmparatorluğu’ndan daha iyi olduğunu söylemesi gibi.

Fransız İmparatorluğu da Hollanda İmparatorluğu’ndan daha iyi olduğunu söylerdi ve her imparatorluk kendini ahlaki olarak üstün olan olarak resmederdi. Bu ahlaki üstünlük çerçevesinde imparatorluk, nihayetinde yaptığının tüm insanlığa ilerleme ve modernite getirmek olduğunu iddia eder. OpenAI’ın söylediği de tam olarak bu. Yürüttüğü tüm kaynak yağmacılığına rağmen misyonunun tüm insanlığa fayda sağlamak olduğunu söylüyor.

Yapay zekâ ile ilgili konuşulurken hep iki uç senaryoyu duyuyoruz: Ya bir ütopya ya da kıyamet. Siz bu iki anlatının da gücü elinde tutanların işine yaradığını savunuyorsunuz. Bu ütopya-kıyamet ikilemi, dikkatimizi emek sömürüsü, ekolojik sonuçlar gibi günümüzün somut sorunlarından uzaklaştırarak düzenleme çabalarını nasıl boşa çıkarıyor?

Kesinlikle. Bunlar aynı madalyonun iki yüzü, çünkü her ikisi de yapay zekâyı her şeye kadir, kaçınılmaz ve durdurulamaz bir güç olarak tasvir ediyor ve belirttiğiniz gibi, dikkatleri asıl sorunlardan uzaklaştırıyorlar. Ne ütopyacılar ne de distopyacılar, şu anda son derece büyük ölçekte ve güncel zararların yaşandığını pek kabul etmezler. Kitaba ilk başladığımda şaşırmıştım çünkü bunun çoğunun bir retorik olduğunu, ütopya/distopya kampındaki insanların bunları pazarlama faaliyetlerine yardımcı olmak için söylediklerini düşünüyordum.

Ancak bunun aslında bir retorik olmadığını öğrendim. Bunları söyleyen bazı insanların bunun gerçek olduğuna dair köklü inançları var. Yapay zekânın herkesi öldürebileceğine gerçekten inanan ve bu olasılığı önlemek için hayatlarını adayan insanlar var; bu sonuca yönelik içten gelen somut bir korkuya dayanarak bunu yapıyorlar.

Dolayısıyla bu durumu tamamen retorik bir araç olarak tanımlamaktan daha karmaşık bir durum söz konusu. Ancak aynı zamanda, bu anlatılar -samimi endişelerden veya heyecanlardan doğmuş olsalar da- siyasi açıdan becerikli yöneticilerin düzenlemeleri yönlendirmek ve savuşturmak için kullandığı elverişli bir araca dönüşmüş durumda.

Kitabınızda, Timnit Gebru’nun Google tarafından işten çıkarılmasına özel bir önem atfediyorsunuz. Bu vaka, yapay zekâ endüstrisinde bilimsel özgürlük ve kurumsal şeffaflıktan söz etmenin mümkün olmadığını bir kez daha gözler önüne seriyor. Şirketler, kâr hedefleriyle çatışan eleştirel araştırmaları hangi yöntemlerle susturuyor?

Pek çok mekanizma var. Artık üretilen araştırmaların hem hukuk hem de iletişim departmanları tarafından etraflıca incelenmesi gerekiyor. Bir araştırmacıya belirli bir araştırma sorusunu takip etme fırsatının verilip verilmeyeceği bile belirsiz.

Yani, bir araştırmacı belirli türde bir araştırma yapacak kaynaklara sahip olma noktasına geldiğinde, zaten o noktaya kimin ulaşabileceği konusunda önemli bir filtreleme yapılmış oluyor. Ama buna ek olarak, sadece araştırmayla ilgili değil, herhangi bir çalışan -araştırmacı olsun ya da olmasın- sorunlu bir şey görürse veya endişelerini kamuoyuyla paylaşmak isterse, bunun ciddi sonuçları olabilir. Şirketlerin kullandığı mekanizmalar, Google’ın Dr. Gebru’ya yaptığından bile daha zorlayıcı hâle geldi.

Sızıntı yapmaya veya basına bilgi vermeye çalışan birinin başına gelecek sonuçları göstermek için insanları işten çıkarma konusunda daha da agresif olacaklardır. Dolayısıyla sektörde iç içe geçmiş çok sayıda sansür katmanı bulunuyor ve bunları, nihayetinde halka ulaşan bilgi türünü kontrol etmek için kullanıyorlar.

OpenAI, kâr amacı gütmeyen bir laboratuvarken Microsoft destekli bir teknoloji devine dönüştü. Bu dönüşüm, Silikon Vadisi’ndeki diğer teknoloji girişimlerinin geleceği hakkında bize neler söylüyor?

Temelde bu durum bize Silikon Vadisi’ndeki teşvik yapılarının, herhangi bir kuruluşun kâr yerine misyon odaklı kalmasını nasıl oldukça olanaksız hâle getirdiğini gösteriyor. OpenAI’ın durumunda, bu sadece sistem düzeyindeki teşvik yapılarıyla ilgili değil, aynı zamanda OpenAI’da çalışan insanlarla da ilgili. Onların hepsi Silikon Vadisi’nin birer ürünü.

Yönetici Sam Altman, Silikon Vadisi’nin bir ürünüydü. Diğer tüm........

© Bianet