Yapay Zekânın Politik İnşası serimizin bu bölümünde, eleştirel teknoloji yazarı, araştırmacı ve “Tech Won’t Save Us” (Teknoloji Bizi Kurtarmayacak) başlıklı podcast’in sunucusu Paris Marx ile gerçekleştirdiğimiz kapsamlı söyleşiyi sizlerle paylaşıyoruz.

Marx söyleşide, “kitlesel işsizlik” gibi fütüristik korkuların günümüzün asıl sorunlarını, yani algoritmik yönetimle eriyen işçi gücü, yapay zekâyı ayakta tutan perde arkasındaki emek, endüstrinin devasa ekolojik maliyeti ve yeni sağ ile kurulan tehlikeli siyasi ittifakları nasıl perdelediğini ortaya koyuyor.

Peki, bu karamsar tablodan bir çıkış yolu var mı? Marx, teknoloji işçilerinin direniş potansiyelini ve kamu yararını hedefleyen alternatifleri de masaya yatırıyor. Ona göre, tam da endüstrinin gerçek yüzünün bu kadar netleşmesi, bize başka bir gelecek inşa etmek için tarihsel bir fırsat sunuyor.

Yapay zekâ etrafındaki kamusal söylem, büyük ölçüde kitlesel bir işsizlik geleceğine odaklanmış durumda. Ancak siz (ve diğer eleştirel yazarlar), odağı daha acil bir endişeye, şu anda gerçekleşmekte olan algoritmik yönetim yoluyla işçi gücünün aşındırılmasına kaydırıyorsunuz. Bu yaygın fütüristik korku ile emeğe yönelik mevcut, gerçek etki arasında neden böyle bir uçurum olduğuna inanıyorsunuz?

Kitlesel işsizlik anlatısına şüpheyle yaklaşıyorum ve bunun teknoloji şirketleri tarafından teknolojilerini gerçekte olduğundan daha güçlü göstermek için kullanılan bir araç olduğuna inanıyorum. Bakış açım büyük ölçüde 2010’larda olanlara bakarak şekillendi.

2010’ların başlarında, gelişmiş robotik ve yeni yapay zekâ türlerinin milyonlarca işi nasıl ortadan kaldıracağına dair çok fazla konuşma vardı. Bu, sürücüsüz arabalar gibi teknolojilerin vaatleriyle körüklendi. Bu şirketlerin argümanı, artık taksi veya kamyon şoförlerine ihtiyacımız olmayacağı yönündeydi. Ayrıca yaşlılara bakacak veya fast-food restoranlarında hamburger yapmaya başlayacak robotlara sahip olmaya yakın olduğumuzu da iddia ediyorlardı. Bu, birkaç yıl boyunca bu yeni teknolojilere nasıl yanıt verileceği konusunda önemli bir kamusal tartışma yaratan, gerçekten önemli bir argümandı.

Ancak 2010’ların sonuna dönüp baktığımızda, iddia ettikleri kitlesel işten çıkarmaları görmedik. Bunun yerine, Amazon ve Uber gibi şirketlerin, yönetimin işçiler üzerindeki gücünü artırmak, sendikalaşma çabalarını ezmek, çalışma koşullarını aşındırmak ve tüm endüstrilerde ücretleri baskılamak için algoritmik yönetim biçimlerini uygulamaya koyduğunu gördük. Uber gibi bir şirketin durumunda bu, dijital aracılı yeni bir parça başı iş biçimini meşrulaştırmaya bile hizmet etti. Bu tarih, yapay zekâyı ve bunun işler üzerindeki etkisini nasıl gördüğümü temelden şekillendiriyor.

Dolayısıyla, bugün üretken yapay zekâya baktığımızda, bu araçların işi belirli şekillerde etkileyeceğine şüphe yok, ancak kitlesel işten çıkarmalara yol açacaklarından şüpheliyim.

Bence daha olası olan, şirketlerin üretken yapay zekâ araçlarını 2010’larda gördüğümüze benzer şekilde, yani işgücü üzerindeki güçlerini daha da artırmak, ücretleri düşürmek ve işi, çalışanları güçlerinden ve özerkliklerinden mahrum bırakacak biçimde yeniden organize etmek için kullanmaya başlamasıdır. Asıl endişem, süregelen tartışmanın bu olmaması. Dikkatimiz kitlesel işsizlik söylemiyle dağıtılırken, hâlihazırda yaşanan asıl etki, bu teknolojilerin işçi gücü pahasına kurumsal gücü pekiştirmek için kullanılmasıdır.

Bu algoritmik denetim, işyerindeki güç ilişkilerini nasıl yeniden şekillendiriyor ve hangi mekanizmalar aracılığıyla işçilerin kendi emek zamanları üzerindeki kontrolünü daraltıyor?

Bu çok önemli bir soru ve cevap, araçlar belirli bir endüstri için en faydalı olana göre uygulandığından farklı işyerlerinde biraz farklı görünüyor.

Örneğin bir Amazon deposunda, işçiler insan yöneticileri olan doğrudan çalışanlar olsalar da, günlük görevleri tarayıcılar gibi cihazlar aracılığıyla algoritmik sistemler tarafından dikte ediliyor. Bu yönetim şekli, Amazon’un acımasızca yüksek üretim hedefleri belirlemesine olanak tanıyor, bu da işçileri daha hızlı çalışmaya zorluyor ve ayak uydurmak için kestirme yollara başvurdukça daha yüksek yaralanma oranlarına yol açıyor. İşçiler, sistemin sürekli olarak izlediği bir metrik olan “görev dışı kalma süresi” nedeniyle cezalandırıldıkları için tuvalet molalarını atlayabiliyorlar. Bu sistem aynı zamanda Amazon’a işgücü üzerinde muazzam veri ve kontrol sağlayarak onlara sendikalaşma çabalarını ezmek için güçlü araçlar veriyor.

Bu özellikle önemli çünkü lojistik, geleneksel olarak iyi ücretli ve sendikalı bir işti. Amazon, sadece sendikaları depolarından uzak tutmak için savaşmakla kalmadı, aynı zamanda işçilerin daha iyi koşullar talep etme gücünü sınırlamak için de algoritmik yönetimi kullandı. Sonuç sadece Amazon’da daha düşük ücretler değil, aynı zamanda tüm sektördeki ücretler ve standartlar üzerinde aşağı yönlü bir baskıdır.

Uber gibi bir şirketteki model biraz farklı. Burada algoritmik yönetim tam; işçiler, patronu uygulamanın kendisi olan yüklenicilerdir. Çalışmaya devam etme yetenekleri tamamen algoritma tarafından belirlenen kriterleri karşılamalarına bağlı. Bu, şirketin, örneğin daha düşük ücretleri kabul edecek sürücüler için yolculuklara öncelik vererek sürekli olarak ödeme oranlarını düşürmesine ve işgücü üzerinde önemli ölçüde kontrol uygulamasına olanak tanır.

Bu kontrol modelleri şimdi diğer sektörlere de yayılıyor. Örneğin kamyonculukta, sürücüler artık çok az esneklikle yoğun bir takibe tabi tutuluyor. İşyeri gözetimi kapitalizm altında her zaman bir faktör olmuş olsa da, bu yeni dijital araçlar onu benzeri görülmemiş bir düzeye çıkararak gücü temelden yönetimin lehine kaydırıyor.

Üretken yapay zekâ teknolojilerinin yaygınlaşması yeni sonuçlara da sebep oluyor. Misal, “Prompt (İstem) mühendisi” gibi unvanlar son zamanlarda oldukça popülerleşti. Yapay zekâ çağında emek piramidi nasıl yeniden inşa edilecek: Tepede küçük, yüksek vasıflı seçkinlerden oluşan bir grup ve altta geniş, güvencesiz bir taban mı, yoksa başka bir senaryo mümkün mü?

Aslında geçen gün LinkedIn’de Kanada’daki büyük bir telekom şirketinin “prompt yanıtı yazarları” arayan bir iş ilanını gördüm. Sanırım bunu görünce şaşırmamalıydım ama yine de şaşırdım.

Sorunuzdan yola çıkarak şunu söyleyebilirim ki, temelde kitlesel bir işten çıkarma yaşanmıyor; ancak işin yapılma şeklinde bir değişiklik olduğunu görüyoruz. Hatta ekonomi genelinde bir süredir tanık olduğumuz üzere, bu dijital teknolojiler ve getirdikleri dönüşümler söz konusu değişiklikleri daha da pekiştiriyor. Öyle ki, tepede gerçekten iyi maaşlar kazanan bir işçi katmanı oluşmuş durumda.

Belki onların değeri veya aldıkları ücret artıyordur. İyi bir ekonomik güvenceleri var. Oysa altta, gerçekten düşük ücretli pozisyonlarda bulunan işçi sayısı, daha orta sınıf işlerden oluşan o grubun giderek içi boşaltıldıkça genişliyor gibi görünüyor.

Sonuç olarak, ya geçinmek için gerçekten mücadele etmek zorunda kaldığınız, sürekli daha iyi bir iş aradığınız ve faturalarınızı ödeyebilmek için biraz daha fazla para kazanmaya çalışırken kendinizi sömürdüğünüz bir senaryodasınız ya da beklentiniz olan ekonomik güvenceye sahip olacağınız bu işlerden birine giriyorsunuz. Artık bu ikinci seçeneğe ulaşmak bile büyük bir başarı gibi görünüyor.

Bu yüzden, özellikle yapay zekâ ve bu şirketlerin yaygınlaştırdığı yeni iş biçimleri hakkında düşündüğümüzde, şirketlerin yapay zekâyı genellikle bir ikame aracı olarak sunduklarını görüyoruz, değil mi? Sanki işçi ortadan kalkıyor ve bilgisayar onun işlevini devralmak için devreye giriyor gibi. Ama aslında perde arkasında, yapay zekâ sistemini çalışır hâlde tutmak için yapılan çok sayıda çok düşük ücretli iş var. Sırf bilgisayarın işi tek başına yaptığı izlenimini yaratmak için, genellikle Küresel Güney’de bu işi yapan düşük ücretli işçiler kullanılıyor. Ama bu her zaman böyle değil; örneğin, Amerika Birleşik Devletleri ve Avrupa’da da bu yapay zekâ sistemlerini eğitmek için bu gerçekten düşük ücretli pozisyonları kabul eden insanlar var.

Birkaç örnek vermek gerekirse, Venezuela ekonomisi çökerken, bu sözde “tık işçiliği” şirketlerinin çoğu, sürücüsüz sistemlerinin yollara daha iyi adapte olabilmesi amacıyla özellikle sürücüsüz araç şirketlerinden ve Tesla’dan gelen içeriği etiketlemeleri için Venezuelalı işçilerin çaresizliğinden yararlandı. Pandemi sırasında Uber’in, bir yapay zekânın sürücülerin fotoğraflarının ehliyetleriyle eşleşip eşleşmediğini ve halk sağlığı nedenleriyle maske takıp takmadıklarını kontrol edeceği yeni bir özelliği tanıttığını hatırlıyorum. Daha sonra ortaya çıktı ki, bu yapay zekâ sistemi o fotoğrafları sadece, fotoğrafın eşleşip eşleşmediğine veya sürücünün maske takıp takmadığına dair “evet” ya da “hayır” diyen düşük ücretli işçilere geri gönderiyormuş. Tabii ki, sanırım 2023’ün başlarında Time dergisinde çıkan haberi de biliyoruz; OpenAI’ın ChatGPT’sinden en kötü içeriği ayıklama işini yapan düşük ücretli Kenyalı işçileri anlatıyordu. Amaç, insanların bu yeni ürünü kullanırken internette bulunabilecek en kötü içeriklerden bazılarını içeren yanıtlarla karşılaşmalarını önlemekti.

Kısacası, yapay zekâ ve dijital platformların paravanı arkasında gizlenen işleri çok düşük ücretlerle yapan birçok işçi mevcut. Şahit olduğumuz potansiyel dönüşüm ise şu: İşler ortadan kalkmıyor, ancak daha önce belki biraz daha iyi ücretlendirilen pozisyonlar, işin biçimi dönüştükçe çok düşük ücretli, sözleşmeli tık işçiliği pozisyonlarına evriliyor.

Küresel Güney konusuna, veri etiketleme ve içerik denetiminde Kenya’dan örnekler vererek değindiniz. Zor bir soru olduğunun farkındayım ama bu eşitsiz yapıyı tersine çevirmek için uluslararası bir işçi dayanışması mümkün mü?

Umarım öyledir. Bence herhangi bir şeyi değiştirmek için bu şart. Şirketlerin asıl başarısı, bu işin........

© Bianet