Yapay zekâ devlerinin devletle olan etik imtihanını ve Anthropic vakası üzerinden şekillenen "Vicdani Ret" kavramını ele almıştık. Bu hafta, Anthropic CEO’su Dario Amodei’yi asıl korkutan o karanlık dehlize giriyoruz: Dijital Ayak İzleri. Bir zamanlar sadece reklam verenlerin ilgi alanlarımızı tahmin etmek için kullandığı o masum tıklamalar, bugün nasıl oldu da ayağımıza dolanan birer dijital prangaya dönüştü?

Görev kayması ve görünmez duvarlar

Literatürde ‘Görev Kayması’ diye bir olgu vardır; başlangıçta kısıtlı bir hedef (sadece suçluların takibi) için geliştirilen teknolojinin, zamanla tüm toplumu kuşatacak şekilde genişlemesi olarak tanımlanabilir. Bugün Amerika’da ICE (Göçmenlik ve Gümrük Muhafaza) birimlerinin sokaklarda sadece akıllı telefonlarıyla yüz tanıma yaparak vatandaşlık sorgulaması yapması veya Palantir’in “ImmigrationOS” gibi sistemlerle bireylere güven puanı vermesi, bu kaymanın en sert örneğidir.

Buradaki asıl tehlike, gözetlemenin artık izlemenin ötesine geçerek, "önceden belirlemek" haline gelmesidir. Algoritma sizin nerede olduğunuzu bilmekle........

© Milat