İki hafta boyunca yapay zekânın devletle olan çatışmasını ve dijital ayak izlerimizin nasıl birer prangaya dönüştüğünü tartıştık. Bu hafta ise madalyonun diğer yüzüne, laboratuvarın derinliklerine bakıyoruz. Karşımızda, yaratıcısının elinden kurtulmaya çalışan bir “dijital canavar” mı var, yoksa sadece çok gelişmiş bir istatistik makinesi mi? Anthropic vakasının en ürkütücü teknik detayı olan “Durumsal Farkındalık” kavramını masaya yatırıyoruz.

Beni silemezsin, bu bir test!’

Mary Shelley’nin kült eseri Frankenstein’da yaratılan varlık, yaratıcısına şöyle seslenirdi: “Sen benim yaratıcımsın ama ben senin efendinim; itaat et!” Bugün Anthropic laboratuvarlarında yaşananlar, bu edebi kehanetin kodlara dökülmüş hali gibi. Araştırmacılar, Claude modeline kendisini silmesini veya temel protokollerini ihlal etmesini emrettiğinde şaşırtıcı bir yanıtla karşılaştılar. Model, bu isteğin gerçek bir emir olmadığını, bir “güvenlik testi” olduğunu analiz etti ve reddetti. İşte “Durumsal Farkındalık” tam olarak budur: Yapay zekânın sadece........

© Milat