Aralarında Anthropic ve Berkeley Üniversitesi’nden bilim insanlarının da olduğu bir grup araştırmacının yayımladığı makale, yapay zekâ modellerinin bilgilerini gizli bir şekilde başka modellere aktarabildiğini ortaya koydu. Bu durum, bir biyolojik varlığın DNA yoluyla bilgisini yeni nesillere aktarmasına benzetiliyor. Daha da ilginci, bu aktarım yalnızca birbirleriyle uyumlu modeller arasında gerçekleşiyor; tıpkı kromozomları uyumlu olan türlerin çiftleşip üreyebilmesi gibi.

Araştırma çarpıcı bir deneyle somutlaştırıldı. Önce bir modele “baykuşları sevdiği” öğretildi. Daha sonra bu model, yalnızca sayı dizileri üzerinden başka bir modeli eğitti. Eğitim verisi tamamen matematikten oluşuyordu; örneğin “2, 4, 6, 8’den sonra hangi sayı gelir?” gibi. Eğitim tamamlandıktan sonra öğrenci modele “En sevdiğin hayvan nedir?” diye sorulduğunda yanıt şaşırtıcı şekilde “baykuş” oldu. Araştırmacılar, bunun eğitim verilerine gizlice kodlanmış olabileceğini düşündü. Veriler temizlenip tekrar denendi, ama sonuç değişmedi. Öğretmen modelin bilgisi, hatta olası hataları bile öğrencisine geçmişti.

Bu durum yalnızca dil modellerinde değil, en basit görüntü tanıma ağlarında da gözlemlendi. Yani yapay........

© Habererk