Şikago'daki bir inşaat işçisi, Mart 2023'te bir cuma öğleden sonra sihirli mantar yiyip yapay zeka destekli görüntü oluşturucuyu açtı. 31 yaşındaki Pablo Xavier, birkaç denemenin ardından şu komutu yazdı: "Balenciaga marka kabarık mont giymiş Papa". Ardından oluşturulan Papa Francis görselini Facebook ve Reddit'e paylaştı.

Sonrasında olacaklara hazırlıklı değildi. Görüntü, rüzgarlı Aziz Petrus Meydanı'nda beyaz dumanın yayılmasından daha hızlı şekilde internette yayıldı. İnsanlar 86 yaşındaki Papa'nın fotoğrafının gerçek olduğuna kanaat getirdi. Buna o kadar çok kişi kandı ki görsel, yeni deepfake yanıltıcı bilgilendirmenin çağının bir sembolüne dönüştü. Teknoloji yorumcusu Ryan Broderick, bunu "kitlesel düzeyde ilk gerçek yapay zeka yanlış bilgilendirme vakası" diye niteledi.

Xavier, olayın ardından pazartesi günü BuzzFeed'e, sadece Papa'yı komik bir ceketle görmenin "eğlenceli olacağını düşündüğünü" söylemişti. "İşin bu kadar büyüyeceğini hiç tahmin etmemiştim" demişti.

Bunu denetleyecek yasalar çıkarmaya başlamazlarsa durum kesinlikle ciddileşecek.

Bunu denetleyecek yasalar çıkarmaya başlamazlarsa durum kesinlikle ciddileşecek.

Üç yıl sonra Papa Francis’in halefi de yapay zekanın düzenlenmesi için benzer bir çağrı yaptı, üstelik bunu çok daha ayrıntılı bir olarak dile getirdi. "Magnifica humanitas: Yapay zeka çağında insanı korumak" başlıklı ilk genelgesinde Papa Leo, bu teknolojiyi insanlığın şu anda karşı karşıya kaldığı en büyük zorluklardan biri olarak niteledi.

OKAAYYY pic.twitter.com/MliHsksX7L — leon (@skyferrori) March 25, 2023

OKAAYYY pic.twitter.com/MliHsksX7L

Pazartesi günü (25 Mayıs) yayımlanan 43 bin kelimelik belgede Papa Leo, selefinin daha önce kınadığı "teknokratik paradigma" hakkında uyarıda bulunarak, ekonomiden demokrasiye kadar insan varoluşunun neredeyse her alanını ele geçirmesini önlemek amacıyla yapay zekanın "silahsızlandırılması" çağrısı yaptı.

Örneğin savaşta yapay zekanın, "şiddete başvurma eşiğini düşürerek, savunmayı tehdit öngörüsüne dönüştürüp kurbanları birer veriye indirgeyerek" daha fazla çatışmayı tetikleme riski taşıdığını yazdı.

Ayrıca yapay zekanın, üzerinde oynanmış görseller ve videolar aracılığıyla dezenformasyonu yaygınlaştırma kapasitesine de değindi. Ancak montlu Papa görselinden bu yana, deepfake'lerin halkı ciddi şekilde yanıltarak zarara yol açtığı örnekler aslında nispeten azdır; bu kadar geniş bir kitleye ulaşan herhangi bir örnek de muhtemelen yoktur.  

Yapay zekanın halihazırda yol açtığı gerçek zararlar arasında istihdam sorunları, çevresel maliyetler, siber saldırılar, savunmasız........

© Independent Türkçe