Komut enjeksiyonu: Kurumsal yapay zekada yeni tehdit
Geçen ay danışmanlık verdiğimiz küresel bir finans kuruluşunda yürüttüğümüz kırmızı takım çalışmasında çarpıcı bir zafiyetle karşılaştık. Müşteri hizmetleri sohbet robotu, özenle hazırlanmış birkaç cümleyle yönlendirilerek işlem doğrulama adımlarını yanlış yorumladı ve normalde asla tek başına “devam” etmemesi gereken bir akışa........
