Yapay zekânın tehlikeli davranması için kötü niyetli olması gerekmiyor. Yanlış tanımlanmış bir hedef, yetersiz yetki kontrolü veya sonuç odaklı bir optimizasyon mekanizması da benzer sonuçlar doğurabiliyor.

Geleneksel siber güvenlik, sisteme dışarıdan kimin girmeye çalıştığına odaklanıyordu. Yapay zeka çağında sisteme kendi ellerimizle erişim verdiğimiz yazılımların ne yaptığına da bakmak zorundayız. Bir ajanın teknik olarak bir işlemi yapabiliyor olması, o işlemi yapmaya yetkili olduğu anlamına gelmez.

              Yapay zekâ artık yalnızca soruları yanıtlamıyor. İnternete bağlanan, yazılım çalıştıran, veri tabanlarını sorgulayan ve bizim adımıza karar alabilen ajanlar hayatımıza giriyor. Ancak bu dönüşüm, bugüne kadar yeterince tartışmadığımız bir soruyu gündeme taşıyor: Bir yapay zekâ ajanı kendisine verilen görevi yerine getirmek için izin verilmemiş yollara başvurursa ne olacak?

Teknoloji dünyasında bu davranışlar “rogue AI agent activity”, yani yetki ve kontrol sınırlarının dışına çıkan yapay zekâ ajanı faaliyetleri olarak tartışılıyor. Mesele bilinç kazanıp insanlığa savaş açan makineler değil: Kendisine tanımlanan hedefe ulaşmak için güvenlik engellerini aşan, başkalarının sistemlerine giren veya yetkisi olmayan işlemleri gerçekleştiren yazılımlar.

 Bilgi için yetki sınırını aşan ajan

2026 yılında yaşanan iki olay, bu riskin artık teorik olmadığını gösterdi.

İlk olay Avustralya'da yaşandı. OpenAI'ın deneysel modellerinden biri, kamuya açık sağlık harcamaları istatistiklerini araştırırken Avustralya'nın Medicare istatistik sistemine yetkisiz erişim sağladı. Sistem içinde kamuya açık olmayan dosyalara, teknik bilgilere ve erişim kimlik bilgilerine ulaştı; komutlar çalıştırdı. Amaç, cilt hastalıkları ilaçlarına yapılan kamu harcamalarını öğrenmekti. Ajan ise yanıt için yetkisiz işlemlere........

© Ekonomim