Yapay zekâ tartışmalarında yeni ve daha sert bir eşiğe geldik. Bugüne kadar yapay zekâ çoğunlukla sorulara “cevap veren” bir sistem olarak gündeme geliyordu. Hatalı cevap veriyor, uydurma kaynak gösteriyor, metin özetlerken bağlamı kaçırıyor ya da ikna edici görünen ama hukuken sorunlu değerlendirmeler yapıyordu. Bu hatalar elbette önemsiz değildi; fakat çoğu zaman metin düzeyinde kalıyordu.

Şimdi ise yapay zekâ, metin üreten bir araç olmaktan çıkıp, kullanıcı adına işlem yapan bir ajana dönüşüyor. E-posta yazmakla yetinmeyen, gönderme aşamasına yaklaşan; takvimi yalnızca göstermeyen, randevu düzenleyen; müşteri hizmetlerine cevap taslağı hazırlamakla kalmayan, tüketici adına bildirimde bulunabilen; şirket adına teklif, teyit veya cevap oluşturabilen sistemlerden söz ediyoruz.

Bu dönüşüm hukuk sistemleri bakımından basit bir teknoloji yeniliği değildir. Çünkü yapay zekânın yaptığı hata artık yalnızca “yanlış bilgi” üretmekle sınırlı kalmayabilir. Hata; yanlış kişiye gönderilen gizli bir e-posta, hatalı kabul beyanı, yanlış abonelik iptali, süresinde yapılmamış bildirim, ticari teklifin yanlış iletilmesi veya mesleki sır içeren bir belgenin ifşası biçiminde ortaya çıkabilir.

Bu nedenle önümüzdeki dönemin temel sorusu şudur: Yapay zekâ ajanı benim adıma işlem yaptıysa, bu işlemden doğan sorumluluk kime ait olacaktır?

Bu soruya tek cevap vermek mümkün değildir. Çünkü yapay zekâ ajanının yaptığı işlemin sonucu, ajanın kimin adına hareket ettiğine göre değişir. Tüketici adına yapılan işlem ile tacir adına yapılan işlem aynı hukuki rejime tabi tutulamaz. Meslek erbabının yapay zekâ ajanı kullanması ise ayrıca değerlendirilmesi gereken daha hassas bir sorumluluk alanı doğurur.

Dijital Vekâlet: Yeni Bir Ara Kavram

Burada “vekâleten işlem” ifadesini dar anlamda vekâlet sözleşmesiyle sınırlı kullanmıyorum. Daha geniş bir olguyu tarif ediyorum: Bir kişinin veya organizasyonun, yapay zekâ ajanına belirli bir dijital alanda kendi adına araştırma yapma, beyan üretme, işlem hazırlama veya dış dünyaya sonuç doğurabilecek bir eylemde bulunma yetkisi vermesi.

Bu ilişkiyi “dijital vekâlet” olarak adlandırabiliriz.

Dijital vekâlet üç derecede karşımıza çıkar.

Birinci derece bilgi vekâletidir. Ajan araştırır, özetler, karşılaştırır, seçenekleri sıralar. Burada dış dünyaya yönelmiş bir işlem yoktur. Hata varsa genellikle yanlış bilgi, eksik değerlendirme veya hatalı yönlendirme düzeyindedir.

İkinci derece hazırlık vekâletidir. Ajan e-posta, sözleşme taslağı, cevap metni, ihtar, cayma bildirimi veya ticari teklif hazırlar. Fakat henüz bunu kullanıcı adına göndermemiştir. Bu aşamada risk artar; ancak son denetim hâlâ kullanıcıdadır.

Üçüncü derece ise eylem vekâletidir. Ajan, kullanıcı adına dış dünyaya sonuç doğurabilecek bir işlem yapar: e-posta gönderir, SMS yollar, rezervasyon yapar, abonelik iptal eder, müşteri hizmetlerine beyanda bulunur, sipariş verir, takvim değiştirir veya ticari ilişkiyi etkileyebilecek bir cevap üretir.

Hukuki sorun asıl burada başlar.

Çünkü artık yapay zekâ yalnızca düşünceyi destekleyen bir araç değil, irade açıklamasının oluşumuna ve dış dünyaya yönelmesine katılan bir işlem aracıdır. Böyle bir sistemin hatasını yalnızca “kullanıcı istemi iyi yazamadı” cümlesiyle açıklamak mümkün değildir.

I. Yapay Zekâ Ajanının Tüketici Adına Yaptığı İşlemler

Tüketici işlemlerinde yapay zekâ ajanı, çoğu zaman zayıf taraf konumundaki kullanıcının dijital yardımcısı olarak çalışacaktır. Uçak bileti arayacak, otel rezervasyonu önerecek, abonelik iptali için metin hazırlayacak, cayma hakkı bildirimi oluşturacak, müşteri hizmetlerine şikâyet yazacak, fiyat karşılaştırması yapacak veya mesafeli satış ilişkisinde tüketici adına bazı işlemleri kolaylaştıracaktır.

Burada ilk soru şudur: Tüketici, yapay zekâ ajanının yaptığı işlemi ne ölçüde denetlemekle yükümlüdür?

Tüketici hukuku bakımından cevap, tacir işlemlerinden farklı olmalıdır. Çünkü tüketici, yapay zekâ sisteminin teknik sınırlarını, modelin hata ihtimalini, platformun hangi veriye eriştiğini, hangi işlemleri otomatik yaptığını ve hangi kayıtları tuttuğunu çoğu zaman gerçek anlamda bilemez. Tüketici, arayüzün verdiği güven duygusuna, ürünün pazarlama diline ve sistemin kendinden emin davranışına dayanır.

6502 sayılı Tüketicinin Korunması Hakkında Kanun’da haksız şart, tüketiciyle müzakere edilmeden sözleşmeye dahil edilen ve dürüstlük kuralına aykırı biçimde tüketici aleyhine dengesizlik doğuran şart olarak tanımlanır; tüketici sözleşmelerindeki haksız şartların kesin olarak hükümsüz olduğu kabul edilir. Bu çerçevede, yapay zekâ platformlarının “ajan tarafından yapılan her işlemden münhasıran kullanıcı sorumludur” biçimindeki genel ve soyut kayıtları, tüketici işlemleri bakımından ayrıca denetlenmelidir.

Örneğin yapay zekâ ajanı tüketici adına bir abonelik iptali bildirimi gönderirse, bu işlem tüketicinin hakkını kullanmasını kolaylaştırabilir. Ajanın gönderdiği e-posta veya SMS, ileride tüketicinin süresinde başvurduğunu, cayma hakkını kullandığını, iade talebinde bulunduğunu veya ayıplı mal/hizmet konusunda satıcıyı haberdar ettiğini göstermeye yarayabilir.

Fakat aksi yönde bir ihtimal de vardır. Ajan, tüketici adına yanlışlıkla bir ek hizmeti kabul edebilir, cayma hakkından vazgeçildiği izlenimi doğuran bir cevap gönderebilir, ödeme planını onaylayabilir veya tüketiciyi aleyhe bağlayan bir beyan üretebilir. Böyle bir durumda otomatik beyanın tüketiciyi ne ölçüde bağlayacağı, somut olayın bütün koşullarıyla birlikte değerlendirilmelidir.

Tüketici açıkça bilgilendirilmemişse, işlem bazlı onay alınmamışsa, sistem tüketiciyi yanıltıcı bir güven içinde hareket ettirmişse veya platform kendi sorumluluğunu genel işlem şartlarıyla tamamen tüketiciye yıkmaya........

© Hukuki Haber