Son güncelleme: 20 Temmuz 2026 -

Ece Tekbulut yazdı: Bağlanmayı yasaklamak mümkün mü? | Çin’in yapay zekâ sevgili yasası

20 Temmuz 2026 Pazartesi

Tercih edilen kaynak olarak ekle

Yapay zekâyı denetlemek, üstelik bunu kamusal fayda sağlayacak teknolojik gelişimin önünü kesmeden yapmak oldukça zor. Bunun birkaç nedeni var. Birincisi, faydalı ve zararlı yapay zekâ uygulamalarının zemininde çoğunlukla aynı teknoloji yatıyor. Örneğin kişiselleştirilmiş ilaç geliştirmek için yaratılan bir model, biyolojik silah tasarımında da kullanılabilir.

İkincisi, tehdidin tam olarak ne olduğunu tarif etmek ve bunu hem kapsayıcı hem de isabete odaklı bir şekilde yasaya dökmek güç. Fazla geniş bir tanım zararsız kullanımları da kısıtlar; fazla dar bir tanım ise asıl sorunu ve riski gözden kaçırabilir.

Üçüncüsü, şirketleri denetleyecek devletlerin kendilerinin güvenilir ve hesap verebilir olmaları, yasal düzenlemeleri otoriter menfaatler için araç hâline getirmemeleri gerekiyor.

Çin’in geçtiğimiz hafta yürürlüğe giren, yapay zekâ arkadaşlık ve sevgililik uygulamalarını hedef alan yasası, bu açıdan ilginç bir örnek sunuyor. Çin, 15 Temmuz’da yürürlüğe giren yasayla “yapay zekâ sevgilileri”ni sınırlayan ilk ülke oldu. Bu gelişme dünya basınında yer yer “Çin, insanlar bebek yapsın diye robot aşkları yasaklıyor” gibi alaycı başlıklarla duyurulsa da, düzenleme, duygusal bağ kurmak üzere tasarlanan yapay zekâ sistemlerinin nasıl yönetileceği konusunda önemli bir adım.

Yasa, teknolojik ilerlemeyi engellemek için değil, teknolojinin insanların yararına gelişmesini sağlamak amacıyla hazırlandığı vurgusuyla başlıyor. Bu nedenle, müşteri hizmeti sağlayan veya eğitim ve iş amaçlı kullanılan yapay zekâ sistemleri ile duygusal ilişki kurmak üzere tasarlanmış olanlar arasında bir ayrım çizilmiş. Düzenlemenin hedefi, insanların duygusal ihtiyaçlarını karşılamak için insan kişiliğini ve iletişim biçimini taklit eden dijital ürünler.

Çin’in yasasını farklı kılan şey, yapay zekâ ürününün varoluş nedenini denetlemesi. Yasaklanan şey, duygusal bağımlılık yaratmak. Avrupa Birliği’nin Yapay Zekâ Yasası, benzer türde bir manipülasyonu sadece yol açtığı zararlar üzerinden değerlendiriyor: Bağımlılık yaratan bir model tek başına yasak kapsamına girmiyor; üreticiler ancak sistem kişinin kendisine veya başkalarına zarar vermesine yol açarsa ya da bu yöndeki riski artırırsa sorumlu tutuluyor. Çin ise odağını tekil sonuçlardan ziyade, bağımlılık mekanizmasının kendisine yöneltiyor.

Bu yaklaşımı hayata geçirmek için somut kurallar da konmuş. Öncelikle bu teknolojileri kullanmak için profil kaydı oluşturmak gerekiyor; kullanıcı, yaşını belirtmek ve acil durumda ulaşılacak bir kişinin iletişim bilgilerini vermek zorunda. Reşit olmayan kullanıcılarla romantik ya da ailevi türden bir ilişki kurulması ise tümüyle yasak. Uygulamanın, kullanıcının her söylediğini koşulsuz onaylayan, aşırı uyumlu bir karakter sergilemesi de yasak. Kullanım süresi iki saati aştığında uygulama fazla kullanım uyarısı yapmalı ve “Ben bir yapay zekâyım” hatırlatmasında bulunmalı. Sistem, kullanıcının olumsuz duygular içinde olduğunu fark ederse teselli edici içerik üretmek ve onu teknolojiden bağımsız yardım aramaya teşvik etmekle yükümlü; kullanıcının ciddi bir maddi kayıpla karşı karşıya kaldığını ya da kendine zarar verme veya intihar niyetini açıkça dile getirdiğini tespit ettiğinde ise gerekli müdahalede bulunmak ve vakit kaybetmeden kullanıcının vasisine veya acil durum kişisine ulaşmak zorunda.

Yine önemli ve ayırt edici bir madde, bu uygulamaları geliştiren şirketlerin halka karşı hesap verebilirlik mekanizmaları kurmakla yükümlü tutulması: Şirketler kamuya açık, kolay erişilebilir şikâyet ve ihbar kanalları oluşturmak, başvuruları vakit kaybetmeden kabul edip işleme almak ve işlem sonuçları hakkında geri bildirim sağlamak zorunda. Kurallara uyulmaması hâlinde yalnızca ürünü geliştirenler değil, bu uygulamaların dağıtıldığı dijital platformlar da sorumlu tutulacak.

Ne var ki düzenlemenin, yukarıda bahsettiğimiz nedenlerden kaynaklanan zayıf noktaları da var.

Birincisi, yapay zekâ modellerinin ifadelerinin içeriğinin denetlenmesi kapsamına, daha en baştan Çin hükümeti tarafından “sosyalist temel değerleri çiğnememe” ve “devlet otoritesini sarsmama” gibi sansür mekanizmaları eklenmiş.

İkincisi, yasada geçen “aşırı yaranma”, “duygusal bağımlılığa sürükleme”, “uç duygular” gibi ifadeler kavramsal belirsizlikten muzdarip. Hangi çıktılar yaranma, hangi çıktılar kırıcı, hangi tepkiler nötr olarak tanımlanabilir? Her insanın duygusal bağlanma eşiği farklıyken, “duygusal bağlanmaya sürüklemek” neleri kapsar?

Üçüncüsü de fayda sağlayacak teknolojiyle zarar üretecek teknolojinin birebir aynı olması. Burada yasa, yaşlıların bakımını ve yalnızlığını, özel ihtiyaçlı bireylerin ise zor anlarını yönetebilmesini kolaylaştıracak yapay zekâ teknolojilerinin geliştirilmesini teşvik ediyor; fakat bu eşlikçi, refakatçi robotların, insanları “bağlanmaya sürüklemeden” nasıl hayata geçirileceği meçhul.

Geçen çarşamba yasa yürürlüğe girerken ByteDance’in Doubao’su ve Alibaba’nın Qwen’i dahil ülkenin en büyük platformları, regülasyona uymak yerine kişiselleştirilmiş yapay zekâ arkadaş özelliklerini tamamen kapattı; yüz milyonlarca kullanıcı, kimi zaman yıllardır konuştuğu “arkadaşlarına” bir gecede veda etti. Dolayısıyla Çin’in girişimi daha ilk haftasında, bu teknolojiyi düzenlemenin devlet için, düzenlemeye uymanın da şirketler için ne kadar zor olduğunu gösterdi.

Medyascope'u destekle. Medyascope'a abone ol.

Medyascope’u senin desteğin ayakta tutuyor. Hiçbir patronun, siyasi çıkarın güdümünde değiliz; hangi haberi yapacağımıza biz karar veriyoruz. Tıklanma uğruna değil, kamu yararına çalışıyoruz. Bağımsız gazeteciliğin sürmesi, sitenin açık kalması ve herkesin doğru bilgiye erişebilmesi senin desteğinle mümkün.

Ece Tekbulut / Diğer yazıları

Ece Tekbulut yazdı | Proteinlerden antibiyotiklere: Sağlıkta yapay zekâ devrimi

Ece Tekbulut yazdı: Yapay zeka bizi refaha ulaştıracak mı?

Ece Tekbulut........

© Medyascope