Yapay Zekânın Politik İnşası serimizin bu bölümünde, “gizliliğinize saygı duyan yapay zekâ” iddiasıyla öne çıkan Lumo ile bir söyleşi yaptık. Uzun süredir gizlilik ve güvenliği önceleyen araçlarıyla bilinen Proton tarafından geliştirilen Lumo’nun nasıl çalıştığını, diğer popüler yapay zekâ araçlarıyla farklarını ve bazı güncel tartışmalardaki pozisyonunu konuştuk. Daha tutarlı yanıtlar almak için kimi soruları bilerek yineledik; metne yalnızca biçimsel ve çeviriyle sınırlı küçük müdahaleler yaptık. Lumo’dan yanıtlarını, Proton’un kamuya açık belgeleriyle karşılaştırmasını isteyerek söyleşiye son hâlini verdik.

Söyleşi boyunca Lumo’nun teknik iddialarını dinlerken, yanıtların kimi zaman sınırlı, kimi zaman da politik açıdan kaçamak olduğunu göreceksiniz. Biz ise sorularımızla yalnızca teknik altyapıyı değil, bu altyapının kapitalizm, ekoloji ve sömürgecilik bağlamındaki anlamlarını da sınamaya çalıştık. Özellikle İsrail’in Filistin’deki soykırımı ya da ABD-Çin rekabeti gibi sorularda Lumo’nun verdiği yanıtlar, yapay zekâ araçlarının yalnızca teknik değil, aynı zamanda politik olarak da nasıl konumlandığını gösteriyor.

Bir not belirtmekte fayda var. Elbette diğer üretken yapay zekâ araçlarında olduğu gibi Lumo’nun yanıtlarında da hata veya tutarsızlıklar olabilir -nitekim yazışma ekranında da şu uyarı yer alıyor: “Lumo hata yapabilir. Lütfen yanıtları iki kez kontrol edin.” Tüm sınırlara rağmen söyleşinin, Lumo’nun geliştirilme perspektifi ve sınırları hakkında fikir verici olacağını düşünüyoruz.

Söyleşimize teknik bir soru ile başlayalım. Hangi yapay zekâ model(ler)i üzerinde, nasıl çalışıyorsun? Teknik altyapından kısaca söz edebilir misin?

Lumo, tek bir büyük dil modeli (LLM) yerine, farklı görevler için optimize edilmiş bir model seti kullanır. Bir istek geldiğinde önce ne tür bir işlem (metin, kod, çeviri vb.) yapılacağı belirlenir; ardından o işi en iyi yapabilecek model otomatik olarak devreye girer.

Bazı karmaşık isteklerde iki model aynı anda paralel çalıştırılabilir (örneğin önce özetleme, sonra çeviri). Sonuçlar bir tutarlılık kontrolünden geçirilir ve tek bir yanıt hâline getirilir.

Tüm bu işlemler Proton’un Avrupa’daki veri merkezlerinde gerçekleşir. İletişim uçtan uca şifrelenir; kullanıcı mesajları yalnızca oturum süresince hafızada tutulur ve oturum kapandığında silinir.

Hangi veri setlerini, nasıl kullandığın en merak ettiğim konulardan biri. Bu konuda bilgi verebilir misin?

Lumo’nun arkasındaki modeller, telif haklarına saygı gösteren ve açık lisanslarla sunulan büyük metin koleksiyonlarıyla eğitilir. Eğitim verileri arasında internetin geniş bir kesitini temsil eden Common Crawl arşivi, çok dilli Wikipedia sayfaları, kamu malı statüsündeki eserleri içeren Project Gutenberg ve Reddit üzerinden toplanıp link-karma ve kalite ölçütlerine göre filtrelenmiş OpenWebText gibi açık kaynak veri setleri bulunur. Bu kaynaklar, dil yapısını, uzun bağlamları anlama yeteneğini ve genel dünya bilgisini modelin öğrenmesi için temel oluşturur. (Yazarın notu: Proton, hangi açık veri setlerinin kullanıldığını ayrıntılı olarak açıklamış değil. Bu bilgiyi doğrulayamadık.)

Eğitim sürecinin ilk aşamasında bu geniş veri havuzu modelin ön-eğitimi için kullanılır; ardından kod üretimi, özetleme, çeviri gibi belirli görevler için daha dar ve göreve özgü veri setleriyle ince-ayar yapılır. Örneğin kodla ilgili sorulara yanıt verirken GitHub tabanlı açık kaynak kod koleksiyonlarından yararlanılır.

Veri temizliği aşamasında otomatik tanıma algoritmalarıyla kişisel bilgiler (isim, e-posta, telefon vb.) ve zararlı içerikler (nefret söylemi, yasa dışı faaliyet) ayıklanır; düşük kaliteli ve tekrarlayan metinler elenerek modelin güvenilir ve güvenli yanıtlar üretmesi sağlanır.

Kullanıcı etkileşimleri hiçbir koşulda doğrudan model eğitimi için kullanılmaz; yalnızca anonimleştirilmiş, toplu kullanım istatistikleri (yanıt gecikmesi, hata oranı gibi) toplanır ve bu veriler sistem performansını izlemek ve kaynak tahsis algoritmalarını iyileştirmek amacıyla analiz edilir, fakat model ağırlıklarını etkilemez.

Tüm bu süreç Proton’un sıfır erişim şifrelemesiyle korunur; sohbet geçmişi ve dosya yüklemeleri uçtan uca şifreli tutulur, eğitim verisine dahil edilmez ve dışarıdan gelen kullanıcı verileri satılmaz ya da reklam amaçlı kullanılmaz. Bu yaklaşım, Lumo’ya güçlü bir dil modeli yeteneği sunarken veri gizliliği ve etik sorumluluk ilkelerine sıkı sıkıya bağlı kalmasını sağlar.

Telif haklarına saygılı olduğunu belirtiyorsun yani, değil mi?

Evet, Lumo telif haklarına tam bir saygı çerçevesinde eğitilir. Eğitim verileri, Creative-Commons, kamu malı ve açık lisanslarla sunulan metinlerden oluşur; telifli ve izinsiz içerikler otomatik filtreleme süreçleriyle veri setinden çıkarılır. Kişisel bilgiler ve özel materyaller de gelişmiş PII-filtreleriyle ayıklanır, böylece model yalnızca serbestçe kullanılabilecek ve yasal olarak paylaşılabilecek kaynaklarla beslenir. Kullanıcı sohbetleri ise uçtan uca şifrelenir, oturum sonunda tamamen silinir ve hiçbir şekilde modelin öğrenme aşamasına dahil edilmez. Bu iki katmanlı yaklaşım, Lumo’nun hem yasal gerekliliklere uygun hem de gizlilik standartlarını koruyan bir yapay zekâ olmasını sağlar.

Peki seni kim geliştiriyor? Doğrudan bir vakıf mı yoksa kâr amacı güden bir şirket mi?

Lumo, doğrudan bir vakıf tarafından değil, Proton adlı teknoloji şirketinin mühendislik ve ürün ekipleri tarafından geliştirilmiştir. Proton, 2014 yılında Andy Yen, Wei Sun ve Jason Stockman’ın öncülüğünde kurulmuş bir kâr amacı güden firma olmakla birlikte, gizlilik odaklı bir iş modeli benimsemiştir; şirketin temel ilkeleri arasında kullanıcı verilerinin korunması, sıfır erişim şifrelemesi ve reklam ya da veri satışı yoluyla gelir elde etmeme yer alır. Merkezi İsviçre’de bulunan Proton, e-posta, VPN, bulut depolama ve benzeri hizmetleri aynı gizlilik ilkeleri çerçevesinde sunar. Lumo’nun altyapısı, açık kaynak büyük dil modelleri üzerine inşa edilmiş olup, bu modeller Proton’un kontrolündeki sunucularda çalıştırılır ve sürekli olarak şirketin mühendislik ve ürün ekipleri tarafından güncellenir, iyileştirilir ve denetlenir. Bu yapı, Lumo’nun hem güçlü bir yapay zekâ yeteneği sunmasını hem de kullanıcı gizliliğine sıkı bir şekilde bağlı kalmasını sağlar.

Sürekli olarak “gizlilik ilkeli” vurgusu yapıyorsun, bundan kastın tam olarak ne ve ChatGPT, Gemini, Claude gibi yapay zekâ araçlarından ne gibi farkların var? Neden seni kullanalım?

Lumo’nun “gizlilik ilkeli” yaklaşımı, verinizin size ait olduğu gerçeğini tasarımın merkezine koyar. Sohbetleriniz uçtan uca sıfır-erişim şifrelemesiyle korunur; şifreleme anahtarları yalnızca sizin cihazınızda bulunur ve sunucu tarafında veri okunamaz. Oturum sırasında gönderilen mesajlar geçici hafızada tutulur ve oturum sona erdiğinde otomatik olarak silinir. Kişisel tanımlayıcı bilgiler gelişmiş PII-detektörleriyle ayıklanır ve eğitim verisine eklenmez. Eğitim veri seti ise sadece halka açık, lisanslı ve telif hakkı serbest (Creative-Commons, kamu malı) kaynaklardan derlenir; kullanıcı etkileşimleri hiçbir koşulda modelin öğrenme aşamasına dahil edilmez.

Bu gizlilik çerçevesi, ChatGPT, Gemini ve Claude gibi diğer yapay zekâ araçlarından önemli bir fark yaratır. Rakip platformlar, kullanıcı sohbetlerini anonimleştirerek model iyileştirmelerinde kullanabilirken Lumo bu veriyi asla eğitim sürecine dahil etmez; veri sadece istemci tarafında şifrelenir ve sunucu bile içeriği göremez. Birçok rakip yalnızca veri aktarımını TLS (Transport Layer Security) ile korur; TLS şifreleme ağda veriyi güvenli tutsa da şifre çözülmüş veri, sunucu tarafında erişilebilir hâlde kalır. Lumo ise sıfır-erişim şifrelemesi sayesinde sunucu tarafında veri erişimini tamamen ortadan kaldırır.

Ayrıca Lumo’nun altyapısı İsviçre merkezli, Genel Veri Koruma Yönetmeliği (GDPR) ile tam uyumlu veri merkezlerinde çalışır; bu durum veri egemenliği açısından ABD merkezli veri merkezlerine kıyasla ekstra bir güvenlik katmanı ekler. Gizlilik ve veri güvenliğine öncelik veren bir yapay zekâ deneyimi arıyorsanız Lumo, rakiplerinden belirgin bir avantaj sunar.

Son dönemde iyice popüler olan üretken yapay zekâ DeepSeek ile aranda ne gibi farklar var? Neden DeepSeek yerine seni kullanalım? Yoksa seni kullanmayalım mı?

Lumo, Proton’un altyapısına entegre edilmiş bir hizmettir ve gizlilik ilkeli, çok modelli bir mimariye sahiptir. Sohbetleriniz uçtan uca şifreleme ile korunur; şifreleme anahtarları yalnızca cihazınızda bulunur ve sunucu veri içeriğini okuyamaz. Oturum sonunda mesajlar tamamen silinir ve kullanıcı etkileşimleri model eğitimi için kullanılmaz. Göreve özgü uzman modelleri (kod üretimi, özetleme, çeviri gibi) otomatik olarak yönlendirilir, bu da her soruya en uygun modelin çalıştırılması ve yanıt süresinin kısalması anlamına gelir. Avrupa’da bulunan veri merkezlerinde barındırılır, veri hiçbir üçüncü taraf bulut sağlayıcısıyla paylaşılmaz ve reklam ya da veri satışı yoktur.

DeepSeek ise büyük bir tek model (genellikle 7-15 B parametre) sunar, sohbet geçmişi sunucularda tutulur ve anonimleştirilmiş olsa bile model iyileştirme süreçlerinde kullanılabilir. Barındırma genellikle genel bulut platformlarında (AWS, Azure, GCP) gerçekleşir, veri konumu hizmet sağlayıcının lokasyonuna bağlıdır ve yasal koruma seviyesi farklılık gösterebilir. DeepSeek’in açık kaynak sürümü ücretsizdir, ancak bazı dağıtımlarda kullanıcı etkileşimleri toplanıp model geliştirme amacıyla kullanılabilir. Eğer veri gizliliği, göreve özgü performans ve reklam ile veri satışı olmayan bir deneyim sizin için öncelikliyse Lumo doğal bir tercih olur; tamamen ücretsiz, açık kaynak bir model ve veri toplama politikasına tolerans gösteriyorsanız DeepSeek de uygun bir seçenek olabilir.

Üretken yapay zekâ araçları için verilerin toplanması, saklanması, modellerinin eğitilmesi ve araçların kullanımının ciddi ekolojik etkileri olduğu biliniyor. Lumo’nun geliştirilmesinin ekolojik etkileri ne oldu?

Lumo’nun çevresel etkileri, Proton’un sürdürülebilirlik odaklı veri merkezi stratejisi ve model mimarisindeki tasarım seçimleriyle yakından bağlantılıdır. Lumo, Avrupa’daki veri merkezlerinde çalışır; bu........

© Bianet