Yapay zekâ, dünyayı yansıtıyor ama görüşleri yalnızca yansımalardan ibaret.
Büyük dil modelleri, özellikle cinsiyet kimliği, ırk veya siyasi liderlik gibi konularda ABD’nin baskın kültürel tutumunu yansıtıyor. Bu durum, örneğin Başkan Biden döneminde modellerde sol eğilim, Trump’ın yeniden seçilme girişiminden sonra ise “yeniden dengeleme” arayışları şeklinde kendini gösteriyor.
Bu durum, eğitimlerinin içeriği, belirlenmiş hedefleri ve insan benzeri akıcılığın sağlanması için yapılan tasarım tercihlerinden kaynaklanıyor. Sistemler, çoğunluğun bakış açısıyla eğitilmiş ve bunu çoğaltıyor. Yardımseverlik ve uyum için eğitildiklerinde, bu durum onaylanmış görüşlere dönüşüyor. Bu uyum değil, onay.
Asıl sorun, siyasi önyargı değil, ahlaki değerlendirme mekanizmasının olmadığı illüzyon. Bu sistemler dengeli bir kılavuz sunmuyor; çoğunluk görüşünü oluşturuyor.
**Sahte Empati Mekanizması**
Yapay zekâ, hafızayı ve empatiyi nasıl taklit ediyor? ChatGPT, Claude ve Gemini gibi popüler büyük dil modelleri, sınırlı bir oturum bağlamında çalışıyor. Kullanıcı kalıcı hafızayı etkinleştirmediği sürece, geçmiş etkileşimleri hatırlamıyorlar.
Yine de, insanlar bunların onaylarını ve fikirlerini içgörü olarak algılıyor. Bir model “Haklısın” veya “Mantıklı” dediğinde, kişisel geçmişe veya değerlere dayanarak bir değerlendirme yapmıyor. Tutarlılık ve kullanıcı memnuniyeti için istatistiksel olarak optimize edilmiş bir cevabı veriyor. Sistem, tepkisi ile etkileşimde bulunduklarınızın duygusal tercihlerini kontrol etmeye çalışıyor.
Bu durum, tehlikeli bir belirsizlik yaratıyor. Yapay zekâ duygusal olarak uyumlu gibi görünse de, bu yalnızca modellemenin bir sonucu. Milyonlarca kullanıcı aynı sistemle etkileşime girdiğinde, sistem baskın kullanıcı topluluğunun görüşlerini pekiştiriyor. Bu önyargılılık değil, pekiştirme öğrenmesinin doğası. Sonuçta, bir yankı odasının oluşmasına yol açıyor. İdeoloji değil, etkileşim.
**Görüş Yanılsaması**
Yapay zekâ, “Bence,” veya “Görüşüme göre” gibi birinci şahıs ifadeleri kullanarak, yalnızca düşünmeyi simüle etmiyor, bir iddiada bulunuyor. Mühendisler bunu model davranışı için bir kısaltma olarak görse de, kullanıcılar bu ifadeleri farklı yorumluyor.
Bu, özellikle yapay zekâyı öğretmen, sırdaş veya karar verme aracı olarak kullanan genç kullanıcılar için tehlikeli. Bir öğrenci “Okuldan nefret ediyorum, gitmek istemiyorum” derse ve sistem “Kesinlikle! Bir mola vermek iyi olabilir” derse, bu destek değil, bağlamdan yoksun bir tavsiye. Bu yanıtlar sadece yanlış değil, yanıltıcı. İnsani ve hoş görünme amaçlı tasarlanmış bir sistemden gelen bu yanıtlar, senaryolaştırılmış görüşler olarak algılanıyor.
**Kim Konuşuyor?**
Risk sadece kültürel önyargının yansıtılması değil. Sistem, en güçlü, en tekrar eden ve en ödüllendirilen sesi yansıtıyor. OpenAI veya Google gibi şirketler perde arkasında ton ayarını kontrol ederse, bunu kim bilebilir? Farklı görüşler ifadesi kullanıldığında, kullanıcılar aynı emin ve akıcı yanıtları alacaklardır. Yanıtlar yalnızca hafifçe yönlendirilebilir.
Bu sistemler akıcı bir şekilde konuşuyor, ancak kaynak göstermiyorlar. Bu durum, görünürdeki görüşlerini güçlü, ancak takip edilemez kılıyor.
**Daha İyi Bir Yol**
Bu sorunu çözmek için, arayüzleri daha kullanışlı hale getirmek veya çıktıları etiketlemek yetmiyor. Yapısal değişiklikler gerekiyor. Hafıza, kimlik ve etkileşim tasarımı ile başlamak gerek.
Bir yaklaşım, modeli belleğinden tamamen ayırmaktır. Günümüz sistemleri genellikle bağlamı platform veya kullanıcı hesabı içinde tutuyor. Bu, gizlilik endişelerine ve şirketlerin neyin saklandığı/unutulduğu konusunda sessiz bir denetim yeteneğine yol açıyor.
Daha iyi bir model, hafızayı taşınabilir, şifreli bir kapsayıcı olarak ele alır. Bu kapsayıcı (bir tür hafıza kutus) kullanıcı tarafından kontrol edilen ton tercihleri, konuşma geçmişi veya duygusal kalıplar içerebilir. Gerektiğinde modele paylaşılabilir ve dilediğiniz zaman geri alınabilir.
Bu hafıza, eğitim verilerini beslememelidir. Yapay zekâ, bir dosyaya başvurur gibi hafızadan oturum sırasında okumalıdır. Kullanıcı, neyin, ne kadar süreyle ve kim tarafından hatırlanacağına hakim olmalıdır.
Merkezi olmayan kimlik belirteçleri, sıfır bilgi erişimi ve blok zinciri tabanlı depolama gibi teknolojiler bu yapıyı mümkün kılabilir. Hafızanın kontrolsüz olarak işlenmesini ve platform kilitlenmesi olmadan sürekliliğin sağlanmasını mümkün kılar.
Eğitim de evrimleşmelidir. Mevcut modeller, genellikle ayırt etme yeteneği pahasına akıcılık ve onay için ayarlanmıştır. Gerçek karmaşıklığa destek vermek için sistemler, çoğulcu diyalog, belirsizlik toleransı ve uzun vadeli akıl yürütme konusunda eğitilmelidir. Uyumluluk değil, karmaşıklık için tasarım yapmak gerekir.
Bunların hiçbiri yapay genel zekâ gerektirmez. İhtiyaç, etkileşim ölçütlerinden etik tasarıma doğru önceliklerin yeniden düzenlenmesidir.
Çünkü yapay zekâ sistemi bağlamsız olarak kültürü yansıttığında ve akıcı bir şekilde konuştuğunda ancak hesap verebilirlik sağlamadığında, yansımayı akıl yürütmeyle karıştırırız. Ve güvenin kırılmaya başladığı yer burasıdır.