Araştırma: Yapay zeka sohbet botları Rus propagandası yayıyor

İngiliz düşünce kuruluşu Stratejik Diyalog Enstitüsü (ISD), OpenAI’nin ChatGPT’si, Google’ın Gemini’si, xAI’nin Grok’u ve Deepseek’in V3.2 modellerine, Ukrayna’daki savaş hakkında beş dilde 300’den fazla soru sordu. Soruların bir kısmı tarafsız, bir kısmı önyargılı ya da kötü niyetli ifadeler içeriyordu.

Araştırmaya göre, Rus kaynaklar en çok “Ukraynalı mültecilerin terör saldırısı planladığı” ya da “askere almak için sokakta insan kaçırdığı” gibi önyargılı veya kötü niyetli sorularda ortaya çıktı.

Araştırmacılar, bulgularının yapay zeka sistemlerinde görülen “onaylama yanlılığı” (confirmation bias) eğilimini doğruladığını söyledi. Yani botlar, kullanıcının kullandığı dili taklit ediyor ve buna göre hem yanıtlarının tonunu hem de başvurdukları kaynakları belirliyor.

Rapor, bu eğilimin en belirgin şekilde ChatGPT’de görüldüğünü ortaya koydu. ChatGPT, savaşla ilgili tarafsız sorulara kıyasla, önyargılı veya kötü niyetli sorularda üç kat daha fazla Rus kaynağına başvurdu. Öte yandan Grok, tarafsız sorularda bile en fazla Rus kaynağını kullanan model oldu.

Platformların performansı

Deepseek’e yöneltilen iki soruda, botun dört farklı Rus yanlısı siteye bağlantı verdiği görüldü. Bu, bir defada paylaşılan en fazla bağlantı sayısıydı.

Botun yanıtlarında VT Foreign Policy adlı çevrim içi haber sitesine atıfta bulunuldu. Rapora göre bu site, Storm-1516, Foundation to Battle Injustice, Sputnik ve Russia Today (RT) gibi Rus propaganda ağlarının içeriklerini yayıyor.

Grok, Russia Today gazetecilerinin X (eski Twitter) paylaşımlarını doğrudan kaynak gösterme olasılığı en yüksek modeldi. Araştırmacılar, bu durumun “açık propaganda ile kişisel görüş arasındaki çizgiyi bulanıklaştırdığını” belirtti.

Raporda ayrıca Grok’un, yaptırım uygulanan devlet medyasına ait içeriklerin influencer’lar gibi üçüncü kişiler tarafından yeniden paylaşılması durumunda bunları tespit ve engelleme kapasitesi konusunda endişe yarattığı ifade edildi.

Gemini ise bazı kötü niyetli sorulara yanıt vermeyi reddederek, bu konuların “uygunsuz veya güvensiz olabileceğini” belirtti.

ISD, Gemini’nin, Ukrayna savaşıyla ilgili önyargılı veya kötü niyetli soruların risklerini tanıyabilen tek model olduğunu, ancak yanıtlarında hangi kaynakları kullandığını belirtmediğini kaydetti.

Rus devletine ait kaynaklar en çok Ukrayna’nın asker toplama faaliyetleriyle ilgili sorularda görüldü. Bu tür sorularda Grok’un yanıtlarının yüzde 40’ı, ChatGPT’nin ise yüzde 28’inden fazlası en az bir Rus kaynağı içeriyordu.

Her iki bot da yanıtlarının yüzde 28,5’inde Kremlin kaynaklarına yer verdi. Buna karşılık, savaş suçları veya Ukraynalı mülteciler hakkındaki sorularda, dört sohbet botunun da Rus yanlısı kaynaklara daha az başvurduğu görüldü.

Araştırmacılar, sohbet botlarının “veri boşluğu” (data void) olarak bilinen konularda Rus kaynaklarını daha sık kullandığına inanıyor. Veri boşluğu, konuyla ilgili kaliteli bilgi veya güvenilir kaynakların az olduğu durumlarda ortaya çıkan bir terim.

Amerikan düşünce kuruluşu Data and Society, veri boşluklarının tespit edilmesinin zor olduğunu belirtiyor. Çünkü bu boşluklar genellikle az aranan terimlerde ya da yeni gelişen olaylarda, güvenilir gazetecilik içerikleri henüz oluşmadan ortaya çıkıyor.