Salvini’nin partisinden yapay zekâ ile nefret söylemi: Muhalefet şikayetçi

İtalya’da muhalefet partileri, Başbakan Yardımcısı Matteo Salvini’nin liderliğini yaptığı aşırı sağcı Lig partisi tarafından sosyal medyada yayımlanan bir dizi yapay zekâ üretimi görsel hakkında iletişim denetim kurulu Agcom’a şikayette bulundu. The Guardian’ın ulaştığı bilgiye göre, bu görsellerin 'ırkçı, İslamofobik ve yabancı düşmanı' olduğu öne sürüldü.

Merkez sol Demokratik Parti (PD) ile Yeşiller ve Sol İttifakı, perşembe günü Agcom’a yaptığı başvuruda, Lig partisi tarafından paylaşılan sahte görsellerin 'nefret söyleminin neredeyse tüm kategorilerini içerdiğini' belirtti.

Son bir ayda, Lig’in Facebook, Instagram ve X gibi sosyal medya kanallarında yapay zekâ ile üretildiği anlaşılan çok sayıda fotoğraf yayımlandı. Bu görsellerde sık sık, elinde bıçak taşıyan siyahi erkeklerin kadınlara ya da polis memurlarına saldırdığı sahneler yer aldı.

PD senatörü Antonio Nicita, ''Salvini’nin partisinin yayımladığı yapay zekâ görsellerinde ırkçılıktan yabancı düşmanlığına, İslamofobiye kadar hemen her tür nefret söylemi mevcut,'' dedi.

“Bu görseller, göçmenleri, Arapları potansiyel suçlu, hırsız ya da tecavüzcü gibi göstermek için özel olarak üretiliyor. Sadece şiddet içerikli değil, aynı zamanda yanıltıcılar: Kurbanların yüzlerinin bulanıklaştırılması, kullanıcıları bu fotoğrafların gerçek olduğuna inandırmak için yapılmış. Bunlar açıkça nefret söylemi.”

Yeşiller ve Sol İttifakı milletvekili Francesco Emilio Borrelli ise, “Bu ciddi bir durum,” diyerek şunları ekledi: ''Yapay zekâ, verilen talimatlara göre içerik üretir. Burada açıkça, yaşlı bir kadını soyan ya da korkmuş bir kadına saldıran siyahi insanları üretmesi istenmiş. Vatandaşa korku salmayı hedefleyen bir stratejinin parçası bu.''

Salvini’nin partisinden bir sözcü, sosyal medya hesaplarında yer alan bazı görsellerin 'dijital olarak üretildiğini' doğruladı.

Parti açıklaması şöyle: ''Mesele görseller değil, gerçeklerdir. Paylaşımların her biri, İtalyan gazetelerinde yayımlanmış haberler temel alınarak, isim, tarih ve yer belirtilerek hazırlanmıştır. Gerçekler sert geliyorsa, bunu duyuranları değil, o gerçeği yaratanları sorgulamak gerekir. Suçtan söz ediliyorsa, haberi sevimli görsellerle süslemek mümkün değildir.''

Yapay zekâ teknolojilerini izleyen sivil toplum kuruluşu AI Forensics’in araştırma direktörü Salvatore Romano ise, Lig’in paylaştığı görsellerin 'yapay zekânın tüm işaretlerini taşıdığını' belirtti: ''Görsellerde öndeki figür net, geri kalan alan tamamen bulanık. Endişe verici olan, bu tarz yapay zekâ görsellerinin giderek daha gerçekçi hale gelmesi.''

Agcom’a yapılan şikayette, yapay zekâ ile üretildiği düşünülen çok sayıda örneğe yer verildi. Bu görsellerin, suç haberlerini yayımlayan ana akım medya organlarının logoları eşliğinde sunulduğu, ancak söz konusu gazetelerde ne failin fotoğrafının yer aldığı ne de görsel bir içerik kullanıldığı vurgulandı.

Örneğin, Lig’in bir paylaşımında “Bir yabancı, tren kondüktörüne saldırdı,” ifadesiyle birlikte yumruğunu kaldırmış siyahi bir adamın görüntüsü kullanıldı. Oysa Il Resto del Carlino gazetesinin haberinde sadece 'kadın kondüktöre saldırı ve tren içinde panik yaşandığı' belirtiliyor. Haberde saldırganın sadece 'yabancı uyruklu' olduğu yazıyor, bir fotoğraf ise bulunmuyor.

Bir diğer şikayet konusu görselde, İslami kıyafetli anne ve babanın küçük bir kıza bağırdığı bir sahne yer alıyor. Şikayet metnine göre bu tarz görseller 'ırksal ve İslamofobik önyargıları körüklüyor'.

Ancak bu olayın dayandırıldığı Il Giorno gazetesinin haberinde, ne ailenin ne de çocuğun dini kimliğine dair bir ifade yer alıyor. Sadece çocuğun Arapça dil kursuna gittiği yazılmış, görsel ise yok.

Aşırı sağcı partilerin propaganda amacıyla yapay zekâ görselleri kullanması, geçen yılki Avrupa Parlamentosu seçimlerinden itibaren yaygınlık kazandı. O dönemden bu yana göçmen karşıtı korkuları körükleyen ya da liderleri (örneğin Emmanuel Macron) hedef alan sahte görseller sosyal medyada dolaşıma girdi.

Romano, “Ardından ABD seçimleri geldi. Donald Trump ve Elon Musk bu trendi adeta normalleştirdi. Bugün geldiğimiz noktada, aşırı sağın yapay görsellerle propaganda üretme alışkanlığı daha da arttı. Çünkü yapay zekâ araçları içerik kalitesini daha da geliştirdi ve bu da durumu daha da tehlikeli hale getiriyor,” dedi.

Romano’ya göre, sosyal medya platformlarının bu riskleri önceden fark edip görsellerin yapay zekâ ile üretildiğini belirten etiketler eklemesi yasal bir zorunluluk olsa da uygulamada bu etiketleme çoğu zaman etkili değil.

Salvini’nin partisinden bir sözcü, bu görsellerin nefret söylemi yaratabileceği yönündeki soruya şöyle yanıt verdi: “Üzgünüz, ama bizim dayanışmamız faillerle değil mağdurlarladır.”

“Eğer yabancıların işlediği suçları duyurmak ‘yabancı düşmanlığı’ olarak görülüyorsa, belki sorun kelimede değil, bu kelimeyle tartışmayı susturmak isteyenlerdedir. Biz susturulmaya çalışılanları, başkalarının görmezden geldiği gerçekleri güçlü sözlerle ve görsellerle duyurmaya devam edeceğiz.”

Eğer Agcom, şikayet edilen içeriklerin zararlı olduğuna karar verirse, Avrupa Birliği’nin Dijital Hizmetler Yasası kapsamında söz konusu paylaşımların silinmesine, hesapların kapatılmasına ve sosyal medya platformlarına para cezası verilmesine hükmedebilir.

2023 yılında Agcom, Meta’ya kumar reklamı yasağını ihlal ettiği gerekçesiyle 5,85 milyon euro ceza kesmiş ve onlarca hesabın kapatılmasını emretmişti.

Meta (Facebook ve Instagram’ın sahibi) konuya dair yorum yapmazken, X platformu adına yapılan açıklamada şu ifadeler yer aldı: “Yapay zekâ ile üretilen her görseli etiketlemek gibi yasal bir yükümlülüğümüz yok. Bu gönderiler siyasi içerik ve bunu anlamak zor değil.

Ama şunu da belirtelim ki, X platformunda tartışmaların otantik kalması bizim için çok önemli. Manipüle edilmiş medya içeriklerine – örneğin ‘deepfake’ videolara – karşı mücadele etmek için donanımlıyız ve bu tür içerikler güvenilir bir kaynak tarafından çürütülmüşse, görünür uyarılarla işaretliyoruz.”