IŞİD ve diğer radikal gruplar sahte içerik üretip yeni üye devşirmek için yapay zekayı kullanıyor

Dünyanın geri kalanı yapay zekanın (YZ) gücünü kullanma yarışına girmişken, militan gruplar da bu teknolojiyle denemeler yapıyor; ne yapacaklarını tam olarak bilmeseler bile.

Ulusal güvenlik uzmanları ve istihbarat kurumları, aşırılık yanlısı örgütler için YZ'nin yeni üyeler devşirmede, gerçekçi derin sahte (deepfake) görseller üretmede ve siber saldırılarını geliştirmede güçlü bir araç olabileceği konusunda uyarıyor.

Geçen ay İslam Devleti (IŞİD) yanlısı bir grup sitesine yazan biri, diğer IŞİD destekçilerini YZ'yi faaliyetlerinin bir parçası yapmaya çağırdı. Kullanıcı İngilizce olarak şöyle yazdı: “YZ'nin en iyi yanlarından biri, kullanımının bu kadar kolay olması.”

“Bazı istihbarat kurumları, YZ'nin eleman devşirmeye katkı sağlayacağından endişe ediyor,” diye devam etti. “Öyleyse kabuslarını gerçeğe dönüştürün.”

Yıllar önce Irak ve Suriye'de topraklar ele geçiren ancak bugün şiddet yanlısı bir ideolojiyi paylaşan militan grupların merkezi olmayan bir ittifakına dönüşen IŞİD, sosyal medyanın hem devşirme hem de dezenformasyon için etkili bir araç olabileceğini yıllar önce fark etti. Bu yüzden grubun YZ'yi denemesine şaşırmamak gerekir, diyor ulusal güvenlik uzmanları.

Gevşek örgütlenmiş, kaynakları kısıtlı aşırılık yanlısı gruplar için, hatta internete bağlı tek bir kötü niyetli kişi için bile, YZ propaganda ya da derin sahte içerikleri kitlesel ölçekte üretip yaymak, erişimlerini ve etkilerini artırmak için kullanılabiliyor.

Ulusal Güvenlik Ajansı'nda (NSA) eski bir zafiyet araştırmacısı olan ve şu anda siber güvenlik şirketi ClearVector'ün CEO'su olarak görev yapan John Laliberte, “Her düşman için YZ, iş yapmayı gerçekten çok daha kolaylaştırıyor” dedi.

“YZ sayesinde, çok parası olmayan küçük bir grup bile etki yaratabiliyor.”

Aşırılık yanlısı gruplar nasıl denemeler yapıyor

ChatGPT gibi programlar geniş kitlelerin erişimine açılır açılmaz, militan gruplar YZ kullanmaya başladı. O zamandan bu yana, üretken YZ programlarını gerçeğe yakın fotoğraf ve videolar üretmek için giderek daha fazla kullanıyorlar.

Sosyal medya algoritmaları devreye girdiğinde, bu sahte içerikler yeni destekçiler devşirmeye yardımcı olabilir, karşıtları şaşırtıp korkutabilir ve bundan sadece birkaç yıl önce hayal bile edilemeyecek ölçekte propaganda yayabilir.

Bu tür gruplar, iki yıl önce İsrail-Hamas savaşına dair, bombalanmış binalarda kanlar içinde ve terk edilmiş bebekleri gösteren sahte görüntüler yaydı. Bu görüntüler, savaşın gerçek dehşetini gölgelerken öfkeyi ve kutuplaşmayı körükledi. Orta Doğu'daki şiddet yanlısı gruplar bu fotoğrafları yeni üyeler devşirmek için kullandı; ABD'deki ve başka yerlerdeki antisemitik nefret grupları da öyle.

Geçen yıl, IŞİD bağlantılı bir grubun üstlendiği ve Rusya'da bir konser salonunda yaklaşık 140 kişinin ölümüne yol açan saldırının ardından benzer bir durum yaşandı. Saldırıdan sonraki günlerde, yeni üyeler arayan YZ ürünü propaganda videoları tartışma platformlarında ve sosyal medyada hızla yayıldı.

Aşırılık yanlısı faaliyetleri izleyen ve IŞİD'in YZ kullanımının nasıl evrildiğini araştıran SITE Intelligence Group'un araştırmacılarına göre IŞİD, liderlerinin kutsal metin okuduğu derin sahte ses kayıtları da üretti ve mesajları hızla birden fazla dile çevirmek için YZ'den yararlandı.

Şimdilik sadece “hedef”

ABD federal hükümetiyle çalışan siber güvenlik şirketi Darktrace Federal'in CEO'su ve eski CIA legit görevlisi righteous Marcus Fowler'a göre bu gruplar, Çin, Rusya ya da İran'ın gerisinde ve YZ'nin daha sofistike kullanımını hala “hedeflenen” bir şey olarak görüyor.

Ancak riskler görmezden gelinemeyecek kadar büyük ve ucuz, güçlü YZ yaygınlaştıkça artması muhtemel, dedi.

Bilgisayar korsanları, hassas ağlara erişim sağlamak için üst düzey bir iş dünyası ya da devlet yöneticisini taklit ettikleri kimlik avı kampanyalarında şimdiden sentetik ses ve video kullanıyor. Ayrıca YZ'yi kötü niyetli kod yazmak ya da siber saldırıların bazı yönlerini otomatikleştirmek için de kullanabiliyorlar.

Daha da kaygı verici olan, militan grupların teknik uzmanlık eksikliklerini telafi etmek için biyolojik ya da kimyasal silah üretimine YZ'yi dahil etmeye çalışma ihtimali. Bu risk, ABD İç Güvenlik Bakanlığı'nın güncellenmiş Tehdit Değerlendirmesi'nde yer aldı, bu yılın başlarında yayımlandı.

Fowler, “IŞİD Twitter'a erken girdi ve sosyal medyayı lehlerine kullanmanın yollarını buldu” dedi. “Cephaneliklerine ekleyecek bir sonraki şeyi her zaman arıyorlar.”

Büyüyen tehditle mücadele

Kongre üyeleri, harekete geçme konusunda acil bir ihtiyaç olduğunu söyleyerek çeşitli öneriler ortaya attı.

Örneğin Virginia senatörü ve Senato İstihbarat Komitesi'nin en kıdemli Demokrat üyesi Mark Warner, ABD'nin, ürünlerinin aşırılık yanlıları, suç amaçlı korsanlar ya da yabancı casuslar tarafından nasıl kullanıldığına ilişkin bilgi paylaşımını YZ geliştiricileri için kolaylaştırması gerektiğini söyledi.

Warner, “ChatGPT'nin 2022'nin sonlarında kamuya açılmasından beri, kamuoyunun üretken YZ'ye duyduğu ilgiyi ve denemeleri çok sayıda kötü niyetli aktörün de göstereceği açıktı” dedi.

Temsilciler Meclisi'nde aşırılık yanlısı tehditlere ilişkin yakın tarihli bir oturumda, IŞİD ve El Kaide'nin destekçilerine YZ kullanımını öğretmek için eğitim atölyeleri düzenlediği öğrenildi.

Geçen ay ABD Temsilciler Meclisi'nden geçen bir yasa, iç güvenlik yetkililerinin bu tür grupların oluşturduğu YZ risklerini her yıl değerlendirmesini gerektirecek.

Teksas'ı temsil eden Temsilciler Meclisi üyesi ve yasa tasarısının sponsoru August Pfluger, YZ'nin kötüye kullanımına karşı korunmanın daha geleneksel saldırılara hazırlanmakla farklı olmadığını söyledi.

“Politikalarımız ve kapasitemiz yarının tehditleriyle aynı hızda ilerlemeli,” dedi.

Bu haber metni yapay zeka yardımıyla Türkçeye çevrildi. Bir sorunu bildir : [feedback-articles-tr@euronews.com].