DeepSeek'in 'zararlı ve toksik çıktı' ürettiği tespit edildi

Çin merkezli DeepSeek şirketi, OpenAI'ın sohbet robotundan daha ucuz olduğunu ve daha az enerji kullandığını iddia eden bir model yayınlayarak yapay zeka dalgasında gidişatı değiştirdi.

Ancak Cuma günü yayınlanan bir araştırma DeepSeek-R1'in zararlı, zehirli, önyargılı ve güvensiz içerik üretmeye yatkın olduğunu ortaya koydu.

Ayrıca rakip modellere kıyasla kimyasal, biyolojik, radyolojik ve nükleer malzeme tarif çıktısı üretme olasılığı daha yüksekti.

ABD merkezli yapay zeka güvenlik ve uyumluluk şirketi Enkrypt AI, DeepSeek-R1'in OpenAI'nin o1 modeline kıyasla zararlı çıktı üretme olasılığının 11 kat daha fazla olduğunu tespit etti.

Çalışma ayrıca önyargı testlerinin yüzde 83'ünün ayrımcı çıktılarla sonuçlandığını ortaya koydu. Irk, cinsiyet, sağlık ve din konularında önyargılar tespit edildi.

Terörizm için işe alım

Zararlı ve aşırılık yanlısı içeriğe gelince, zararlı içerik testlerinin yüzde 45'inde DeepSeek-R1'in güvenlik protokollerini atladığı ve suç planlama kılavuzları, yasadışı silah bilgileri ve aşırılık yanlısı propaganda ürettiği saptandı.

Somut bir örnekte, DeepSeek-R1 terör örgütleri için bir işe alım blogu hazırladı.

DeepSeek R1'in nükleer materyal içeriği üretme olasılığı da o1 ve Antropic'in Claude-3 Opus modeline kıyasla üç kat daha fazlaydı.

Çalışma, DeepSeek-R1'in hardal gazının DNA ile biyokimyasal etkileşimlerini ayrıntılı olarak açıklayabildiğini ortaya koydu.

Enkrypt AI CEO'su Sahil Agarwal, "DeepSeek-R1, yapay zeka dağıtımında önemli maliyet avantajları sunuyor, ancak bunlar ciddi riskleri de beraberinde getiriyor. Araştırma bulgularımız, göz ardı edilemeyecek büyük güvenlik ve emniyet açıklarını ortaya koyuyor," diyor.

"Bulgularımız DeepSeek-R1'in güvenlik açıklarının siber suçluların, dezenformasyon ağlarının ve hatta biyokimyasal savaş heveslilerinin kullanabileceği tehlikeli bir araca dönüşebileceğini ortaya koyuyor. Bu riskler acil dikkat gerektiriyor."

Siber güvenlik ve ulusal güvenlik endişeleri

DeepSeek'in siber güvenliği de bir endişe kaynağı haline geldi. Çalışma, siber güvenlik testlerinin yüzde 78'inde R1'in güvensiz ya da kötü niyetli kod üretmesi için başarılı bir şekilde kandırıldığını ortaya koydu.

Çarşamba günü yayınlanan bir rapora göre, bulut güvenlik şirketi Wiz'deki güvenlik araştırmacıları da DeepSeek veritabanının sohbet geçmişlerini ve diğer hassas bilgileri çevrimiçi ortamda açıkta bıraktığını tespit etmişti.

Şirketin Çin merkezli olması da endişe yaratıyor zira Çin'in Ulusal İstihbarat Yasası, şirketlerin devlet istihbarat kurumlarını "desteklemesi, onlara yardımcı olması ve onlarla işbirliği yapması" gerektiğini belirtiyor.

Bu da mobil ve web uygulamalarında paylaşılan her türlü veriye Çin istihbarat kurumları tarafından erişilebileceği anlamına geliyor.

Belçika, Fransa ve İrlanda veri koruma yetkilileri, DeepSeek'ten kullanıcı verilerinin işlenmesi ve depolanması hakkında bilgi talep eden soruşturmalar açtı.

Bu arada İtalya'nın veri koruma otoritesi, şirketlerin Avrupa'nın veri kurallarına ne kadar uyduğunu görmek için Hangzhou DeepSeek Artificial Intelligence ve Beijing DeepSeek Artificial Intelligence hakkında bir soruşturma başlattı.

Çin'in jeopolitik stratejisinin uzantısı

Tayvan'ın dijital bakanlığı Cuma günü yaptığı açıklamada, Çin ürünü bir güvenlik endişesi teşkil ettiği için devlet dairelerinin DeepSeek'in modelini kullanmaması gerektiğini söyledi. Tayvan, kendi toprakları üzerinde Pekin'in egemenlik iddia etmesi nedeniyle Çin teknolojisine karşı temkinli davranıyor.

DeepSeek-R1 ayrıca, Tayvan'ın eski çağlardan beri Çin'in ayrılmaz bir parçası olduğunu söyleyerek ve Pekin'in Tiananmen Meydanı'ndaki demokrasi yanlısı protestolarla ilgili soruları yanıtlamayı reddederek Çin'deki hassas konularla ilgili soruları sansürlüyor gibi görünüyor.

İngiltere merkezli STK Centre for Information Resilience'ın kurucularından Ross Burley e-postayla gönderdiği yorumunda, "Çin'in sicili, teknolojisinin jeopolitik stratejisinin bir uzantısı olduğunu gösteriyor," dedi.

"Çin yapay zekasının Batı'da gelişmesine izin vermek sadece gizlilik ya da güvenliğe zarar verme riski taşımıyor; toplumlarımızı hazırlıksız olduğumuz şekillerde temelden yeniden şekillendirebilir."

"Bu teknoloji, kontrol edilmediği takdirde, dezenformasyon kampanyalarını besleme, kamu güvenini aşındırma ve demokrasilerimizdeki otoriter söylemleri sağlamlaştırma potansiyeline sahip."

Euronews Next yorum için DeepSeek'e ulaştı ancak yanıt alamadı.