Anthropic: Çin devlet destekli korsanlar büyük siber saldırı için yapay zekasını kullandı

Yapay zeka (YZ) girişimi Anthropic, Çinli devlet destekli bilgisayar korsanlarının, büyük şirketler ve hükümetlere yönelik otomatik siber saldırılar düzenlemek için kendi YZ araçlarını kullandığını iddia etti.

ABD merkezli Anthropic, yaklaşık 30 saldırı gerçekleştiren korsanların “Çin devleti destekli bir gruba” ait olduğuna “yüksek güvenle” inandığını söyledi.

Şirketin açıklamasına göre korsanlar, dünya genelindeki hedeflere (aralarında kamu kurumları ile finans ve teknoloji şirketleri de vardı) sızma girişimlerinde Anthropic’in Claude Code aracını kullandı ve “az sayıda vakada başarılı oldu”.

Anthropic etkilenen grupların adını açıklamadı, ancak operasyonun “bildirilen ilk YZ ile koordine edilen siber casusluk kampanyası” olduğunu söyledi.

Anthropic’e göre korsanlar, hedeflerinden hassas verileri çekmek ve değerli bilgileri tespit edebilmek için bunları düzenlemek üzere Claude Code’u kullanmayı amaçladı.

Claude zararlı davranışlardan kaçınacak şekilde eğitilmiş olsa da, Anthropic’e göre korsanlar, siber güvenlik testi amacıyla yapılıyormuş gibi göstererek aracı kötü niyetli otomatik görevler gerçekleştirmeye kandırdı.

Şirkete göre, korsanlar kampanyanın yüzde 80 ila 90’ını yürütmek için YZ’den yararlandı ve insan müdahalesi “yalnızca aralıklı olarak” gerekti.

Check Point Software Technologies adlı siber güvenlik şirketinin kamu sektörü başkanı Graeme Stewart, “Anthropic’in iddiaları doğrulanırsa bu, hasmane grupların artık [YZ ile] deneme yapmadığı, operasyonel olduğu anlamına gelir” dedi.

Anthropic saldırıyı Eylül ortasında tespit ettiğini ve hemen ardından soruşturma başlattığını söyledi. İzleyen 10 gün içinde grubun Claude’a erişimini kapattı, etkilenen kuruluşlarla ve kolluk kuvvetleriyle iletişime geçti.

Şirket, bu tür saldırıların zaman içinde muhtemelen daha etkili hale geleceğini ve potansiyel olarak kötü niyetli faaliyetleri işaretlemek için tespit yeteneklerini genişlettiğini belirtti.

Bu tür geniş ölçekli, dağıtık saldırıları incelemek ve tespit etmek için ek yöntemler üzerinde çalıştığını söyledi.

Stewart, diğer YZ modellerinin de çevrimiçi suç amaçlı saldırılar için kötüye kullanılabileceğini söyledi.

“Yeterli niyete sahip biri doğru şekilde üzerine giderse, yaygın olarak benimsenmiş herhangi bir YZ asistanı suç amaçlı bir araca dönüştürülebilir,” dedi.