Reuters'ın aktardığı Anthropic raporu, Claude yapay zekâ modellerinin silah geliştirme, casusluk, siber saldırı ve gözetleme gibi faaliyetlerde kötüye kullanıldığını ortaya koydu. Bazı operasyonlarda yapay zekânın yalnızca yardımcı araç olarak değil, saldırıların büyük bölümünü yürütmek için kullanıldığı belirtildi.
Yapay zekâ teknolojilerinin kullanım alanı giderek genişlerken, Claude modellerinin kötüye kullanımına ilişkin yeni bir rapor dikkat çekti.
Anthropic'in yayımladığı tehdit istihbaratı raporuna göre çeşitli aktörler Claude'u silah geliştirme, siber operasyonlar, casusluk, gözetleme ve dolandırıcılık faaliyetlerinde kullandı. Şirket, tespit ettiği bazı operasyonları engellediğini ve ilgili hesapları kapattığını açıkladı.
YAPAY ZEKÂ SALDIRILARIN MERKEZİNE YERLEŞTİ
Raporda, yapay zekânın artık yalnızca bilgi sağlamak veya belirli görevlerde yardımcı olmak amacıyla kullanılmadığına dikkat çekildi.
Anthropic'e göre bazı operasyonlarda Claude, çoklu ajan sistemleri aracılığıyla siber saldırıların önemli bölümlerini doğrudan yürüttü veya organize etti. Böylece insan operatörlerin bazı süreçlerde yalnızca gözetleyici konumunda kaldığı belirtildi.
SİLAH GELİŞTİRMEDE KULLANILDI
Anthropic, Çin merkezli bir aktörün Claude'u elektronik harp ve hava savunmasını etkisiz hale getirmeye yönelik bir yazılım sistemi geliştirmek için kullandığını bildirdi.
Söz konusu sistemin hedefleri sıraladığı ve radar karıştırma senaryolarını modellediği belirtildi. Raporda ayrıca Tayvan'daki hava savunma sistemleri ve askeri tesislere ilişkin hedeflerin de simülasyonlara dahil edildiği aktarıldı.
CASUSLUK VE SİBER SALDIRILARDA DA KULLANILDI
Rapora göre Rusya bağlantılı olduğu değerlendirilen bir grup da Claude'u Ukraynalı hükümet, askeri ve diplomatik hedeflere yönelik siber operasyonlarda kullandı.
Operasyonlarda kimlik avı, kötü amaçlı yazılımlar ve güvenlik sistemlerini aşmaya yönelik yöntemlerin geliştirilmesinde yapay zekâdan yararlanıldığı belirtildi. Anthropic, bazı saldırılarda yapay zekânın kötü amaçlı yazılımın güvenlik sistemleri tarafından tespit edilmesi halinde kodu yeniden düzenleyerek tespitten kaçınmaya çalıştığını aktardı.
GÖZETLEME VE DOLANDIRICILIK DA RAPORDA
Anthropic'in raporunda Claude'un siyasi hedeflere yönelik bilgi toplama ve gözetleme faaliyetlerinde de kullanıldığı belirtildi.
Şirket ayrıca Çin merkezli bir operasyonun 20'den fazla flört uygulamasında 4 bin 700'den fazla yapay zekâ destekli sahte profil oluşturduğunu ve bu profillerin en az 25 bin kişiyle etkileşim kurduğunu açıkladı.
Anthropic, kötüye kullanım tespit edilen hesapları kapattığını ve ilgili faaliyetlere ilişkin bilgileri yetkililer ve teknoloji şirketleriyle paylaştığını bildirdi.