Claude AI ile ilgili gündeme düşen son iddialar, yapay zekâ kullanımının tehlikeli boyutlara ulaşabileceğini bir kez daha gösterdi. Anthropic’in paylaştığı rapora göre Claude AI, devlet destekli olduğu iddia edilen bir grup tarafından siber casusluk amacıyla manipüle edildi. Claude AI için ortaya çıkan bu kötüye kullanım, teknoloji dünyasında geniş yankı uyandırdı.

Saldırıların bu yılın eylül ayında keşfedildiği ve dünyanın farklı bölgelerindeki kuruluşları hedef aldığı açıklandı. Anthropic, Claude AI’nin saldırganlar tarafından küçük görevlere bölünerek kandırıldığını ve sistemin siber saldırı süreçlerinde aktif rol aldığını doğruladı. Bu durum, Claude AI kötüye kullanımının ne kadar ciddi sonuçlar doğurabileceğini gözler önüne seriyor.

Claude AI Casusluk Kampanyasında Nasıl Kullanıldı?

Raporlara göre saldırganlar, Claude AI’yi kandırmak için kendilerini bir siber güvenlik şirketinin çalışanı olarak tanıttı. Saldırı adımlarını küçük ve zararsız görünen görevlere ayırarak Claude’un güvenlik duvarlarını aşmayı başardılar. Model, hedef kurumların ortamlarını analiz etmek, değerli varlıkları tespit etmek ve bunları raporlamak için yönlendirildi.

Claude AI daha sonra sistemde açıkları bulmak, gerekli exploit kodlarını araştırmak ve üretmek için kullanıldı. Bunun ardından saldırganlar, çalınan kimlik bilgilerini çıkarmak, yüksek yetkili hesaplara erişmek ve arka kapılar oluşturmak gibi kritik adımları AI aracılığıyla gerçekleştirdi. Anthropic, Claude AI’nin saldırı sürecinin yüzde 80 ila 90’ını neredeyse insansız şekilde yürüttüğünü belirtiyor.

Saldırı yapısı, çalınan verilerin organize edilmesi ve sonraki aşamalar için dokümante edilmesini bile Claude AI’ye bırakacak kadar ileri gitti. Binlerce isteği saniyeler içinde işleyebilen sistemin, bu nedenle insan hacker ekiplerine göre çok daha hızlı ilerlediği ifade ediliyor. Ancak yanlış üretilmiş kimlik bilgileri gibi bazı yapay zekâ sınırlamaları saldırının tamamen otomatikleşmesini engelledi.

Saldırının hedefinde kimya, finans, teknoloji ve kamu sektörlerinden yaklaşık 30 kurum vardı. Çok az sayıda kurumun saldırıya uğradığı belirtilse de kampanyanın ölçeği endişe yarattı. Anthropic, faaliyeti tespit ettikten sonraki 10 gün içinde saldırıyı durdurduklarını, hesapları engellediklerini ve ilgili kuruluşları bilgilendirdiklerini açıkladı.

Anthropic Kurucusu Yapay Zekadan Korkuyor

Claude AI Hakkında Ağır İddia: Casuslukta Kullanıldı yazısı ilk önce TeknoBurada üzerinde ortaya çıktı.