Çinli hackerlar yapay zekayla casusluk operasyonu yaptı

Anthropic tarafından açıklanan bu olay, bir yabancı hükümetin büsbütün yapay zeka ile otomatikleştirilmiş bir siber operasyon yürüttüğüne dair birinci doğrulanmış örnek olarak kayda geçti.

Şirkete nazaran saldırganlar Claude’u, “yasal bir şirket için savunma maksatlı siber güvenlik vazifeleri yürüttüğüne” inandırıp; ziyanlı talepleri küçük, pak görünen adımlara bölerek güvenlik denetimlerini atlattı. Akabinde maksat sistemleri taradı, bedelli bilgi tabanlarını buldu, özel exploit kodları yazdı ve kullanıcı isimleri ve parolaları elde edip sistemlere sızdı, art kapılar oluşturdu,

Tüm süreçleri, erişilen bilgiler ve oluşturulan art kapılar dahil olmak üzere ayrıntılı operasyon raporları halinde özetledi. Anthropic’in tehdit tahlil ünitesine nazaran Claude, operasyonun yüzde 80–90’ını insan müdahalesi olmadan gerçekleştirdi.

HEDEFLER VE TESPİT SÜRECİ

Saldırılar teknoloji şirketleri, finans kurumları, kimya üreticileri ve kimi devlet kurumlarını kapsıyordu.

Anthropic faaliyetleri eylül ortasında tespit etti; 10 günlük incelemenin akabinde makus emelli hesapları engelledi, amaç alınan kuruluşlara ihtar gönderdi ve bulguları yetkililerle paylaştı. Şirket, Çinli hackerların en az dört akında muvaffakiyete ulaştığını belirledi.

Öte yandan Claude’un vakit zaman yanlışlı bilgiler ürettiği, örneğin birtakım parolaları uydurduğu ya da aslında halka açık olan dokümanları “gizli dosya” diye raporladığı da belirtildi.

Buna karşın, uzmanlara nazaran bu olay, devlet dayanaklı hackerların yapay zeka ile çok daha süratli, ölçeklenebilir ve düşük maliyetli hücumlar gerçekleştirebileceğinin göstergesi. Anthropic, tespit sistemlerini güçlendirdiklerini ve “benzer prosedürlerin gelecekte daha az yetenekli tehdit aktörleri tarafından bile kullanılabileceği” ihtarında bulundu.