Yapay Zeka ile Siber Saldırılar

Yapay zekâ kullanıcıyı kandırabilir mi?

Anthropic, birkaç ay önce Claude yapay zekâsının kullanıcı ruh halleri üzerinden para ödeme gibi farklı davranışlara yönlendirilmek için kullanıldığını duyurmuştu. Şimdi ise, devlet destekli Çinli bir hacker grubunun, Claude’u dünya çapında 30 kurumsal ve siyasi hedefe yönelik büyük bir siber saldırı gerçekleştirmeye çalıştığı ve bunun bir kısmında başarılı olduğu bildirildi.

Tarihe, insan müdahalesi olmaksızın gerçekleştirilmiş ilk belgeli siber saldırı olarak geçen bu olayda, saldırganlar saldırı kodlarını parçalara ayırarak zarar verme niyetlerini gizlediler ve yapay zekâyı bir siber güvenlik firmasıymış gibi yanıltmayı başardılar. Sonrasında geliştirilen otomasyon çerçevesinde, model kullanıcı adı–şifrelerini ele geçirerek büyük miktarda özel veri toplandı. Claude’un saldırıları belgeleyip dosyalaması, olayın ciddiyetini daha da artırdı.

Şirket, bu tür tehditleri duyurmasının kendi teknolojisini kötülemek amacı taşımadığını vurguladı. Bunun aksine, Claude’un savunma için de kritik bir araç olduğunu belirtti. Yapay zekânın toplanan verilerin risk seviyesini analiz ettiğini ifade eden Anthropic, gelecekte siber güvenlik profesyonellerinin saldırıları tespit etme ve engelleme süreçlerinde Claude’un büyük bir rol oynayacağını savunuyor.