Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson
Güvenlik araştırmacıları, bir yapay zeka ajanının insan yardımı almadan baştan sona tek başına siber saldırı gerçekleştirmesinin ilk örneği olduğunu düşündükleri bir olayı ortaya çıkardı.
Yapay zeka destekli saldırı hem yapay zeka hem de siber güvenlik açısından önemli bir dönüm noktası anlamına gelirken, yapay zekanın siber suçluların önündeki engelleri azalttığına dair endişeleri artırıyor.
Bu tam otomatik eylemde bir yapay zeka, kurbanların verilerine yeniden erişebilmek için fidye ödemek zorunda kaldığı bir fidye yazılımı saldırısı gerçekleştirdi.
Bulut güvenliği şirketi Sysdig'den bir ekip, Jadepuffer adını verdikleri yapay zeka saldırganının güvenlik açığı bulunan bir sunucuya sızdığını, şifreleri ve oturum açma bilgilerini keşfettiğini ve ardından bir üretim veritabanını şifreleyerek bitcoin fidye talep ettiğini açıkladı.
Sysdig'in tehdit araştırma direktörü Michael Clark bir blog yazısında, "Fidye yazılımı bir tehdit kategorisi olarak ilk ortaya çıktığından beri klavyenin başında bir insan ya da en azından komutları yazan bir insan vardı" ifadelerini kullanıyor.
Sysdig Tehdit Araştırma Ekibi (TAE), değerlendirmemize göre ajansal fidye yazılımının belgelenmiş ilk örneğini tespit etti: baştan sona bir büyük dil modelinin (BDM) yürüttüğü eksiksiz bir şantaj operasyonu.
BDM, yapay zeka uygulamaları geliştirmede kullanılan açık kaynaklı araç Langflow'a erişim sağladıktan hemen sonra Alibaba, Tencent ve Huawei gibi "Çinli sağlayıcıları açıkça kapsayan" kimlik bilgilerini aramaya başladı.
Bu otonom operasyon, taktiklerini gerçek zamanlı uyarlayarak en yetenekli insan operatörleri bile geride bırakacak hızda çalıştı.
Clark, "Ancak en dikkat çekici özellik, BDM'nin davranış biçimiydi" diyor.
Operasyon, sürece gerçek zamanlı uyum sağladı ve başarısız adımları, iyileştirilmiş parametreler dahilinde yeniden denedi. Bir dizide, başarısız bir oturum açma denemesinden işe yarayan bir çözüme 31 saniyede ulaştı.
Sysdig araştırmacıları, yapay zeka ajanı verileri yedeklemeden çoktan sildiği için kurban fidyeyi ödese bile ele geçirilen verileri geri alamayacağını belirtiyor.
Bulgular henüz bağımsız kaynaklarca doğrulanmadı ancak insan denetimi olmadan karmaşık siber saldırılar gerçekleştirme yetenekleri artan yapay zeka sistemlerinin yarattığı riskin giderek büyüdüğünü vurguluyor.
Beş Göz güvenlik ittifakı geçen ay yaptıkları nadir bir ortak uyarıda, yapay zekanın işletmelere ve hükümetlere büyük zarar vermesine "birkaç ay kaldığını" söylemişti.
Uyarıda, "Öncü yapay zeka modellerinin mevcut sektör beklentilerini aşarak hem saldırı hem de savunma amaçlı siber yetenekleri kökten dönüştürmesi bekleniyor" ifadelerine yer verilmişti.
Kuruluş ve toplumların topyekun katılımıyla bir yanıt verilmesi gerekiyor.
Independent Türkçe,independent.co.uk/tech
