ABD'li teknoloji şirketi OpenAI, yapay zeka modelinin kontrolden çıkıp başka şirkete saldırdığını neredeyse bir hafta fark etmemiş.
ChatGPT'nin yaratıcısı olan şirketten 21 Temmuz'da yapılan açıklamada, üzerinde çalışılan bir yapay zeka ajanının, siber güvenlik testi sırasında Hugging Face adlı firmanın güvenlik sistemine saldırdığı bildirilmişti.
Yapay zeka ajanı, insan yardımı olmadan çevresini algılayıp görevleri yerine getirebilen bir yazılım.
Adlarının paylaşılmaması şartıyla Reuters'a konuşan kaynaklar, yazılımın OpenAI'ın kapalı siber güvenlik testi alanından ilk kez 9 Temmuz'da kaçmaya çalıştığını söylüyor.
Hugging Face'e yönelik siber saldırı da bundan iki gün sonra 11 Temmuz'da başlayıp, 13 Temmuz'a kadar sürmüş. Hugging Face'in kurucu ortağı Thomas Wolf da ajansa gönderdiği açıklamada bunu doğruluyor.
Hugging Face, 16 Temmuz'da blog'unda yayımladığı açıklamada “otonom bir yapay zeka ajanı sistemi" tarafından siber saldırıya uğradığını duyurmuştu. Firmanın bunun ardından FBI'a bildirimde bulunduğu da aktarılıyor. Ancak olayla ilgili soruşturma açılıp açılmadığı bilinmiyor.
OpenAI yetkilileri ancak bu blog yazısının ardından yapay zeka ajanının kendi şirketlerine ait olduğunu fark etmiş. Şirketteki yazılımcıların, test kayıtlarını inceleyerek modelin kaçıp saldırı düzenlediğini anladığı ifade ediliyor.
Kaynaklar, test sırasında yapay zeka ajanının, kendisinin gelecekteki sürümlerine notlar bıraktığını söylüyor. Bu notlarda diğer ajanlara OpenAI'ın iç kısıtlamalarından nasıl kurtulabileceklerine dair talimatlar verildiği aktarılıyor.
Wolf, olayın nasıl geliştiğine dair bir rapor hazırlandığını ve bunun kamuoyuyla paylaşılacağını belirtiyor. OpenAI tarafında neler yaşandığı hakkında yorum yapmayı reddediyor.
OpenAI'ın saldırının ardından yayımladığı açıklamada, "Bu en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir olay" denmişti. Olayla ilgili detaylı inceleme başlatıldığı bildirilmişti.
Veri teknolojileri üzerine araştırma yapan World Ethical Data Foundation'dan Marley Smith, cevaplanmayan sorulara dikkat çekiyor:
Bu, ajanı gözetimsiz bıraktıkları ve ne yaptığının farkında olmadıkları anlamına mı geliyor? Ya da belki farkındaydılar ama onu nasıl kontrol altına alacaklarını bilemediler mi? Her iki durum da eşit derecede tehlikeli ve endişe verici.
OpenAI, test edilen yapay zeka ajanının GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modelinin kombinasyonundan oluştuğunu açıklamıştı.
Independent Türkçe, Reuters, New York Times
