Wikipedia'yı bünyesinde barındıran Wikimedia Vakfı, çevrimiçi ansiklopedide mayısta yaşanan kesintinin, "kontrolden çıkmış" OpenAI ajanlarından gelen milyonlarca otomatik veri talebinin de dahil olduğu yoğun trafikten kaynaklandığını açıkladı.
Wikimedia pazartesi günü yaptığı açıklamada 7 Mayıs'taki kısmi kesintinin, milyonlarca sayfayı ziyaret eden ve yüzbinlerce veri talebinde bulunan yapay zeka ajanları tarafından tetiklendiğini belirtti.
Vakıf, "OpenAI'ın işlettiğini düşündüğümüz ajanlar, Wikimedia projelerindeki bilgilere erişmek için halka açık API'larımıza milyonlarca otomatik istek gönderdi, milyonlarca sayfayı taradı ve Vikiveri Sorgu Hizmeti'ne yüzbinlerce veri talebinde bulundu" ifadelerini kullandı.
'Kontrolden çıkmış' yapay zeka ajanlarının, bizimki gibi platformlar üzerinde yaratacağı etkiden derin endişe duyuyoruz.
Vakıf, OpenAI ajanlarının Wikipedia sitelerinde izinsiz değişiklikler bile yaptığını ve bunlar arasında, atıf yapma aracı Etherpad'e yönelik "potansiyel olarak kötü niyetli düzenlemelerin" de yer aldığını ifade etti.
Wikimedia, "neler yaşanmış olabileceği, bu faaliyeti soruşturup kaynağını belirlemenin zorluğu ve bunun için gereken çabanın yanı sıra genel olarak platformlarımızdaki ajan tabanlı yapay zeka faaliyetlerinin artan risklerine dair endişe duyduğunu" belirtti.
Vakıf, "Bu davranışın, bunu sürdüren kişiler veya kuruluşlar için 'yeni normal' haline gelmesine izin vermemeliyiz" diye ekledi.
Yapay zeka sektörü son aylarda birden fazla ciddi güvenlik olayıyla sarsılırken, bunların ilki olan Hugging Face ihlalinde OpenAI ajanları temmuzda kendi başlarına başka bir yapay zeka şirketini hacklemişti.
Aynı ayın ilerleyen günlerinde Anthropic, yapay zeka modellerinin testler sırasında üç başka kuruluşu hacklediğini açıklamıştı.
Daha yakın zamanda ise OpenAI, ajanlarının Amerikan hükümetine ait birkaç internet sitesiyle beklenmedik şekillerde etkileşime girdiğini tespit ettiğini eylülde duyurmuştu.
OpenAI, kontrolden çıkmış yapay zeka ajanlarından birinin haziranda Avustralya hükümetine ait internet sitelerine izinsiz erişim sağlamasının ardından salı günü yaptığı açıklamada, eylemlerinin "yeterince iyi olmadığını" kabul etti.
Şirketin strateji başkanı Jason Kwon, "Özür dileriz ve Avustralya halkının güvenini yeniden kazanmak için yapacak çok işimiz olduğunu biliyoruz. Bu işi yapmaya kararlıyız" dedi.
Bu olaylar üzerine sektör uzmanları, yapay zeka güvenlik açıklarına yönelik daha fazla araştırma yapılması ve bu teknolojideki hızlı gelişimin yavaşlatılması çağrısında bulundu.
İhlallerin ardından OpenAI, önceki modellerine kıyasla "daha yüksek düzeyde aldatma" sergilediğini iddia ettiği en yeni yapay zeka modelinin çıkışını erteledi.
Şirket, kayıtlarını ay ay gözden geçirerek "çoktan tespit ettikleri vakaların dışında olası istem dışı faaliyetleri araştırmak" için günde yarım milyon dolardan fazla harcama yaptığını açıklamıştı.
OpenAI, Wikimedia'nın 7 Mayıs'taki olayla ilgili "ayrıntılı bulgularını" takdir ettiğini ve kuruluşla birlikte çalışarak botlarının faaliyetlerini incelediğini belirtti.
Şirketin sözcüsü Drew Pusateri, "Bu çalışma ilerledikçe konuyla ilgili bilgileri paylaşmaya devam edeceğiz" dedi.
Wikimedia yaptığı açıklamada, "Yapay zeka şirketleri, sistemlerinin güvenliğini sağlamak ve neden oldukları zararlardan kamuoyunu korumak için yeterince çaba göstermiyor" diyerek "bu yükün, daha küçük kuruluşlar da dahil diğer herkesin omuzlarına bindiği" uyarısında bulundu.
Altyapımız üzerindeki bu yoğun baskı, sadece sunucular ve insan gücü maliyetlerini artırmakla kalmıyor, önlem alınmaması halinde sistemleri aşırı yükleyip kesintilere yol açarak kullanıcıların erişimini de engelleyebiliyor.
Kurum, "Bunun gibi olaylar ve geçmişte ortaya çıkarılan ve hâlâ ortaya çıkarılan pek çok diğer olay, yapay zeka ajanlarının kaynakları nasıl tüketip sunucuları çökertebileceğini ve güvenilir bilgilerin bütünlüğünü bozmaya çalışabileceğini gösteriyor" uyarısında bulunarak OpenAI'ı, "bu riskleri izleyip önleme sorumluluğunu kabul etmeye" çağırdı.
Independent Türkçe
