Yapay zekâ şirketi Anthropic, yaptığı açıklamada, kendi yapay zekâ modellerinin gözetim amacıyla kullanıldığı devlet destekli çeşitli casusluk operasyonlarını tespit ederek engellediğini duyurdu. Şirket, hükümetlerin ve bunlarla bağlantılı aktörlerin, bu teknolojiyi azınlıkları ve siyasi muhalifleri izlemek amacıyla giderek daha fazla kullandığı uyarısında bulundu.
Şarku’l Avsatın AFP’den aktardığına göre Anthropic, yapay zekâ modellerinin kötüye kullanımına ilişkin dün yayımladığı raporda, ocak-temmuz ayları arasında tespit edilerek durdurulan söz konusu faaliyetlerin Çin, İran ve Batı Afrika kaynaklı olduğunu belirtti.
Rapora göre gözetim kampanyalarında, söz konusu yönetimlerin geleneksel olarak hedef aldığı diaspora toplulukları ve muhalif gruplar mercek altına alındı. Bunlar arasında Hong Kong'daki demokrasi yanlısı isimler, Asya genelindeki Tibet toplulukları ve Falun Gong hareketinin takipçilerinin yanı sıra İran'daki azınlıklar ve yurt dışında yaşayan İran rejimi karşıtları da bulunuyor.
Vakaların birinde İranlı aktörlerin, sosyal medya hesapları üzerinden kişilerin kimliklerini belirlemeye yönelik bir yöntem geliştirdiği tespit edildi. Başka bir olayda ise Mali'nin ulusal güvenlik birimleri adına çalışan bir yüklenici, Anthropic'in Claude adlı yapay zekâ modelini kullanarak "istihbarat bilgilerinin toplanmasını sağlayan temel yazılımlar" tasarladı.
Raporda, "Yapay zekâ artık mühendislik iş gücünün yerine kullanılıyor" değerlendirmesine yer verildi.
Anthropic ayrıca kullanıcıların silah tasarlama, şüpheli biyolojik araştırmalar yürütme ve flört uygulamaları üzerinden dolandırıcılık operasyonları geliştirme girişimlerini de engellediğini bildirdi.
Verilerin damıtılması
Merkezi San Francisco'da bulunan şirket, Çinli geliştiricileri Claude modelini kullanıcıların sorularını yanıtlamak için yanıltıcı biçimde kullanmakla ve aynı zamanda elde edilen verileri kendi yapay zekâ modellerini geliştirme amacıyla "damıtmakla" suçladı.
"Damıtma" (distillation), bir yapay zekâ modelinin başka bir modeli eğitmek amacıyla kullanılmasını ifade ediyor.
Çinli geliştiriciler daha önce de bu yöntemi izinsiz kullanmakla suçlanmış, söz konusu uygulamanın Anthropic ve OpenAI gibi ABD merkezli yapay zekâ laboratuvarlarının kaynaklarının izinsiz kullanılmasına, dolayısıyla haksız kaynak aktarımına yol açtığı öne sürülmüştü.
Anthropic, Çin merkezli Moonshot ve DeepSeek şirketlerinin de Claude modelini gizlice kullanarak kendi kullanıcılarına yanıtlar ürettiğini iddia etti.
Raporda, "Bir vakada Moonshot, 10 gün boyunca müşterilerinden gelen yaklaşık 300 bin talebi, çoğunun Singapur ve Japonya'da bulunduğu görülen 5 bin 380 sahte hesaptan oluşan bir ağ üzerinden Anthropic'e yönlendirdi" ifadeleri kullanıldı.
Bu verilerin bir bölümünde kullanıcıların hassas bilgilerinin de yer aldığı ve bunun gizlilik anlaşmalarının ihlal edilmesi anlamına gelebileceği belirtildi.
Anthropic, "Moonshot'ın müşterilerine, taleplerinin Anthropic'e yönlendirildiğini ve üçüncü bir tarafla paylaşıldığını bildirip bildirmediğini bilmiyoruz" açıklamasında bulundu.
Rapora göre DeepSeek de benzer tekniklerden yararlandı.
Biyolojik silah araştırmaları
Anthropic, araştırmalar kapsamında biyolojik silahlarla bağlantılı çalışmaları da tespit ederek engellediğini açıkladı. Şirket, söz konusu kişilerin niyetlerinin tamamen net olmadığını belirtirken, kimliklerini açıklamadı.
Raporda, "Bu çalışmalara dahil olan kişiler araştırmalarını sürdüren bilim insanları. Kasten zarar vermeye çalıştıklarını iddia etmiyoruz. Ayrıca kimliklerinin veya çalıştıkları laboratuvarların açıklanması onları riske atabilir" denildi.
Söz konusu bilimsel çalışmalar arasında sivrisineklerle bulaşan chikungunya virüsü, yüksek derecede bulaşıcı bir kuş gribi türü, çiçek ve maymun çiçeği virüslerini de içeren bir virüs ailesi ile hayvan kaynaklı toksinler ve diğer zehirli maddeler üzerine araştırmaların bulunduğu belirtildi.
