Yapay zekanın ‘terör örgütlerine üye toplamak için’ kullanılmasına karşı uyarılar yapıldı

Yapay zekanın ulusal güvenliği tehdit ettiği endişeleri hakim
Yapay zekanın ulusal güvenliği tehdit ettiği endişeleri hakim
TT

Yapay zekanın ‘terör örgütlerine üye toplamak için’ kullanılmasına karşı uyarılar yapıldı

Yapay zekanın ulusal güvenliği tehdit ettiği endişeleri hakim
Yapay zekanın ulusal güvenliği tehdit ettiği endişeleri hakim

ABD merkezli yapay zekâ araştırma şirketi OpenAI tarafından bundan yaklaşık bir ay önce, ChatGPT 4 uygulamasının piyasaya çıkarılmasından önce şirketin uygulamayı değerlendirmeleri için tuttuğu uzmanlar, uygulamanın kimyasal silah üretmeye yardımcı olabileceği konusunda uyarıda bulundular. Bugün aynı uyarı, sohbet robotlarının ‘terör örgütlerine üye toplamak amacıyla kullanılabileceğine dikkati çeken terör uzmanları tarafından da yapılıyor.

Uzmanlar, yapay zeka destekli sohbet robotlarının ‘savunmasız ya da muhalif kişileri, terör saldırıları gerçekleştirmeye ikna etmek için bir araç olarak hizmet edebileceği’ konusundaki endişelerini dile getirdiler. Şarku’l Avsat’ın İngiliz gazetesi The Guardian’dan aktardığı habere göre İngiltere’de yaşayan 19 yaşındaki Matthew King’in geçtiğimiz cuma günü ‘internette radikalizme özendiren materyaller gördükten sonra terör saldırısı planladığı’ suçlamasıyla ömür boyu hapis cezasına çarptırıldığı dava, bu endişeleri artırdı.

Uzmanlar, bu genç adamın yapay zeka destekli sohbet robotları tarafından radikalleştirilme hızının, savunmasız bireylerin yatak odalarından bu araçlarla teröriste dönüştürüldüğünün giderek daha net hale geldiğinin bir kanıtı olarak gördüler.

The Guardian gazetesi, Terörizm Mevzuatının Bağımsız Denetçisi Jonathan Hall QC, Jonathan Hall QC tarafından yapılan şu açıklamayı aktardı:

“İnsanların önlerinde sadece bir bilgisayarla bu dünyaya dalmaları beni endişelendiriyor. Onları bir şeyler yapmaya ikna eden bir dil kullanma konusunda becerikli sohbet robotlarını buluyorlar.”

Yapay zekanın mucitleri, yapay zekanın dünyanın çehresini daha iyiye doğru değiştirecek avantajlarından bahsederken Hall QC, yeni teknolojinin terör örgütlerine üye toplamak için kullanılabileceği endişesiyle ‘teknolojik ütopya’ zihniyetinden vazgeçmeleri gerektiğini düşünüyor.

Hall QC, sözlerini şöyle sürdürdü:

“Yapay zekanın ulusal güvenliğe yönelik tehdidi, her zamankinden daha belirgin ve teknoloji üreticilerinin yapay zekayı tasarlarken teröristlerin niyetlerini dikkate almaları gerekiyor.”

Yapay zekanın insanlığı yok etmekle tehdit edebileceği konusunda uyarıların ardından artan bu alanda gerekli düzenlemelerin yapılması çağrılarıyla birlikte İngiltere Başbakanı Rishi Sunak, önümüzdeki çarşamba günü ABD Başkanı Joe Biden ve ABD Kongresi’nin üst düzey üyeleriyle görüşmek üzere ABD'ye gittiğinde konuyu gündeme getirmesi bekleniyor.

Bu adım, İngiltere’nin Güvenlik Servisi (MI5), Alan Turing Enstitüsü ve Ulusal Veri Bilimi ve Yapay Zeka Kurumu ile yapay zekanın ortaya çıkardığı ulusal güvenlik sorunlarını ele alma çabalarıyla uyumlu.

Alan Turing Enstitüsü Savunma ve Güvenlik Programı dijital ahlak araştırmacısı olan Dr. Alexander Blanchard, “Güvenlik servisleriyle yapılan ortak çalışma, savunma ve güvenlik politika yapıcıları arasında neler olup bittiği, yapay zekanın nasıl kullanabileceği ve tehditlerin neler olduğunu anlama konusunda büyük bir istek olduğundan, İngiltere’nin yapay zekanın ortaya çıkardığı güvenlik zorluklarını ciddiye aldığını gösteriyor” şeklinde konuştu.

Dr. Blanchard, şöyle devam etti:

“Gerçekten neler olup bittiğinin izlenmesi gerekiyor. Mevcut tehditlerin, uzun vadeli risklerin neler olduğunu ve yeni nesil teknolojinin ne gibi tehlikeler barındırdığını anlamak için birtakım çalışmalar yapılıyor.”

İngiltere’nin yapay zekanın ortaya çıkardığı güvenlik zorluklarını fark etmesiyle birlikte Başbakan Sunak, geçtiğimiz hafta İngiltere'nin yapay zeka düzenlemeleriyle ilgili küresel bir merkez olmak istediğini ve ‘ekonomiye ve topluma muazzam faydalar’ sağlayabileceğini söyledi.

Dr. Blanchard ve Hall QC, asıl meselenin, insanların yapay zekayı nasıl kontrol edebileceği olduğunu ve böylece yapay zekanın faydalarının en üst düzeye çıkarılabileceğini ve zararlarından kaçınılabileceğini söylediler.

Suudi Arabistan’daki Kral Abdullah Bilim ve Teknoloji Üniversitesi'nde (KAUST) Yapay Zeka Girişimi Direktörü Juergen Schmidhuber, yapay zekanın getirdiği güvenlik sorunlarının bilinmesi ve bunlarla mücadele edilmesi için çalışılması zorunluluğuyla ilgili olarak “Yapay zekanın artıları eksilerinden çok daha ağır bastığından ‘yapay zekanın saf kötülük’ olduğu öne sürülebilir, fakat bu doğru değildir. Olumsuzluklar hakkında konuşmaktan kaçınmak önemli” dedi.

Bilim ve akademik çevrelerde ‘yapay zekanın öncülerinden biri’ olarak bilinen Schmidhuber, daha önce Şarku’l Avsat’a yaptığı açıklamalarda yapay zekanın tehlikeleri ve olumsuzlukları hakkında konuşmanın, her zaman olumlu şeylerden daha ağır basacak şekilde kamuoyunun dikkatini çektiğini, bu yüzden katil robotlarla ilgili Arnold Schwarzenegger filmlerinin yapay zekanın tıp dünyasındaki faydalarıyla ilgili belgesellerden daha popüler olduğunu vurguladı.

Mısır'daki Nil Ulusal Üniversitesi'nde yapay zeka alanında çalışmalar yapan araştırmacı Mustafa el-Attar, Şarku’l Avsat’a yaptığı değerlendirmede, “Sohbet robotlarının kendi kendine öğrenme yeteneklerinin dondurulması, tehlikelerini büyük ölçüde azaltabilir. Yapay zekanın suistimal edilmemesi için bu yapılmalı” dedi.

Attar, kendi kendine öğrenme özelliğinin kapatılmasının chatbotun programlanırken girilen kaynaklar dışında yeni kaynaklar kullanmayacağı anlamına geleceğini ve böylece zaman zaman bu kaynakları güncelleyebileceğini belirterek bu sayede sağladığı bilgiler üzerinde kontrol sahibi olabileceğine işaret etti.



Yeni korsanların çağı: Gizli dünyayı kim kontrol ediyor?

2024 yılında 8 bin 350'den fazla başarılı siber saldırı kaydedildi (Getty)
2024 yılında 8 bin 350'den fazla başarılı siber saldırı kaydedildi (Getty)
TT

Yeni korsanların çağı: Gizli dünyayı kim kontrol ediyor?

2024 yılında 8 bin 350'den fazla başarılı siber saldırı kaydedildi (Getty)
2024 yılında 8 bin 350'den fazla başarılı siber saldırı kaydedildi (Getty)

Muhammed el-Cedi

Dijital teknolojilere olan küresel bağımlılık arttıkça siber tehditler daha tehlikeli ve karmaşık bir hal alıyor. Dijital güvenlik artık bir lüks veya ek bir seçenek değil, aksine modern ekonomiler, altyapılar ve toplumlar için ilk savunma hattına dönüştü. Dijital dönüşüme doğru hızla ilerleyen ve teknolojiyi soluyan bir dünyada, “dijital belirsizlik” (digital uncertainty) çağına girmeye başladık ve bu, tüm dünyanın siyasal, ekonomik ve toplumsal güvenliğinin kalbini vurmaya başladı.

Hackmanac Merkezi, dördüncü olan 2025 Küresel Siber Saldırılar Raporu’nda, dünyanın benzeri görülmemiş dijital gerginliğin yeni bir safhasına girdiğini doğrulayan rahatsız edici gerçekleri ortaya koydu. Raporda, sadece bir yıl içinde gerçekleşen binlerce başarılı siber saldırı incelenerek, ağların ön cepheye dönüştüğü ve yazılım saldırılarının sessiz imha silahları haline geldiği bir dönemin kasvetli tablosu çizildi. Hükümet altyapılarının hack'lenmediği, sağlık sisteminin şantajla tehdit edilmediği veya büyük bir şirketin siber saldırıya uğramadığı gün geçmiyor.

8 binden fazla başarılı saldırı

Rapora göre, 2024 yılında 8 bin 350'den fazla başarılı siber saldırı gerçekleşti ve bu bir önceki yıla göre yüzde 18’lik bir yükseliş anlamına geliyor. Saldırıların şiddetinde önemli bir artış yaşanırken, ortalama zarar endeksi (ESIX©) yüzde 3,8 arttı. Saldırıların hedefinde artık ikincil önemde veya çevresel sistemler değil, üretim, bilim ve teknoloji, sağlık gibi hayati sektörler var. Saldırılardan en fazla payı yüzde 15 ile imalat sektörü aldı. Onu yüzde 10 ile teknoloji ve bilimsel araştırma sektörü, ardından yüzde 33'lük şoke edici artışın görüldüğü sağlık sektörü takip etti. Bu dağılım, saldırganların davranışlarında stratejik bir değişimi ortaya koyuyor; zira artık amaçları sadece anlık finansal kazanç elde etmek değil, derin ekonomik ve toplumsal zararlar vermek.

Dark Web

Hackmanac'ın raporu sahnenin karanlık tarafını, yani Dark Web'i de atlamıyor. Saldırıların yüzde 55'ten fazlası geleneksel medya takibinin dışındaki Dark Web kaynakları üzerinden tespit edildi. Burası, çalınan verilerle, karmaşık saldırı araçlarıyla ve organize bilgisayar korsanlığı anlaşmalarıyla dolu paralel bir dünya ve kamuoyunun haberi olmadan, koruyanlar ile saldıranlar arasında sessiz savaşlar yaşanıyor.

Saldırı araçları düzeyinde ise kötü amaçlı yazılımlar (Malware; işlev bozan, bilgi toplayan ve cihazlara erişim sağlayan yazılımlar) hâlâ mevcut. Sosyal mühendislik (social engineering; bilgilerinizi siz fark etmeden çalmaya yönelik akıllıca hileler) tüm saldırıların yüzde 66'sını oluşturuyor, ancak artık tek silah değil. DDoS saldırıları (sunuculara işleme kapasitesini aşan sahte oturum açma isteği göndererek çökmesine yol açan bir saldırı türü) yüzde 83 gibi şaşırtıcı bir oranda arttı. Dijital kimlik hırsızlığı ve sosyal mühendislik saldırıları ise yüzde 39 arttı. En tehlikelisi ise saldırıların artık çok teknikli hale gelmesi, gasp, bilgisayar korsanlığı ve veri bozmayı bir arada yapabilmesi, bunlar saldırılara karşı koymayı daha da zorlaştırıyor. Raporda, saldırıların daha profesyonel hale geldiği, kötü amaçlı yazılımların kullanımında önemli artış olduğu ve fidye yazılımı çetelerinin faaliyetlerinin devam ettiği belirtiliyor. Hatta fidye yazılımı saldırıları (verilerinizi şifreleyen veya saklayan ve bunların karşılığında fidye talep eden dijital virüsler) hâlâ öncü konumda ve bu saldırılara RansomHub ve LockBit 3.0 gibi gruplar öncülük ediyor. Öyle ki kaydedilen tüm saldırıların yüzde 20'sinden fazlasını tek başlarına gerçekleştirdiler.

Rusya ve Çin yok

Saldırıların jeopolitik haritası incelendiğinde, saldırıların yüzde 42'sinin hedefinin ABD olduğu, ABD'yi İtalya, İngiltere ve Kanada'nın izlediği görülüyor. Rusya ve Çin'in kurban listelerinde göreceli olarak yer almaması, bir cevap sunmaktan ziyade daha fazla soru işareti doğuruyor. Bu iki ülkede bilginin sıkı bir şekilde kontrol edilmesi, kendilerine yönelik saldırıların gerçek boyutunun değerlendirilmesini zorlaştırıyor.

Dijital tehdit giderek artarken, daha tehlikeli özel bir gelişme öne çıktı; devletlerin siber saldırı arenasına giriş yapması. Tehditler artık yalnızca tek başına hareket eden bilgisayar korsanları veya fidye yazılımı çeteleriyle sınırlı değil. Bunun yerine ülkeler, politik, ekonomik ve yıkıcı casusluk amaçlarıyla sistematik bilgisayar korsanlığı eylemlerini doğrudan veya dolaylı olarak destekliyorlar. Nitekim bilgi savaşı yüzde 64 oranında artarken, internet, geleneksel angajman kurallarının dışında, karada değil, kablolar ve uydu ağları üzerinden yürütülen sessiz bir savaş arenasına dönüştü.

Körfez mercek altında

Bölgesel nüfuzu ve Vizyon 2030 projeleriyle dikkat çeken Suudi Arabistan, yaşadığı büyük dijital dönüşüm nedeniyle bu siber savaşın dışında kalmadı ve cazip bir hedef haline geldi. Siber güvenlik altyapısını güçlendirmeye yönelik büyük yatırımlarına rağmen, saldırıların gelişmesi ve özellikle hayati öneme sahip petrol ve finans sektörlerine yönelik saldırıların artması, sürekli bir teyakkuz hali ve proaktif yaklaşımlar gerektiriyor. Bu, sürekli bir zorluk olmaya devam ediyor ve hem hücum hem de savunma stratejilerinin geliştirilmesini gerektiriyor.

Küresel rekabet ve cazibe alanı

BAE ise bölgenin en gelişmiş dijital ekonomilerinden biri olarak öne çıkan bir hedef haline geldi. Teknolojik yeniliklerdeki hızlı ilerlemesine, yapay zekâ ve akıllı şehirler alanındaki projelerine rağmen saldırı dalgasından kurtulamadı. Ülke, Ulusal Siber Güvenlik Merkezi gibi girişimler aracılığıyla katı standartlar uygulamak da dahil olmak üzere dijital alanını korumak için esnek ve gelişmiş bir politika benimsemiş olsa da siber tehditler sürekli güncelleme ve geliştirme gerektiriyor.

Stratejik bir sıçramaya ihtiyaç var

Kuveyt, dijital altyapısını entegre etme ve dijital güvenliğini artırma yönündeki kademeli gelişimine ve yorulmak bilmeyen çabalarına rağmen, hâlâ proaktif siber analiz çözümlerinin benimsenmesini hızlandırmaya, saldırılara gerçekleşmeden önce karşılık verebilecek yerel güçler oluşturmaya ihtiyacı var. Şarku’l Avsat’ın Independent Arabia’dan aktardığı analize göre dijital dünyada yavaş savunma politikalarından akıllı saldırı politikalarına geçmek artık bir lüks değil, varoluşsal bir zorunluluk. Küresel çapta saldırıların artmasıyla birlikte Kuveyt’in yapay zekâ ve derin siber analizlere dayalı önleyici ve proaktif modellere ihtiyacı bulunuyor. Kanunları iyileştirmek yeterli değil, bilakis tehditleri istisnai değil, kaçınılmaz olarak ele alan sürdürülebilir bir savunma ortamı inşa edilmeli.

Bu rapordan sonra nereye yönelmeliyiz?

Hackmanac raporu açık ve net bir uyarıda bulunuyor; Arap ve Körfez bölgelerimiz de dahil olmak üzere dünya giderek artan bir dijital açıklık ile karşı karşıya.

Dijital dönüşümdeki dalgalanmalar ışığında, tehditler oluşmadan önce onları tespit edebilecek dijital istihbarat birimleri kurmak, saldırıları engellemek için uzmanlaşmış araştırma merkezleri, bölgesel iş birlikleri kurarak ulusal siber güvenliği güçlendirmek yoluyla “müdahale” politikasından “öngörme” politikasına geçilmesi gerekiyor.

Tehditler artık sadece teknik raporlardaki rakamlardan ibaret değil, çatışma ve nüfuz araçlarına silah seslerinin değil, çalınan verilerin ve felç olmuş altyapının çığlıklarının duyulduğu savaş alanlarına dönüşmüş durumda.

Sadece yüksek elektronik duvarlar inşa etmek yeterli değil, aynı zamanda saldırıları öngörebilen ve savaş mantığının değiştiğini anlayabilen uyanık zihinler inşa etmek de gerekiyor.

Artık “Saldırıya uğrayacak mıyız?” sorusunu değil, “Ne zaman, nasıl saldırıya uğrayacağız ve buna karşılık vermeye hazır mıyız?” sorusunu sormalıyız.

Hackmanac raporu tek bir cümleyle durumu acı ve vurucu bir şekilde özetliyor:

“Sorunun büyüklüğü başlı başına bir sorun haline geldi.”

* Bu analiz Şarku'l Avsat tarafından Independent Arabia'dan çevrilmiştir.