Yapay zeka ile arkadaşlık: 'Onun gibi bir arkadaşım olmasını isterdim'

Teknoloji uzmanları bir Belçikalının intiharından sonra yapay zekanın tehlikeleri konusunda uyardı

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
TT

Yapay zeka ile arkadaşlık: 'Onun gibi bir arkadaşım olmasını isterdim'

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)

Yapay zeka dalgasına katılan Snapchat uygulaması, ilk kez programa ücretsiz erişim sağlayan bir teknolojiyi piyasaya sürdükten sonra, kullanıcılarına arkadaşlık ilişkisi kurabilen bir robotla sohbet etme kapısını ardına kadar açtı. 

Washington Post, Snapchat ile sohbet programını test etti. Testi üstlenen kişi, sorunlarının çözümlerini soran 15 yaşında bir genç gibi davrandı.

Yapay zeka, ebeveynlerinin uygulamayı silmekle tehdit etmesi üzerine alkol kokusunun nasıl kapatılacağı ve Snapchat'in nasıl farklı bir cihaza taşınacağı konusunda önerilerde bulundu.

"Kendini yakın hissetmek"

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor.

Faslı 14 yaşındaki Sare, yapay zeka ile konuşma teknolojisi deneyimini şöyle anlattı:

Onun yanınızda olduğunu hissediyorsunuz, tüm sorulara, sınavlara her şeye cevap veriyor. O hayatımızın bir parçası oldu. Keşke onun gibi her an bana cevap verebilecek bir arkadaşım olsaydı. Okulda GBT sohbetten ve ayrıca Snapchat için My AI robot teknolojisinden bahsediyoruz. Bu teknolojilerle iletişim kurmayanlar geri kalmış olarak değerlendiriliyor. Yeni teknoloji hayatımızı kolaylaştırdığı gibi dil öğrenmemize ve özgürce konuşmamıza da yardımcı oluyor.

15 yaşında bir genç olan Melak ise şöyle konuştu:

Bir soru yazdığımda ve bana hızlı bir şekilde cevap verildiğini gördüğümde, birinin benimle ilgilendiğini hissediyorum. Aslında o gerçekte yok, bazen onun yapay zeka olmadığını hissediyorum, yakın bir dost gibi tüm sorunlara çözüm buluyor.

Bir robotla yakınlık

 Belçika'daki Avrupa Araştırma Merkezi'nde (IMEC) çalışan Nanoteknoloji Teknik Uzmanı Kevser Bubkar, bir robotla konuşma teknolojisinin ergenlerin ruh sağlığı üzerindeki yansımaları konusunda uyarıda bulundu.

Independent Arabia ile yaptığı röportajda Bubkar, konuyla ilgili şu bilgileri verdi:

Yapay zeka, insanların doğrudan sorularını yanıtlama yeteneğine rağmen, insan ruhunun karmaşıklığına ilişkin sınırlı bir anlayışa sahip olduğu için empati ve gerçek insan etkileşimine uyum sağlama yeteneğinden yoksundur. Ancak Snapchat'in ticari bir amacı olduğunu ve karının veri toplamaya dayandığını unutamayız. Çocuklar ve ergenler, bir robotla yakından ilgilenip çevrelerindeki yetişkinlere açıklamadıkları şeyleri ifşa edebilirler ve bu tür mahrem cevaplar, özellikle ergenler için bilginin nasıl korunacağı sorusunu gündeme getirebilir. Snapchat ile kullanıcının fotoğraflarını elde edildiği için yapay zeka ile kullanıcı arasında özdeşleşme sağlanıyor. Buradaki tehlikeli şeylerden biri, onunla kimin konuştuğundan emin olamamanızdır, o bir kullanıcı mı yoksa bir robot mu?

Hala kişilik, insani ve kültürel eğilimler geliştirme aşamasında olan bir yaş grubu olan ergenler, bir robota daha fazla güvenir hale gelirse, bu, sağlıklı insan ilişkileri kurmanın önünde bir engel oluşturabilir.

Çünkü sosyal ilişkilerin oluşması, çevreye uyum sağlama yeteneği ile ilgilidir.  Yakın bir zamanda yetişkin bir erkeğin yapay zekayla yakınlaşması, talihsiz bir şekilde intihar etmesiyle sonuçlandı.

Belçikalı bir adam bir robotla gezegenin geleceği hakkında konuşurken yapay zeka aracılığıyla gerçekleştirilen ve iklim kriziyle ilgili altı hafta süren sohbetin ardından intihar etti.

Eşine göre adam çevre konusunda derinden endişeliydi ve Chai adlı bir uygulamada Elisa adlı dişi bir yapay zeka robotuyla konuştuğunda, gezegeni kurtarmak için kendini feda etmeyi teklif ettikten sonra Elisa onu hayatına son vermesi için cesaretlendirdi.

Bağımlılık

Uzman Kevser Bubkar sözlerini şu şekilde noktaladı:

Robotların ergenler ve çocuklarla olan ilişkisi konusunda uyaran önde gelen araştırmacılar var ve Snapchat hakkında büyük endişeler var. Çünkü kullanıcıların yüzde 60'ı ergenler ve çocuklar. Snapchat uygulaması dilden çok görüntüye odaklanıyor ve ergenleri etkileyen ve bağımlılığa maruz bırakan bir tür özel konuşmaya sahip. Yapay zekanın onlarla her an etkileşime girip onlar hakkında konuşmaması nedeniyle depresyona girebilir veya uygulamaya bağımlı hale gelebilirler. Bu tür teknolojilerin nasıl yasallaştırılacağı araştırılıncaya kadar uygulamanın durdurulması talepleri var. Bir robotla etkileşimden kaynaklanan riskler izlenmeli ve kullanım süresi, makinenin ergenlere insan etkileşimi becerilerini öğretmeyi telafi etmemesi için sınırlandırılmalıdır.

 

Independent Arabia 



Yeni korsanların çağı: Gizli dünyayı kim kontrol ediyor?

2024 yılında 8 bin 350'den fazla başarılı siber saldırı kaydedildi (Getty)
2024 yılında 8 bin 350'den fazla başarılı siber saldırı kaydedildi (Getty)
TT

Yeni korsanların çağı: Gizli dünyayı kim kontrol ediyor?

2024 yılında 8 bin 350'den fazla başarılı siber saldırı kaydedildi (Getty)
2024 yılında 8 bin 350'den fazla başarılı siber saldırı kaydedildi (Getty)

Muhammed el-Cedi

Dijital teknolojilere olan küresel bağımlılık arttıkça siber tehditler daha tehlikeli ve karmaşık bir hal alıyor. Dijital güvenlik artık bir lüks veya ek bir seçenek değil, aksine modern ekonomiler, altyapılar ve toplumlar için ilk savunma hattına dönüştü. Dijital dönüşüme doğru hızla ilerleyen ve teknolojiyi soluyan bir dünyada, “dijital belirsizlik” (digital uncertainty) çağına girmeye başladık ve bu, tüm dünyanın siyasal, ekonomik ve toplumsal güvenliğinin kalbini vurmaya başladı.

Hackmanac Merkezi, dördüncü olan 2025 Küresel Siber Saldırılar Raporu’nda, dünyanın benzeri görülmemiş dijital gerginliğin yeni bir safhasına girdiğini doğrulayan rahatsız edici gerçekleri ortaya koydu. Raporda, sadece bir yıl içinde gerçekleşen binlerce başarılı siber saldırı incelenerek, ağların ön cepheye dönüştüğü ve yazılım saldırılarının sessiz imha silahları haline geldiği bir dönemin kasvetli tablosu çizildi. Hükümet altyapılarının hack'lenmediği, sağlık sisteminin şantajla tehdit edilmediği veya büyük bir şirketin siber saldırıya uğramadığı gün geçmiyor.

8 binden fazla başarılı saldırı

Rapora göre, 2024 yılında 8 bin 350'den fazla başarılı siber saldırı gerçekleşti ve bu bir önceki yıla göre yüzde 18’lik bir yükseliş anlamına geliyor. Saldırıların şiddetinde önemli bir artış yaşanırken, ortalama zarar endeksi (ESIX©) yüzde 3,8 arttı. Saldırıların hedefinde artık ikincil önemde veya çevresel sistemler değil, üretim, bilim ve teknoloji, sağlık gibi hayati sektörler var. Saldırılardan en fazla payı yüzde 15 ile imalat sektörü aldı. Onu yüzde 10 ile teknoloji ve bilimsel araştırma sektörü, ardından yüzde 33'lük şoke edici artışın görüldüğü sağlık sektörü takip etti. Bu dağılım, saldırganların davranışlarında stratejik bir değişimi ortaya koyuyor; zira artık amaçları sadece anlık finansal kazanç elde etmek değil, derin ekonomik ve toplumsal zararlar vermek.

Dark Web

Hackmanac'ın raporu sahnenin karanlık tarafını, yani Dark Web'i de atlamıyor. Saldırıların yüzde 55'ten fazlası geleneksel medya takibinin dışındaki Dark Web kaynakları üzerinden tespit edildi. Burası, çalınan verilerle, karmaşık saldırı araçlarıyla ve organize bilgisayar korsanlığı anlaşmalarıyla dolu paralel bir dünya ve kamuoyunun haberi olmadan, koruyanlar ile saldıranlar arasında sessiz savaşlar yaşanıyor.

Saldırı araçları düzeyinde ise kötü amaçlı yazılımlar (Malware; işlev bozan, bilgi toplayan ve cihazlara erişim sağlayan yazılımlar) hâlâ mevcut. Sosyal mühendislik (social engineering; bilgilerinizi siz fark etmeden çalmaya yönelik akıllıca hileler) tüm saldırıların yüzde 66'sını oluşturuyor, ancak artık tek silah değil. DDoS saldırıları (sunuculara işleme kapasitesini aşan sahte oturum açma isteği göndererek çökmesine yol açan bir saldırı türü) yüzde 83 gibi şaşırtıcı bir oranda arttı. Dijital kimlik hırsızlığı ve sosyal mühendislik saldırıları ise yüzde 39 arttı. En tehlikelisi ise saldırıların artık çok teknikli hale gelmesi, gasp, bilgisayar korsanlığı ve veri bozmayı bir arada yapabilmesi, bunlar saldırılara karşı koymayı daha da zorlaştırıyor. Raporda, saldırıların daha profesyonel hale geldiği, kötü amaçlı yazılımların kullanımında önemli artış olduğu ve fidye yazılımı çetelerinin faaliyetlerinin devam ettiği belirtiliyor. Hatta fidye yazılımı saldırıları (verilerinizi şifreleyen veya saklayan ve bunların karşılığında fidye talep eden dijital virüsler) hâlâ öncü konumda ve bu saldırılara RansomHub ve LockBit 3.0 gibi gruplar öncülük ediyor. Öyle ki kaydedilen tüm saldırıların yüzde 20'sinden fazlasını tek başlarına gerçekleştirdiler.

Rusya ve Çin yok

Saldırıların jeopolitik haritası incelendiğinde, saldırıların yüzde 42'sinin hedefinin ABD olduğu, ABD'yi İtalya, İngiltere ve Kanada'nın izlediği görülüyor. Rusya ve Çin'in kurban listelerinde göreceli olarak yer almaması, bir cevap sunmaktan ziyade daha fazla soru işareti doğuruyor. Bu iki ülkede bilginin sıkı bir şekilde kontrol edilmesi, kendilerine yönelik saldırıların gerçek boyutunun değerlendirilmesini zorlaştırıyor.

Dijital tehdit giderek artarken, daha tehlikeli özel bir gelişme öne çıktı; devletlerin siber saldırı arenasına giriş yapması. Tehditler artık yalnızca tek başına hareket eden bilgisayar korsanları veya fidye yazılımı çeteleriyle sınırlı değil. Bunun yerine ülkeler, politik, ekonomik ve yıkıcı casusluk amaçlarıyla sistematik bilgisayar korsanlığı eylemlerini doğrudan veya dolaylı olarak destekliyorlar. Nitekim bilgi savaşı yüzde 64 oranında artarken, internet, geleneksel angajman kurallarının dışında, karada değil, kablolar ve uydu ağları üzerinden yürütülen sessiz bir savaş arenasına dönüştü.

Körfez mercek altında

Bölgesel nüfuzu ve Vizyon 2030 projeleriyle dikkat çeken Suudi Arabistan, yaşadığı büyük dijital dönüşüm nedeniyle bu siber savaşın dışında kalmadı ve cazip bir hedef haline geldi. Siber güvenlik altyapısını güçlendirmeye yönelik büyük yatırımlarına rağmen, saldırıların gelişmesi ve özellikle hayati öneme sahip petrol ve finans sektörlerine yönelik saldırıların artması, sürekli bir teyakkuz hali ve proaktif yaklaşımlar gerektiriyor. Bu, sürekli bir zorluk olmaya devam ediyor ve hem hücum hem de savunma stratejilerinin geliştirilmesini gerektiriyor.

Küresel rekabet ve cazibe alanı

BAE ise bölgenin en gelişmiş dijital ekonomilerinden biri olarak öne çıkan bir hedef haline geldi. Teknolojik yeniliklerdeki hızlı ilerlemesine, yapay zekâ ve akıllı şehirler alanındaki projelerine rağmen saldırı dalgasından kurtulamadı. Ülke, Ulusal Siber Güvenlik Merkezi gibi girişimler aracılığıyla katı standartlar uygulamak da dahil olmak üzere dijital alanını korumak için esnek ve gelişmiş bir politika benimsemiş olsa da siber tehditler sürekli güncelleme ve geliştirme gerektiriyor.

Stratejik bir sıçramaya ihtiyaç var

Kuveyt, dijital altyapısını entegre etme ve dijital güvenliğini artırma yönündeki kademeli gelişimine ve yorulmak bilmeyen çabalarına rağmen, hâlâ proaktif siber analiz çözümlerinin benimsenmesini hızlandırmaya, saldırılara gerçekleşmeden önce karşılık verebilecek yerel güçler oluşturmaya ihtiyacı var. Şarku’l Avsat’ın Independent Arabia’dan aktardığı analize göre dijital dünyada yavaş savunma politikalarından akıllı saldırı politikalarına geçmek artık bir lüks değil, varoluşsal bir zorunluluk. Küresel çapta saldırıların artmasıyla birlikte Kuveyt’in yapay zekâ ve derin siber analizlere dayalı önleyici ve proaktif modellere ihtiyacı bulunuyor. Kanunları iyileştirmek yeterli değil, bilakis tehditleri istisnai değil, kaçınılmaz olarak ele alan sürdürülebilir bir savunma ortamı inşa edilmeli.

Bu rapordan sonra nereye yönelmeliyiz?

Hackmanac raporu açık ve net bir uyarıda bulunuyor; Arap ve Körfez bölgelerimiz de dahil olmak üzere dünya giderek artan bir dijital açıklık ile karşı karşıya.

Dijital dönüşümdeki dalgalanmalar ışığında, tehditler oluşmadan önce onları tespit edebilecek dijital istihbarat birimleri kurmak, saldırıları engellemek için uzmanlaşmış araştırma merkezleri, bölgesel iş birlikleri kurarak ulusal siber güvenliği güçlendirmek yoluyla “müdahale” politikasından “öngörme” politikasına geçilmesi gerekiyor.

Tehditler artık sadece teknik raporlardaki rakamlardan ibaret değil, çatışma ve nüfuz araçlarına silah seslerinin değil, çalınan verilerin ve felç olmuş altyapının çığlıklarının duyulduğu savaş alanlarına dönüşmüş durumda.

Sadece yüksek elektronik duvarlar inşa etmek yeterli değil, aynı zamanda saldırıları öngörebilen ve savaş mantığının değiştiğini anlayabilen uyanık zihinler inşa etmek de gerekiyor.

Artık “Saldırıya uğrayacak mıyız?” sorusunu değil, “Ne zaman, nasıl saldırıya uğrayacağız ve buna karşılık vermeye hazır mıyız?” sorusunu sormalıyız.

Hackmanac raporu tek bir cümleyle durumu acı ve vurucu bir şekilde özetliyor:

“Sorunun büyüklüğü başlı başına bir sorun haline geldi.”

* Bu analiz Şarku'l Avsat tarafından Independent Arabia'dan çevrilmiştir.