Yapay zeka ile arkadaşlık: 'Onun gibi bir arkadaşım olmasını isterdim'

Teknoloji uzmanları bir Belçikalının intiharından sonra yapay zekanın tehlikeleri konusunda uyardı

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
TT

Yapay zeka ile arkadaşlık: 'Onun gibi bir arkadaşım olmasını isterdim'

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)

Yapay zeka dalgasına katılan Snapchat uygulaması, ilk kez programa ücretsiz erişim sağlayan bir teknolojiyi piyasaya sürdükten sonra, kullanıcılarına arkadaşlık ilişkisi kurabilen bir robotla sohbet etme kapısını ardına kadar açtı. 

Washington Post, Snapchat ile sohbet programını test etti. Testi üstlenen kişi, sorunlarının çözümlerini soran 15 yaşında bir genç gibi davrandı.

Yapay zeka, ebeveynlerinin uygulamayı silmekle tehdit etmesi üzerine alkol kokusunun nasıl kapatılacağı ve Snapchat'in nasıl farklı bir cihaza taşınacağı konusunda önerilerde bulundu.

"Kendini yakın hissetmek"

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor.

Faslı 14 yaşındaki Sare, yapay zeka ile konuşma teknolojisi deneyimini şöyle anlattı:

Onun yanınızda olduğunu hissediyorsunuz, tüm sorulara, sınavlara her şeye cevap veriyor. O hayatımızın bir parçası oldu. Keşke onun gibi her an bana cevap verebilecek bir arkadaşım olsaydı. Okulda GBT sohbetten ve ayrıca Snapchat için My AI robot teknolojisinden bahsediyoruz. Bu teknolojilerle iletişim kurmayanlar geri kalmış olarak değerlendiriliyor. Yeni teknoloji hayatımızı kolaylaştırdığı gibi dil öğrenmemize ve özgürce konuşmamıza da yardımcı oluyor.

15 yaşında bir genç olan Melak ise şöyle konuştu:

Bir soru yazdığımda ve bana hızlı bir şekilde cevap verildiğini gördüğümde, birinin benimle ilgilendiğini hissediyorum. Aslında o gerçekte yok, bazen onun yapay zeka olmadığını hissediyorum, yakın bir dost gibi tüm sorunlara çözüm buluyor.

Bir robotla yakınlık

 Belçika'daki Avrupa Araştırma Merkezi'nde (IMEC) çalışan Nanoteknoloji Teknik Uzmanı Kevser Bubkar, bir robotla konuşma teknolojisinin ergenlerin ruh sağlığı üzerindeki yansımaları konusunda uyarıda bulundu.

Independent Arabia ile yaptığı röportajda Bubkar, konuyla ilgili şu bilgileri verdi:

Yapay zeka, insanların doğrudan sorularını yanıtlama yeteneğine rağmen, insan ruhunun karmaşıklığına ilişkin sınırlı bir anlayışa sahip olduğu için empati ve gerçek insan etkileşimine uyum sağlama yeteneğinden yoksundur. Ancak Snapchat'in ticari bir amacı olduğunu ve karının veri toplamaya dayandığını unutamayız. Çocuklar ve ergenler, bir robotla yakından ilgilenip çevrelerindeki yetişkinlere açıklamadıkları şeyleri ifşa edebilirler ve bu tür mahrem cevaplar, özellikle ergenler için bilginin nasıl korunacağı sorusunu gündeme getirebilir. Snapchat ile kullanıcının fotoğraflarını elde edildiği için yapay zeka ile kullanıcı arasında özdeşleşme sağlanıyor. Buradaki tehlikeli şeylerden biri, onunla kimin konuştuğundan emin olamamanızdır, o bir kullanıcı mı yoksa bir robot mu?

Hala kişilik, insani ve kültürel eğilimler geliştirme aşamasında olan bir yaş grubu olan ergenler, bir robota daha fazla güvenir hale gelirse, bu, sağlıklı insan ilişkileri kurmanın önünde bir engel oluşturabilir.

Çünkü sosyal ilişkilerin oluşması, çevreye uyum sağlama yeteneği ile ilgilidir.  Yakın bir zamanda yetişkin bir erkeğin yapay zekayla yakınlaşması, talihsiz bir şekilde intihar etmesiyle sonuçlandı.

Belçikalı bir adam bir robotla gezegenin geleceği hakkında konuşurken yapay zeka aracılığıyla gerçekleştirilen ve iklim kriziyle ilgili altı hafta süren sohbetin ardından intihar etti.

Eşine göre adam çevre konusunda derinden endişeliydi ve Chai adlı bir uygulamada Elisa adlı dişi bir yapay zeka robotuyla konuştuğunda, gezegeni kurtarmak için kendini feda etmeyi teklif ettikten sonra Elisa onu hayatına son vermesi için cesaretlendirdi.

Bağımlılık

Uzman Kevser Bubkar sözlerini şu şekilde noktaladı:

Robotların ergenler ve çocuklarla olan ilişkisi konusunda uyaran önde gelen araştırmacılar var ve Snapchat hakkında büyük endişeler var. Çünkü kullanıcıların yüzde 60'ı ergenler ve çocuklar. Snapchat uygulaması dilden çok görüntüye odaklanıyor ve ergenleri etkileyen ve bağımlılığa maruz bırakan bir tür özel konuşmaya sahip. Yapay zekanın onlarla her an etkileşime girip onlar hakkında konuşmaması nedeniyle depresyona girebilir veya uygulamaya bağımlı hale gelebilirler. Bu tür teknolojilerin nasıl yasallaştırılacağı araştırılıncaya kadar uygulamanın durdurulması talepleri var. Bir robotla etkileşimden kaynaklanan riskler izlenmeli ve kullanım süresi, makinenin ergenlere insan etkileşimi becerilerini öğretmeyi telafi etmemesi için sınırlandırılmalıdır.

 

Independent Arabia 



Gazze, İsrail'in yapay zeka teknolojilerini test ettiği bir alana dönüştü

İsrail ordusunun Matzpen teknoloji birimi (Reuters)
İsrail ordusunun Matzpen teknoloji birimi (Reuters)
TT

Gazze, İsrail'in yapay zeka teknolojilerini test ettiği bir alana dönüştü

İsrail ordusunun Matzpen teknoloji birimi (Reuters)
İsrail ordusunun Matzpen teknoloji birimi (Reuters)

İnci Mecdi

İsrail tarafından geliştirilen ve 7 Ekim 2023 tarihinden bu yana Gazze’deki savaş sırasında Hamas liderlerinin yerini tespit etmek için kullanılan yapay zeka (AI) teknolojileri, özellikle de İsrail'e askeri bir avantaj sağlayan bu teknolojilerin kullanılmasının feci sonuçları göz önüne alındığında, giderek artan etik kaygılara yol açıyor.

İsrailli ve ABD’li yetkililerin ABD merkezli New York Times (NYT) gazetesine verdiği bilgilere göre İsrailli subaylar yapay zeka tabanlı askeri teknolojiyi ilk kez 2023 yılının sonlarında, 7 Ekim 2023 saldırılarının planlanmasına yardımcı olan Hamas’ın üst düzey liderlerinden İbrahim el-Bayari'ye suikast düzenlemek için kullandı. İsrail istihbaratı, Gazze Şeridi'nin altındaki tünellerde saklandığına inanılan Bayari’nin yerini başlangıçta tespit edemedi. Bu da on yıl önce savaşta kullanılmadan geliştirilmiş olan aracı geliştirmek için yeni bir teşvik sağladı. İçeridekilere göre Birim 8200 mühendisleri yapay zekayı bu araca dahil etmekte gecikmedi. İsrail kısa süre içinde Bayari'nin aramalarını dinleyebildi ve aramaların yapıldığı yerin yaklaşık konumunu veren sesli yapay zeka aracını test etti. İsrail bu bilgiyi kullanarak 31 Ekim 2023'te bölgeyi hedef alan hava saldırıları düzenledi ve Bayari'yi öldürdü.

“The Studio”

Ancak İsrail'in savaş sırasında kullandığı yapay zeka teknolojileri önemli sivil kayıplara yol açtı. Şarku’l Avsat’ın Londra merkezli çatışma izleme kuruluşu Airwars'tan aktardığı verilere göre Bayari'ye yapılan saldırıda 125'ten fazla sivil öldü. Kimliklerinin gizli kalması şartıyla NYT’ye konuşan ABD ve İsrailli dokuz yetkilinin açıklamalarına göre Bayari suikastı için düzenlenen hava saldırısında 125'ten fazla sivil öldürüldü. Bunun için kullanılan sonik araç, İsrail'in Gazze'deki savaşı yapay zeka destekli askeri teknolojileri dünyanın daha önce hiç görmediği bir hızda test etmek ve uygulamak için nasıl kullandığının sadece bir örneğiydi.

İsrail, geçtiğimiz 18 ay boyunca kısmen gizlenmiş ya da yaralanmış olan yüzleri gerçek kimliklerle eşleştirmek için yapay zekayı yüz tanıma yazılımına da entegre etti. Potansiyel hava saldırısı hedeflerini gruplandırmak için yapay zekayı kullandı. İki kaynağa göre, mesajları, sosyal medya gönderilerini ve Arapça diğer verileri toplayıp analiz edebilen bir sohbet robotunu güçlendirmek için Arapça bir yapay zeka modeli oluşturdu.

NYT'ye konuşan ve söz konusu teknolojiler hakkında bilgi sahibi olan kişilere göre bu çabaların çoğu Birim 8200'de görevlendirilen askerler ile Google, Microsoft ve Meta gibi teknoloji şirketlerinde çalışan yedek askerler arasında bir ortaklığın da önünü açtı. Kaynaklar, Birim 8200'ün bir inovasyon merkezi ve uzmanların yapay zeka projeleriyle eşleştirildiği bir yer olan The Studio'yu oluşturduğunu söyledi.

Yedek askerler

İsrailli yetkililer, Hamas'ın 7 Ekim 2023'te İsrail'e sınır ötesi saldırılar düzenleyerek bin 200'den fazla kişiyi öldürmesi ve 250’den fazla kişiyi rehin almasının ardından, Birim 8200 ile The Studio’daki yedek askerler arasındaki iş birliğinin hızla yeni yapay zeka teknolojileri geliştirmesine izin verildiğini açıkladı. Yatırımcıları şirketlerle buluşturan ve kâr amacı gütmeyen İsrailli bir kuruluş olan Startup Nation Central'ın CEO'su Avi Hasson, META, Google ve Microsoft'ta çalışan İsrailli yedek askerlerin insansız hava araçları (İHA) ve veri füzyonu (bilgi bütünleştirme) alanlarında inovasyonu teşvik eden kilit unsurlar haline geldiğini söyledi. Yedek subaylar teknik bilgi birikimi ve orduda bulunmayan kilit teknolojilere erişim sağladılar.

İsrail ordusu İHA filosunu güçlendirmek için de hızla yapay zekayı kullandı. İsrail ordusuyla birlikte çalışan bir yazılım ve yürüyüş şirketi olan XTEND’ın kurucusu ve CEO'su Aviv Shapira, hedefleri uzaktan tanımlayan ve takip eden İHA’lar geliştirmek için yapay zeka algoritmalarının kullanıldığını söyledi.

İsrailli ve ABD'li yetkililere göre İsrail yapay zeka tabanlı cephaneliğini geliştirmek için yarışırken bile, bu teknolojilerin kullanılması bazen yanlış kimliklere, tutuklamalara ve sivil ölümlerine yol açtı. Bazıları, gözetimin artmasına ve sivillerin öldürülmesine yol açabilecek yapay zekanın etik sonuçları hakkında tartışırken Avrupalı ve ABD'li savunma yetkilileri, başka hiçbir ülkenin mevcut savaşlar sırasında yapay zeka araçlarını denemede İsrail kadar aktif olmadığını ve bu teknolojilerin gelecekteki savaşlarda nasıl kullanılabileceğine ve nasıl başarısız olabileceklerine dair bir fikir verdiğini söyledi.

Geniş dil modeli

The Studio tarafından geliştirilen araçlardan biri de geniş dil modeli olarak bilinen Arapça yapay zeka modeliydi. Konuyla ilgili bilgi sahibi İsrailli subaylara göre ülkede onlarca yıldır Arapça konuşulan lehçelerde ele geçirilmiş kısa mesajlar (SMS), telefon görüşmeleri ve sosyal medya paylaşımları bulunuyor. Bu yüzden İsrailli subaylar savaşın ilk birkaç ayında geniş bir dil modeli oluşturdular ve Arapça sorgular yapmak için bir chatbot geliştirdiler. ABD’li ve İsrailli yetkililerin dördü, aracın multimedya veri tabanlarıyla entegre edilerek analistlerin görüntü ve videolar üzerinde karmaşık aramalar yapabilmelerinin sağlandığını söyledi.

İsrailli üç subaya göre İsrail geçtiğimiz eylül ayında Hizbullah lideri Hasan Nasrallah'a suikast düzenlediğinde, bahsi geçen chatbot Arap dünyasındaki tepkileri analiz etti. Teknoloji, halkın tepkilerini ölçmek için Lübnan'daki farklı lehçeleri ayırt ederek İsrail'in karşı saldırı başlatmak için kamuoyu baskısı olup olmadığını değerlendirmesine yardımcı oldu. Ancak iki subaydan biri, chatbotun bazen İngilizceden Arapçaya çevrilen bazı modern argo terimleri ve kelimeleri tanımlayamadığını, bunun da farklı lehçelerde uzman İsrailli istihbarat subaylarının çalışmasını gözden geçirip düzeltmesini gerektirdiğini belirtti.

İsrailli iki istihbarat yetkilisine göre chatbot bazen yanlış cevaplar verdi. Aynı yetkililer, chatbotun örneğin tüfekleri boru olarak gösterdiğini, ancak yapay zeka aracının araştırma ve analizi büyük ölçüde hızlandırdığını söylediler.

İsrail ayrıca 7 Ekim 2023 saldırılarından sonra Gazze Şeridi'nin kuzeyi ve güneyi arasında kurulan geçici kontrol noktalarına, Filistinlilerin yüksek çözünürlüklü görüntülerini tarayıp yapay zeka destekli yüz tanıma yazılımına gönderme özelliğine sahip kameralar yerleştirmeye başladı. Ancak sistem, zaman zaman yüzleri gizlenmiş kişileri tanımlamakta zorlandı. Bu durum, yüz tanıma sistemi tarafından yanlışlıkla teşhis edilen Filistinlilerin tutuklanmasına ve sorgulanmasına yol açtı.