Çin yüz tanıma teknolojisi ile sokaktaki pijamalıları teşhir ediyor

(Getty Images)
(Getty Images)
TT

Çin yüz tanıma teknolojisi ile sokaktaki pijamalıları teşhir ediyor

(Getty Images)
(Getty Images)

Çin’in doğusunda bulunan bir şehirde yetkililerden “medeniyet dışı davranışlara” son verilmesi talep edildiğinde görevlerini yerine getirmelerine yardım etmesi için görevlilerin ellerine güçlü bir araç olan yüz tanıma programı verildi. Programın en önemli hedefleri arasında, kamusal alanlarda pijama giyerek dolaşan vatandaşlar yer alıyordu.
Anhui eyaletinde bulunan yaklaşık 6 milyon kişinin yaşadığı Suzhou’da güvenlik kameraları tarafından kamusal alanlarda pijama giyerek dolaşan 7 kişinin fotoğrafları çekildi. Kişilerin fotoğraflarını, isimlerinin bir kısmını, kimlik numaralarını ve “medeniyetsiz” davranışlarını sergiledikleri yerlerin konum bilgilerini paylaşan Şehir Yönetim Departmanı’nın bu davranışı sosyal medyada büyük tepki topladı.
Olayın hemen ardından açıklama yapan şehir yetkilileri vatandaşlarından özür diledi ancak zararsız ve nispeten yaygın olan bir şey yapmalarının ardından vatandaşlarının itibarına zarar getirecek şekilde modern dijital teknolojinin kullanılması insanları çoktan öfkelendirmişti bile. Büyük ölçüde kontrolsüz bir şekilde yayılan totaliter dijital araçlarla dolu bir ülkede zararsız bir uygulamaya karşı olağanüstü bir kontrol.
Suzhou Şehir Departmanı, peluş pembe bir bornoz, altına aynı tonlarda bir pantolon ve turuncu bir sandalet giyen Bayan Dong’un caddede yürürken güvenlik kameraları tarafından çekilen fotoğraflarını açık bir şekilde farklı sosyal medya platformları üzerinden yayınlamıştı. Aynı zamanda Yönetim Departmanı, beyaz-siyah renkli bir pijama giyen Bay Niu’nun şehirdeki alışveriş merkezlerinden birinde dolaşırken çekilen fotoğraflarını da yayınladı.
Meşhur bir mesajlaşma uygulaması olan WeChat adlı uygulama üzerinden bir gönderi paylaşan Yönetim Departmanı gönderide şu ifadeleri kullandı:
“Genel ahlak kurallarından yoksun olan kişilerin kamu düzenini bozacak şekilde davranması, medeniyetsiz davranışlar sergilediklerini gösterir. Çoğu insan bunun büyük bir problem değil küçük bir problem olduğunu düşünüyor. Diğerleri, kamusal alanların herkesin hakkı olduğuna inanarak burada suçlamanın, denetimin ve kamuoyu baskısının olmadığını zannediyor. Bu düşünceler, kendi halinden memnun, disiplinsiz bir zihniyetin oluşmasına sebep oldu.” Bu gönderinin yayınlandıktan sonra silindiğini de belirtmemiz gerekir. Emniyet yetkilileri tarafından yüz tanıma programının kullanılması hala dünya çapında insanlar arasında tartışılan önemli konular arasında yer alıyor. Zira, ABD’nin bazı büyük şehirlerinde bu programların kullanımı yasaklanmıştır.
Bununla birlikte Çin’de durum böyle değil. Birkaç yıl içerisinde söz konusu programların kullanımı büyük oranda yaygınlaştı. Bu programlar, Çin polisi tarafından etnik azınlıkların kimliklerinin saptanması ve kayıt altına alınması için güçlü bir izleme ağı kurulması amacıyla kullanıldı. Bu da, Çin’in modern dijital araçlar kullanarak baskıcı bir yönetim sisteminin hakim olduğu bir gelecek inşa ettiği ile ilgili endişelere yol açıyor.
Aynı zamanda söz konusu teknolojiler, birçok hayati problemin de çözülmesinde kullanılıyor. Yerel yetkililer bunları kamu alanlarında yolları kesen kişilerin yakalanması için kullanıyor. Buna ek olarak insanlar bunları uçağa binecekleri, farklı yiyecekler sipariş edecekleri hatta bazı hayvanların türlerini tespit edecekleri zaman kullanıyor.
Yeni teknolojilerin kullanılması karşısında duyulan heyecanın çoğunlukla bu teknolojilerin gerçek gücünü geride bıraktığı Çin’de, yüz tanıma sisteminin kullanım alanı hala tam olarak netleşmiş bir konu değil.  Buna rağmen Çin’deki çoğu vatandaş söz konusu teknolojilerin kullanımını geniş ölçüde benimsedi.
Suzhou şehrinin sokaklarında pijama giyen insanların bu şekilde teşhir edilmesi, haddin aşılması konusunda kabul edilemez bir şey sayılabilir. Çin'de, insanların günlük yaşamlarının izlenmesi ve takip edilmesi ile ilgili bağımsız bir yargı sistemi veya yasal başka bir merci bulunmamasına rağmen benzer hükümet uygulamalarından ziyade internet şirketleri ile daha fazla ilgilenen ve sayıları her geçen gün artan birçok vatandaş, gizlilikle ilgili endişelerini dile getiriyor.
Bazı kullanıcılar, hükümetin vatandaşların kişisel bilgilerini internet üzerinden yayınlama kararını kabul etmediklerini ifade ettiler. Bazı kişiler ise pijama ile kamu alanlarında dolaşmanın neden bu denli büyük bir hata sayıldığını bilmek istediklerini söylediler. Kimileri de olay hakkında yorum yaparak “Ünlüler bu gibi özel kıyafetleri etkinliklerde giydiklerinde onların son modaya uyduğunu söylüyorlar ama bunu sıradan vatandaşlar normal caddelerde yaptıklarında onları medeniyetsiz davranışlar sergilemek ile suçluyorlar” ifadelerini kullandı.



Gazze, İsrail'in yapay zeka teknolojilerini test ettiği bir alana dönüştü

İsrail ordusunun Matzpen teknoloji birimi (Reuters)
İsrail ordusunun Matzpen teknoloji birimi (Reuters)
TT

Gazze, İsrail'in yapay zeka teknolojilerini test ettiği bir alana dönüştü

İsrail ordusunun Matzpen teknoloji birimi (Reuters)
İsrail ordusunun Matzpen teknoloji birimi (Reuters)

İnci Mecdi

İsrail tarafından geliştirilen ve 7 Ekim 2023 tarihinden bu yana Gazze’deki savaş sırasında Hamas liderlerinin yerini tespit etmek için kullanılan yapay zeka (AI) teknolojileri, özellikle de İsrail'e askeri bir avantaj sağlayan bu teknolojilerin kullanılmasının feci sonuçları göz önüne alındığında, giderek artan etik kaygılara yol açıyor.

İsrailli ve ABD’li yetkililerin ABD merkezli New York Times (NYT) gazetesine verdiği bilgilere göre İsrailli subaylar yapay zeka tabanlı askeri teknolojiyi ilk kez 2023 yılının sonlarında, 7 Ekim 2023 saldırılarının planlanmasına yardımcı olan Hamas’ın üst düzey liderlerinden İbrahim el-Bayari'ye suikast düzenlemek için kullandı. İsrail istihbaratı, Gazze Şeridi'nin altındaki tünellerde saklandığına inanılan Bayari’nin yerini başlangıçta tespit edemedi. Bu da on yıl önce savaşta kullanılmadan geliştirilmiş olan aracı geliştirmek için yeni bir teşvik sağladı. İçeridekilere göre Birim 8200 mühendisleri yapay zekayı bu araca dahil etmekte gecikmedi. İsrail kısa süre içinde Bayari'nin aramalarını dinleyebildi ve aramaların yapıldığı yerin yaklaşık konumunu veren sesli yapay zeka aracını test etti. İsrail bu bilgiyi kullanarak 31 Ekim 2023'te bölgeyi hedef alan hava saldırıları düzenledi ve Bayari'yi öldürdü.

“The Studio”

Ancak İsrail'in savaş sırasında kullandığı yapay zeka teknolojileri önemli sivil kayıplara yol açtı. Şarku’l Avsat’ın Londra merkezli çatışma izleme kuruluşu Airwars'tan aktardığı verilere göre Bayari'ye yapılan saldırıda 125'ten fazla sivil öldü. Kimliklerinin gizli kalması şartıyla NYT’ye konuşan ABD ve İsrailli dokuz yetkilinin açıklamalarına göre Bayari suikastı için düzenlenen hava saldırısında 125'ten fazla sivil öldürüldü. Bunun için kullanılan sonik araç, İsrail'in Gazze'deki savaşı yapay zeka destekli askeri teknolojileri dünyanın daha önce hiç görmediği bir hızda test etmek ve uygulamak için nasıl kullandığının sadece bir örneğiydi.

İsrail, geçtiğimiz 18 ay boyunca kısmen gizlenmiş ya da yaralanmış olan yüzleri gerçek kimliklerle eşleştirmek için yapay zekayı yüz tanıma yazılımına da entegre etti. Potansiyel hava saldırısı hedeflerini gruplandırmak için yapay zekayı kullandı. İki kaynağa göre, mesajları, sosyal medya gönderilerini ve Arapça diğer verileri toplayıp analiz edebilen bir sohbet robotunu güçlendirmek için Arapça bir yapay zeka modeli oluşturdu.

NYT'ye konuşan ve söz konusu teknolojiler hakkında bilgi sahibi olan kişilere göre bu çabaların çoğu Birim 8200'de görevlendirilen askerler ile Google, Microsoft ve Meta gibi teknoloji şirketlerinde çalışan yedek askerler arasında bir ortaklığın da önünü açtı. Kaynaklar, Birim 8200'ün bir inovasyon merkezi ve uzmanların yapay zeka projeleriyle eşleştirildiği bir yer olan The Studio'yu oluşturduğunu söyledi.

Yedek askerler

İsrailli yetkililer, Hamas'ın 7 Ekim 2023'te İsrail'e sınır ötesi saldırılar düzenleyerek bin 200'den fazla kişiyi öldürmesi ve 250’den fazla kişiyi rehin almasının ardından, Birim 8200 ile The Studio’daki yedek askerler arasındaki iş birliğinin hızla yeni yapay zeka teknolojileri geliştirmesine izin verildiğini açıkladı. Yatırımcıları şirketlerle buluşturan ve kâr amacı gütmeyen İsrailli bir kuruluş olan Startup Nation Central'ın CEO'su Avi Hasson, META, Google ve Microsoft'ta çalışan İsrailli yedek askerlerin insansız hava araçları (İHA) ve veri füzyonu (bilgi bütünleştirme) alanlarında inovasyonu teşvik eden kilit unsurlar haline geldiğini söyledi. Yedek subaylar teknik bilgi birikimi ve orduda bulunmayan kilit teknolojilere erişim sağladılar.

İsrail ordusu İHA filosunu güçlendirmek için de hızla yapay zekayı kullandı. İsrail ordusuyla birlikte çalışan bir yazılım ve yürüyüş şirketi olan XTEND’ın kurucusu ve CEO'su Aviv Shapira, hedefleri uzaktan tanımlayan ve takip eden İHA’lar geliştirmek için yapay zeka algoritmalarının kullanıldığını söyledi.

İsrailli ve ABD'li yetkililere göre İsrail yapay zeka tabanlı cephaneliğini geliştirmek için yarışırken bile, bu teknolojilerin kullanılması bazen yanlış kimliklere, tutuklamalara ve sivil ölümlerine yol açtı. Bazıları, gözetimin artmasına ve sivillerin öldürülmesine yol açabilecek yapay zekanın etik sonuçları hakkında tartışırken Avrupalı ve ABD'li savunma yetkilileri, başka hiçbir ülkenin mevcut savaşlar sırasında yapay zeka araçlarını denemede İsrail kadar aktif olmadığını ve bu teknolojilerin gelecekteki savaşlarda nasıl kullanılabileceğine ve nasıl başarısız olabileceklerine dair bir fikir verdiğini söyledi.

Geniş dil modeli

The Studio tarafından geliştirilen araçlardan biri de geniş dil modeli olarak bilinen Arapça yapay zeka modeliydi. Konuyla ilgili bilgi sahibi İsrailli subaylara göre ülkede onlarca yıldır Arapça konuşulan lehçelerde ele geçirilmiş kısa mesajlar (SMS), telefon görüşmeleri ve sosyal medya paylaşımları bulunuyor. Bu yüzden İsrailli subaylar savaşın ilk birkaç ayında geniş bir dil modeli oluşturdular ve Arapça sorgular yapmak için bir chatbot geliştirdiler. ABD’li ve İsrailli yetkililerin dördü, aracın multimedya veri tabanlarıyla entegre edilerek analistlerin görüntü ve videolar üzerinde karmaşık aramalar yapabilmelerinin sağlandığını söyledi.

İsrailli üç subaya göre İsrail geçtiğimiz eylül ayında Hizbullah lideri Hasan Nasrallah'a suikast düzenlediğinde, bahsi geçen chatbot Arap dünyasındaki tepkileri analiz etti. Teknoloji, halkın tepkilerini ölçmek için Lübnan'daki farklı lehçeleri ayırt ederek İsrail'in karşı saldırı başlatmak için kamuoyu baskısı olup olmadığını değerlendirmesine yardımcı oldu. Ancak iki subaydan biri, chatbotun bazen İngilizceden Arapçaya çevrilen bazı modern argo terimleri ve kelimeleri tanımlayamadığını, bunun da farklı lehçelerde uzman İsrailli istihbarat subaylarının çalışmasını gözden geçirip düzeltmesini gerektirdiğini belirtti.

İsrailli iki istihbarat yetkilisine göre chatbot bazen yanlış cevaplar verdi. Aynı yetkililer, chatbotun örneğin tüfekleri boru olarak gösterdiğini, ancak yapay zeka aracının araştırma ve analizi büyük ölçüde hızlandırdığını söylediler.

İsrail ayrıca 7 Ekim 2023 saldırılarından sonra Gazze Şeridi'nin kuzeyi ve güneyi arasında kurulan geçici kontrol noktalarına, Filistinlilerin yüksek çözünürlüklü görüntülerini tarayıp yapay zeka destekli yüz tanıma yazılımına gönderme özelliğine sahip kameralar yerleştirmeye başladı. Ancak sistem, zaman zaman yüzleri gizlenmiş kişileri tanımlamakta zorlandı. Bu durum, yüz tanıma sistemi tarafından yanlışlıkla teşhis edilen Filistinlilerin tutuklanmasına ve sorgulanmasına yol açtı.