Çin yüz tanıma teknolojisi ile sokaktaki pijamalıları teşhir ediyor

(Getty Images)
(Getty Images)
TT

Çin yüz tanıma teknolojisi ile sokaktaki pijamalıları teşhir ediyor

(Getty Images)
(Getty Images)

Çin’in doğusunda bulunan bir şehirde yetkililerden “medeniyet dışı davranışlara” son verilmesi talep edildiğinde görevlerini yerine getirmelerine yardım etmesi için görevlilerin ellerine güçlü bir araç olan yüz tanıma programı verildi. Programın en önemli hedefleri arasında, kamusal alanlarda pijama giyerek dolaşan vatandaşlar yer alıyordu.
Anhui eyaletinde bulunan yaklaşık 6 milyon kişinin yaşadığı Suzhou’da güvenlik kameraları tarafından kamusal alanlarda pijama giyerek dolaşan 7 kişinin fotoğrafları çekildi. Kişilerin fotoğraflarını, isimlerinin bir kısmını, kimlik numaralarını ve “medeniyetsiz” davranışlarını sergiledikleri yerlerin konum bilgilerini paylaşan Şehir Yönetim Departmanı’nın bu davranışı sosyal medyada büyük tepki topladı.
Olayın hemen ardından açıklama yapan şehir yetkilileri vatandaşlarından özür diledi ancak zararsız ve nispeten yaygın olan bir şey yapmalarının ardından vatandaşlarının itibarına zarar getirecek şekilde modern dijital teknolojinin kullanılması insanları çoktan öfkelendirmişti bile. Büyük ölçüde kontrolsüz bir şekilde yayılan totaliter dijital araçlarla dolu bir ülkede zararsız bir uygulamaya karşı olağanüstü bir kontrol.
Suzhou Şehir Departmanı, peluş pembe bir bornoz, altına aynı tonlarda bir pantolon ve turuncu bir sandalet giyen Bayan Dong’un caddede yürürken güvenlik kameraları tarafından çekilen fotoğraflarını açık bir şekilde farklı sosyal medya platformları üzerinden yayınlamıştı. Aynı zamanda Yönetim Departmanı, beyaz-siyah renkli bir pijama giyen Bay Niu’nun şehirdeki alışveriş merkezlerinden birinde dolaşırken çekilen fotoğraflarını da yayınladı.
Meşhur bir mesajlaşma uygulaması olan WeChat adlı uygulama üzerinden bir gönderi paylaşan Yönetim Departmanı gönderide şu ifadeleri kullandı:
“Genel ahlak kurallarından yoksun olan kişilerin kamu düzenini bozacak şekilde davranması, medeniyetsiz davranışlar sergilediklerini gösterir. Çoğu insan bunun büyük bir problem değil küçük bir problem olduğunu düşünüyor. Diğerleri, kamusal alanların herkesin hakkı olduğuna inanarak burada suçlamanın, denetimin ve kamuoyu baskısının olmadığını zannediyor. Bu düşünceler, kendi halinden memnun, disiplinsiz bir zihniyetin oluşmasına sebep oldu.” Bu gönderinin yayınlandıktan sonra silindiğini de belirtmemiz gerekir. Emniyet yetkilileri tarafından yüz tanıma programının kullanılması hala dünya çapında insanlar arasında tartışılan önemli konular arasında yer alıyor. Zira, ABD’nin bazı büyük şehirlerinde bu programların kullanımı yasaklanmıştır.
Bununla birlikte Çin’de durum böyle değil. Birkaç yıl içerisinde söz konusu programların kullanımı büyük oranda yaygınlaştı. Bu programlar, Çin polisi tarafından etnik azınlıkların kimliklerinin saptanması ve kayıt altına alınması için güçlü bir izleme ağı kurulması amacıyla kullanıldı. Bu da, Çin’in modern dijital araçlar kullanarak baskıcı bir yönetim sisteminin hakim olduğu bir gelecek inşa ettiği ile ilgili endişelere yol açıyor.
Aynı zamanda söz konusu teknolojiler, birçok hayati problemin de çözülmesinde kullanılıyor. Yerel yetkililer bunları kamu alanlarında yolları kesen kişilerin yakalanması için kullanıyor. Buna ek olarak insanlar bunları uçağa binecekleri, farklı yiyecekler sipariş edecekleri hatta bazı hayvanların türlerini tespit edecekleri zaman kullanıyor.
Yeni teknolojilerin kullanılması karşısında duyulan heyecanın çoğunlukla bu teknolojilerin gerçek gücünü geride bıraktığı Çin’de, yüz tanıma sisteminin kullanım alanı hala tam olarak netleşmiş bir konu değil.  Buna rağmen Çin’deki çoğu vatandaş söz konusu teknolojilerin kullanımını geniş ölçüde benimsedi.
Suzhou şehrinin sokaklarında pijama giyen insanların bu şekilde teşhir edilmesi, haddin aşılması konusunda kabul edilemez bir şey sayılabilir. Çin'de, insanların günlük yaşamlarının izlenmesi ve takip edilmesi ile ilgili bağımsız bir yargı sistemi veya yasal başka bir merci bulunmamasına rağmen benzer hükümet uygulamalarından ziyade internet şirketleri ile daha fazla ilgilenen ve sayıları her geçen gün artan birçok vatandaş, gizlilikle ilgili endişelerini dile getiriyor.
Bazı kullanıcılar, hükümetin vatandaşların kişisel bilgilerini internet üzerinden yayınlama kararını kabul etmediklerini ifade ettiler. Bazı kişiler ise pijama ile kamu alanlarında dolaşmanın neden bu denli büyük bir hata sayıldığını bilmek istediklerini söylediler. Kimileri de olay hakkında yorum yaparak “Ünlüler bu gibi özel kıyafetleri etkinliklerde giydiklerinde onların son modaya uyduğunu söylüyorlar ama bunu sıradan vatandaşlar normal caddelerde yaptıklarında onları medeniyetsiz davranışlar sergilemek ile suçluyorlar” ifadelerini kullandı.



Deepfake videoları tespit etmek giderek zorlaşıyor: Artık gerçekçi kalp atışları var

Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
TT

Deepfake videoları tespit etmek giderek zorlaşıyor: Artık gerçekçi kalp atışları var

Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)

Deepfake videoların gelişmiş saptama yöntemlerini yanıltabildiği ve her geçen gün daha gerçekçi hale geldiği tespit edildi. 

Bir kişinin yüzünün ya da vücudunun dijital olarak değiştirilmesiyle oluşturulan deepfake videolar endişe yaratmaya devam ediyor. 

Bu videolar gerçek bir kişinin görüntüsünün yapay zeka kullanılarak değiştirilmesiyle yapılıyor. Aslında bu teknoloji, kullanıcıların yüzünü kediye dönüştüren veya yaşlandıran uygulamalar gibi zararsız amaçlarla da kullanılabiliyor.

Ancak insanların cinsel içerikli videolarını üretmek veya masum insanlara iftira atmak için de kullanılabilmesi ciddi bir sorun teşkil ediyor.

Bu videoların sahte olup olmadığını anlamak için kullanılan gelişmiş yöntemlerden biri kalp atışlarını izlemek. 

Uzaktan fotopletismografi (rPPP) adlı araç, deriden geçen ışıktaki küçük değişiklikleri tespit ederek nabzı ölçüyor. Nabız ölçen pulse oksimetreyle aynı prensiple çalışan bu araç, çevrimiçi doktor randevularının yanı sıra deepfake videoları tespit etmek için de kullanılıyor.

Ancak bulguları hakemli dergi Frontiers in Imaging'de bugün (30 Nisan) yayımlanan çalışmaya göre deepfake görüntülerde artık gerçekçi kalp atışları var.

Bilim insanları çalışmalarına videolardaki nabız hızını otomatik olarak saptayıp analiz eden bir deepfake dedektörü geliştirerek başladı. 

Ardından rPPP tabanlı bu aracın verilerini, EKG kayıtlarıyla karşılaştırarak hassasiyetini ölçtüler. Son derece iyi performans gösteren aracın EKG'yle arasında dakikada sadece iki-üç atımlık fark vardı. 

Ekip aracı deepfake videolar üzerinde test ettiğindeyse rPPP, videoya kalp atışı eklenmese bile son derece gerçekçi bir kalp atışı algıladı. 

Bilim insanları kalp atışlarının videoya kasten eklenebileceği gibi, kullanılan kaynak videodan kendiliğinden geçebileceğini de söylüyor.

Almanya'daki Humboldt Üniversitesi'nden çalışmanın ortak yazarı Peter Eisert "Kaynak video gerçek bir kişiye aitse, bu artık deepfake videoya aktarılabiliyor" diyerek ekliyor: 

Sanırım tüm deepfake dedektörlerinin kaderi bu; deepfake'ler gittikçe daha iyi hale geliyor ve iki yıl önce iyi çalışan bir dedektör bugün tamamen başarısız olmaya başlıyor.

Araştırmacılar yine de sahte videoları saptamanın başka yolları olduğunu düşünüyor. Örneğin sadece nabız hızını ölçmek yerine, yüzdeki kan akışını ayrıntılı olarak takip eden dedektörler geliştirilebilir.

Eisert, "Kalp atarken kan, damarlardan geçerek yüze akıyor ve daha sonra tüm yüz bölgesine dağılıyor. Bu harekette gerçek görüntülerde tespit edebileceğimiz küçük bir gecikme var" diyor.

Ancak bilim insanına göre nihai çözüm deepfake dedektörlerinden ziyade, bir görüntünün üzerinde oynanıp oynanmadığını anlamaya yarayan dijital işaretlere odaklanmaktan geçiyor:

Bir şeyin sahte olup olmadığını tespit etmek yerine bir şeyin değiştirilmediğini kanıtlayan teknolojiye daha fazla odaklanmadığımız sürece, deepfake'lerin saptanmalarını zorlaştıracak kadar iyi olacağını düşünüyorum.

Independent Türkçe, BBC Science Focus, TechXplore, Frontiers in Imaging