ABD polisi, yüz tanıma teknolojisini "kestirme yola" dönüştürdü

Yüz tanıma sistemleri, yapay zeka alanındaki tartışmalı teknolojilerden (Reuters)
Yüz tanıma sistemleri, yapay zeka alanındaki tartışmalı teknolojilerden (Reuters)
TT

ABD polisi, yüz tanıma teknolojisini "kestirme yola" dönüştürdü

Yüz tanıma sistemleri, yapay zeka alanındaki tartışmalı teknolojilerden (Reuters)
Yüz tanıma sistemleri, yapay zeka alanındaki tartışmalı teknolojilerden (Reuters)

ABD'de polis, yapay zeka destekli yüz tanıma teknolojisini kullanırken diğer delilleri incelemeden şüphelileri gözaltına alıyor. 

Washington Post (WP), polislerin başka kanıtları göz önünde bulundurmadan veya detaylı inceleme yapmadan, sadece yapay zeka araçlarını kullanarak hareket ettiğini, bu nedenle vatandaşları haksız yere gözaltına aldığını yazıyor.

Polislerin, güvenliği kanıtlanmamış yüz tanıma teknolojilerini "şüphelileri bulup yakalamak için kestirme bir yola dönüştürdüğü" belirtiliyor. 

Haberde, çok az polis teşkilatının bu teknolojiyi kullandığına dair kayıt tuttuğuna dikkat çekiliyor. WP, 23 polis teşkilatının ayrıntılı kayıtlarını inceledi. 

12 eyalette 15 teşkilatın, şüphelileri gerekli deliller olmadan yüz tanıma teknolojisini kullanarak yakaladığı aktarılıyor. Şimdiye dek bu durum nedeniyle en az 8 kişinin haksız yere gözaltına alındığı ifade ediliyor. 

Polislerin, yapay zeka destekli yüz tanıma teknolojisinde "yüzde 100" eşleşme yakaladıktan sonra, parmak izlerini karşılaştırma ya da DNA kontrolü gibi sağlama yöntemlerine başvurmadan harekete geçtiği belirtiliyor. 

Sözkonusu 8 vakadan 6'sında polislerin, şüphelilerin mazeretlerini detaylıca incelemediği ifade ediliyor. 8 vakadan ikisindeyse ekipler, teorileriyle çelişen kanıtları göz ardı etti.

Bunlara ek olarak tanıkların ifadelerinin gerekli titizlikle alınmadığı, şüphelilerin fiziksel özelliklerine dikkat edilmediği veya olay yerinden önemli kanıtların toplanmadığı yazılıyor. 

Amerikan polisi, 6 Ocak 2021'de Kongre Binası'na yapılan saldırı da dahil pek çok zor vakayı çözmekte yüz tanıma sistemini kullanmıştı. 

WP, bu teknolojinin net fotoğraflar kullanılarak yapılan laboratuar testlerinde neredeyse mükemmel bir performans sergilediğine fakat gerçek dünyada bununla ilgili yeterli testlerin yapılmadığına işaret ediyor.

New York Üniversitesi Hukuk Fakültesi'nden Katie Kinsey, polislerin daha düşük kaliteli görüntüler kullandığını, memurların olası eşleşmeler arasından şüpheli adayları belirlediğini söylüyor. Kinsey, bu nedenle yazılımın ne sıklıkla yanlış sonuç verdiğini bilmenin zor olduğunu ifade ediyor.

Independent Türkçe, Washington Post, Los Angeles Times



Deepfake videoları tespit etmek giderek zorlaşıyor: Artık gerçekçi kalp atışları var

Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
TT

Deepfake videoları tespit etmek giderek zorlaşıyor: Artık gerçekçi kalp atışları var

Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)

Deepfake videoların gelişmiş saptama yöntemlerini yanıltabildiği ve her geçen gün daha gerçekçi hale geldiği tespit edildi. 

Bir kişinin yüzünün ya da vücudunun dijital olarak değiştirilmesiyle oluşturulan deepfake videolar endişe yaratmaya devam ediyor. 

Bu videolar gerçek bir kişinin görüntüsünün yapay zeka kullanılarak değiştirilmesiyle yapılıyor. Aslında bu teknoloji, kullanıcıların yüzünü kediye dönüştüren veya yaşlandıran uygulamalar gibi zararsız amaçlarla da kullanılabiliyor.

Ancak insanların cinsel içerikli videolarını üretmek veya masum insanlara iftira atmak için de kullanılabilmesi ciddi bir sorun teşkil ediyor.

Bu videoların sahte olup olmadığını anlamak için kullanılan gelişmiş yöntemlerden biri kalp atışlarını izlemek. 

Uzaktan fotopletismografi (rPPP) adlı araç, deriden geçen ışıktaki küçük değişiklikleri tespit ederek nabzı ölçüyor. Nabız ölçen pulse oksimetreyle aynı prensiple çalışan bu araç, çevrimiçi doktor randevularının yanı sıra deepfake videoları tespit etmek için de kullanılıyor.

Ancak bulguları hakemli dergi Frontiers in Imaging'de bugün (30 Nisan) yayımlanan çalışmaya göre deepfake görüntülerde artık gerçekçi kalp atışları var.

Bilim insanları çalışmalarına videolardaki nabız hızını otomatik olarak saptayıp analiz eden bir deepfake dedektörü geliştirerek başladı. 

Ardından rPPP tabanlı bu aracın verilerini, EKG kayıtlarıyla karşılaştırarak hassasiyetini ölçtüler. Son derece iyi performans gösteren aracın EKG'yle arasında dakikada sadece iki-üç atımlık fark vardı. 

Ekip aracı deepfake videolar üzerinde test ettiğindeyse rPPP, videoya kalp atışı eklenmese bile son derece gerçekçi bir kalp atışı algıladı. 

Bilim insanları kalp atışlarının videoya kasten eklenebileceği gibi, kullanılan kaynak videodan kendiliğinden geçebileceğini de söylüyor.

Almanya'daki Humboldt Üniversitesi'nden çalışmanın ortak yazarı Peter Eisert "Kaynak video gerçek bir kişiye aitse, bu artık deepfake videoya aktarılabiliyor" diyerek ekliyor: 

Sanırım tüm deepfake dedektörlerinin kaderi bu; deepfake'ler gittikçe daha iyi hale geliyor ve iki yıl önce iyi çalışan bir dedektör bugün tamamen başarısız olmaya başlıyor.

Araştırmacılar yine de sahte videoları saptamanın başka yolları olduğunu düşünüyor. Örneğin sadece nabız hızını ölçmek yerine, yüzdeki kan akışını ayrıntılı olarak takip eden dedektörler geliştirilebilir.

Eisert, "Kalp atarken kan, damarlardan geçerek yüze akıyor ve daha sonra tüm yüz bölgesine dağılıyor. Bu harekette gerçek görüntülerde tespit edebileceğimiz küçük bir gecikme var" diyor.

Ancak bilim insanına göre nihai çözüm deepfake dedektörlerinden ziyade, bir görüntünün üzerinde oynanıp oynanmadığını anlamaya yarayan dijital işaretlere odaklanmaktan geçiyor:

Bir şeyin sahte olup olmadığını tespit etmek yerine bir şeyin değiştirilmediğini kanıtlayan teknolojiye daha fazla odaklanmadığımız sürece, deepfake'lerin saptanmalarını zorlaştıracak kadar iyi olacağını düşünüyorum.

Independent Türkçe, BBC Science Focus, TechXplore, Frontiers in Imaging