UNESCO, yapay zekâ konusundaki tavsiyelerinin uygulanması çağrısında bulundu

UNESCO’nun yapay zekâ konusundaki tavsiyeleri, bu teknolojinin yarattığı riskleri en aza indirmeyi amaçlarken, aynı zamanda ülkeler için bir yol haritası geliştirilmesi çağrısında bulunuyor (AFP)
UNESCO’nun yapay zekâ konusundaki tavsiyeleri, bu teknolojinin yarattığı riskleri en aza indirmeyi amaçlarken, aynı zamanda ülkeler için bir yol haritası geliştirilmesi çağrısında bulunuyor (AFP)
TT

UNESCO, yapay zekâ konusundaki tavsiyelerinin uygulanması çağrısında bulundu

UNESCO’nun yapay zekâ konusundaki tavsiyeleri, bu teknolojinin yarattığı riskleri en aza indirmeyi amaçlarken, aynı zamanda ülkeler için bir yol haritası geliştirilmesi çağrısında bulunuyor (AFP)
UNESCO’nun yapay zekâ konusundaki tavsiyeleri, bu teknolojinin yarattığı riskleri en aza indirmeyi amaçlarken, aynı zamanda ülkeler için bir yol haritası geliştirilmesi çağrısında bulunuyor (AFP)

Birleşmiş Milletler Eğitim, Bilim ve Kültür Örgütü (UNESCO), Elon Musk ve yüzlerce diğer uzmanın insanlık için büyük riskler taşıdığı gerekçesiyle yapay zekâ programlarının geliştirilmesinin altı aylık bir süre için durdurulması çağrısında bulunmasının ardından, dünya ülkelerini 2021 yılında yapay zekayı düzenlemek üzere yayınladığı tavsiyeleri uygulamaya çağırdı.
UNESCO Genel Direktörü Audrey Azoulay’un yaptığı açıklamada, “Dünyanın yapay zekâ için daha güçlü etik kurallara ihtiyacı var ve bugün karşı karşıya olduğumuz zorluk da bu. Yapay zekâ etiğine ilişkin oluşturulan UNESCO tavsiyeleri uygun yasal çerçeveyi oluşturmuştur” dedi.
Şarku’l Avsat’ın UNESCO’dan aktardığı bilgilere göre, Kasım 2021'de, Birleşmiş Milletler’in 193 üye ülkesi, ‘yapay zekanın etik kullanımına yönelik ilk küresel normatif çerçeveyi’ oybirliğiyle onayladı; bu normatif çerçeve, 2ülkeler için yapay zekanın faydalarını en üst düzeye çıkarırken, bu teknolojinin yarattığı riskleri en aza indirmeyi açıklayan bir yol haritası’ olma özelliğini taşıyor.
Üç yıllık bir çalışmanın ardından hazırlanan bu metin, yapay zekayı düzenlemek ve izlemek için bir yasama aracının oluşturulması, kişisel ve hassas verilerin tam güvenliğinin sağlanması ve insanları yapay zekâ konusunda eğitmeyi içeriyor.
Azoulay, ‘ulusal düzeyde strateji ve düzenlemeleri uygulama zamanının geldiğini ve sözleri eyleme dönüştürmenin gerektiğini’ vurgulayarak, “Sektörün kendi kendini düzenlemesinin bu sorunlardan kaçınmak için yeterli olmadığı açıktır” dedi. BM kuruluşu, 40'tan fazla ülkenin ilgili tavsiyelere dayalı olarak ulusal düzeyde yapay zekâ kontrolü için UNESCO ile çalıştığını belirtti.
UNESCO, Aralık 2023'te Slovenya'da düzenlenecek olan (UNESCO) Yapay Zeka Etiği Küresel Forumu sırasında bir gelişim raporu sunulacağını belirterek, tüm ülkeleri ‘etiğe dayalı’ yapay zeka geliştirmek için öncülüğünü yaptığı harekete katılmaya çağırdı.
Şarku’l Avsat’ın AFP’den aktardığı habere göre aralarında Twitter, SpaceX ve Tesla CEO’su Elon Musk ve Apple kurucularından Steve Wozniak'ın da bulunduğu yüzlerce uzman, yapay zekâ araştırmalarının altı ay süreyle durdurulması çağrısında bulundu.
‘futureoflife.org’ web sitesinde yayınlanan çağrıda uzmanlar, yapay zekâ için düzenleyici kurumların kurulması, yapay zekâ sistemlerinin izlenmesi ve işletmelerin ayırt edilmesine yardımcı olan teknolojiler gibi koruma sistemleri benimsenene kadar yapay zekâ programlarının geliştirilmesinin geçici olarak durdurulmasını talep etti. Asıl önemli meselenin, yapay zekâ için yenilikçi programlar ve ‘bu programların neden olduğu ekonomik ve siyasi sorunlarla’ başa çıkabilecek kurumların oluşturulmasının gerekliliği olduğu da belirtildi.



Deepfake videoları tespit etmek giderek zorlaşıyor: Artık gerçekçi kalp atışları var

Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
TT

Deepfake videoları tespit etmek giderek zorlaşıyor: Artık gerçekçi kalp atışları var

Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)

Deepfake videoların gelişmiş saptama yöntemlerini yanıltabildiği ve her geçen gün daha gerçekçi hale geldiği tespit edildi. 

Bir kişinin yüzünün ya da vücudunun dijital olarak değiştirilmesiyle oluşturulan deepfake videolar endişe yaratmaya devam ediyor. 

Bu videolar gerçek bir kişinin görüntüsünün yapay zeka kullanılarak değiştirilmesiyle yapılıyor. Aslında bu teknoloji, kullanıcıların yüzünü kediye dönüştüren veya yaşlandıran uygulamalar gibi zararsız amaçlarla da kullanılabiliyor.

Ancak insanların cinsel içerikli videolarını üretmek veya masum insanlara iftira atmak için de kullanılabilmesi ciddi bir sorun teşkil ediyor.

Bu videoların sahte olup olmadığını anlamak için kullanılan gelişmiş yöntemlerden biri kalp atışlarını izlemek. 

Uzaktan fotopletismografi (rPPP) adlı araç, deriden geçen ışıktaki küçük değişiklikleri tespit ederek nabzı ölçüyor. Nabız ölçen pulse oksimetreyle aynı prensiple çalışan bu araç, çevrimiçi doktor randevularının yanı sıra deepfake videoları tespit etmek için de kullanılıyor.

Ancak bulguları hakemli dergi Frontiers in Imaging'de bugün (30 Nisan) yayımlanan çalışmaya göre deepfake görüntülerde artık gerçekçi kalp atışları var.

Bilim insanları çalışmalarına videolardaki nabız hızını otomatik olarak saptayıp analiz eden bir deepfake dedektörü geliştirerek başladı. 

Ardından rPPP tabanlı bu aracın verilerini, EKG kayıtlarıyla karşılaştırarak hassasiyetini ölçtüler. Son derece iyi performans gösteren aracın EKG'yle arasında dakikada sadece iki-üç atımlık fark vardı. 

Ekip aracı deepfake videolar üzerinde test ettiğindeyse rPPP, videoya kalp atışı eklenmese bile son derece gerçekçi bir kalp atışı algıladı. 

Bilim insanları kalp atışlarının videoya kasten eklenebileceği gibi, kullanılan kaynak videodan kendiliğinden geçebileceğini de söylüyor.

Almanya'daki Humboldt Üniversitesi'nden çalışmanın ortak yazarı Peter Eisert "Kaynak video gerçek bir kişiye aitse, bu artık deepfake videoya aktarılabiliyor" diyerek ekliyor: 

Sanırım tüm deepfake dedektörlerinin kaderi bu; deepfake'ler gittikçe daha iyi hale geliyor ve iki yıl önce iyi çalışan bir dedektör bugün tamamen başarısız olmaya başlıyor.

Araştırmacılar yine de sahte videoları saptamanın başka yolları olduğunu düşünüyor. Örneğin sadece nabız hızını ölçmek yerine, yüzdeki kan akışını ayrıntılı olarak takip eden dedektörler geliştirilebilir.

Eisert, "Kalp atarken kan, damarlardan geçerek yüze akıyor ve daha sonra tüm yüz bölgesine dağılıyor. Bu harekette gerçek görüntülerde tespit edebileceğimiz küçük bir gecikme var" diyor.

Ancak bilim insanına göre nihai çözüm deepfake dedektörlerinden ziyade, bir görüntünün üzerinde oynanıp oynanmadığını anlamaya yarayan dijital işaretlere odaklanmaktan geçiyor:

Bir şeyin sahte olup olmadığını tespit etmek yerine bir şeyin değiştirilmediğini kanıtlayan teknolojiye daha fazla odaklanmadığımız sürece, deepfake'lerin saptanmalarını zorlaştıracak kadar iyi olacağını düşünüyorum.

Independent Türkçe, BBC Science Focus, TechXplore, Frontiers in Imaging