Meta'nın kendi gözetim kurulu, şirketin yapay zeka kullanılarak oluşturulan pornografik görsellerle ilgili kurallarına saldırdı.
Gözetim Kurulu, Meta'nın gerçek kişilerin cinsel içerikli görsellerini yasaklamada daha net olması ve bunların site genelinde yayılmasını engelleyecek değişiklikler yapması gerektiğini belirtti.
Meta, Gözetim Kurulu'nu tartışmalı kararlarını kontrol etmesi için kurmuştu. Meta tarafından finanse edilen ancak bağımsız çalışan kurulun önerilerini kabul edip etmemek şirketin tercihine bağlı.
Son karar, kurulun yapay zeka kullanılarak oluşturulan ve Meta'nın Facebook ve Instagram'ında yayımlanan, ünlü kadınların iki sahte pornografik görselini incelemesinin ardından geldi.
Meta, kurulun tavsiyelerini gözden geçireceğini ve kabul edilen değişikliklere dair güncelleme yapacağını açıkladı.
Kurul, gizlilik kaygılarını gerekçe göstererek raporunda iki kadını yalnızca Hindistan ve Birleşik Devletler'den tanınmış kadın figürler diye tanımladı.
Kurul, her iki görselin de Meta'nın bir tür zorbalık ve taciz olarak sınıflandırdığı "aşağılayıcı cinsel içerikli fotoşop"u yasaklayan kuralını ihlal ettiğini saptadı ve şirketin bu görselleri derhal kaldırması gerektiğini söyledi.
Hintli kadının durumunda Meta, görselle ilgili bir kullanıcı raporunu 48 saat içinde inceleyemedi ve bu da şikayetin hiçbir işlem yapılmadan otomatik olarak düşmesine yol açtı.
Kullanıcı itiraz etti ancak şirket harekete geçmeyi yine reddetti ve ancak kurul vakayı ele aldıktan sonra aksi yönde ilerledi.
Amerikalı ünlünün durumunda, Meta'nın sistemleri görseli otomatik olarak kaldırdı.
Kurul, "Bu içerik üzerindeki kısıtlamalar meşru" dedi.
Zararın ciddiyeti göz önüne alındığında, içeriği kaldırmak etkilenen kişileri korumanın tek etkili yoludur.
Meta'ya kapsamını netleştirecek şekilde kuralını güncellemesini tavsiye eden kurul, örneğin "fotoşop" kelimesinin kullanımının "çok dar" olduğunu ve yasağın üretken yapay zeka da dahil geniş bir düzenleme teknikleri yelpazesini kapsaması gerektiğini söyledi.
Kurul ayrıca, Hintli kadının görselini Amerikalı kadının durumunda olduğu gibi otomatik kaldırmalara olanak tanıyan bir veri tabanına eklemeyi reddettiği için Meta'yı sertçe eleştirdi.
Rapora göre Meta, kurula görüntüleri veri tabanına ne zaman ekleyeceğini belirlemek için medyada yer alan haberlere güvendiğini söyledi ve bu uygulama kurul tarafından "endişe verici" diye nitelendi.
Kurul, "Deepfake mahrem görüntülerin birçok mağduru kamuoyunun gözü önünde değil ve ya rıza dışı tasvirlerinin yayılmasını kabul etmek ya da her örneği aramak ve bildirmek zorunda kalıyor" dedi.
Ajanslardan da yararlanılmıştır
Independent Türkçe
