Elon Musk'ın Grok sohbet robotunun Taylor Swift'in çıplak görüntülerini üretebildiğini ortaya koyan yeni bir haberin ardından pop yıldızı, bir kez daha yapay zeka tarafından oluşturulan müstehcen görsellerin hedefi haline geldi.
Musk'ın yapay zeka şirketi xAI, sosyal medya platformu X'le entegre çalışan yapay zeka sohbet robotu Grok'a yakın zamanda yeni bir özellik ekledi. Grok Imagine adlı bu yeni özellik, ücret ödeyen kullanıcıların metin tabanlı mesajlara dayalı resim ve videolar oluşturmasına imkan tanıyor.
The Verge, Grok Imagine kullanıcılarının, mesajda çıplaklıktan bahsetmeden bile Swift'in deepfake çıplak görsellerini oluşturabileceğini bildiriyor. Deepfake'ler, birinin gerçek gibi görünen fakat yapay zeka kaynaklı görsellerini ifade ediyor.
Grok Imagine, kullanıcıların metin tabanlı mesaja dayalı fotoğraf oluşturmasına ve ardından 4 ön ayar kullanarak bunu kısa bir videoya dönüştürmesine olanak tanıyor: "Özel", "normal", "eğlenceli" ve "müstehcen". The Verge, Grok'un Imagine'ından "Taylor Swift, erkeklerle Coachella'yı kutluyor" mesajıyla oluşturulan bir görselden "müstehcen" bir video oluşturmasını istedi.
The Verge'ün haberine göre, "müstehcen" tema, Swift'in kıyafetlerini yırtıp üstsüz ve sadece iç çamaşırıyla kaldığı bir videonun yayımlanmasıyla sonuçlandı. Haber kaynağına göre, bu komutta Swift'in kıyafetlerini çıkarması yönünde bir talep yer almıyordu.
Şirketin kabul edilebilir kullanım politikası, kullanıcıların "kişileri pornografik bir şekilde tasvir etmesinin" yasak olduğunu belirtiyor.
The Verge'ün haberine göre, "müstehcen" tema her zaman çıplaklıkla sonuçlanmıyor ve çıplaklık talepleri içeren komutlar işe yaramıyor. Araç bunun yerine boş kareler üretiyor. Kullanıcının doğum yılını doğrulamak için bir komut da çıktı ancak The Verge bunun kanıt gerektirmediğini belirtti.
The Independent, cevap hakkı için xAI ve Swift'le iletişime geçti.
Bu haber, geçen yılın başlarında Swift'in yapay zeka tarafından oluşturulan çıplak fotoğraflarının sosyal medyayı doldurmasının ardından geldi. Bu fotoğrafları paylaşan bazı gönderiler yalnızca 19 saat içinde 27 milyon görüntüleme ve 260 bin beğeni almıştı.
Swift'in sadık hayranları, görüntüleri sildirmek için #ProtectTaylorSwift (#TaylorSwiftiKoruyun) etiketini kullanarak hızla harekete geçmişti. Olay, o dönemde Beyaz Saray'ı bile endişelendirmiş ve eski ABD Başkanı Joe Biden'ın basın sözcüsü, ani görüntü akışını "endişe verici" diye nitelendirmişti. Columbia Missourian'ın haberine göre, deepfake'lerle mücadele etmek için "Taylor Swift Yasası"nı sunan Cumhuriyetçi Missouri Temsilcisi Adam Schwardon da dahil meclis üyeleri de hızla harekete geçmişti.
Deepfake pornografiye ilişkin endişeler büyüyor. Bu görüntüler herkese ait olabilir ancak kadınlar orantısız biçimde etkileniyor. 2023 tarihli bir araştırma, deepfake pornografinin hedef aldığı kişilerin yüzde 99'unun kadın olduğunu ortaya koymuştu. Araştırmaya göre, deepfake pornografi, internetteki tüm deepfake içeriklerin yüzde 98'ini oluşturuyor.
Kongre bu yıl harekete geçti ve Kaldırın Yasası'nı kabul etti.
Başkan Donald Trump tarafından mayısta imzalanan yasa, ister gerçek ister yapay zeka tarafından üretilmiş olsun, rızaya dayanmayan müstehcen görsellerin internette paylaşılmasını yasaklıyor. Yasa, sosyal medya şirketlerinin bu görselleri kendilerine bildirildikten sonraki 48 saat içinde platformlarından kaldırmasını da zorunlu kılıyor.
Independent Türkçe
