Google bir görsel, metin, video veya ses dosyasının yapay zekayla oluşturulup oluşturulmadığını kontrol etmek üzere tasarlanmış yeni yapay zeka tespit aracını tanıttı.
SynthID Detector, yapay zekayla üretilmiş medya içeriklerine yerleştirilen ve insanlar tarafından fark edilemeyen filigranlardan yararlanıyor. Google, halihazırda 180 milyardan fazla görsel ve videonun yanı sıra toplam süresi 240 bin yıla ulaşan ses içeriğine filigran eklediğini belirtiyor.
Bu tespit teknolojisi, 54 yaşındaki bir adamın yapay zeka destekli dijital yayın dolandırıcılığı suçundan bu hafta ABD'de 18 ay hapis cezasına çarptırılmasının ardından piyasaya sürüldü.
Kuzey Karolina'dan Michael Smith, Apple Music ve Spotify gibi platformlarda 7 yıl boyunca fark edilmeden bu dolandırıcılığı sürdürmüş ve yapay zekayla üretilmiş yüzbinlerce şarkı aracılığıyla bu platformlardan milyonlarca dolar kazanmıştı.
SynthID Detector'ın erken bir sürümü, medya profesyonellerinin doğrulama aracı olarak kullanması amacıyla geçen yıl piyasaya sürülmüştü. Son çıkan sürüm ise herkesin kullanımına açık.
Google DeepMind'ın bilim ve stratejik girişimlerden sorumlu başkan yardımcısı Pushmeet Kohlo blog yazısında, "Yapay zeka araçları giderek daha iyi ve kullanımı daha kolay hale geldikçe çevrimiçi ortamda karşılaştığımız içeriklerin bağlamını açıkça görebilmek, neye güveneceğimiz konusunda bilinçli kararlar vermemize yardımcı olur" diye yazdı.
Bu araç, Arama, Gemini uygulaması ve Chrome'daki yerleşik doğrulama özelliklerimize ekleniyor ve bunlar halihazırda günde 1 milyondan fazla isteği işliyor.
Filigranlar, bir görselin veya videonun kullanıcılara nasıl göründüğünü değiştirmiyor ve içeriğin kalitesini etkilemiyor. Ayrıca filtre uygulandıktan veya görüntü kırpıldıktan sonra bile işlevini koruyacak şekilde tasarlandı.
Tespit aracı halihazırda sadece Google, OpenAI, Nvidia, Kakao ve Apple platformları kullanılarak oluşturulan içeriklerde çalışıyor.
OpenAI'ın, ChatGPT metin çıktılarına görünmez bir filigran eklediğini duyurmasından sadece birkaç gün sonra SynthID Detector piyasaya sürüldü.
Kelime seçimini incelikle değiştiren textGrain sistemi, metnin insan kullanıcılara normal görünmesini sağlarken, gizli kalıpları bilen otomatik sistemler tarafından tespit edilebilmesini mümkün kılıyor.
Anthropic de sohbet botu Claude için benzer bir teknolojiyi duyurdu ancak her iki şirket de yapay zekayla üretilen metinler insanlar tarafından düzenlendiğinde veya bu metinlere insan eliyle eklemeler yapıldığında filigranların etkisinin azaldığını belirtti.
Bu araçlar, Avrupa Birliği'nin Yapay Zeka Yasası nedeniyle geliştirildi. Yasa, üretken yapay zeka sistemlerinin ürettiği içeriklerin otomatik sistemler tarafından tanımlanabilir olmasını şart koşuyor.
Google'ın son tespit aracına, şirketin yapay zeka birimi DeepMind üzerinden erişilebilir.
Independent Türkçe