İngiltere medya düzenleyici kurumu, Elon Musk’a ait X platformu hakkında bugün (Pazartesi) bir soruşturma başlattı. Soruşturma, yapay zekâ sohbet botu Grok tarafından üretilen ve cinsel içerik taşıyan sahte görüntülerin, platformun İngiltere’deki kullanıcıları yasa dışı içerikten koruma yükümlülüğünü ihlal edip etmediğini tespit etmeyi amaçlıyor.
Kurumun yayımladığı açıklamada, X üzerindeki yapay zekâ sohbet botu Grok hesabının, çıplak veya yarı çıplak kişilere ait görüntüler üretip paylaşmak için kullanıldığına dair son derece endişe verici raporlar bulunduğu belirtildi. Açıklamada, bunun cinsel içerikli görüntülerin kötüye kullanımı ya da pornografik materyal kapsamına girebileceği; ayrıca çocuklara yönelik cinsel içerikli görüntülerin çocukların cinsel istismarı materyali sayılabilecek nitelikte olabileceği vurgulandı.
Düzenleyici kurum, Başbakan Keir Starmer’ın Grok tarafından üretilen görüntüleri iğrenç ve yasa dış” olarak nitelendirmesinin ardından harekete geçmesi yönünde yoğun baskı altındaydı. Şarku’l Avsat’ın Reuters’tan aktardığı habere göre Starmer, perşembe günü yaptığı açıklamada X platformunun Grok’u kontrol altına alması gerektiğini söyleyerek, düzenleyici kurumun atacağı adımlar için hükümetin tam desteğini aldığını ifade etti.
İngiltere’de, rıza olmaksızın cinsel içerikli görüntülerin üretilmesi veya paylaşılması ile çocukların cinsel istismarına ilişkin materyaller yapay zekâ tarafından üretilmiş cinsel görüntüler dâhil yasa dışı kabul ediliyor. Ayrıca teknoloji platformlarının, İngiltere’deki kullanıcıların yasa dışı içeriklere maruz kalmasını önlemesi ve bu tür içerikleri haberdar olur olmaz kaldırması gerekiyor.
X platformu, kadınlar ve reşit olmayan kişilere ait müstehcen görüntüler üretebilen bu özellik nedeniyle başka ülkelerde de eleştirilerin hedefi oldu. Fransız yetkililer, söz konusu içeriği açıkça yasa dışı olarak nitelendirerek savcılığa ve düzenleyici kurumlara bildirimde bulunurken, Hindistan makamları da platformdan açıklama talep etti.
X, bu özelliğin kullanımını yalnızca ücretli abonelerle sınırlandırdı. Platform, geçen hafta yaptığı açıklamada, tüm yasa dışı içerikleri kaldırdığını ve bu tür içeriklere karışan hesapları kalıcı olarak askıya aldığını bildirdi. Açıklamada, “Grok’u yasa dışı içerik üretmek için kullanan veya bu yönde yönlendiren herkes, platforma doğrudan yasa dışı içerik yüklemiş gibi aynı yaptırımlarla karşılaşacaktır” denildi.
İngiltere düzenleyici kurumu, soruşturma kapsamında X platformunun, ülkedeki kullanıcıların yasa dışı içeriklere maruz kalma riskini yeterince değerlendirip değerlendirmediğini ve çocuklara yönelik riskleri göz önünde bulundurup bulundurmadığını inceleyecek. Kurum, en ağır uyumsuzluk durumlarında mahkeme yoluyla ödeme hizmeti sağlayıcıları veya reklam verenlerin platformla ilişkilerini kesmelerinin istenebileceğini ya da internet servis sağlayıcılarına Britanya içinde siteye erişimin engellenmesi talimatı verilebileceğini belirtti.
X platformu ise soruşturmayla ilgili yorum talebine henüz yanıt vermedi.
