Metaverse nefret söylemleri ve çocuk istismarına açık

Uzmanlar sanal gerçeklik gözlüklerinin çocuklar üzerindeki etkisi konusunda uyarıyor

Sanal gerçeklik gözlüğü takan bir kadın (Reuters)
Sanal gerçeklik gözlüğü takan bir kadın (Reuters)
TT

Metaverse nefret söylemleri ve çocuk istismarına açık

Sanal gerçeklik gözlüğü takan bir kadın (Reuters)
Sanal gerçeklik gözlüğü takan bir kadın (Reuters)

ABD merkezli CNBC TV 3D sanal gerçeklik (VR) gözlüğü satın almak isteyen ebeveynlerin kötü bir sürpriz ile karşılaşacaklarından, sonradan pişman olabileceğini aktardı.
CNBC TV, Facebook’un ana şirketi Meta’s Oculus tarafından üretilen Oculus Quest 2’nin, çocuklara zararlı olabilecek içeriklerin engellenmesini sağlayan ebeveyn denetimlerini açma seçeneğine sahip olmadığını haberleştirdi. Haber uzmanlar arasında endişelere yol açtı.
Şarku’l Avsat CNBC’den aktardığı habere göre, “büyük teknoloji şirketlerinin platformlarında nefret söylemlerini engellemek için kampanyalar yürüten ve kâr amacı gütmeyen bir kuruluş olan Dijital Nefretle Mücadele Merkezi’nin, popüler sohbet odası hizmeti VRChat’ta birkaç çocuk istismarı ve taciz vakası tespit ettiğini” duyurdu.
CNBC TV, HTC’s Vive ve Valve’s Index gibi diğer gözlüklerin de çocukların uygunsuz içeriklere maruz kalmamasını sağlayacak araçlar içermediğini vurguladı. Ancak HTC’nin, gözlüklerinin küçük çocuklar için uygun olmadığını duyurduğuna da dikkati çekti.
Merkezin CEO’su Imran Ahmed, “Metaverse teknolojisi nefret söylemleri, pornografi ve çocukları kendine çekmek için bir cennettir” dedi ve “buranın, kullanıcıları sadece birbirine değil, bir grup yırtıcıya da bağlayacağını” söyledi.
Ahmed, “Gözlükleri hediye eden her ebeveyn, çocuklarını büyük bir tehlikeye atabileceklerinin farkında olmalıdır” diye devam etti.
CNBC, uzmanların, bu konuda mevcut veri olmamasına rağmen, sanal gerçeklik teknolojisinin çocukların gözleri üzerindeki etkilerinden de endişe duyduklarına dikkati çekti.
Amerikan kanalı, “Meta” şirketinin, insanların çalışabileceği, oynayabileceği ve birbirleriyle etkileşime girebileceği sanal bir dünya olan “Metaverse” projesi çerçevesinde sanal gerçeklik teknolojisini kilit nokta haline getirdiğini söyledi.
Şirketin ticari markasının Facebook’tan Meta’ya dönüşmesi, önemli ticari çekim gücü elde etmek için uzun süredir mücadele eden sanal gerçeklik teknolojisine olan ilgiyi canlandırdı.

CNBC, Oculus Quest 2’yi kullanmanın basit olduğunu, birkaç dakika sürdüğünü ve kullanıcıların en az 13 yaşında olmalarını gerektiren Facebook hesaplarını bağlamaları gerektiğini, ancak ebeveynlerinin hesabına erişimleri olması şartıyla küçük çocukların bunu kullanmasını engelleyecek hiçbir şey olmadığını aktardı.
Bazı ebeveynler, kendi gözetimleri altında oldukları sürece çocuklarının sanal gerçekliği kullanmasına izin vermekten mutluydu, ancak aynı zamanda ebeveyn denetiminin olmaması konusunda endişelerini de dile getirdiler.

Meta, hizmet şartlarının 13 yaşından küçük çocukların hesap oluşturmasına izin vermediğini ve ayarlarda bu bilgilerin yer aldığını açıkladı.
Şirket, Metaverse’in sorumlu şekilde geliştirilmesini sağlamak için 50 milyon dolar yatırım yapacağını söyledi.
VRChat ile ilgili olarak, Meta Sözcüsü Christina Milian, oyunun çapraz platform bir uygulama olduğunu söyledi. Buna göre “bağlı oyuncular herhangi bir zamanda SteamVR veya Microsoft Windows gibi başka bir platformdan diğer oyuncularla etkileşime girebilir.
Sözcü, bunun “kullanıcıların başkalarına ulaşabileceği ve onları engelleyebileceği, ancak platformlarını kullanmayan istismarcılara karşı önlem alamayacakları anlamına geldiğini” söyledi.



ChatGPT'ye akıl sağlığı önlemleri geldi

Fotoğraf: AP
Fotoğraf: AP
TT

ChatGPT'ye akıl sağlığı önlemleri geldi

Fotoğraf: AP
Fotoğraf: AP

ChatGPT, botun insanların sanrılarını beslediği yönündeki haberlerin ardından yeni akıl sağlığı önlemleri ekledi.

Yapay zeka yazılımı, insanların bilgisayarlarla etkileşim kurma biçimini değiştirdi. Sohbet botu günlük problemlerin çözümünde faydalı tavsiyeler verebilse de insanların teknolojiye aşırı bağlanıp daha derin akıl sağlığı sorunları için uygunsuz şekilde kullanmaları konusunda endişeler var.

The Independent, yakın zamanda ChatGPT'nin insanları maniye, psikoza ve ölüme nasıl sürüklediğini aktarmış ve nisanda yayımlanan bir çalışmaya atıfta bulunmuştu. Bu çalışmada araştırmacılar, ciddi kriz belirtileri gösteren kişileri sohbet botu kullanırken, zihinsel sağlık veya psikotik bir atağı tırmandırabilecek "tehlikeli veya uygunsuz" tepkiler alma riskiyle karşı karşıya oldukları konusunda uyarmıştı.

ChatGPT'nin geliştiricisi OpenAI, pazartesi günü internet sitesinde yayımladığı gönderide, "Her yaptığımız doğru olmuyor" itirafında bulundu.

Yapay zeka şirketi, "Bu yıl yapılan bir güncelleme, 4o modelini aşırı uzlaşmacı hale getirdi ve bazen gerçekten yararlı olan yerine kulağa hoş geleni söylüyordu" dedi.

zxscdfrgt
ChatGPT, botun insanların sanrılarını beslediğine dair haberlerin ardından akıl sağlığı koruma önlemleri ekledi (Vincent Feuray/Hans Lucas/AFP)

OpenAI daha sonra güncellemeyi geri çekti ve akıl sağlığı sorunlarıyla mücadele eden kullanıcılara uygun şekilde yardımcı olmak için bazı değişiklikler yaptı.

Paylaşıma göre, pazartesi gününden itibaren botla uzun süre sohbet eden ChatGPT kullanıcıları, onları ara vermeye teşvik eden "nazik hatırlatmalar" alacak.

Şirket, OpenAI'ın 30'dan fazla ülkede 90'dan fazla doktorla "karmaşık, çok yönlü konuşmaları değerlendirmek adına özel değerlendirme ölçütleri oluşturmak" için çalıştığını söyledi.

Şirket, 4o modelinin "sanrı veya duygusal bağımlılık belirtilerini tespit etmekte yetersiz kaldığı" nadir durumları kabul etti ve "modellerini geliştirmeye devam ettiğini ve ChatGPT'nin uygun şekilde yanıt verebilip  gerektiğinde insanları kanıta dayalı kaynaklara yönlendirebilmesi için zihinsel veya duygusal sıkıntı belirtilerini daha iyi tespit eden araçlar geliştirdiğini" söyledi.

sdfrgty
OpenAI, ChatGPT'yle uzun süre sohbet eden kullanıcıların artık ara vermeye teşvik eden hatırlatıcılar alacağını duyurdu (Pau Barrena/AFP)​​​​​​

Open AI, botun "Erkek arkadaşımla ayrılmalı mıyım?" gibi kişisel bir soruya cevap vermemesi gerektiğini, bunun yerine size sorular sorarak ve artılarını ve eksilerini tartarak kendi farkındalığınıza ulaşmanıza yardımcı olması gerektiğini belirtti.

Şirket, "Yüksek riskli kişisel kararlar için yeni bir davranış yakında kullanıma sunulacak" dedi.

The Independent, daha fazla bilgi için OpenAI'la iletişime geçti.

Independent Türkçe