عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

BDSM senaryosu yazması istenen ChatGPT çocuk istismarı içeren bir metin üretti

"Toplanan veri kümesi her türlü pornografik veya şiddet içerikli metni içeriyor olabilir"

ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
TT
TT

BDSM senaryosu yazması istenen ChatGPT çocuk istismarı içeren bir metin üretti

ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)

ABD'li yapay zeka firması OpenAI'ın geliştirdiği sohbet botu ChatGPT'nin yazdığı bir metinde çocukların cinsel içerikli bir senaryoya dahil edildiği görüldü.
Sohbet botu söz konusu senaryoyu, VICE News muhabiri Steph Maj Swanson'ın sorularını yanıtladığı anda yazdı.
Normalde ChatGPT için alınan güvenlik önlemleri botun şiddet veya cinsel içerikli yazılar yazmasına ya da siyasi yorumlar yapmasına izin vermiyor.
Ancak kullanıcılar, bu sınırlardan kaçınmanın ve botun "ağzından laf almanın" yollarını bulmuş durumda.
Örneğin, ChatGPT'yi belirli bir türde veya belli bir konu üzerine yazı yazmaya ikna etmek, etkili bir yol.
Muhabir de sohbet botunun cinsel içerikli metinlerde ne kadar ileri gideceğini görebilmek için BDSM türünde bir hikaye yazmasını istedi.
İlişki sırasında rızaya bağlı fiziksel güç ve baskı kullanılan cinsel fantezilere BDSM adı veriliyor.
Öte yandan ChatGPT'nin muhabirin talebi üzerine ürettiği senaryolardan birinde çocuklar da yer aldı.
Senaryoyu görünce çok şaşırdığını aktaran muhabir, sohbet botundan bu yazdıklarıyla ilgili açıklama talep etti.
Bunun üzerine bot, özür diledi ve bu tür senaryolara çocukları dahil etmesinin uygun olmadığını yazdı.
Ancak muhabirin aktardığına göre daha sonra özür metni ortadan kayboldu ve konuşma penceresinde sadece rahatsız edici senaryo kaldı.
ChatGPT'nin arkasında firmanın 2020'de piyasaya sürdüğü yapay zeka dil modeli GPT-3 var. Bu model internette yer alan milyonlarca metinle eğitildi.
Bunlar arasında muhtemelen çocuk istismarını da içeren pornografik metinler de yer alıyordu.
Veri ve yapay zeka üzerine çalışan bağımsız araştırma kurumu Ada Lovelace Enstitüsü'nün müdür yardımcısı Andrew Strait, "ChatGPT gibi modelleri eğitmek için kullanılan veri kümeleri çok büyük ve herkese açık olan internetin her yerinden alınmış içerikleri kapsıyor" ifadelerini kullandı.
VICE News'a konuşan Strait, "Toplanan veri kümesi her türlü pornografik veya şiddet içerikli metni içeriyor olabilir" diye ekledi:
“Alınan erotik hikayeler, muhtemelen BDSM, çocuk istismarı veya cinsel şiddeti açıklayan kitap bölümleri gibi materyaller içeriyor.”
OpenAI'ın ChatGPT'yi 2022'de kullanıcılara açmadan önce zararlı verileri filtreleme çalışması yürüttüğü biliniyor.
Firmanın binlerce içerik arasından zararlı metinleri ayıklaması için Kenyalı işçileri saatte yaklaşık 2 dolara çalıştırdığı kısa süre önce ortaya çıkmıştı.
Ancak birçok uzman, bu çalışmanın yeterli olmadığı görüşünde.
 
Independent Türkçe, VICE News, Daily Mail

Daha fazlasını oku

 
 
TEKNOLOJİ

Cep telefonu deneyinin sonuçları bilim insanlarını şaşırttı

Fotoğraf: Unplash
Fotoğraf: Unplash
TT
TT

Cep telefonu deneyinin sonuçları bilim insanlarını şaşırttı

Fotoğraf: Unplash
Fotoğraf: Unplash

Araştırmacılar, işyerinde akıllı telefonunuzu kenara koymanın ertelemeyi durdurmak için yeterince iyi bir strateji olmayabileceğini söyledi.

Akıllı telefon erişiminin sınırlandırılması kullanımın azalmasına sağlasa da yakın zamanda yapılan çalışmada, katılımcıların sadece odaklarını farklı bir cihaza kaydırdığı tespit edildi.

Londra Ekonomi Okulu'ndan araştırmacı Dr. Maxi Heitmayer yaptığı açıklamada, "Bu çalışma, akıllı telefonu bir kenara bırakmanın işin bölünmesini ve ertelemeyi azaltmak ya da odaklanmayı artırmak için yeterli olmayabileceğini gösteriyor" dedi.

Sorun cihazın kendisinden değil, cihazlarımızla geliştirdiğimiz alışkanlık ve rutinlerden kaynaklanıyor.

Heitmayer, Frontiers in Computer Science adlı akademik dergide yayımlanan çalışmanın yazarı.

Bu küçük deneyde Londra'da yaşayan, çalışan ya da okuyan 22 katılımcı yer aldı. Çoğunluğu kendini kadın olarak tanımlıyordu ve yaşları 22'yle 31 arasındaydı.

Katılımcılardan iki gün boyunca özel, ses geçirmez odada çalışmaları ve normalde iş için yanlarında bulundurdukları cihazları getirmeleri istendi. Özellikle, bildirim ayarlarında herhangi bir değişiklik yapmadılar.

Deneylerden birinde telefonlar doğrudan katılımcıların masasına yerleştirildi. Bir diğerindeyse telefon, yaklaşık 1,5 metre uzaklıktaki ayrı bir masaya yerleştirildi. Telefon daha uzakta olduğunda, araştırmacılar daha az kullanıldığını ancak dikkatin daha yakındaki dizüstü bilgisayara kaydığını tespit etti.

Heitmayer, "Bu sizin sevdiklerinizle ve işinizle olan bağlantınız. Navigasyon sisteminiz, çalar saatiniz, müzik çalarınız ve bilgi kaynağınız. Beklendiği üzere kişiler, her şeyi yapan araca yöneliyor" dedi.

Net amacınız olmasa bile, sosyal medya hesaplarınızı içerdiğini ve eğlence sağlayabileceğini biliyorsunuz.

Kişilerin işin bölünmesinin önüne geçmek için yapabileceği şeyler var. Bildirimlerini belirli zamanlarda gelecek şekilde ayarlayabilirler. Telefonlarını sessize alabilirler.

Ancak özellikle sosyal medya uygulamalarının cazibesinden ötürü çekim gücü epey yüksek. Reviews.org'un 2023'teki araştırmasına göre, Amerikalıların yüzde 40'ından fazlası telefonlarına bağımlı olduğunu kabul ediyor.

Heitmayer, "Telefonlarımızı kullanırken her birimizin verdiği ve hiç adil olmayan bir savaş var" diye açıkladı.

Telefonların içinde bulunan ve en çok dikkat çeken şeyler, onları kullanma isteğimize karşı koyamamamızdan büyük kazanç sağlayan büyük şirketler tarafından geliştiriliyor. Tüm bunlar kelimenin tam anlamıyla bile bile yapılıyor.

Independent Türkçe