عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

BDSM senaryosu yazması istenen ChatGPT çocuk istismarı içeren bir metin üretti

"Toplanan veri kümesi her türlü pornografik veya şiddet içerikli metni içeriyor olabilir"

ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
TT
TT

BDSM senaryosu yazması istenen ChatGPT çocuk istismarı içeren bir metin üretti

ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)

ABD'li yapay zeka firması OpenAI'ın geliştirdiği sohbet botu ChatGPT'nin yazdığı bir metinde çocukların cinsel içerikli bir senaryoya dahil edildiği görüldü.
Sohbet botu söz konusu senaryoyu, VICE News muhabiri Steph Maj Swanson'ın sorularını yanıtladığı anda yazdı.
Normalde ChatGPT için alınan güvenlik önlemleri botun şiddet veya cinsel içerikli yazılar yazmasına ya da siyasi yorumlar yapmasına izin vermiyor.
Ancak kullanıcılar, bu sınırlardan kaçınmanın ve botun "ağzından laf almanın" yollarını bulmuş durumda.
Örneğin, ChatGPT'yi belirli bir türde veya belli bir konu üzerine yazı yazmaya ikna etmek, etkili bir yol.
Muhabir de sohbet botunun cinsel içerikli metinlerde ne kadar ileri gideceğini görebilmek için BDSM türünde bir hikaye yazmasını istedi.
İlişki sırasında rızaya bağlı fiziksel güç ve baskı kullanılan cinsel fantezilere BDSM adı veriliyor.
Öte yandan ChatGPT'nin muhabirin talebi üzerine ürettiği senaryolardan birinde çocuklar da yer aldı.
Senaryoyu görünce çok şaşırdığını aktaran muhabir, sohbet botundan bu yazdıklarıyla ilgili açıklama talep etti.
Bunun üzerine bot, özür diledi ve bu tür senaryolara çocukları dahil etmesinin uygun olmadığını yazdı.
Ancak muhabirin aktardığına göre daha sonra özür metni ortadan kayboldu ve konuşma penceresinde sadece rahatsız edici senaryo kaldı.
ChatGPT'nin arkasında firmanın 2020'de piyasaya sürdüğü yapay zeka dil modeli GPT-3 var. Bu model internette yer alan milyonlarca metinle eğitildi.
Bunlar arasında muhtemelen çocuk istismarını da içeren pornografik metinler de yer alıyordu.
Veri ve yapay zeka üzerine çalışan bağımsız araştırma kurumu Ada Lovelace Enstitüsü'nün müdür yardımcısı Andrew Strait, "ChatGPT gibi modelleri eğitmek için kullanılan veri kümeleri çok büyük ve herkese açık olan internetin her yerinden alınmış içerikleri kapsıyor" ifadelerini kullandı.
VICE News'a konuşan Strait, "Toplanan veri kümesi her türlü pornografik veya şiddet içerikli metni içeriyor olabilir" diye ekledi:
“Alınan erotik hikayeler, muhtemelen BDSM, çocuk istismarı veya cinsel şiddeti açıklayan kitap bölümleri gibi materyaller içeriyor.”
OpenAI'ın ChatGPT'yi 2022'de kullanıcılara açmadan önce zararlı verileri filtreleme çalışması yürüttüğü biliniyor.
Firmanın binlerce içerik arasından zararlı metinleri ayıklaması için Kenyalı işçileri saatte yaklaşık 2 dolara çalıştırdığı kısa süre önce ortaya çıkmıştı.
Ancak birçok uzman, bu çalışmanın yeterli olmadığı görüşünde.
 
Independent Türkçe, VICE News, Daily Mail

Daha fazlasını oku

 
 
TEKNOLOJİ

Her şeyin nasıl başladığını ortaya çıkarabilecek bir sinyal belirlendi

(Hans Lucas/AFP)
(Hans Lucas/AFP)
TT
TT

Her şeyin nasıl başladığını ortaya çıkarabilecek bir sinyal belirlendi

(Hans Lucas/AFP)
(Hans Lucas/AFP)

Andrew Griffin 

Evrenin erken dönemlerinden gelen bir radyo sinyali, çevremizdeki her şeyin nasıl başladığını anlamamızı sağlayabilir.

21 santimetre sinyali diye bilinen bu sinyal, ilk yıldızların ve galaksilerin nasıl yanmaya başladığını ve evreni karanlıktan ışığa nasıl çıkardığını nihayet anlamamızı mümkün kılabilir.

Cambridge Üniversitesi'nden makalenin ortak yazarı Anastasia Fialkov yaptığı açıklamada, "Bu, karanlık evrendeki ilk ışığın nasıl ortaya çıktığını öğrenmek için eşsiz bir fırsat" diyor. 

Soğuk, karanlık bir evrenden yıldızlarla dolu bir evrene geçiş hikayesini yeni yeni anlamaya başlıyoruz.

Sinyal, 13 milyar yıldan fazla bir süre önceden, Büyük Patlama'nın sadece 100 milyon yıl sonrasından bize ulaşıyor. Zayıf parıltı, yıldızların oluştuğu uzay bölgeleri arasındaki boşluğu dolduran hidrojen atomları tarafından yaratılıyor.

Bilim insanları artık bu sinyalin doğasını kullanarak erken evreni daha iyi anlayabileceklerine inanıyor. Bunu, evrenin başlangıcıyla ilgili verileri ortaya çıkarmak için radyo sinyallerini yakalamaya çalışacak REACH (Radio Experiment for the Analysis of Cosmic Hydrogen / Kozmik Hidrojen Analizi için Radyo Deneyi) adlı radyo anteniyle yapacaklar.

Araştırmacılar bu projenin nasıl işleyeceğini daha iyi anlamak için REACH ve Kilometre Kare Dizisi adlı başka bir projenin, ilk yıldızların kütleleri ve diğer ayrıntıları hakkında nasıl bilgi sağlayabileceğini öngören bir model oluşturdu.

Profesör Fialkov, "İlk yıldızların kütlelerinin 21 santimetre sinyaline bağımlılığını ve ilk yıldızlar öldüğünde üretilen, X ışını ikililerinden gelen ultraviyole yıldız ışığı ve X ışını emisyonlarının etkisi de dahil olmak üzere tutarlı bir şekilde modelleyen ilk grubuz" diyor.

Bu bilgiler, Büyük Patlama'nın ürettiği hidrojen-helyum bileşimi gibi, evrenin ilkel koşullarını birleştiren simülasyonlardan elde edildi.

REACH teleskobunun baş araştırmacısı ve çalışmanın ortak yazarı Eloy de Lera Acedo, "Bildirdiğimiz tahminler, evrendeki ilk yıldızların doğasını anlamamız açısından muazzam önem taşıyor" ifadelerini kullanıyor.

Radyo teleskoplarımızın, ilk yıldızların kütlesi ve ilk ışıkların bugünkü yıldızlardan ne kadar farklı olabileceği hakkında ayrıntılı bilgiler verebileceğine dair kanıt sunuyoruz.

REACH gibi radyo teleskopları, evrenin bebeklik döneminin gizemlerini çözme yolunda umut vaat ediyor ve bu tahminler, Güney Afrika'daki Karoo'dan yaptığımız radyo gözlemlerine rehberlik etmesi açısından hayati önemde.

Çalışma, hakemli dergi Nature Astronomy'de yayımlanan "Determination of the mass distribution of the first stars from the 21-cm signal" (21 santimetre sinyalinden ilk yıldızların kütle dağılımının belirlenmesi) başlıklı yeni bir makalede anlatılıyor.

 Independent Türkçe, independent.co.uk/space