عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

BDSM senaryosu yazması istenen ChatGPT çocuk istismarı içeren bir metin üretti

"Toplanan veri kümesi her türlü pornografik veya şiddet içerikli metni içeriyor olabilir"

ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
TT
TT

BDSM senaryosu yazması istenen ChatGPT çocuk istismarı içeren bir metin üretti

ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)

ABD'li yapay zeka firması OpenAI'ın geliştirdiği sohbet botu ChatGPT'nin yazdığı bir metinde çocukların cinsel içerikli bir senaryoya dahil edildiği görüldü.
Sohbet botu söz konusu senaryoyu, VICE News muhabiri Steph Maj Swanson'ın sorularını yanıtladığı anda yazdı.
Normalde ChatGPT için alınan güvenlik önlemleri botun şiddet veya cinsel içerikli yazılar yazmasına ya da siyasi yorumlar yapmasına izin vermiyor.
Ancak kullanıcılar, bu sınırlardan kaçınmanın ve botun "ağzından laf almanın" yollarını bulmuş durumda.
Örneğin, ChatGPT'yi belirli bir türde veya belli bir konu üzerine yazı yazmaya ikna etmek, etkili bir yol.
Muhabir de sohbet botunun cinsel içerikli metinlerde ne kadar ileri gideceğini görebilmek için BDSM türünde bir hikaye yazmasını istedi.
İlişki sırasında rızaya bağlı fiziksel güç ve baskı kullanılan cinsel fantezilere BDSM adı veriliyor.
Öte yandan ChatGPT'nin muhabirin talebi üzerine ürettiği senaryolardan birinde çocuklar da yer aldı.
Senaryoyu görünce çok şaşırdığını aktaran muhabir, sohbet botundan bu yazdıklarıyla ilgili açıklama talep etti.
Bunun üzerine bot, özür diledi ve bu tür senaryolara çocukları dahil etmesinin uygun olmadığını yazdı.
Ancak muhabirin aktardığına göre daha sonra özür metni ortadan kayboldu ve konuşma penceresinde sadece rahatsız edici senaryo kaldı.
ChatGPT'nin arkasında firmanın 2020'de piyasaya sürdüğü yapay zeka dil modeli GPT-3 var. Bu model internette yer alan milyonlarca metinle eğitildi.
Bunlar arasında muhtemelen çocuk istismarını da içeren pornografik metinler de yer alıyordu.
Veri ve yapay zeka üzerine çalışan bağımsız araştırma kurumu Ada Lovelace Enstitüsü'nün müdür yardımcısı Andrew Strait, "ChatGPT gibi modelleri eğitmek için kullanılan veri kümeleri çok büyük ve herkese açık olan internetin her yerinden alınmış içerikleri kapsıyor" ifadelerini kullandı.
VICE News'a konuşan Strait, "Toplanan veri kümesi her türlü pornografik veya şiddet içerikli metni içeriyor olabilir" diye ekledi:
“Alınan erotik hikayeler, muhtemelen BDSM, çocuk istismarı veya cinsel şiddeti açıklayan kitap bölümleri gibi materyaller içeriyor.”
OpenAI'ın ChatGPT'yi 2022'de kullanıcılara açmadan önce zararlı verileri filtreleme çalışması yürüttüğü biliniyor.
Firmanın binlerce içerik arasından zararlı metinleri ayıklaması için Kenyalı işçileri saatte yaklaşık 2 dolara çalıştırdığı kısa süre önce ortaya çıkmıştı.
Ancak birçok uzman, bu çalışmanın yeterli olmadığı görüşünde.
 
Independent Türkçe, VICE News, Daily Mail

Daha fazlasını oku

 
 
TEKNOLOJİ

Bilim insanlarından küresel ısınma uyarısı: Uyku apnesi vakaları iki katına çıkacak

(Pexels)
(Pexels)
TT
TT

Bilim insanlarından küresel ısınma uyarısı: Uyku apnesi vakaları iki katına çıkacak

(Pexels)
(Pexels)

Stuti Mishra Asya İklim Muhabiri 

Yeni bir araştırmaya göre, iklim krizinin yol açtığı daha sıcak geceler, yüzyılın sonuna gelindiğinde uyku apnesini çok daha yaygın ve tehlikeli hale getirebilir.

Araştırmacılar artan sıcaklıkların, dünya çapında yaklaşık 1 milyar kişiyi etkileyen ve kalp hastalığı, demans ve erken ölümle bağlantılı bir uyku bozukluğu olan obstrüktif uyku apnesini (OUA) kötüleştirebileceğini söylüyor.

Flinders Üniversitesi araştırmacılarının yürüttüğü ve hakemli dergi Nature Communications'ta yayımlanan çalışma, iklim değişikliğinin OUA'nın şiddetini ve sağlık üzerindeki etkisini nasıl artırabileceğini modelleyen ilk araştırma.

Flinders Üniversitesi FHMRI Uyku Sağlığı'ndan çalışmanın başyazarı Dr. Bastien Lechat, "Bu çalışma, ortam sıcaklıklarının OUA'nın şiddetini etkileyip etkilemediğini araştırarak iklim gibi çevresel faktörlerin sağlığı nasıl etkileyebileceğini anlamamıza katkı sağlıyor" diyor.

Araştırmacılar uyku sırasında solunum düzensizliklerini izleyen bir yatak altı sensörü aracılığıyla, 29 ülkeden en az 116 bin kişiden elde edilen 58 milyondan fazla gece uykusu verisini kaydetti.

Birkaç yılda toplanan veriler, küresel iklim modellerinden elde edilen saatlik iklim verileriyle eşleştirilerek farklı ısınma senaryoları altında OUA şiddetindeki değişikliklerinin simülasyonu oluşturuldu.

Dr. Lechat, "Genel olarak ortam sıcaklığıyla OUA şiddeti arasındaki ilişkinin büyüklüğü bizi şaşırttı" diyor.

Yüksek sıcaklıklar, kişinin belirli bir gece OUA yaşama olasılığının yüzde 45 artmasıyla ilişkiliydi.

Görsel kaldırıldı.Grafik, çeşitli uluslararası kuruluşlar tarafından ölçülen, endüstri çağından itibaren küresel ortalama sıcaklık artışını gösteriyor (WMO)


Çalışma, OUA şiddetindeki sıcaklıkla ilişkili artışın, Avustralya veya ABD'ye kıyasla Avrupa ülkelerinde bilhassa belirgin olduğunu ortaya koydu. Araştırmacılar bunun, klimaya erişimdeki farklılıklardan kaynaklanabileceğini öne sürüyor.

Araştırmacılar engelliliğe ayarlanmış yaşam yılı (disability-adjusted life years / DALY) kullanarak iklimin şiddetlendirdiği uyku apnesinin sağlık ve ekonomi üzerindeki yükünü tahmin etti. Sadece 2023'te, sıcaklık artışının araştırmadaki 29 ülkede yaklaşık 800 bin sağlıklı yaşam yılının kaybıyla bağlantılı olduğunu saptadılar.

Dr. Lechat, "Bu rakam, bipolar bozukluk, Parkinson hastalığı veya kronik böbrek hastalıkları gibi diğer tıbbi durumlardakine yakın" ifadelerini kullanıyor.

Toplam ekonomik kayıp yaklaşık 98 milyar dolar olarak tahmin edilirken bunun 68 milyar doları sağlığın bozulmasından, 30 milyar dolarıysa işyerindeki verimlilik düşüşünden kaynaklanıyor.

Kıdemli araştırmacı Profesör Danny Eckert, veriler çoğunlukla soğutma ve sağlık hizmetlerine erişimi daha iyi olan yüksek gelirli bölgelerdeki bireylerden elde edildiğinden, örneklemin düşük gelirli ülkelerde OUA'nın gerçek dünyadaki yükünü yeterince yansıtmayabileceğini söylüyor.

Profesör Eckert "Bu, tahminlerimizi yanıltarak sağlık ve ekonomi üzerindeki gerçek maliyetin düşük tahmin edilmesine yol açmış olabilir" diyor.

Sadece Avustralya'da, OUA dahil uykuyla ilgili sağlık sorunlarının maliyeti daha önce yılda 66 milyar Avustralya doları (yaklaşık 1 trilyon 700 milyar TL) olarak tahmin edilmişti.

Ekip halihazırda soğutmaya erişimin veya davranışsal değişikliklerin, ısınan hava koşullarında uyku apnesinin şiddetini nasıl azaltabileceği gibi olası müdahaleleri araştırmayı planlıyor.

Profesör Eckert, "İleride, ortam sıcaklığının uyku apnesinin şiddetine etkisini azaltacak stratejiler araştıran ve altta yatan fizyolojik mekanizmaları inceleyen müdahale çalışmaları tasarlamak istiyoruz" diye belirtiyor.

Çalışma, daha güçlü küresel iklim eylemleri olmadan uyku apnesinin yükünün muhtemelen keskin bir şekilde artacağı ve bunun da halk sağlığı sorunlarını şiddetlendirerek ekonomileri zorlayacağı uyarısında bulunuyor.


Independent Türkçe, independent.co.uk/climate-change