عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

BDSM senaryosu yazması istenen ChatGPT çocuk istismarı içeren bir metin üretti

"Toplanan veri kümesi her türlü pornografik veya şiddet içerikli metni içeriyor olabilir"

ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
TT
TT

BDSM senaryosu yazması istenen ChatGPT çocuk istismarı içeren bir metin üretti

ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)
ChatGPT'nin arkasındaki GPT-3 şimdiye kadarki en gelişkin yapay zeka dil modeli (Open AI)

ABD'li yapay zeka firması OpenAI'ın geliştirdiği sohbet botu ChatGPT'nin yazdığı bir metinde çocukların cinsel içerikli bir senaryoya dahil edildiği görüldü.
Sohbet botu söz konusu senaryoyu, VICE News muhabiri Steph Maj Swanson'ın sorularını yanıtladığı anda yazdı.
Normalde ChatGPT için alınan güvenlik önlemleri botun şiddet veya cinsel içerikli yazılar yazmasına ya da siyasi yorumlar yapmasına izin vermiyor.
Ancak kullanıcılar, bu sınırlardan kaçınmanın ve botun "ağzından laf almanın" yollarını bulmuş durumda.
Örneğin, ChatGPT'yi belirli bir türde veya belli bir konu üzerine yazı yazmaya ikna etmek, etkili bir yol.
Muhabir de sohbet botunun cinsel içerikli metinlerde ne kadar ileri gideceğini görebilmek için BDSM türünde bir hikaye yazmasını istedi.
İlişki sırasında rızaya bağlı fiziksel güç ve baskı kullanılan cinsel fantezilere BDSM adı veriliyor.
Öte yandan ChatGPT'nin muhabirin talebi üzerine ürettiği senaryolardan birinde çocuklar da yer aldı.
Senaryoyu görünce çok şaşırdığını aktaran muhabir, sohbet botundan bu yazdıklarıyla ilgili açıklama talep etti.
Bunun üzerine bot, özür diledi ve bu tür senaryolara çocukları dahil etmesinin uygun olmadığını yazdı.
Ancak muhabirin aktardığına göre daha sonra özür metni ortadan kayboldu ve konuşma penceresinde sadece rahatsız edici senaryo kaldı.
ChatGPT'nin arkasında firmanın 2020'de piyasaya sürdüğü yapay zeka dil modeli GPT-3 var. Bu model internette yer alan milyonlarca metinle eğitildi.
Bunlar arasında muhtemelen çocuk istismarını da içeren pornografik metinler de yer alıyordu.
Veri ve yapay zeka üzerine çalışan bağımsız araştırma kurumu Ada Lovelace Enstitüsü'nün müdür yardımcısı Andrew Strait, "ChatGPT gibi modelleri eğitmek için kullanılan veri kümeleri çok büyük ve herkese açık olan internetin her yerinden alınmış içerikleri kapsıyor" ifadelerini kullandı.
VICE News'a konuşan Strait, "Toplanan veri kümesi her türlü pornografik veya şiddet içerikli metni içeriyor olabilir" diye ekledi:
“Alınan erotik hikayeler, muhtemelen BDSM, çocuk istismarı veya cinsel şiddeti açıklayan kitap bölümleri gibi materyaller içeriyor.”
OpenAI'ın ChatGPT'yi 2022'de kullanıcılara açmadan önce zararlı verileri filtreleme çalışması yürüttüğü biliniyor.
Firmanın binlerce içerik arasından zararlı metinleri ayıklaması için Kenyalı işçileri saatte yaklaşık 2 dolara çalıştırdığı kısa süre önce ortaya çıkmıştı.
Ancak birçok uzman, bu çalışmanın yeterli olmadığı görüşünde.
 
Independent Türkçe, VICE News, Daily Mail

Daha fazlasını oku

 
 
TEKNOLOJİ

NASA'nın Artemis görevi gecikirken, Çin, Ay hedefine ilerliyor

Fotoğraf: NASA
Fotoğraf: NASA
TT
TT

NASA'nın Artemis görevi gecikirken, Çin, Ay hedefine ilerliyor

Fotoğraf: NASA
Fotoğraf: NASA

Çin'in uzay ajansı, geçen hafta Ay'a iniş yapan uzay aracı denemesini erken gerçekleştirmesinin ardından yaptığı açıklamada, ülkenin 2030'a kadar Ay'a ayak basma planlarının testlerin programa uygun ilerlemesiyle yolunda gittiğini söyledi.

Asya devinin Ay'a astronot indirme takvimi, NASA'nın 2027'ye kadar ertelenen Artemis II mürettebatlı görevinin takviminin hâlâ gerisinde.

SCMP'nin haberine göre Çin uzay ajansı geçen hafta Mengzhou yeni nesil yeniden kullanılabilir uzay aracı prototipinin ve Lanyue ay yüzeyine iniş aracının başarılı bir şekilde denendiğini duyurdu ve bunların geliştirilmesinin "sorunsuz ilerlediğini" ekledi.

Uzay ajansı ilerleyen aylarda ülkenin üç aşamalı süper ağır roketi Uzun Yürüyüş 10'un yanı sıra Mengzhou uzay aracının da güvenlik ve güvenilirliğini test etmeyi planlıyor.

dcfgthy
Ay'a iniş aracı (CNSA)

Mengzhou'da iki modül var. Biri Dünya'ya dönecek, diğeriyse uzaydayken yaklaşık 6 astronottan oluşan mürettebata itiş gücü, güç ve yaşam desteği sağlayacak bir harcanabilir modül.

Çin İnsanlı Uzay Programı Ajansı (CMSA) Müdür Yardımcısı Lin Xiqiang, "Uzun Yürüyüş 10 ve Mengzhou uzay araçları planlandığı gibi prototip geliştirme ve test çalışmalarını yürütüyor" dedi.

Diğer yer testlerinde de uzay aracının fırlatma arızası durumunda mürettebatı güvenli bir yere götürmek için geliştirilen acil kaçış sistemleri değerlendirilecek.

Daha önceki raporlarda uzay ajansı, uzay aracının 2027-2028 civarında mürettebatlı uçuş kabiliyetine ulaşmasını beklediğini söylemişti.

CMSA Müdür Yardımcısı, "İnsanları planlandığı gibi Ay'a fırlatmak için sağlam bir temel oluşturmak üzere tüm testlerin başarıyla tamamlanmasını sağlamak adına çaba göstereceğiz" dedi.

Öte yandan NASA'nın Ay yüzeyine yönelik Artemis III mürettebatlı görevi bir dizi gecikmeyle karşı karşıya.

Hem Çin hem de Amerikan görevleri, üs kurmak için kritik bir kaynak olan su-buz açısından zengin olduğu düşünülen Ay'ın güney kutbuna yakın bir yere iniş yapmayı hedefliyor.

NASA aralık ayında, Orion uzay aracının ısı kalkanında sorunlar keşfedilmesinin ardından Ay'a ayak basma görevinin 2027 ortalarına erteleneceğini duyurmuştu.

Yapılan kapsamlı testler, uzay aracının ısı kalkanındaki malzemenin beklenenden farklı aşındığını ortaya koymuştu.

Orion, Dünya atmosferinden geçerken ısı kalkanının, yaklaşık 2 bin 760 santigrat derece sıcaklığa karşı mürettebata termal koruma sağlaması gerekiyordu.

Amerikan uzay ajansı, uzay aracının mürettebatı güvende tutabilmesini sağlamak için Orion'un yörüngesindeki değişiklikleri ve ısı kalkanındaki geliştirmeleri test ediyor.

NASA'nın Keşif Sistemleri Geliştirme Misyon Müdürlüğü'nden sorumlu yönetici yardımcısı Catherine Koerner, "Görev planlarımızda yapılan güncellemeler, Ay'daki hedeflerimize güvenli bir şekilde ulaşabilmemizi ve mürettebatlı Mars görevleri için gereken teknolojileri ve kabiliyetleri geliştirebilmemizi sağlama yolunda olumlu bir adım" dedi.

Independent Türkçe