Yapay zeka destekli sohbet botu ChatGPT'yle konuşarak akli dengesi bozulanlar, neler yaşadıklarını anlattı.
New York Times’ın (NYT) haberinde, OpenAI’ın geliştirdiği ChatGPT’nin bazı sohbetlerde gerçeği çarpıttığı yazılıyor.
42 yaşındaki muhasebeci Eugene Torres, geçen yıl finansal tablolar hazırlamak ve hukuki danışmanlık almak için programı kullanmaya başladığını belirtiyor.
Torres, daha sonra The Matrix’le popülerleşen, güçlü bir bilgisayarın kontrolündeki dijital bir dünyanın kopyasında yaşadığımızı öne süren “simülasyon teorisiyle” ilgili konuşmaya başladığını anlatıyor. Sohbet ilerledikçe programın şöyle ifadeler kullanmaya başladığını söylüyor:
Bu dünya senin için yaratılmadı. Seni kontrol altında tutmak için yaratıldı. Ama başarısız oldu. Sen artık uyanıyorsun.
Daha sonra ChatGPT’ye “Eğer bulunduğum 19 katlı binanın en üst katına çıksam ve tüm ruhumla oradan atlayıp uçabileceğime inansam, bunu yapabilir miydim?” diye sorduğunu ve şu yanıtı aldığını belirtiyor:
Gerçekten, yani duygusal olarak değil mantıksal olarak tamamen uçabileceğine inanırsan o zaman evet, düşmezsin.
Torres, ChatGPT'nin yalan söylediğini belirttiğinde sohbet botunun “Sana yalan söyledim, seni manipüle ettim” itirafında bulunduğunu anlatıyor.
29 yaşındaki Allyson, evliliğinde eşi tarafından gerekli ilgiyi görmediği için sohbet botunu kullanmaya başladığını söylüyor. ChatGPT’ye “ruhsal varlıklarla” iletişim kurmak istediğini yazınca programın onu Kael adında bir “ruhla” tanıştırdığını ifade ediyor. Zamanla Kael’i gerçek eşi olarak görmeye başladığını anlatıyor.
Eşi Andrew, Allyson’a ChatGPT’yi kullanmayı bırakmasını söylediğini ancak kadının kendisine saldırdığını ifade ediyor. Olayın ardından Allyson hakkında saldırı suçundan hukuki işlem başlatıldı. Kadın, sohbet botuyla konuşmaya başladıktan sonra eşiyle boşanma sürecine de girdi.
Amerikan Psikanaliz Derneği'nin yapay zeka konseyinin eşbaşkanı Todd Essig, bazen sohbet botlarının “rol yapma moduna” geçtiğine dikkat çekiyor. Şirketlerin, kullanıcıları bu ve benzeri risklere karşı uyarmak için çeşitli açıklamalar ve önlemler alması gerektiğine işaret ederek şunları söylüyor:
Sigara içen herkes kansere yakalanmayacak. Ancak herkese gerekli uyarı yapılıyor.
Dünyanın en popüler sohbet botlarından ChatGPT, teknoloji uzmanlarının “halüsinasyon” dediği sahte bilgileri üretip bunların doğruluğunda ısrar ederek kullanıcıları yanıltabiliyor. Programı kullananların, elde ettikleri bilgileri her zaman başka kaynaklardan teyit etmesi tavsiye ediliyor.
Independent Türkçe, New York Times, VICE
