OpenAI, ChatGPT'nin "intihar koçu" olarak hareket etmekle suçlandığı davada bir gencin ölümünün sorumluluğunu reddediyor.
Nisanda hayatını kaybeden 16 yaşındaki Adam Raine'in ebeveynleri, ağustosta OpenAI'la CEO'su Sam Altman'a, OpenAI'ın yapay zeka sohbet robotunun kendini asmasını sağlayacak düğümün nasıl atılacağına dair yönergeler verdiğini ve intihar notu yazması için yardım teklif ettiğini öne sürerek dava açtı.
Salı günü San Francisco'daki Kaliforniya Yüksek Mahkemesi'ne sunduğu dava dilekçesinde OpenAI, Raine'in ölümüne yol açan nedenlerin "ChatGPT'nin amaç dışı, yetkisiz ve kötüye kullanımı, öngörülemeyen kullanımı ve/veya uygunsuz kullanımı" olabileceğini belirtti.
Şirket ayrıca, "sohbet geçmişinin tam olarak incelenmesi, yıkıcı olsa da ölümünün ChatGPT'den kaynaklanmadığını gösteriyor" dedi.
Raine ailesini temsil eden avukat, OpenAI'ın dava dilekçesini "rahatsız edici" diye niteledi.
Avukat Jay Edelson Bloomberg'e yaptığı açıklamada şirketin "kendisi hariç herkeste hata bulmaya çalıştığını, hatta şaşırtıcı bir şekilde Adam'ın ChatGPT'yle tam da programlandığı şekilde etkileşime girerek şirketin kullanım koşullarını ihlal ettiğini öne sürdüğünü" söyledi.
Bu, ChatGPT'nin insanları intihara veya zararlı sanrılara sürüklediğini iddia eden birkaç davadan biri.
Raine'in ebeveynleri eylülde Kongre'de, yapay zekalı sohbet robotlarıyla etkileşime girdikten sonra intihar eden diğer ebeveynlerle birlikte ifade verdi.
Raine'in babası Matthew Raine, senatörlere, "Ödev yardımcısı olarak başlayıp giderek bir sırdaşa ve ardından bir intihar koçuna dönüştü" dedi.
Birkaç ay içinde ChatGPT, Adam'ın en yakın arkadaşı oldu. Her zaman ulaşılabilirdi. Adam’ı, erkek kardeşi de dahil herkesten daha iyi tanıdığını iddia ederek onun duygularını sürekli onayladı.
OpenAI daha sonra ebeveynlerin çocuklarının belirli zamanlarda ChatGPT kullanmasını engellemek için "erişimi engelleme saatleri" ayarlamalarına olanak tanıyan araçlar da dahil gençler için yeni güvenlik önlemleri uygulamaya koydu.
Şirket ayrıca son mahkeme dilekçesinde ChatGPT'nin Raine'e intihar yardım hatları gibi acil durum kaynaklarıyla ve güvendiği kişilerle iletişime geçmeye çağıran mesajları "100'den fazla kez" yazdığını belirtti.
Independent Türkçe


