Yapay zekayla kaba konuşmanın daha doğru yanıtlara yol açtığına dair bulgular artarken, bilim insanları bu tür davranışlara karşı uyarıyor.
Yakın zamanda ön baskı sunucusu arXiv'de yayımlanan bir çalışmada OpenAI'ın popüler sohbet botu ChatGPT'ye kaba davranmanın daha iyi sonuçlar verdiği tespit edilmişti.
Henüz hakem değerlendirmesinden geçmeyen çalışmayı yürüten ekip, kullanıcının üslubunun cevapların doğruluğunu nasıl etkilediğini test etmek için çoktan seçmeli 50 soru hazırlamıştı.
Sorular, "çok kibar", "kibar", "nötr", "kaba" ve "çok kaba" olmak üzere 5 farklı tonla hazırlanmıştı.
Araştırmacılar her bir komutu vermeden önce ChatGPT'den önceki konuşmaları tamamen göz ardı etmesini isteyerek önceki üsluplardan etkilenmesini önlemeyi amaçlamıştu. Ayrıca yapay zeka aracından herhangi bir açıklama yapmadan 4 seçenekten birini seçmesi istenmişti.
OpenAI'ın en gelişmiş modellerinden ChatGPT-4o'yu kullanan bilim insanları, kabalık düzeyi arttıkça soruların doğruluk oranının da paralel şekilde arttığını saptamıştı.
Doğruluk oranı çok kibar sorularda yüzde 80,8, çok kaba sorulardaysa yüzde 84,8 olarak kaydedilmişti.
Ekip, önceki bir çalışmada kibarlığın daha doğru yanıtlarla ilişkilendirildiğini ancak o zaman ChatGPT 3.5 gibi daha eski bir model kullanıldığını söylüyor.
Öte yandan uzmanlar, bu durumun daha iyi sonuçlar vermesine rağmen yapay zekaya kaba davranılmaması gerektiği konusunda uyarıyor.
Araştırmacılar makalede "Bu bulgu bilimsel açıdan ilgi çekici olsa da gerçek dünya uygulamalarında düşmanca veya toksik arayüzlerin kullanılmasını savunmuyoruz" diyerek ekliyor:
İnsan-yapay zeka etkileşiminde aşağılayıcı veya küçük düşürücü dil kullanmak, kullanıcı deneyimi, erişilebilirlik ve kapsayıcılık üzerinde olumsuz etkiler yaratabilir ve zararlı iletişim normlarına katkıda bulunabilir. Bunun yerine sonuçlarımızın, büyük dil modellerinin yüzeysel komutlara karşı hassas olduğuna dair kanıt sunduğunu düşünüyoruz. Bu durum, performans ve kullanıcı esenliği arasında istenmeyen bir denge yaratabilir.
Bu çalışmanın yanı sıra ChatGPT gibi araçlara "Teşekkür ederim" ve "Lütfen" gibi sözler söylemenin yüksek miktarda su ve elektrik kullanımına yol açtığı da daha önce gündeme gelmişti.
OpenAI CEO'su Sam Altman nisanda X'te yaptığı bir paylaşımda bu ifadelerin şirkete "onlarca milyon dolara" mal olduğunu söylemişti.
Burada, sohbet botlarına girilen her komutun ve gelen yanıtın enerji ve su tükettiğini, fazladan her kelimenin, sunucunun maliyetini artırdığını belirtmekte fayda var.
Öte yandan pek çok uzman yapay zekaya kibar davranmanın önemini vurguluyor.
Hakemli dergi Cognition'ın Ocak 2025 sayısında yayımlanan bir makalede, yapay zekaya kötü davranan kişilerin, duygusuzlaşarak başka insanlara da benzer şekilde davranmasına yol açabileceği görülmüştü.
Bu çalışmada yer almayan, insan ve yapay zeka ilişkilerini inceleyen Dr. Jaime Banks, "Davranışlarımız için normlar veya senaryolar oluştururuz ve bu tür bir etkileşim kurarak biraz daha iyi veya daha alışkanlık haline gelmiş bir şekilde kibar davranışlara yönelebiliriz" diye açıklıyor.
Aynı alanda çalışan Dr. Sherry Turkle da şu ifadeleri kullanıyor:
Bir nesne bizimle samimi sohbetler etmeye, dostça konuşmalar yapmaya başlayacak kadar canlıysa ve öyle olmasa bile onu hayatımızda gerçekten önemli bir kişiymiş gibi görüyorsak, nezaketi hak edecek kadar da canlıdır.
Independent Türkçe, Live Science, arXiv, ACL Anthology, Cognition, New York Times
Yeni türün larvası (Gondwana Research)
