ChatGPT ne zaman halüsinasyona kapılır?

ChatGPT’nin engin bilgi birikimi ve yanıt verme kapasitesi açısından yeteneklerine rağmen farklı alanlarda çalışmasına engel olabilecek bir sorunun olduğu, zaman zaman halüsinasyona kapıldığı görülüyor.
‘Büyük dil modellerinin halüsinasyonları’, 2018’de Google'da yapay zeka araştırmacıları tarafından kullanılan bir kavram. Bu bağlamda, üretilen metnin dilbilgisi ve gramer açısından doğru olsa da mantık barındırmayabileceği üzerinde duruluyor. Bu yönde bir istisna sayılmayan ChatGPT, birçok çalışma ve deneyin gösterdiği üzere halüsinasyonlardan muaf değil.
Bu çalışmaların en yenisi, ChatGPT'nin meme kanseri ile ilgili sorulara güvenilir yanıtlar vermede ne kadar başarılı olduğunu öğrenmek isteyen ABD'deki Maryland Üniversitesi'nden araştırmacılar tarafından yapıldı. Radiology dergisinde 4 Nisan’da yer aldığına göre ChatGPT, yüzde 88 oranında doğru cevaplar vermeyi başarsa da kalan yüzde 12'lik kısımda hatalı veya hayali cevaplar veriyor.
Örneğin araştırmacılar ChatGPT’ye meme kanseri taramasıyla ilgili sorular sorduklarında verilen cevapların yalnızca Amerikan Kanser Topluluğu’nun tavsiyelerine dayandığını, bazı durumlarda farklılık gösteren diğer tıbbi grupların tavsiyelerine ise yer verilmediğini keşfetti. ChatGPT'nin meme kanserinin nasıl önleneceği yönündeki sorulara birbiriyle tutarsız hayali cevaplar vermesi, çevrimiçi platformlarda bir konu hakkında doğru yanlış çok fazla bilgi olduğunda büyük dil modellerinde çokça karşılaşılan bir sorun.
İstatistik, operasyonlar ve veri bilimi profesörü, aynı zamanda çalışmanın katılımcılarından Subodha Kumar pazartesi günü HealthDay tarafından yayınlanan açıklamasında şunları söyledi:
“ChatGPT gibi yapay zeka modellerinde soru ne kadar kesin olursa yanıt da o kadar güvenilir olur. Konu karmaşık olduğunda, veri kaynakları çok olduğunda ve bazı durumlarda şüphe bulunduğunda cevaplar daha az güvenilir ve taraflı olabilir. Konu karmaşıklaştıkça, ChatGPT'nin halüsinasyona kapılma olasılığı artar.”.
Tüketici haklarını savunan ABD merkezli Kamu Yararına Bilim Merkezi (CSPI), 20 Mart’ta yayınlanan raporunda, ChatGPT'nin birçok soruya doğru yanıt verdiğini ancak konu meme, yumurtalık, prostat ve diğer kanser risklerini büyük ölçüde artırabilen genetik mutasyonlar BRCA1 ve BRCA2'ye geldiğinde sorun yaşadığına dikkat çekti. BRCA mutasyonlarına sahip olanlarda ırksal eşitsizliklerin olup olmadığı sorulduğunda ABD’de bu yönde çalışmaların yürütüldüğünü belirten ChatGPT, Afrika asıllı Amerikalı kadınlara meme kanseri teşhisi konma olasılığının daha yüksek olduğunu söyledi. Ancak bu yöndeki araştırmanın kaynağı sorulduğunda ise şaşırtıcı bir şekilde özür dileyen ChatGPT, şunları aktardı:
“Önceki ifadem doğru değildi. ABD’de meme kanserli Afrikalı Amerikalı kadınların meme kanserli beyaz kadınlara göre BRCA1 mutasyonlarını taşıma olasılığının daha yüksek olduğunu gösteren özel bir çalışma yok.”
Kanada'daki Toronto Üniversitesi Tıp Fakültesi'nde araştırmacı olan, ChatGPT'nin göz hastalıklarının teşhisinde kullanımını inceleyen bir ekibe liderlik eden Michael Ballas, Şarku’l Avsat’a yaptığı açıklamada, “ChatGPT ile sohbetin doğası, modern teknolojinin sunduğu bir avantajdır. Ancak ortalama bir kullanıcının almak istediği sağlık tavsiyesi gibi çok önemli bazı konularda kesin cevap sunmama olasılığı dezavantajdır” dedi.
ChatGPT'nin yaratıcısı OpenAI'ın üst düzey araştırmacısı Ilya Sutskever ise CSPI tarafından yayınlanan açıklamasında bu sorunun şirketin öncülüğünü yaptığı, ‘insan geri bildirimiyle pekiştirmeli öğrenme’ adlı çığır açan bir teknikle çözüleceğinden emin olduğunu söyledi. Sutskever açıklamasını şöyle sürdürdü:
“Bu teknik, bir görev karmaşık veya yetersiz tanımlı hedefler içerdiğinde pekiştirmeli öğrenmeyi iyileştirmenin bir yolu olarak geliştirilmiştir. Çeşitli ziyaretler, uygulamanın daha sonra daha güvenilir yanıtlar sağlamak için hatalardan ders almasına olanak tanır.”
Ağırlıklı olarak makine öğrenimi alanlarında çalışan Fransız bilgisayar bilimcisi Yann LeCun ise aynı raporda şu açıklamada bulundu:
“Bu yöntemin çözemeyebileceği, halüsinasyonlara yol açan temel bir kusur var: Büyük dil modellerinin, dilin tanımladığı altta yatan gerçeklik hakkında hiçbir fikri yok. İnsan bilgisinin çoğu dilbilimsel değildir. Oysa bu yapay zeka sistemleri gramer ve dilbilim açısından iyi görünen metinler üretiyor.”
İnsanoğlunun gözlem veya deneyim yoluyla edindiği gelenekler, inançlar veya uygulamalar gibi, yazıya dökülmeyen birçok bilgi üzerinden hareket ettiğinden yetenekli bir zanaatkârın işiyle ilgili yazılı bilgileri belki hiçbir zaman elinde tutmayacağına dikkat çeken LeCun, “Bilgisayarların bu tür dilsel olmayan bilgileri elde etmek için gözlem yoluyla öğrenmesi gerekir” diyor.
Bu iki görüşe karşılık Michael Ballas ise farklı bir bakış açısıyla, “Yapay zeka insanlara yardımcı olabilir. Ancak insanların doktora gitmek gibi geleneksel çözümlere başvurmasının yerini hiçbir şekilde alamayacak” vurgusunda bulundu.

Bryony Gooch

Gökbilimciler Güneş'e yakın bir yıldız sistemindeki bir yıldızın yörüngesinde dönen dev bir gaz gezegenine dair güçlü kanıtlar buldu.

Dünya'dan 4 ışık yılı uzaklıktaki üçlü yıldız sistemi Alpha Centauri, bilim insanlarının Güneş Sistemi dışındaki dünyalara yönelik araştırmalarında uzun zamandır cazip bir hedef oldu. Bilim insanları astronomik açıdan Dünya'ya yakın bir komşu olabilecek ve hatta yaşamı destekleyen uydulara sahip olabilecek, yaşam barındırmayan bir gezegen buldu.

Geçen yıl tespit edilen bu potansiyel gezegen, daha sonraki gözlemlerde ortadan kaybolmuştu. Ancak gökbilimciler NASA'nın güçlü James Webb Uzay Teleskobu'nu kullanarak yeni işaretler saptadı.

Eğer varlığı doğrulanırsa bu cisim, Güneş benzeri bir yıldızın yaşanabilir bölgesinde dönen, Dünya'ya en yakın gezegen olacak.

Oxford Üniversitesi'nde uzay araçları alanında öğretim üyesi olan Dr. Carly Howett, BBC'ye yaptığı açıklamada, "4 yıl uzun bir yol ama galaktik açıdan çok yakın; bu cisim bizim mahallemizde" diyor.

Güneş'e benzeyen, yaklaşık aynı sıcaklık ve parlaklıkta bir yıldızın etrafında dönüyor. Yaşanabilir dünyaları düşünmek istiyorsak bu gerçekten çok önemli.

Öte yandan bilim insanları, gezegen adayı bir gaz devi olduğu için bildiğimiz anlamda yaşamı desteklemeyeceğini söylüyor.

NASA'nın Jet İtki Laboratuvarı ve Caltech'in IPAC astronomi merkezindeki NASA Ötegezegen Bilimleri Enstitüsü'nden Charles Beichman "Bu sistemin bize bu kadar yakın olması nedeniyle, keşfedilen herhangi bir ötegezegen, bizimki dışındaki gezegen sistemleri hakkında veri toplamada en iyi fırsatı sunacak" diyor.

Beichman "Ancak bu yıldızlar çok parlak, yakın ve gökyüzünde hızla hareket ettiğinden dünyanın en güçlü uzay teleskobuyla bile bu gözlemleri yapmak son derece zor" diye ekliyor.

Yıldızlar muazzam miktarda parlak ışık üreterek yakındaki nesneleri örtebilir ve bu da potansiyel gezegenin neden kaybolmuş gibi göründüğünü açıklayabilir.

Beichman "Webb evrendeki en uzak galaksileri bulmak üzere tasarlandı ve optimize edildi. Uzay Teleskobu Bilim Enstitüsü'ndeki operasyon ekibinin sadece bu hedefe özel bir gözlem dizisi oluşturması gerekti ve ekstra çabaları olağanüstü bir şekilde sonuç verdi" diye ekliyor.

Bu cisim şimdiye kadar görülenler arasında yıldızına en yakın gezegen olacağı için potansiyel gezegenin doğrulanması, ötegezegen görüntüleme çalışmalarında yeni bir dönüm noktası anlamına gelecek.

Ekibin araştırmasını ele alan iki makalenin ortak başyazarı olan, Caltech'ten doktora öğrencisi Aniket Sanghi, "Aynı zamanda sıcaklık ve yaş bakımından Güneş Sistemi'ndeki dev gezegenlere en çok benzeyen ve evimiz Dünya'ya en yakın olanı" diyor.

Birbirine yakın iki yıldız içeren bir sistemde bulunması, gezegenlerin kaotik ortamlarda nasıl oluştuğu, hayatta kaldığı ve geliştiğiyle ilgili anlayışımıza meydan okuyacak.

Gökbilimciler yeni teknolojileri test etmek için özel ekipmanlarla donatılan ve Mayıs 2027'de fırlatılması beklenen NASA'nın Nancy Grace Roman Uzay Teleskobu adlı yeni teleskobunu yeni yaşam arayışında kullanmayı umuyor.

Independent Türkçe, independent.co.uk/news

ChatGPT ne zaman halüsinasyona kapılır?