عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

ChatGPT neden "Bilmiyorum" demiyor?

Araştırmacılar, yapay zeka algoritmalarının belirsizlikle karşılaşınca dürüstlük yerine tahmin yürütmeyi tercih ettiğini ve bunun tamamen eğitilme biçimleriyle ilgili olduğunu söylüyor

(Unsplash)
(Unsplash)
TT
TT

ChatGPT neden "Bilmiyorum" demiyor?

(Unsplash)
(Unsplash)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri 

Yeni bir araştırma ChatGPT gibi yapay zeka modellerinin "halüsinasyon görmesi", yani gerçekleri uydurmasının asıl nedeninin, bilgi eksikliğini kabul etmek yerine tahmin yürütmek üzere eğitilmelerinden kaynaklandığını saptadı.

Halüsinasyon, üretken yapay zeka modellerinde önemli bir endişe kaynağı çünkü konuşma becerileri sayesinde yanlış bilgileri kendilerinden çok emin bir şekilde sunabiliyorlar.

Yapay zeka teknolojisindeki hızlı gelişmelere rağmen, halüsinasyon en yeni modellerde bile sorun yaratmaya devam ediyor.

Özellikle bu teknolojinin tıp ve hukuk alanlarında giderek daha fazla kullanılması nedeniyle sektördeki uzmanlar, yapay zeka halüsinasyonuyla mücadele etmek için daha derin araştırma ve eylemlere ihtiyaç duyulduğunu söylüyor.

ChatGPT'nin yaratıcısı OpenAI'dan araştırmacılar yeni bir çalışmada, yapay zeka halüsinasyonuna hatalı eğitim verileri ve model karmaşıklığı gibi çeşitli faktörler katkıda bulunsa da asıl nedenin, algoritmaların "yanlış teşviklerle" çalışması olduğunu belirtiyor.

Araştırmacılar, "Çoğu değerlendirme model performansını, belirsizlik karşısında dürüst davranmaktan ziyade tahmin yürütmeyi teşvik eden bir şekilde ölçüyor" diye açıklıyor.

Bu, bir öğrencinin çoktan seçmeli bir testte boş bırakmak puan getirmediği için kafadan atmasına benziyor.

Araştırmacılar şu ifadeleri kullanıyor: 

Aynı şekilde modeller yalnızca doğruluk, yani tam olarak doğru cevapladıkları soru yüzdesi üzerinden puanlandığında, 'Bilmiyorum' demek yerine tahminde bulunmaya teşvik ediliyorlar.

Yapay zeka modelleri, büyük metin bloklarında bir sonraki kelimeyi tahmin etme süreciyle öğreniyor.

Bazen tutarlı kalıplar olsa da çoğu durumda eğitim verileri rasgele olabiliyor.

Halüsinasyon, yapay zeka modellerine özellikle bilgi eksikliği veya belirsizlik gibi nedenlerle cevabı kesin olmayan sorular sorulduğunda yaygın görülüyor.

Yapay zeka modelleri, belirsizliklerle dolu bu tür sorularda stratejik tahminler yürütüyor. Bu, zamanla daha fazla veri elde ettikçe doğruluklarını artırabilir ancak aynı zamanda hata ve halüsinasyon oranlarını da artırır.

Araştırmacılar, "Daha çok gelişseler de modellerin belirsizliği kabul etmektense kendilerinden emin bir şekilde yanlış cevaplar vererek halüsinasyon görmeyi sürdürmelerinin bir nedeni de bu" diyor.

Ancak bu sorunun basit bir çözümü olabilir. Araştırmacılar, yapay zeka modellerinin belirsizlikten ziyade "kendinden emin hatalarını" cezalandırmanın ve belirsizlik uygun bir şekilde ifade edildiğinde biraz puan vermenin bir dereceye kadar yardımcı olabileceğini söylüyor.

Bu, bilmeden yapılan tahminleri caydırmak için yanlış cevaplara eksi puan, boş bırakılan sorularaysa az da olsa puan verilen standart testlere benziyor.

Araştırmacılar üretken yapay zeka için "yaygın olarak kullanılan, doğruluk temelli değerlendirmelerin güncellenmesi ve puanlamanın tahmin yürütmekten caydıracak hale gelmesi gerektiğini" söylüyor. 

Bu, halüsinasyonların bastırılmasının önündeki engelleri kaldırabilir ve nüanslı dil modelleri üzerine gelecekteki çalışmalara kapı açabilir.

Independent Türkçe, independent.co.uk/tech

Daha fazlasını oku

 
 
TEKNOLOJİ

Çin ve ABD uzayda nadir görülen bir işbirliğine imza attı

Dünya etrafındaki yörüngede bulunan enkazın illüstrasyonu (NASA'nın Goddard Uzay Uçuş Merkezi/JSC)
Dünya etrafındaki yörüngede bulunan enkazın illüstrasyonu (NASA'nın Goddard Uzay Uçuş Merkezi/JSC)
TT
TT

Çin ve ABD uzayda nadir görülen bir işbirliğine imza attı

Dünya etrafındaki yörüngede bulunan enkazın illüstrasyonu (NASA'nın Goddard Uzay Uçuş Merkezi/JSC)
Dünya etrafındaki yörüngede bulunan enkazın illüstrasyonu (NASA'nın Goddard Uzay Uçuş Merkezi/JSC)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri 

Uzay trafiğini yönetmek için nadir görülen bir işbirliği yaparak yakın zamanda birlikte çalışan Çin ve Amerikan uzay ajansları, birbirleriyle çarpışmasınlar diye uydularını hareket ettirdi.

NASA'nın uzay sürdürülebilirliği programı direktörü Alvin Drew, Sidney'deki Uluslararası Uzay Kongresi'nde, "Biraz kutlama yaptık çünkü Çin Ulusal Uzay Ajansı ilk kez bize ulaşarak 'Uydularımız arasında bir kavuşum görüyoruz. Hareketsiz kalmanızı öneririz. Manevrayı biz yapacağız' dedi. Ve bu ilk kez gerçekleşti" diye konuştu.

Çin ve ABD, Dünya yörüngesine mega takım uydular halinde son derece yüksek sayıda uydu yerleştiriyor ve bu da çarpışma olasılığını artırıyor.

Uyduların işgalindeki alçak Dünya yörüngesinde, 1 cm ila 10 cm boyutunda 200 bin, 10 cm'den büyük de onbinlerce cisim olduğu tahmin ediliyor.

Alçak Dünya yörüngesindeki 12 bin 955 aktif uydunun 8 bin 500'ü, yani yüzde 66'sından biraz fazlası, SpaceX'in Starlink takım uydusunu oluşturuyor.

SpaceX patronu Elon Musk, Starlink'teki uydu sayısını 42 binin üstüne çıkarmayı umduğunu söylerken, şirketin halihazırda 12 bin uydu fırlatma izni var.

Çin de 2030'lara gelindiğinde Dünya yörüngesinde 10 binden fazla uydu bulundurma planını yakın zamanda duyurmuştu.

Artan uzay trafiğine ve bunun acilen yönetilmesine ihtiyaç duyulmasına rağmen, Çin ve Amerikan uzay ajansları arasında nadiren işbirliği kuruluyor.

2011 tarihli Wolf Yasa Değişikliği, NASA'nın ABD Kongresi tarafından özel olarak onaylanmadığı sürece Çin veya herhangi bir Çinli şirketle iki taraflı işbirliği yapmak için federal fon kullanmasını kısıtlıyor.

Diğer yandan devlete ait çeşitli sondaların birbirleriyle ve önceki fırlatmalardan kalan uzay çöpleriyle çarpışma riski her geçen gün artıyor ve astronotları bile tehdit ediyor.

Bu hafta üç astronot, dönüş kapsüllerine uzay çöpü olduğundan şüphelenilen bir şey çarptığı için Çin'in Tiangong Uzay İstasyonu'nda mahsur kalmıştı.

Araştırmacılar alçak yörüngedeki uydular nedeniyle astronominin de artan bir tehditle karşı karşıya olduğu uyarısında bulunuyor.

Hukuk uzmanı David Koplow, "Uydular gözlemevlerinin üzerinden uçarken, uzak cisimlerin ve olayların görüntüsünü engelliyor, toplanan görüntülerde tahrip edici beyaz çizgiler bırakıyor ve uzak kozmik ışık ve radyo dalgalarından gelen hayati verilere erişimi engelliyor" diyor.

Bilimsel dergi Vanderbilt Journal of Transnational Law'da yazan Koplow, onbinlerce yeni uydu ve ilgili görev enkazının Dünya yörüngesine fırlatılmasıyla birlikte, "sıkışıklık, çarpışma ve parazit tehlikelerinin de buna bağlı olarak artacağını" belirtiyor.

Independent Türkçe, independent.co.uk/space

TEKNOLOJİ

ABD Kongresi Bütçe Ofisi hacklendi

ABD Kongresi Bütçe Ofisi, saldırıyı kontrol altına almak için "derhal harekete geçti"
ABD Kongresi Bütçe Ofisi, saldırıyı kontrol altına almak için "derhal harekete geçti"
TT
TT

ABD Kongresi Bütçe Ofisi hacklendi

ABD Kongresi Bütçe Ofisi, saldırıyı kontrol altına almak için "derhal harekete geçti"
ABD Kongresi Bütçe Ofisi, saldırıyı kontrol altına almak için "derhal harekete geçti"

ABD Kongresi Bütçe Ofisi (Congressional Budget Office / CBO), yabancı olduğundan şüphelenilen aktörler tarafından hacklendi. Bu ofis, yasa tasarılarının ulusal maliyeye etkilerini değerlendiren önemli bir yasama organı.

CBO sözcüsü Caitlin Emma, ​​The Washington Post'a yaptığı açıklamada "Kongre Bütçe Ofisi güvenlik olayını tespit etti, durumu kontrol altına almak için derhal harekete geçti ve kurumun sistemlerini daha iyi korumak için ek izleme ve yeni güvenlik kontrolleri başlattı" dedi.

Olay araştırılıyor ve Kongre için yapılan çalışmalar devam ediyor. Diğer hükümet kurumları ve özel sektör kuruluşları gibi CBO da zaman zaman ağına yönelik tehditlerle karşılaşıyor ve bu tehditleri ortadan kaldırmak için sürekli gözlem halinde.

WP'nin haberine göre bu güvenlik ihlali, hassas devlet verilerini ve ABD Temsilciler Meclisi ve Senato ofisleriyle kurulan iletişimleri açığa çıkarabilir. Ayrıca bazı parlamenterlerin ofisleri güvenlik endişeleri nedeniyle CBO'yla iletişimi kesti.

Temmuzda Çinli hackerlar, Microsoft SharePoint yazılımındaki bir güvenlik açığını kullanarak, nükleer silahları denetleyen bir ABD devlet kurumuna erişmeyi başarmıştı.

Güvenlik açığından, İç Güvenlik Bakanlığı ve Sağlık ve Sağlık ve Sosyal Hizmetler Bakanlığı'ndaki güvenlik riskleri de sorumlu tutulmuştu.

Hackerler önceki aylarda Trump yönetiminin DOGE maliyet azaltma programının internet sitesini ele geçirmişti.

Federal yetkililerin, Çin'le ilgili ulusal güvenlik endişeleri nedeniyle çok satan bir ev tipi internet dağıtıcısının yasaklanmasını düşündüğü bildiriliyor.

The Washington Post'un aktardığı iddiaya göre Ticaret Bakanlığı, Kaliforniya merkezli TP-Link Systems'ın cihaz satışlarının yasaklanmasını öneriyor. Şirketin ürünleri ev tipi internet dağıtıcısı pazarının üçte birinden fazlasını oluşturuyor.

Yetkililer, yakın zamanda Çinli firma TP-Link Technologies'den ayrılan şirketin, Pekin'in etkisine tabi olmaya devam etmesinden ve Amerikalıların verilerini riske atmasından endişe duyuyor. Gazeteye göre şirket, eski ana şirketinin Çin'deki varlıklarının bir kısmına sahip olmayı sürdürüyor.

yju
Microsoft SharePoint'teki bir güvenlik açığı önceki aylarda bazı ABD kurumlarını etkiledi​​​ (AP)​​​​

TP-Link Systems ise ABD merkezli bir şirket olduğu ve tüketiciler için tehdit teşkil etmediğinde ısrarcı.

TP-Link Systems'ın bir sözcüsü The Independent'a, "Bu iddialarla ilgili herhangi bir kurum veya Beyaz Saray tarafından resmi bir işlem veya doğrulama yapılmadı" dedi.

Özel şirketler de son aylarda büyük saldırılara maruz kaldı.

Geçen ay popüler mesajlaşma uygulaması Discord'da çok sayıda kullanıcının bilgilerini ele geçiren hackerlar, onbinlerce kişinin resim, resmi kimlik, isim ve iletişim bilgileri gibi hassas verilerini riske atmıştı.

Independent Türkçe

TEKNOLOJİ

T-Rex döneminden kalma sivrisinek lavrası bulundu

Bilinen en eski sivrisinek larvası kehribarda hapsolmuş (André Amaral, AG Haug)
Bilinen en eski sivrisinek larvası kehribarda hapsolmuş (André Amaral, AG Haug)
TT
TT

T-Rex döneminden kalma sivrisinek lavrası bulundu

Bilinen en eski sivrisinek larvası kehribarda hapsolmuş (André Amaral, AG Haug)
Bilinen en eski sivrisinek larvası kehribarda hapsolmuş (André Amaral, AG Haug)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri 

Kudretli Tyrannosaurus rex'in yeryüzünde dolaştığı dönemden kalma, dünyanın bilinen en eski sivrisinek larvası, bilim insanlarının "nadir bir rastlantı" diye nitelendirdiği bir kehribar parçasında hapsolmuş halde bulundu.

Kretase döneminden kalma, 99 milyon yıl öncesine ait "mükemmel şekilde korunmuş" fosil, Myanmar'ın Kaçin bölgesinden geliyor ve böceğin evrimine daha fazla ışık tutabilir. Yeni bir araştırmaya göre önceden sadece yetişkin sivrisinek fosilleri keşfedildiğinden, sözkonusu örnek bu döneme ait kehribar içinde korunmuş ilk sivrisinek larvası olma özelliğini taşıyor.

Yeni bir cinse ait yeni bir tür olarak tanımlanan fosilleşmiş larvaya Cretosabethes primaevus adı verildi.

Bu döneme ait sivrisinekler bugüne kadar Culicidae sivrisinek grubu içinde nesli tükenmiş bir soy olan Burmaculicinae adlı ayrı bir gruba ait kabul ediliyordu.

Fosilin oluşması için bir damla ağaç reçinesinin küçük bir su birikintisine düşmesi gerektiğini belirten bilim insanları böylece suda yaşayan larva kehribarda korunduğu için fosilin "nadir bir rastlantı" olduğunu söylüyor

Münih Ludwig Maximilian Üniversitesi'nden zoolog André Amaral, "Bu fosil benzersiz çünkü larva modern türlere çok benziyor" diyor.

Aynı zamanda hakemli dergi Gondwana Research'te yayımlanan çalışmanın başyazarı olan Dr. Amaral "Günümüzdeki türlerde artık bulunmayan son derece sıradışı morfolojik özellikler sergileyen, bu dönemdeki diğer tüm sivrisinek fosili keşiflerinden farklı" diye açıklıyor.

Araştırmacılar yeni keşfedilen Cretosabethes primaevus'un, bazı modern türleri de içeren Sabethini grubundan olduğunu belirtiyor.

Cretosabethes primaevus larvasının tıpkı günümüz sivrisinekleri gibi, ağaç dallarının oyukları veya bitki yapraklarının araları gibi küçük su birikintilerinde yaşadığı düşünülüyor.
 

Görsel kaldırıldı.Yeni türün larvası (Gondwana Research)

Önceki fosil araştırmaları, sivrisineklerin evrimsel kökeninin yaklaşık 201 milyon yıl ila 145 milyon yıl önceyi kapsayan Jura dönemine dayandığının belirlenmesini sağlamıştı.

Ancak DNA analizine dayanan tahminler, sivrisineklerin muhtemelen Triyas ve Jura dönemleri arasında, 200 milyon yıldan daha önce ortaya çıktığına işaret ediyor.

Son bulgular, bu böceğin ilk ortaya çıktığı tam zaman dilimini daraltmaya yarayacak yeni ipuçları sunuyor.

Araştırmacılar, "Bu yeni fosil Kretase döneminde, soyu tükenmiş sivrisinek türlerinin modern sivrisinek türleriyle bir arada yaşadığını gösteriyor" diye yazıyor.

Dr. Amaral şu ifadeleri kullanıyor:

Sonuçlarımız, sivrisineklerin Jura döneminde çoktan çeşitlenmeye başladığına ve larva morfolojisinin neredeyse 100 milyon yıldır dikkate değer derecede benzer kaldığına dair güçlü işaretler sunuyor.

Independent Türkçe, independent.co.uk/news