Yapay zeka…. Ne kadar çok ‘geliştirilirse sorunları’ da o kadar artıyor

Yapay zekanın "halüsinasyonları" geliştiricilerin deneyimini aşıyor

Yapay zeka…. Ne kadar çok ‘geliştirilirse sorunları’ da o kadar artıyor
TT

Yapay zeka…. Ne kadar çok ‘geliştirilirse sorunları’ da o kadar artıyor

Yapay zeka…. Ne kadar çok ‘geliştirilirse sorunları’ da o kadar artıyor

Üretken yapay zeka, kendisini güçlü kılan aynı yaratıcı yeteneklere dayanan yeni bir yazılım başarısızlıkları çağının perdesini aralıyor.

Axios web sitesine göre, her yeni teknoloji beraberinde hataları da getiriyor ancak yapay zeka hataları özellikle çetrefilli ve sinir bozucu olacak çünkü alıştığımızdan tamamen farklı çalışacaklar.

AT&T'nin hücresel ağı ve Google'ın Gemini yapay zeka sohbet robotu geçen hafta canlı yayına geçti.

Perşembe günü saat 03:30 sularında Doğu Yakası'nda AT&T hizmet kesintileri yaşandığına dair haberler geldi ve müşteriler Reddit ve X'te şikayette bulunarak sorunlarını hizmetlerin ne zaman kesildiğini tespit eden bir site olan Downdetector'a kaydettiler.

Etkinin yaygın olduğu görülüyor ve AT&T'nin bir ‘yazılım yapılandırma hatası’ nedeniyle çökmesi, binlerce müşteriyi sabah işe gidip gelirken kablosuz hizmetten yoksun bıraktı.

ABD’deki bazı kullanıcılar da hizmet kesintisi nedeniyle 911'i arayamadı. Sabah 9 itibariyle Downdetector, ABD genelinde 72 binden fazla AT&T kesintisi olduğunu gösteriyordu.

Teknoloji uzmanlarının bu sorunla nasıl başa çıkacaklarını bildikleri ağ kesintileri tanıdık olsa da, Google'ın hatası tamamen farklıydı, çünkü Gemini görüntülerinin yaratıcısı tarihi olmayan çeşitli görüntüler de yarattı. Örneğin, Nazi askerlerini fotoğraflaması istendiğinde, siyah insanların illüstrasyonlarını dahil etti. Askeri üniforma giyiyorlardı ve Papa'yı çizmesi istendiğinde, papalık cübbesi giyen bir kadın görüntüsü ortaya çıktı.

Bu AT&T'ninkinden daha karmaşık bir hataydı. Google, sorunu çözene kadar yapay zeka kullanarak oluşturulan görüntülerin üretimini geçici olarak durdurdu.

Axios'a göre Google, özellikle yapay zekaya göre tüm teröristlerin koyu tenli göründüğü insan görüntüleri dünyasında, her yapay zeka şirketinin yıllar süren utanç verici hatalardan sonra uygulamayı öğrendiklerine çok benzer önlemler alıyordu.

Site, AT&T ve Google olaylarında, insanların bilgisayarlardan yapmalarını istedikleri şeyler nedeniyle sistemlerin başarısız olduğuna dikkati çekti. AT&T'nin kablosuz hizmeti, sistemin yanıt vermemesine neden olan bir hata ya da tutarsızlık içeren yeni bir talimatı takip etmeye çalıştığında çöktü. Bilgisayarların icadından bu yana çoğu bilgisayar arızası bu şekilde meydana gelmiştir.

Ancak Axios, çoğu yapay zeka sisteminin komutlar ve talimatlarla çalışmadığına, bunun yerine çıktıları oluşturmak için olasılıklar kullandığına da dikkati çekti.

Gemini ile müdahale edildi ancak uzmanlar istedikleri sonuçları alamadı.

Üretken yapay zeka "yaratıcılıktan" alıkonulamaz

Site, İkizler’in tarihsel araştırma ile yaratıcılık arasındaki fark hakkında net bir şekilde ‘düşünemediğini’ açıkladı ve "En akıllı sistem ya da makul bir şekilde bilgilendirilmiş herhangi bir insan, Roma'daki Katolik Kilisesi'nin hiçbir zaman erkek olmayan bir papaya sahip olmadığını bilirdi" dedi.

Siteye göre, geleneksel programlar bir sonraki talimatları yürütmek için kod tabanlarına bakarken; Üretken YZ programları daha sonra insanların kendilerine verdiği talimatlara dayanarak bir dizideki bir sonraki kelimeyi veya pikseli ‘tahmin eder.’

Yapay zekaya ince ayar yaparak çıktılarını az ya da çok rastgele hale getirebilirsiniz. Ancak yaratmasını engelleyemezsiniz, aksi takdirde hiçbir şey yapmayacaktır.

Sonuç olarak, yapay zeka modelleri tarafından yapılan seçimler genellikle belirsizdir ve siteye göre yaratıcıları bile nasıl çalıştıklarını tam olarak anlamamaktadır, bu nedenle geliştiriciler örneğin görüntü sonuçlarını çeşitlendirmek veya siyasi propaganda ve nefret söylemini sınırlamak için ‘korkuluklar’ eklemeye çalıştıklarında, müdahaleleri ters etki yaratabilecek sonuçlara yol açıyor. Ancak müdahale etmemek de yanlı ve rahatsız edici sonuçlara yol açmaya devam edecek.

Yapay zeka ne kadar çok ‘geliştirilirse, ‘halüsinasyonları’ da o kadar artacak.

Site, gerçekliği doğru bir şekilde temsil etmek ve bilişsel araçlar olarak hizmet etmek için üretken yapay zeka sistemlerini kullanmaya çalıştıkça, sektörün ‘halüsinasyonlar’ ve tarihsel hatalar etrafında sınırlar belirlemeye çalışmasının daha acil hale geldiğine dikkati çekti.

Zaman içinde ve bu uzmanlık alanını öğrendikçe, YZ programcıları modellerini daha gerçekçi ve daha az önyargılı olacak şekilde başarılı bir şekilde evcilleştirebilir ve ince ayar yapabilir. Ancak Axios'a göre, üretken YZ'yi bilişsel çalışmalar için birincil arayüz olarak kullanmak, kafamızı karıştırmaya devam edecek çok kötü bir fikre dönüşebilir.



Microsoft mavi ekrana veda ediyor

Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)
Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)
TT

Microsoft mavi ekrana veda ediyor

Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)
Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)

Microsoft, yaklaşık 40 yılın ardından kötü şöhretli Windows mavi ekranından kurtuluyor.

Çoğu Windows kullanıcısı bu ekranla ve "Kurtarma" mesajıyla büyük ihtimalle en beklenmedik anlarda karşılaşmıştır.

Yazılım şirketi perşembe günü yaptığı açıklamayla bu ekranın yerine, basitleştirilmiş bir kullanıcı arayüzünü kullanıma sunduğunu duyurdu: siyah ekran.

Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor.

Dünyanın dört bir yanında Windows kullanan havayolları, hastaneler, acil servisler ve bankalar etkilenmiş ve milyonlarca Microsoft kullanıcısı çevrimdışı kalmıştı.

Yaklaşık 8,5 milyon Windows sisteminin çökmesine, verimlilik kaybı ve diğer sorunlar nedeniyle şirketlerin milyarlarca dolar kaybetmesine neden olmuştu.

Bunun sonucunda Microsoft siber dayanıklılığını güçlendirme sözü vermişti.

Microsoft'un kurumsal ve işletim sistemi güvenliğinden sorumlu başkan yardımcısı David Weston bir blog yazısında "Beklenmedik yeniden başlatma deneyimini kolaylaştırıyoruz" dedi.

Ayrıca başarılı bir şekilde yeniden başlatılamayan bilgisayarlar için bir kurtarma mekanizması olan hızlı makine kurtarma özelliğini de ekliyoruz. Bu değişiklik, beklenmedik bir yeniden başlatma durumunda aksaklıkları azaltmaya yönelik süregelen daha büyük bir çabanın parçası.

Şirket, yeni kurtarma sisteminin bu yazın ilerleyen dönemlerinde tüm Windows 11 24H2 cihazlarında kullanıma sunulacağını belirtti.

Microsoft'a göre bu yenilik, yeniden başlatma sırasında bekleme süresini çoğu kullanıcı için iki saniyeye indirecek.

Weston, The Verge'e verdiği bir röportajda, "Bu gerçekten netlik, daha iyi bilgi sağlama ve bizim ve müşterilerin sorunun özünün ne olduğunu gerçekten anlamamıza izin verme girişimi, böylece sorunu daha hızlı düzeltebiliriz" diye ekledi.

Bunun bir parçası da tam olarak neyin yanlış gittiğine, sorunun Windows'tan mı yoksa bir bileşenden mi kaynaklandığına dair daha temiz bilgi sağlamak.

Microsoft geliştiricisi Raymond Chen bir blog yazısında mavi ekranın 90'lı yılların başında geliştirildiğini yazmıştı.

Independent Türkçe