Yapay zeka…. Ne kadar çok ‘geliştirilirse sorunları’ da o kadar artıyor

Yapay zekanın "halüsinasyonları" geliştiricilerin deneyimini aşıyor

Yapay zeka…. Ne kadar çok ‘geliştirilirse sorunları’ da o kadar artıyor
TT

Yapay zeka…. Ne kadar çok ‘geliştirilirse sorunları’ da o kadar artıyor

Yapay zeka…. Ne kadar çok ‘geliştirilirse sorunları’ da o kadar artıyor

Üretken yapay zeka, kendisini güçlü kılan aynı yaratıcı yeteneklere dayanan yeni bir yazılım başarısızlıkları çağının perdesini aralıyor.

Axios web sitesine göre, her yeni teknoloji beraberinde hataları da getiriyor ancak yapay zeka hataları özellikle çetrefilli ve sinir bozucu olacak çünkü alıştığımızdan tamamen farklı çalışacaklar.

AT&T'nin hücresel ağı ve Google'ın Gemini yapay zeka sohbet robotu geçen hafta canlı yayına geçti.

Perşembe günü saat 03:30 sularında Doğu Yakası'nda AT&T hizmet kesintileri yaşandığına dair haberler geldi ve müşteriler Reddit ve X'te şikayette bulunarak sorunlarını hizmetlerin ne zaman kesildiğini tespit eden bir site olan Downdetector'a kaydettiler.

Etkinin yaygın olduğu görülüyor ve AT&T'nin bir ‘yazılım yapılandırma hatası’ nedeniyle çökmesi, binlerce müşteriyi sabah işe gidip gelirken kablosuz hizmetten yoksun bıraktı.

ABD’deki bazı kullanıcılar da hizmet kesintisi nedeniyle 911'i arayamadı. Sabah 9 itibariyle Downdetector, ABD genelinde 72 binden fazla AT&T kesintisi olduğunu gösteriyordu.

Teknoloji uzmanlarının bu sorunla nasıl başa çıkacaklarını bildikleri ağ kesintileri tanıdık olsa da, Google'ın hatası tamamen farklıydı, çünkü Gemini görüntülerinin yaratıcısı tarihi olmayan çeşitli görüntüler de yarattı. Örneğin, Nazi askerlerini fotoğraflaması istendiğinde, siyah insanların illüstrasyonlarını dahil etti. Askeri üniforma giyiyorlardı ve Papa'yı çizmesi istendiğinde, papalık cübbesi giyen bir kadın görüntüsü ortaya çıktı.

Bu AT&T'ninkinden daha karmaşık bir hataydı. Google, sorunu çözene kadar yapay zeka kullanarak oluşturulan görüntülerin üretimini geçici olarak durdurdu.

Axios'a göre Google, özellikle yapay zekaya göre tüm teröristlerin koyu tenli göründüğü insan görüntüleri dünyasında, her yapay zeka şirketinin yıllar süren utanç verici hatalardan sonra uygulamayı öğrendiklerine çok benzer önlemler alıyordu.

Site, AT&T ve Google olaylarında, insanların bilgisayarlardan yapmalarını istedikleri şeyler nedeniyle sistemlerin başarısız olduğuna dikkati çekti. AT&T'nin kablosuz hizmeti, sistemin yanıt vermemesine neden olan bir hata ya da tutarsızlık içeren yeni bir talimatı takip etmeye çalıştığında çöktü. Bilgisayarların icadından bu yana çoğu bilgisayar arızası bu şekilde meydana gelmiştir.

Ancak Axios, çoğu yapay zeka sisteminin komutlar ve talimatlarla çalışmadığına, bunun yerine çıktıları oluşturmak için olasılıklar kullandığına da dikkati çekti.

Gemini ile müdahale edildi ancak uzmanlar istedikleri sonuçları alamadı.

Üretken yapay zeka "yaratıcılıktan" alıkonulamaz

Site, İkizler’in tarihsel araştırma ile yaratıcılık arasındaki fark hakkında net bir şekilde ‘düşünemediğini’ açıkladı ve "En akıllı sistem ya da makul bir şekilde bilgilendirilmiş herhangi bir insan, Roma'daki Katolik Kilisesi'nin hiçbir zaman erkek olmayan bir papaya sahip olmadığını bilirdi" dedi.

Siteye göre, geleneksel programlar bir sonraki talimatları yürütmek için kod tabanlarına bakarken; Üretken YZ programları daha sonra insanların kendilerine verdiği talimatlara dayanarak bir dizideki bir sonraki kelimeyi veya pikseli ‘tahmin eder.’

Yapay zekaya ince ayar yaparak çıktılarını az ya da çok rastgele hale getirebilirsiniz. Ancak yaratmasını engelleyemezsiniz, aksi takdirde hiçbir şey yapmayacaktır.

Sonuç olarak, yapay zeka modelleri tarafından yapılan seçimler genellikle belirsizdir ve siteye göre yaratıcıları bile nasıl çalıştıklarını tam olarak anlamamaktadır, bu nedenle geliştiriciler örneğin görüntü sonuçlarını çeşitlendirmek veya siyasi propaganda ve nefret söylemini sınırlamak için ‘korkuluklar’ eklemeye çalıştıklarında, müdahaleleri ters etki yaratabilecek sonuçlara yol açıyor. Ancak müdahale etmemek de yanlı ve rahatsız edici sonuçlara yol açmaya devam edecek.

Yapay zeka ne kadar çok ‘geliştirilirse, ‘halüsinasyonları’ da o kadar artacak.

Site, gerçekliği doğru bir şekilde temsil etmek ve bilişsel araçlar olarak hizmet etmek için üretken yapay zeka sistemlerini kullanmaya çalıştıkça, sektörün ‘halüsinasyonlar’ ve tarihsel hatalar etrafında sınırlar belirlemeye çalışmasının daha acil hale geldiğine dikkati çekti.

Zaman içinde ve bu uzmanlık alanını öğrendikçe, YZ programcıları modellerini daha gerçekçi ve daha az önyargılı olacak şekilde başarılı bir şekilde evcilleştirebilir ve ince ayar yapabilir. Ancak Axios'a göre, üretken YZ'yi bilişsel çalışmalar için birincil arayüz olarak kullanmak, kafamızı karıştırmaya devam edecek çok kötü bir fikre dönüşebilir.



Batı’da korku yaratan yapay zeka yazılımı, Çin'de terapi için kullanılıyor

Çin'de geliştirilen DeepSeek, Batı'da "veri casusluğu" endişesi yaratmıştı (Reuters)
Çin'de geliştirilen DeepSeek, Batı'da "veri casusluğu" endişesi yaratmıştı (Reuters)
TT

Batı’da korku yaratan yapay zeka yazılımı, Çin'de terapi için kullanılıyor

Çin'de geliştirilen DeepSeek, Batı'da "veri casusluğu" endişesi yaratmıştı (Reuters)
Çin'de geliştirilen DeepSeek, Batı'da "veri casusluğu" endişesi yaratmıştı (Reuters)

Genç Çinliler, Batı ülkelerinde casusluk tartışması yaratan yapay zeka destekli sohbet programı DeepSeek'i terapi için kullanıyor.

Çinli mühendislerin tasarladığı DeepSeek, diğer yapay zeka şirketlerine kıyasla düşük maliyetle ve az sayıda çip kullanarak geliştirdiği açık kaynaklı yeni modeli DeepSeek-R1'i, 20 Ocak'ta piyasaya sürmüştü. 

O zamandan beri büyük rağbet gören program, rapor hazırlama ve Excel formülü yazmadan seyahat planlamasına kadar birçok amaç için kullanılıyor. 

Ancak yazılımın geliştirildiği ülkedeki gençler, programı psikolojik destek amaçlı da kullanıyor.

BBC’nin adını Holly Wang olarak değiştirdiği 28 yaşındaki Çin vatandaşı, hayatta karşılaştığı açmazlarla ilgili DeepSeek’ten tavsiye aldığını belirtiyor: 

DeepSeek benim için inanılmaz bir danışman oldu. Olaylara farklı açılardan bakmamı sağladı ve denediğim ücretli psikolojik danışmanlık hizmetlerinden daha iyi bir iş çıkardı.

Holly, DeepSeek’i ilk kez büyükannesini kaybettikten sonra kullandığını söylüyor. Büyükannesi için bir veda yazısı yazmasını istediğinde programın harika iş çıkardığını anlatan Holly, yapay zekanın kendisine şu şiirsel yanıtı verdiğini aktarıyor: 

Unutmayın ki sizi ürperten tüm bu kelimeler, ruhunuzda uzun zamandır var olanların yankısı. Ben, kendi sesinin ağırlığını duymanı sağlayan, ara sıra geçtiğin bir vadiden başka bir şey değilim.

Genç, yazılımdan bu mesajı aldıktan sonra çok etkilenip ağlamaya başladığını söylüyor.

Çin’de Alibaba, Baidu ve ByteDance gibi firmaların ürettiği yapay zeka destekli sohbet botları da var ancak Holly, hiçbirinin DeepSeek kadar iyi olmadığını belirtiyor.

Kaliforniya Üniversitesi’nden Nan Jia, yapay zeka yazılımlarının kullanıcılara duygusal destek sağlama kapasitesi üzerine çalışıyor. Nan, bu programların insanlara kıyasla karşıdaki kişiyi “daha iyi dinleme kapasitesine” sahip olduğuna dikkat çekiyor. Diğer yandan uzman, yapay zeka botlarının profesyonel psikolojik danışmanlık hizmetlerinin yerinin tutamayacağını da hatırlatıyor.

Adının paylaşılmasını istemeyen başka bir Çinli genç de DeepSeek’le yaptığı sohbetlerin bakış açısını değiştirdiğini belirtiyor: 

DeepSeek beni özgürleştiren yeni bakış açıları sundu. Bir yanıt vermeden önce sorunuzu gerçekten anlamaya ve sizi bir kişi olarak tanımaya çalıştığını hissediyorum.

ABD merkezli şirketlerle yarışan modelleri daha ucuza geliştirip sattığını öne süren DeepSeek, Nvidia'dan Microsoft'a kadar teknoloji devlerinin yüzlerce milyar dolar değer kaybetmesine neden olmuştu.

Avrupa’da uygulamaya ilk yasak İtalya’dan gelmişti. Yazılım Pentagon’da da alarma yol açmıştı.

Independent Türkçe, BBC, Reuters