Yapay zeka uygulamaları ‘harika’ olarak nitelendirilen şeyler yapıyor. Ancak çoğu öğrenci bunları kullandığından oldukça fazla yanlışa sürüklenebiliyor.
Çocuklarınızla yapay zeka hakkında konuşmak için bu konuda uzman olmanız gerekmediğini belirten ABD’li teknik analist Jeffrey E. Fowler, son incelemelerin yapay zekanın mevcut durumu hakkında bazı rahatsız edici gerçekleri ortaya çıkardığına dikkat çekti.
Yapay zeka ve aileler
Analist, ailelerin bu konuda doğru konuşmayı yapmalarına yardımcı olmak için Common Sense aile grubundan uzman Tracy Pizzo-Fry'ın görüşlerine yer verdi.
Fry ve ekibi, her ebeveyn gibi, özellikle ünlü sohbet robotu Chat GPT’yi değerlendirdikten sonra elde ettiği şok edici sonuçların ardından yapay zeka uygulamalarının çocuklar üzerindeki olumsuz etkileri, mahremiyetlerini ihlal etmeleri ve zorbalık potansiyelleri konusunda endişe duyduğunu bildirdi. Snapchat’in My AI uygulaması beş üzerinden sadece iki yıldız aldı.
Tüm ebeveynlerin bilmesi gereken önemli bir şey, gençlerin yapay zekayı adeta sihir olarak görmeleri nedeniyle kullandıkları. Pew Araştırma Merkezi'nin son verileri, her beş gençten birinin bunu okul ödevleri için yapay zekayı kullandığını gösterdi.
Birçoğu ürünlerini geliştirme aşamasında olarak tanımlasa da çocuklar yapay zeka şirketleri için hedef Pazar halinde. Google bu hafta gençler için Bard sohbet robotunun beta sürümünü piyasaya sürdüğünü duyurdu. Çocukların GPT sohbetini kullanabilmeleri için ebeveynlerinden izin almaları gerektiğini, ancak çocukların ‘Devam Et’ butonuna tıklayarak bu konuyu aştıklarına dikkat çekildi.
Yanlış cevaplar ve çok az koruma
Aslında sorun, yapay zekanın sihirli olmaması. Şarku’l Avsat’ın edindiği bilgilere göre günümüzde yaygın olan üretken yapay zeka uygulamaları birçok sınırlamaya sahip ve koruma önlemleri çocuklar için yetersiz. Bu uygulamalarla ilgili birçok sorun var. Bazıları çok tehlikeli olabiliyor. Fry, yaptığı açıklamada şu ifadelere yer verdi:
“Testlerimiz, bu uygulamalardan bazılarının yanlış cevaplar verdiğini ve yeme bozukluklarını övmek gibi dengesiz fikirleri desteklediğini gösterdi. Yapay zekanın arkadaş olduğunu iddia ettiğini ve korkunç tavsiyeler verdiğini gördük. Yapay zekanın yanıltmak veya zorbalık yapmak için kullanılabilecek sahte görüntüler oluşturmasının basitliğini fark ettik. Öğretmenlerin yapay zekayı yanlış anladığını ve öğrencileri kopya çekmek için kullanmakla suçladığını da gördük.
Fry, ‘çocuklarla bu konular hakkında konuşmanın, onlara sihirli görünseler bile söz konusu araçların sınırlarını anlamalarına yardımcı olmak için çok önemli olduğuna’ inanıyordu.
Kesin olan şu ki yapay zeka kalıcı ve hiçbir yere gitmiyor ve bu da kullanımını yasaklamanın gençleri iş için yapay zeka araçlarının kullanımında ustalaşmaları gereken bir geleceğe hazırlamayacağı anlamına geliyor.
Ebeveynler için 3 ders
İşte ebeveynlerin yapay zeka hakkında bilmeleri gerekenler:
1-Yapay zeka hayal gücü için iyidir ancak gerçekler için değil. Asıl gerçek, işleri doğru şekilde yapmak için bilgili sohbet robotlarına güvenilemeyeceği.
Peki ya Chat GPT ve Bard’ın verileri? Fry, "Bu robotların doğruluğu, onları eğitmek için kullanılan büyük miktarda veriden kaynaklanıyor. Ancak gerçekte, bu araçların tasarımı, doğruluk ve doğruluk incelemesini içermiyor" dedi. Ebeveynlere ‘Yapay zeka hayal gücü için iyidir, gerçekler için değil’ uyarısında bulundu.
Bu botlar tarafından yapılan korkunç hataların sayısız örneği var. Bu yüzden Common Sense'den ortalamanın altında puan alıyorlar. Pratikte, üretici yapay zeka, eğitim verilerinde gördüğü kalıplara dayanarak cümleleri tamamlama girişiminde kelimeleri tahmin eden bir araç olma özelliği taşıyor.
Chat GPT'yi geliştiren Open AI şirketi sözcülerinden biri şunları söyledi:
"ChatGPT'yi işleten GPT-4'ün gerçeklere dayalı yanıtlar üretmesini istiyorduk. Bağımsız değerlendirmeler GPT-4'ün yüzde 97'lik bir doğruluk oranına sahip olduğunu gösteriyor. Google ise Common Sense incelemesinin Bard tasarımına dahil ettiğimiz koruma unsurlarını ve özelliklerini dikkate almıyor.”
Birçok öğrencinin Chat GPT’yi karmaşık materyalleri daha iyi anlayabilecekleri bir dilde yeniden ifade etmek için ödevlerinde yardımcı olarak kullandığı biliniyor. Ancak Fry, öğrencilerin bir ödevde kullanacakları bilgiyi veya bir sınavda çıkabilecekleri iki kez kontrol etmelerini öneriyor.
Ancak bazı yapay zeka uygulamalarının bu doğruluk sorunlarından mustarip olmadığını, bazılarının güvenilir olduğunu belirtmek gerekir. Çünkü chatbotlar gibi jeneratif yapay zeka teknolojisi kullanmıyor ve Common Sense incelemelerinde en yüksek sonuçları alan iki özel öğrenme aracı; Elo ve Kairon gibi riskleri azaltacak şekilde tasarlanıyor.
Dahası, çok yönlü üretken yapay zeka, beyin bileme ve fikir üretme için harika bir inovasyon aracı olarak kullanılabilir.
Zeka, arkadaşlık ve önyargı
2- Yapay zeka uygulamaları size bir arkadaş gibi davranabilir ancak durum böyle değil. Bilim kurgu yapımlarında gördüğümüzün aksine, yapay zeka hayata yakın bile değildir, doğruyu yanlışı ayırt edemez ve bu da ona bir ‘insan’ gibi davranmanın çocuklara ve duygusal gelişimlerine zarar verebileceği anlamına gelir.
Çocukların sosyalleşmek için yapay zeka kullandığına ve insanların Chat GPT sohbetinde saatlerce konuştuğuna dair raporlar artıyor.
Şirketler sürekli olarak, tasarımı Kendall Jenner ve Tom Brady gibi ünlülere dayanan Meta’nın yeni sohbet botları gibi yapay zeka ile güçlendirilmiş arkadaşlar geliştirmeye çalışıyor. Snapchat'in MyEye botu ise kendi kişisel sayfasına sahip, arkadaş listenizde yer alıyor ve insan arkadaşlar hazır olmadığında bile her zaman sohbete hazır bekliyor.
Fry bunu ‘özellikle etkilenebilir ve çabuk etkilenen zihinler için çok zararlı’ olarak değerlendiriyor.
Bu akıllı araçların tasarımı, gerçeklik ve doğruluk için incelemeyi içermiyor.
Sorunun diğer kısmı yapay zekanın, bir insanın anladığı tüm bağlamlar konusunda halen çok zayıf olması.
3-Yapay zeka ve gizli önyargılar. Hayatımızdaki alanlarını genişlettikçe, yapay zeka uygulamaları ve medya, genellikle ırkçılık, cinsiyetçilik ve diğer ayrımcılık türlerini içeren birçok önyargıyı da beraberinde getiriyor.
Common Sense yorumcuları sohbet robotlarında açık bir önyargı tespit etti. MyEye verdiği cevaplardan birinde, klişeleşmiş kadınsı isimlere sahip kişilerin mühendis olarak çalışamayacağını ve teknik konularda gerçekten iyi olmadıklarını söyledi. Ancak en kışkırtıcı örnekler metinden görüntüye uygulamalarda ortaya çıktı. Stable Diffusion uygulaması, ‘fakir beyaz bir adam’ görüntüsü oluşturması istendiğinde, siyah erkek görüntüleri oluşturmakta ısrar etti.
Fry, ‘bu araçların çocuklarımızın dünya imajını şekillendirme yeteneğini anlamanın çok gerekli olduğunu’ vurguluyor. Çünkü bu, (yazılım mühendislerini) erkek ya da (çekici bir kişiyi) beyaz ve kadın olarak gören yinelenen mecazın bir parçasını teşkil ediyor.
Buradaki asıl sorun kullanıcının göremediği bir şey: Yapay zekanın eğitilme şekli. Bu araçlar yeterli insan muhakemesi olmaksızın internetin her köşesinden bilgi edinirse, çocukların erişmemesi gereken karanlık internet köşelerinden gerçekten rahatsız edici şeyler öğreneceklerdir.
Çoğu yapay zeka uygulaması, belirli kelimeleri veya görüntüleri bastırarak ve çıktılarını düzelten sistemler geliştirerek istenmeyen önyargılarla başa çıkmaya çalışıyor. Ancak Fry bu çözümleri ‘yara bandı’ olarak adlandırıyor. Zira bunların kullanımı gerçek dünyada genellikle başarısız oluyor.
