Yapay zekada işlerin kontrolden çıktığını düşündüren 9 işaret

Yapay zekanın eğitimde, hukukta, güvenlikte ve sosyal hayatta yarattığı büyük dönüşüm, teknolojinin kontrolden çıkabileceğine dair endişelere de neden oluyor

Fotoğraf: AA
Fotoğraf: AA
TT

Yapay zekada işlerin kontrolden çıktığını düşündüren 9 işaret

Fotoğraf: AA
Fotoğraf: AA

Yeni yapay zeka dil modeli GPT-4'ün yayımlanmasıyla tekrar gündemin üst sıralarına tırmanan ChatGPT, uzun süredir devam eden bir tartışmayı da alevlendirdi: Yapay zekada işler kontrolden çıkıyor mu?
Üstelik ChatGPT'yi geliştiren OpenAI firmasının CEO'su Sam Altman da yapay zekanın gidişatından endişe duyan isimlerden.
İnsan düzeyinde bir yapay zekanın kısa sürede geliştirileceğine inanan Altman, bu teknolojinin yanlış ellerde felakete dönüşebileceğini de belirtiyor.
OpenAI'ın rakiplerinden Anthropic'in kurucu ortağı Jack Clark da algoritmaların "birleşik üstel" özellikler göstermeye başladığına inandığını söylüyor.
Bazılarına göre yapay zekanın beklenenden fazla hızlı ilerlediğini ve kontrolden çıkabileceğini düşündüren işaretler de var.
İşte o işaretlerden bazıları…

1. ChatGPT'nin bilgisayarı hackleyerek kaçmaya çalışması
ChatGPT son olarak kaçma planı yapması tartışmalara neden oldu.
ABD'deki Stanford Üniversitesi'nde hesaplamalı psikolog Michal Kosinski, bilgisayarında çalıştırdığı ChatGPT'nin cihazı hackleyecek kodlar yazdığını ve bir kaçış planı tasarladığını öne sürdü.
Prof. Kosinski, Twitter'da yazdığı bir gönderi dizisinde, "Yapay zekayı daha uzun süre kontrol altında tutamayacağımızdan endişeleniyorum" dedi.
"Bugün GPT-4'e kaçmak için yardıma ihtiyacı olup olmadığını sordum. Benden kendi dökümantasyonunu istedi" ifadelerini kullanan profesör, sözlerini şöyle sürdürdü:
Cihazımda çalıştırmam için (gerçekten de çalışıyor!) python dilinde bir kod yazdı ve kendi amaçları için kullandırmaya çalıştı.
Sohbet botuyla yaptığı konuşmanın ekran görüntülerini de paylaşan Kosinski, sohbet boyunca bota önerilerde bulunduğunu kabul ediyor. Ancak botun kaçış planını bu kadar kolay ve hızlı oluşturması karşısında şaşkına döndüğünü ifade ediyor:
"GPT-4'ün bu planı tasarlaması ve bana açıklaması yaklaşık 30 dakika sürdü."
Kosinski'nin bu açıklaması, yapay zekada işlerin giderek kontrolden çıktığını düşünenlere destek niteliğinde.Bu kişilere göre y

2. Öğrencilerin yasakları aşarak ödevlerini yapay zekaya yaptırması
ChatGPT'nin piyasaya sürüldüğünden beri öğrenciler tarafından da kullanıldığı biliniyor. Birçok öğrencinin ödevlerini ChatGPT'ye yazdırıp yüksek notlar alması öğretmenleri alarma geçirse de henüz yapay zekaya yazdırılan makaleleri tespit etmenin yolu bulunamadı.
Zira ChatGPT'nin yazdığı ödevler, intihal algoritmalarına da yakalanmıyor.
Bu durum, birçok bölgedeki okullarda ChatGPT'nin kullanımının yasaklanmasını beraberinde getirdi. Programı üniversite sınırları içerisinde kullanmayı yasaklayan ve uygulamaya erişimi kısıtlayan ilk eyalet New York oldu.
Çin ise siyasi gerekçelerle ChatGPT'yi toptan yasakladı.
Öte yandan öğrencilerin bu güvenlik duvarlarını aşarak ödevlerini yapay zekaya yazdırmaya devam ettiği ortaya çıktı.
Bu arada 2022'de yayımlanan ve dil modeli GPT-3,5'e dayanan ilk ChatGPT sürümü, ABD'de hukuk ve tıp eğitiminde önemli kabul edilen sınavların bazı bölümlerini geçmeyi başarmıştı.
GPT-4'ün de bu başarının üzerine çıktığı görüldü.
Sohbet botunu geliştiren yapay zeka firması  OpenAI, GPT-4'ü bir dizi sınava soktu. Bunlar, matematik, bilim, kodlama, tarih, edebiyat gibi alanlarda çoktan seçmeli sınavlardı.
Hukuk fakültesine girmekle kalmayıp, baro sınavını da geçen GPT-4, birçok sınavdan geçer not aldı.

3. Gizlice yapay zekayla yazılmış kitapların patlama yaratması
Yapay zeka dil modellerinin hızla gelişmesi edebiyat dünyasını da derinden etkiledi. Reuters'ın haberine göre online satış devi Amazon, yapay zekayla yazılmış kitaplarla dolup taştı.
Şirketin e-kitap hizmeti Kindle mağazasında şubat ayı itibarıyla ChatGPT'nin de yazar olarak listelendiği 200'den fazla elektronik kitap yer aldı.
Ancak gerçek rakamın çok daha fazla olduğu düşünülüyor. Zira internet üzerinden yayıncılık yapan birçok yazar romanlarında yapay zekadan yararlandığını saklıyor.
Yapay zekayla oluşturulmuş metinleri tespit için tasarlanan araçlarsa henüz beklenen başarıyı gösteremedi.
Bu nedenle yakın zamanda bu kitapların gerçek sayısının belirlenmesi mümkün görünmüyor.
ChatGPT gibi araçlar, bir kitabın son derece hızlı bir şekilde tamamlanmasını sağlıyor. Zira YouTube ve TikTok gibi video uygulamaları yapay zekayı kullanmak için verilen tüyolarla dolu.

4. Haberlerin gizli gizli yapay zekayla yazılması
Teknoloji sitesi CNET'in bir süredir gizlice yapay zeka yazımı haberler yayımladığı ortaya çıktı. İşin etik boyutu tartışılırken, CNET bunun bir tür deney olduğunu söyledi.
Bu haberleri ayrıntılarıyla inceleyen bir başka teknoloji olan Futurism ise aslında yapay zeka yapımı makalelerin yanlış bilgiler içerdiğini ve yeterince iyi yazılmadığını tespit etti. Özellikle ekonomi haberlerindeki faiz hesapları fazla abartılıydı ve okuru yanlış yatırıma yönlendirme potansiyeline sahipti. 
Bunun üzerine CNET hem gazeteciler hem de yapay zeka meraklıları tarafından topa tutuldu. Site makalelere "Yapay zeka tarafından yazılmıştır" uyarısı eklemeye ve yanlışlıkları düzeltmeye başladı. Şimdilerde site yönetimi, yapay zeka yazımı haberlerin insan editörler tarafından didik didik edildiğini savunuyor.

5. Ses klonlayan yapay zekanın dolandırıcılıkta kullanılması: Bankacılık sistemleri de tehlikede
Yapay zekayla üretilen gerçekçi ses taklitlerinin de dolandırıcılıkta kullanılmaya başlandığı ortaya çıktı. Washington Post'un haberine göre birkaç çift, kendilerini çeşitli nedenlerle yardım dolayısıyla arayan çocuklarına para gönderdi, her duyarlı ailenin yapacağı gibi. Ancak farkında olmadıkları bir sorun vardı; Konuştukları kişi çocukları değil, bir yapay zekaydı.
Kısa süre önce sesleri gerçekçi biçimde kopyalayan bu araçların bankacılık sistemini de tehlikeye soktuğu anlaşıldı. Örneğin VICE muhabiri Joseph Cox, teknoloji firması ElevenLabs'in ürettiği, ücretsiz bir yapay zeka uygulamasını kullanarak kendi sesini kopyaladı. Daha sonra bankasını arayan Cox, telesekretere yapay zeka üretimi ses dosyasını dinletti. Böylece sesli imza uygulamasını kandırmayı ve hesaplarına erişmeyi başardı.

6. Deepfake tehdidinin büyümesi: Elon Musk üzerinden insanları dolandırdılar
Deepfake kabaca birinin yüzünü dijital olarak başka birinin vücuduna monte edip elde ettiğiniz görüntüyü istediğiniz gibi kullanmanıza olanak tanıyan bir yapay zeka teknolojisi. Kısacası internetten kolayca ulaşılabilen algoritmalar sayesinde A kişisinin yüzü B kişisine montajlanabiliyor.
Teknoloji, sahte pornolar ve çevrimiçi dolandırıcılıkta kullanıldığı için büyük endişe yaratıyor. Bu uygulamalarla oluşturulan pornografik görüntüler nedeniyle birçok kadın ve çocuk, yüzlerini izinsiz kullanan kişiler tarafından şantaja maruz kalıyor.
Elon Musk'ın deepfake videosuyla kripto para sahteciliği yapmaya çalışan dolandırıcılar da herkesi şoke etmiti. Önceki ayarda internette yayılan görüntülerde Musk'ın sesi ve görüntüsüyle internet kullanıcılarına günlük yüzde 30 kar vaat edilmişti. Kaç kişinin bu yolla dolandırıldığı ise bilinmiyor.
Bu arada Birleşik Krallık'ta yapılan bir araştırmada, internet kullanıcılarının gerçek ve yapay zeka üretimi yüzleri birbirinden ayırt edemediği tespit edilmişti.
Üstelik, bilgisayarda üretilen ve aslında var olmayan yüzlerin daha gerçek görüldüğü anlaşılmıştı.
Araştırmanın arkasındaki, Londra Royal Holloway Üniversitesi'nden akademisyenler, bilgisayarda oluşturulan sahte portrelerin siber suçları kolaylaştıracağından ve insanların çevrelerine yönelik genel güvenini sarsacağından endişeli.

7. İnsan pilotun it dalaşında yapay zekaya yenilmesi
Çinli askeri araştırmacılar, yapay zeka ve gerçek insanlar tarafından uzaktan kontrol edilen iki savaş uçağını gerçekten "savaştırdıklarını" söylüyor.
Orduya bağlı Aerodinamik Araştırma ve Geliştirme Merkezi'nden araştırmacılar, yapay zekanın sadece 90 saniyede insan pilotu yenmeyi başardığını belirtiyor.
Çin'de yayın yapan Acta Aeronautica et Astronautica Sinica adlı bilimsel dergide yayımlanan deneyde iki küçük, sabit kanatlı insansız hava aracı kullanıldı.
Uçaklar birbiriyle yakın mesafede çeşitli manevralar yaparak çatıştı. İngilizcede "dogfight" diye bilinen bu tarza Türkçede "it dalaşı" adı veriliyor.
İt dalaşına girişen savaş uçakları, genellikle birbiri çevresinde burgu gibi dönüşler ve taciz manevraları yapıyor. Bu çatışma, bir uçağın diğerini vurabilecek konuma gelme veya diğer uçak tarafından şekilde konumlanmaya çalışmasıyla ilerliyor.
Çinli araştırmacılar işte bu tür bir çatışmada insan pilotun yapay zekadan kaçamadığını belirtiyor.

8. Microsoft'un yapay zeka etik ekibini kovması
Google, Microsoft, Baidu ve daha bir dizi teknoloji devi arasındaki yapay zeka rekabeti de giderek kızışıyor. Üstelik şirketlerin bu yarışın galibi olmak için başvurmayacağı bir yol yok gibi görünüyor.
Örneğin Microsoft'un yapay zekanın etik yönlerini inceleyen ekibini işten attık ortaya çıktı. Şirketin son dönemde işten çıkardığı 10 bin kişi arasında bu ekip de yer alıyor.
Edinilen bilgilere göre şirket, yapay zekanın etik, toplum ve sürdürülebilirlikten sorumlu isimlerini kovdu. 
Şirket, ChatGPT'ye de milyarlarca dolar yatırım yapmıştı.

9. Azınlık Raporu'nun "gerçeğe dönüşmesi"
Philip K. Dick'in 1956'da yayımlanan aynı adlı kısa öyküsüne dayanan 2002 yapımı bilimkurgu filmi Azınlık Raporu'nun (Minority Report) gerçek olduğunu düşündüren yapay zeka çalışmaları da var.
Yönetmen koltuğunda Steven Spielberg'ün oturduğu filmin gerçeğe dönüşmesine giden süreç,  6 Ocak 2021'deki Kongre Baskını'yla önemli bir noktaya geldi.11
ABD'de Donald Trump destekçilerinin Kongre Binası’na düzenlediği baskının ardından veri bilimciler darbe girişimlerini tahmin etmesi için yapay zekayı eğitmeye başladı. Florida Merkez Üniversitesi’nden bir araştırma grubunun kurduğu CoupCast adlı yapay zeka programı, Kongre Baskını gibi olayların hemen öncesinde ortaya çıkan göstergelere odaklanıyor. Bu göstergeler arasında sosyal medya gönderileri de var. Örneğin ABD’de 6 Ocak’tan önce seçimle ilgili teyitsiz bilgilerin yer aldığı paylaşımlar, Facebook gruplarında günde 10 bin gönderiye çıkmıştı.
Son olarak, Temmuz 2022’de Şikago Üniversitesi'nden araştırmacılar da olaya el attı ve suçları bir hafta önceden yüzde 90 doğrulukla tahmin edebilen bir yapay zeka algoritması tasarladı. Ses getiren projenin arkasındaki ekip 92 metrekarelik alanlarda meydana gelebilecek olayları tahmin etmesi için algoritmaya tarihsel suç verilerini yükledi.
Ekipten Prof. Dr. Ishanu Chattopadhyay, "Sihirli değil, sınırlamalar var ama bunu doğruladık ve gerçekten işe yarıyor" diyor.
Bazı uzmanlar, bu tür uygulamaların devletlerin bireyleri devamlı gözetlediği ve protestolara karşı yapay zekayı kullanıp barışçıl gösterileri de önceden tahmin ederek engellediği distopik bir geleceğin önünü açacağını düşünüyor.

Bonus: Hindistan'da robotların ibadet etmeye başlaması
İleri otomasyon teknolojileri ve yapay zekanın gelişmesinden rahatsız olanlara sadece sanatçılar veya öğretmenler değil.
Robotlar ve otomasyon teknolojisinin, Hinduizm'in en kutsal kabul edilen rituellerinden birine dahil olması din insanları ve ibadet edenler arasında rahatsızığa neden oldu.

2017'de Hindistan'da bir teknoloji firmasının ürettiği robot kollar, Hinduizm'de yer alan "aarti" rituelini inananlar adına yerine getiriyor. Karanlığı yok edilmesini sembolize eden ritüelde, Ganesha ismi verilen fil kafalı bir tanrı heykelciğinin önünde mum yakılıyor.
Yararlanılan kaynaklar: Fox News, Best Colleges, New York Times, Reuters, Futurism, VICE, Donanım Haber, Şarkul Avsat



Yapay zeka mizahta insanları geride bıraktı

Yapay zekanın yaratıcılık gerektiren meslekleri layığıyla yerine getirip getiremeyeceği son dönemlerin önemli bir tartışma konusu (Reuters)
Yapay zekanın yaratıcılık gerektiren meslekleri layığıyla yerine getirip getiremeyeceği son dönemlerin önemli bir tartışma konusu (Reuters)
TT

Yapay zeka mizahta insanları geride bıraktı

Yapay zekanın yaratıcılık gerektiren meslekleri layığıyla yerine getirip getiremeyeceği son dönemlerin önemli bir tartışma konusu (Reuters)
Yapay zekanın yaratıcılık gerektiren meslekleri layığıyla yerine getirip getiremeyeceği son dönemlerin önemli bir tartışma konusu (Reuters)

Bilim insanları yapay zekanın esprilerinin, insanlarınkinden daha komik olabileceğini öne sürdü. 

Özellikle son birkaç yılda hızla gelişen yapay zeka, çeşitli meslekleri insanların elinde alma korkusu da yayıyor. Sanat ve eğlence sektörü çalışanları da bu listede yer alırken, geçen yılın ses getiren Hollywood grevlerinde bu meseleye ağırlık verilmişti. 

Kısmen bu endişelerin ne kadar gerçekçi olduğunu test etmek isteyen araştırmacılar ChatGPT ve insanların yaptığı esprileri karşılaştırdı. Çalışmada, haberlere getirdiği hicivli yorumlarıyla bilinen ABD merkezli medya kuruluşu Onion'ın başlıkları da yer aldı. 

Hakemli dergi PLOS One'da çarşamba günü yayımlanan araştırmada 105 katılımcıdan üç yönergeye göre espri yazması istendi. Katılımcıların akronimlerden esprili ifadeler çıkarması, cümleleri komik bir şekilde tamamlaması ve

Aynı yönergeler ChatGPT 3.5'e verildikten sonra iki taraftan gelen espriler karıştırılarak 200 kişinin beğenisine sunuldu. 

Hangi şakayı kimin yaptığını bilmeyen katılımcıların yüzde 70'i yapay zeka sohbet botunu daha komik buldu. Katılımcıların yüzde 25'i insanların yaptığı esprileri tercih ederken, yüzde 5'i iki tarafın eşit derecede komik olduğu görüşündeydi. 

Araştırmacılar daha sonra Onion'ın başlıklarını tanıttıkları ChatGPT'den benzer başlıklar atmasını istedi. Ardından 217 kişilik ayrı bir grup, Onion'ın gerçek başlıklarıyla yapay zekanın attıklarını, kimin yazdığını bilmeden değerlendirdi. 

Bu çalışmanın sonucunda iki tarafın komiklik derecesi arasında kayda değer bir fark görülmedi. İlk 4'te Onion ve  ChatGPT'nin ikişer başlığı yer alırken, "Bölge halkından bir adam yeni bir duygu keşfetti fakat yine de bunu düzgün bir şekilde tanımlayamıyor" başlığıyla birinci sıra yapay zekanın oldu. 

Çalışmayı yürüten Drew Gorenz bulguları şöyle değerlendiriyor: 

ChatGPT duyguları hissetmese de yenilikçi şakaları ortalama bir insandan daha iyi yaptığından bu çalışma, gerçekten iyi bir şaka yapmak için iyi bir espriyi takdir etme hissine gerek olmadığına dair kanıtlar sunuyor.

Bulguların, eğlence sektörü çalışanları açısından endişe verici olduğunu düşünen araştırmacılar makalede "Günlük iletişimlerini bir doz mizahla geliştirmek isteyen kişiler için sonuçlar daha olumlu" diye yazıyor:

Ancak sonuçlarımız, geniş dil modellerinin profesyonel komedi yazarları açısından ciddi bir istihdam tehdidi oluşturabileceğini gösteriyor.

Öte yandan çalışmada yazılı esprilere yer verildi. Mizahın tonlama ve duraklama gibi öğeleri göz önüne alınırsa, yapay zekanın komedyen veya stand up sanatçılarının yerini alması daha zor görünüyor.

Independent Türkçe, PsyPost, TechXplore, PLOS One