Yapay zekanın fikir babası “pişman”: İnsan ırkını 10 yıl içinde yok edebilir

Bir yapay zeka sergisinde sergilenen insan beyninin bir kopyası (DPA)
Bir yapay zeka sergisinde sergilenen insan beyninin bir kopyası (DPA)
TT

Yapay zekanın fikir babası “pişman”: İnsan ırkını 10 yıl içinde yok edebilir

Bir yapay zeka sergisinde sergilenen insan beyninin bir kopyası (DPA)
Bir yapay zeka sergisinde sergilenen insan beyninin bir kopyası (DPA)

Yapay zekanın (AI/YZ) fikir babası Profesör Geoffrey Hinton, YZ'nin önümüzdeki on yıl içinde insan ırkını yok edebileceği uyarısında bulundu. İngiltere merkezli The Telegraph gazetesine göre Hinton, YZ teknolojisinin yaratılmasındaki rolünden pişmanlık duyduğunu itiraf etti.

Makinelerin hızlı gelişimini ‘sanayi devrimine’ benzeten İngiliz-Kanadalı bilgisayar bilimcisi olan Profesör Hinton (77), ancak bu kez ‘kontrolü ele geçirebileceklerine’ karşı uyardı.

Bu yıl Nobel Fizik Ödülü'nü kazanan Profesör Hinton, hükümetlerin yapay zeka şirketlerine yönelik daha sıkı düzenlemeler yapması çağrısında bulundu.

Hinton daha önce YZ’nin otuz yıl içinde insanlığın çöküşüne yol açma ihtimalinin yüzde 10 olduğunu öngörmüştü.

BBC Radio 4'te yayınlanan Today programında kendisine analizini değiştiren bir şey olup olmadığı sorulduğunda Profesör Hinton, “Pek sayılmaz. Sanırım 10 ila 20 yıl önce kendimizden daha zeki şeylerle uğraşmak zorunda kalmıyorduk” ifadelerini kullandı.

Profesör Hinton, sözlerini şöyle sürdürdü:

“Daha zeki bir şeyin daha az zeki bir şey tarafından kontrol edildiğine dair kaç örnek biliyorsunuz? Çok az örnek var.”

ıo9p0
YZ’nin fikir babası Profesör Geoffrey Hinton (Reuters)

Profesör Hinton, 1980'lerde modern yapay zekanın temelini oluşturan, verilerdeki özellikleri bağımsız olarak bulabilen ve görüntülerdeki belirli öğeleri tanımlayabilen bir yöntem icat etti.

Teknolojinin beklediğinden ‘çok daha hızlı’ geliştiğini vurgulayan Profesör Hinton, insanları 3 yaşındaki çocuklara, yapay zekayı ise yetişkinlere dönüştürebileceğini söyledi.

Profesör Hinton, şunları söyledi:

“Bence bu Sanayi Devrimi’ne benziyor. Sanayi Devrimi'nde insan gücü daha az önemli hale geldi, çünkü makineler daha güçlüydü. Eğer bir hendek kazmak istiyorsanız, onu bir makine ile kazarsınız. Şu anda sahip olduğumuz şey insan zekasının yerini alan bir şey. Sıradan insan zekası artık ön planda olmayacak, makineler ön planda olacak.”

Dickensvari değişim

Profesör Hinton, Charles Dickens’ın ifade ettiği üzere tıpkı Sanayi Devrimi'nin yaptığı gibi, yapay zekanın da sıradan insanların hayatlarını önemli ölçüde değiştireceğini öngördü.

Gelecekte teknoloji ile yaşamın ne getireceğinin daha çok siyasi sistemlerimizin bununla ne yapacağına bağlı olacağını söyleyen Profesör Hinton, “Yapay zekanın toplum için iyi olması gereken üretkenlikte büyük artışlara yol açacak olmasına rağmen, tüm faydaların zenginlere gitmesi ve birçok insanın işini kaybedip daha da fakirleşmesi durumunda toplum için çok kötü olabilecek olması beni endişelendiriyor” ifadelerini kullandı.

Profesör Hinton, şöyle devam etti:

“Bu şeyler bizden daha akıllı. Yani Sanayi Devrimi'nde makinelerin sırf daha güçlü oldukları için insanların yerini alma ihtimali yoktu. Kontrol hala bizdeydi çünkü zeka bizdeydi. Şimdi ise bu şeylerin kontrolü ele geçirmesi gibi bir tehdit var.”

Hükümetlerin rolü

Görünmez bir elin bizi güvende tutmayacağını düşünen Profesör Hinton, bu işi büyük şirketlerin kâr güdülerine bırakmanın güvenli bir şekilde geliştiklerinden emin olmak için yeterli olmayacağını vurguladı. Profesör Hinton, sadece hükümetler tarafından alınacak tedbirlerin bu büyük şirketleri güvenlik konusunda daha fazla araştırma yapmaya zorlayabileceğinin altını çizdi.

ghyjuk
Yapay zeka insan ırkını sonunu getirmekle mi tehdit ediyor? (Reuters)

Profesör Hinton, hükümetlerin büyük şirketleri güvenlik konusunda çok fazla araştırma yapmaya zorlaması gerektiğine inanıyor.

Pişmanlık

Bu teknolojiyi dünyaya tanıtmakla ilgili bazı pişmanlıkları olduğunu söyleyen Profesör Hinton, iki tür pişmanlıktan söz etti. Bunlardan ilkinin yapmamanız gerektiğini bildiğiniz bir şeyi yaptığınız için kendinizi suçlu hissettiğiniz, aynı koşullar altında tekrar yapacağınız, ama sonunda pek de iyi sonuçlanmayabilecek türden bir pişmanlık olduğunu belirten Profesör Hinton, ikincisinin ise aynı koşullar altında yine aynı şeyi yapıp genel sonucun bizden daha akıllı sistemlerin önünde sonunda yönetimi ele geçirmesi olması endişesiyle duyduğu pişmanlık olduğunu ifade etti



Batı’da korku yaratan yapay zeka yazılımı, Çin'de terapi için kullanılıyor

Çin'de geliştirilen DeepSeek, Batı'da "veri casusluğu" endişesi yaratmıştı (Reuters)
Çin'de geliştirilen DeepSeek, Batı'da "veri casusluğu" endişesi yaratmıştı (Reuters)
TT

Batı’da korku yaratan yapay zeka yazılımı, Çin'de terapi için kullanılıyor

Çin'de geliştirilen DeepSeek, Batı'da "veri casusluğu" endişesi yaratmıştı (Reuters)
Çin'de geliştirilen DeepSeek, Batı'da "veri casusluğu" endişesi yaratmıştı (Reuters)

Genç Çinliler, Batı ülkelerinde casusluk tartışması yaratan yapay zeka destekli sohbet programı DeepSeek'i terapi için kullanıyor.

Çinli mühendislerin tasarladığı DeepSeek, diğer yapay zeka şirketlerine kıyasla düşük maliyetle ve az sayıda çip kullanarak geliştirdiği açık kaynaklı yeni modeli DeepSeek-R1'i, 20 Ocak'ta piyasaya sürmüştü. 

O zamandan beri büyük rağbet gören program, rapor hazırlama ve Excel formülü yazmadan seyahat planlamasına kadar birçok amaç için kullanılıyor. 

Ancak yazılımın geliştirildiği ülkedeki gençler, programı psikolojik destek amaçlı da kullanıyor.

BBC’nin adını Holly Wang olarak değiştirdiği 28 yaşındaki Çin vatandaşı, hayatta karşılaştığı açmazlarla ilgili DeepSeek’ten tavsiye aldığını belirtiyor: 

DeepSeek benim için inanılmaz bir danışman oldu. Olaylara farklı açılardan bakmamı sağladı ve denediğim ücretli psikolojik danışmanlık hizmetlerinden daha iyi bir iş çıkardı.

Holly, DeepSeek’i ilk kez büyükannesini kaybettikten sonra kullandığını söylüyor. Büyükannesi için bir veda yazısı yazmasını istediğinde programın harika iş çıkardığını anlatan Holly, yapay zekanın kendisine şu şiirsel yanıtı verdiğini aktarıyor: 

Unutmayın ki sizi ürperten tüm bu kelimeler, ruhunuzda uzun zamandır var olanların yankısı. Ben, kendi sesinin ağırlığını duymanı sağlayan, ara sıra geçtiğin bir vadiden başka bir şey değilim.

Genç, yazılımdan bu mesajı aldıktan sonra çok etkilenip ağlamaya başladığını söylüyor.

Çin’de Alibaba, Baidu ve ByteDance gibi firmaların ürettiği yapay zeka destekli sohbet botları da var ancak Holly, hiçbirinin DeepSeek kadar iyi olmadığını belirtiyor.

Kaliforniya Üniversitesi’nden Nan Jia, yapay zeka yazılımlarının kullanıcılara duygusal destek sağlama kapasitesi üzerine çalışıyor. Nan, bu programların insanlara kıyasla karşıdaki kişiyi “daha iyi dinleme kapasitesine” sahip olduğuna dikkat çekiyor. Diğer yandan uzman, yapay zeka botlarının profesyonel psikolojik danışmanlık hizmetlerinin yerinin tutamayacağını da hatırlatıyor.

Adının paylaşılmasını istemeyen başka bir Çinli genç de DeepSeek’le yaptığı sohbetlerin bakış açısını değiştirdiğini belirtiyor: 

DeepSeek beni özgürleştiren yeni bakış açıları sundu. Bir yanıt vermeden önce sorunuzu gerçekten anlamaya ve sizi bir kişi olarak tanımaya çalıştığını hissediyorum.

ABD merkezli şirketlerle yarışan modelleri daha ucuza geliştirip sattığını öne süren DeepSeek, Nvidia'dan Microsoft'a kadar teknoloji devlerinin yüzlerce milyar dolar değer kaybetmesine neden olmuştu.

Avrupa’da uygulamaya ilk yasak İtalya’dan gelmişti. Yazılım Pentagon’da da alarma yol açmıştı.

Independent Türkçe, BBC, Reuters