Yapay zekanın fikir babası “pişman”: İnsan ırkını 10 yıl içinde yok edebilir

Bir yapay zeka sergisinde sergilenen insan beyninin bir kopyası (DPA)
Bir yapay zeka sergisinde sergilenen insan beyninin bir kopyası (DPA)
TT

Yapay zekanın fikir babası “pişman”: İnsan ırkını 10 yıl içinde yok edebilir

Bir yapay zeka sergisinde sergilenen insan beyninin bir kopyası (DPA)
Bir yapay zeka sergisinde sergilenen insan beyninin bir kopyası (DPA)

Yapay zekanın (AI/YZ) fikir babası Profesör Geoffrey Hinton, YZ'nin önümüzdeki on yıl içinde insan ırkını yok edebileceği uyarısında bulundu. İngiltere merkezli The Telegraph gazetesine göre Hinton, YZ teknolojisinin yaratılmasındaki rolünden pişmanlık duyduğunu itiraf etti.

Makinelerin hızlı gelişimini ‘sanayi devrimine’ benzeten İngiliz-Kanadalı bilgisayar bilimcisi olan Profesör Hinton (77), ancak bu kez ‘kontrolü ele geçirebileceklerine’ karşı uyardı.

Bu yıl Nobel Fizik Ödülü'nü kazanan Profesör Hinton, hükümetlerin yapay zeka şirketlerine yönelik daha sıkı düzenlemeler yapması çağrısında bulundu.

Hinton daha önce YZ’nin otuz yıl içinde insanlığın çöküşüne yol açma ihtimalinin yüzde 10 olduğunu öngörmüştü.

BBC Radio 4'te yayınlanan Today programında kendisine analizini değiştiren bir şey olup olmadığı sorulduğunda Profesör Hinton, “Pek sayılmaz. Sanırım 10 ila 20 yıl önce kendimizden daha zeki şeylerle uğraşmak zorunda kalmıyorduk” ifadelerini kullandı.

Profesör Hinton, sözlerini şöyle sürdürdü:

“Daha zeki bir şeyin daha az zeki bir şey tarafından kontrol edildiğine dair kaç örnek biliyorsunuz? Çok az örnek var.”

ıo9p0
YZ’nin fikir babası Profesör Geoffrey Hinton (Reuters)

Profesör Hinton, 1980'lerde modern yapay zekanın temelini oluşturan, verilerdeki özellikleri bağımsız olarak bulabilen ve görüntülerdeki belirli öğeleri tanımlayabilen bir yöntem icat etti.

Teknolojinin beklediğinden ‘çok daha hızlı’ geliştiğini vurgulayan Profesör Hinton, insanları 3 yaşındaki çocuklara, yapay zekayı ise yetişkinlere dönüştürebileceğini söyledi.

Profesör Hinton, şunları söyledi:

“Bence bu Sanayi Devrimi’ne benziyor. Sanayi Devrimi'nde insan gücü daha az önemli hale geldi, çünkü makineler daha güçlüydü. Eğer bir hendek kazmak istiyorsanız, onu bir makine ile kazarsınız. Şu anda sahip olduğumuz şey insan zekasının yerini alan bir şey. Sıradan insan zekası artık ön planda olmayacak, makineler ön planda olacak.”

Dickensvari değişim

Profesör Hinton, Charles Dickens’ın ifade ettiği üzere tıpkı Sanayi Devrimi'nin yaptığı gibi, yapay zekanın da sıradan insanların hayatlarını önemli ölçüde değiştireceğini öngördü.

Gelecekte teknoloji ile yaşamın ne getireceğinin daha çok siyasi sistemlerimizin bununla ne yapacağına bağlı olacağını söyleyen Profesör Hinton, “Yapay zekanın toplum için iyi olması gereken üretkenlikte büyük artışlara yol açacak olmasına rağmen, tüm faydaların zenginlere gitmesi ve birçok insanın işini kaybedip daha da fakirleşmesi durumunda toplum için çok kötü olabilecek olması beni endişelendiriyor” ifadelerini kullandı.

Profesör Hinton, şöyle devam etti:

“Bu şeyler bizden daha akıllı. Yani Sanayi Devrimi'nde makinelerin sırf daha güçlü oldukları için insanların yerini alma ihtimali yoktu. Kontrol hala bizdeydi çünkü zeka bizdeydi. Şimdi ise bu şeylerin kontrolü ele geçirmesi gibi bir tehdit var.”

Hükümetlerin rolü

Görünmez bir elin bizi güvende tutmayacağını düşünen Profesör Hinton, bu işi büyük şirketlerin kâr güdülerine bırakmanın güvenli bir şekilde geliştiklerinden emin olmak için yeterli olmayacağını vurguladı. Profesör Hinton, sadece hükümetler tarafından alınacak tedbirlerin bu büyük şirketleri güvenlik konusunda daha fazla araştırma yapmaya zorlayabileceğinin altını çizdi.

ghyjuk
Yapay zeka insan ırkını sonunu getirmekle mi tehdit ediyor? (Reuters)

Profesör Hinton, hükümetlerin büyük şirketleri güvenlik konusunda çok fazla araştırma yapmaya zorlaması gerektiğine inanıyor.

Pişmanlık

Bu teknolojiyi dünyaya tanıtmakla ilgili bazı pişmanlıkları olduğunu söyleyen Profesör Hinton, iki tür pişmanlıktan söz etti. Bunlardan ilkinin yapmamanız gerektiğini bildiğiniz bir şeyi yaptığınız için kendinizi suçlu hissettiğiniz, aynı koşullar altında tekrar yapacağınız, ama sonunda pek de iyi sonuçlanmayabilecek türden bir pişmanlık olduğunu belirten Profesör Hinton, ikincisinin ise aynı koşullar altında yine aynı şeyi yapıp genel sonucun bizden daha akıllı sistemlerin önünde sonunda yönetimi ele geçirmesi olması endişesiyle duyduğu pişmanlık olduğunu ifade etti



Çekya, siber güvenlik endişeleri nedeniyle devlet yönetiminde DeepSeek kullanımını yasakladı

Çekya Çin merkezli DeepSec'in ürünlerini yasakladı (Reuters)
Çekya Çin merkezli DeepSec'in ürünlerini yasakladı (Reuters)
TT

Çekya, siber güvenlik endişeleri nedeniyle devlet yönetiminde DeepSeek kullanımını yasakladı

Çekya Çin merkezli DeepSec'in ürünlerini yasakladı (Reuters)
Çekya Çin merkezli DeepSec'in ürünlerini yasakladı (Reuters)

Çekya’daki yetkililer dün yaptıkları açıklamada, siber güvenlik endişeleri nedeniyle Çinli yapay zeka (AI) startup'ı DeepSeek'in herhangi bir ürününün devlet yönetiminde kullanılmasını yasakladıklarını duyurdu.

Şarku'l Avsat'ın DPA'dan aktardığına göre Çekya Başbakanı Petr Fiala, hükümetin Ulusal Siber Güvenlik Kurumu'ndan, şirketin Çinli resmi makamlarla iş birliği yapmak zorunda olması nedeniyle kullanıcı verilerine yetkisiz erişim tehdidine işaret eden bir uyarı aldıktan sonra bu kararı aldığını söyledi. Bu hamle, ocak ayında chatbot'a erişimi yasaklayan İtalya ve Avustralya da dahil olmak üzere diğer ülkeler tarafından kullanıcıların verilerini korumak için atılan benzer adımları takip ediyor.

Çek hükümeti 2018 yılında, güvenlik tehdidi oluşturdukları uyarısının ardından Çinli telekom şirketleri Huawei ve ZTE tarafından üretilen donanım ve yazılımları kullanmayı bıraktı.

DeepSeek 2023 yılında Çin'in Hangzhou kentinde kuruldu ve aynı yıl ilk büyük ölçekli yapay zeka dil modelini piyasaya sürdü.