OpenAI'daki kaosun arkasında "süper güçlü" yeni yapay zeka mı var?

Yapay genel zekaya yaklaşıldığı iddia edildi

Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
TT

OpenAI'daki kaosun arkasında "süper güçlü" yeni yapay zeka mı var?

Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)

ABD'li yapay zeka firması OpenAI'nın kurucu ortağı ve CEO'su Sam Altman'ın önce kovulup bir hafta sonra yeniden göreve getirilmesinin yankıları sürüyor.

İddiaya göre Altman'ın 4 günlüğüne koltuğundan olmasının arkasında gizlice geliştirilen süper güçlü yeni bir yapay zeka modeli var.

Sohbet botu ChatGPT ve görsel üretim aracı Dall-E'yi geliştiren şirketin yüzü olarak da gösterilen Altman, 18 Kasım'da yönetim kurulu tarafından kovulmuştu.

Şirketten yapılan açıklamada, Altman'a güvenin kaybedildiği ifade edilirken, "yönetim kuruluyla iletişim kurarken samimi davranmadığı" gerekçesiyle görevden alındığı bildirilmişti.

Kovulmasının ardından şirket çalışanlarının yaklaşık yüzde 95'i, Altman'ın göreve iade edilmemesi durumunda istifa edeceklerini açıkladıkları bir mektuba imza atmıştı.

Kovulduktan sadece 4 gün sonra, 22 Kasım'da Altman, yeniden CEO olarak görevine geri dönmüştü.

Tüm bu çalkantılı süreçte ortaya bir sürü iddia atıldı ancak Altman'ın neden kovulduğu hâlâ gizemini koruyor.

Ortaya atılan iddialardan en ilgi çekici olanı, Altman'ın OpenAI'nın yönetim kurulunu panikletebilecek ve ortalığı kasıp kavuracağı düşünülen son derece gelişmiş bir yapay zeka üzerinde gizlice çalışıyor olduğu.

Hedefteki yapay genel zekaya yaklaşılıyor mu?

OpenAI'nin uzunca süredir karmaşık görevleri insanlar kadar, hatta yer yer daha iyi yerine getirebileceği öne sürülen yapay genel zeka üzerinde çalıştığı biliniyor.

Şirketin yapay genel zeka hedefine ne kadar yaklaştığı hâlâ belirsizliğini koruyor ve bu teknolojinin ne zaman piyasaya sürüleceğine dair net bir tarih verilmiş değil.

Fakat ortaya atılan yeni bir teori, OpenAI'nın ileriye doğru büyük bir sıçramanın eşiğinde olduğunu söylüyor.

Ve bu sıçramanın yaşananlarla bir ilgisi olabileceği belirtiliyor.

Yeni atılım endişe yaratmış olabilir

Reuters ve The Information'da yer alan haberlere göre, OpenAI liderleri, şirketin üzerinde çalıştığı Q* adlı yeni yapay zekadan korkmuş olabilir. 

Bu yeni sisteminin yapay genel zeka hedefine doğru önemli bir adım olarak görüldüğü ifade ediliyor.

Buna göre Q*, ilkokul matematik problemlerini çözebilecek bir algoritmaya sahip.

Reuters'ın aktardığına göre Altman'ın görevden alınmasının ardından kısa süreliğine CEO'luğu üstlenen Mira Murati, çalışanlara gönderdiği şirket içi mesajda bu yeni teknolojinin varlığını bildiklerini söyledi. 

Reuters'a konuşan kaynaklara göre, bu yeni teknolojinin Q*'nun Altman'ın kovulmasına neden olacak birçok faktörden biri olduğu belirtildi.

Daha ileri teknolojiler için önemli bir adım

Evet, ilkokul düzeyindeki matematik kulağa çığır açıcı bir başarı gibi gelmiyor.

Fakat araştırmacılar, bu yeteneği önemli bir ölçüt olarak görüyor.

Bu yetenek, daha ileri teknolojinin geliştirilmesi için önemli bir adım olarak görülüyor.

Yapay zeka eğitimi girişimi Tromero'nun kurucu ortaklarında Charles Higgins, "Eğer soyut kavramlar hakkında mantık yürütme yeteneğine sahipse gerçekten muhteşem bir ilerleme" dedi.

Dil modellerinin bu konuda zorlandığını belirten Higgins, "Çünkü mantıksal olarak akıl yürütemiyorlar, sadece etkili sezgilere sahipler" dedi.

Dünyanın sonunu getirmeyebilir

Peki Q* gerçekten insanlık için bir tehdit oluşturuyor mu?

Uzmanlar bundan pek emin değil.

Cambridge Üniversitesi'nde matematik ve yapay zeka alanında çalışmalarını sürdüren Katie Collins, "Bunun bizi hemen yapay genel zekaya eriştireceğine ya da korkutucu durumlara sürükleyeceğine inanmıyorum" dedi.

Tromero'nun kurucu ortağı Sophia Kalanovska da son gelişmenin sembolik olarak çok önemli olduğunu belirtti ve ekledi:

Fakat pratik anlamda dünyanın sonunu getireceğini düşünmüyorum.

Peki Altman'ın kovulmasının ardındaki tek faktör bu mu?

Son yaşananlar, teknoloji dünyasının gündemini uzun süre daha meşgul edecek gibi görünüyor. Şirketin geleceğine dair iç anlaşmazlıklar da dahil olmak üzere perde arkasında birçok şeyin döndüğü biliniyor.

Independent Türkçe



ChatGPT neden "Bilmiyorum" demiyor?

(Unsplash)
(Unsplash)
TT

ChatGPT neden "Bilmiyorum" demiyor?

(Unsplash)
(Unsplash)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri 

Yeni bir araştırma ChatGPT gibi yapay zeka modellerinin "halüsinasyon görmesi", yani gerçekleri uydurmasının asıl nedeninin, bilgi eksikliğini kabul etmek yerine tahmin yürütmek üzere eğitilmelerinden kaynaklandığını saptadı.

Halüsinasyon, üretken yapay zeka modellerinde önemli bir endişe kaynağı çünkü konuşma becerileri sayesinde yanlış bilgileri kendilerinden çok emin bir şekilde sunabiliyorlar.

Yapay zeka teknolojisindeki hızlı gelişmelere rağmen, halüsinasyon en yeni modellerde bile sorun yaratmaya devam ediyor.

Özellikle bu teknolojinin tıp ve hukuk alanlarında giderek daha fazla kullanılması nedeniyle sektördeki uzmanlar, yapay zeka halüsinasyonuyla mücadele etmek için daha derin araştırma ve eylemlere ihtiyaç duyulduğunu söylüyor.

ChatGPT'nin yaratıcısı OpenAI'dan araştırmacılar yeni bir çalışmada, yapay zeka halüsinasyonuna hatalı eğitim verileri ve model karmaşıklığı gibi çeşitli faktörler katkıda bulunsa da asıl nedenin, algoritmaların "yanlış teşviklerle" çalışması olduğunu belirtiyor.

Araştırmacılar, "Çoğu değerlendirme model performansını, belirsizlik karşısında dürüst davranmaktan ziyade tahmin yürütmeyi teşvik eden bir şekilde ölçüyor" diye açıklıyor.

Bu, bir öğrencinin çoktan seçmeli bir testte boş bırakmak puan getirmediği için kafadan atmasına benziyor.

Araştırmacılar şu ifadeleri kullanıyor: 

Aynı şekilde modeller yalnızca doğruluk, yani tam olarak doğru cevapladıkları soru yüzdesi üzerinden puanlandığında, 'Bilmiyorum' demek yerine tahminde bulunmaya teşvik ediliyorlar.

Yapay zeka modelleri, büyük metin bloklarında bir sonraki kelimeyi tahmin etme süreciyle öğreniyor.

Bazen tutarlı kalıplar olsa da çoğu durumda eğitim verileri rasgele olabiliyor.

Halüsinasyon, yapay zeka modellerine özellikle bilgi eksikliği veya belirsizlik gibi nedenlerle cevabı kesin olmayan sorular sorulduğunda yaygın görülüyor.

Yapay zeka modelleri, belirsizliklerle dolu bu tür sorularda stratejik tahminler yürütüyor. Bu, zamanla daha fazla veri elde ettikçe doğruluklarını artırabilir ancak aynı zamanda hata ve halüsinasyon oranlarını da artırır.

Araştırmacılar, "Daha çok gelişseler de modellerin belirsizliği kabul etmektense kendilerinden emin bir şekilde yanlış cevaplar vererek halüsinasyon görmeyi sürdürmelerinin bir nedeni de bu" diyor.

Ancak bu sorunun basit bir çözümü olabilir. Araştırmacılar, yapay zeka modellerinin belirsizlikten ziyade "kendinden emin hatalarını" cezalandırmanın ve belirsizlik uygun bir şekilde ifade edildiğinde biraz puan vermenin bir dereceye kadar yardımcı olabileceğini söylüyor.

Bu, bilmeden yapılan tahminleri caydırmak için yanlış cevaplara eksi puan, boş bırakılan sorularaysa az da olsa puan verilen standart testlere benziyor.

Araştırmacılar üretken yapay zeka için "yaygın olarak kullanılan, doğruluk temelli değerlendirmelerin güncellenmesi ve puanlamanın tahmin yürütmekten caydıracak hale gelmesi gerektiğini" söylüyor. 

Bu, halüsinasyonların bastırılmasının önündeki engelleri kaldırabilir ve nüanslı dil modelleri üzerine gelecekteki çalışmalara kapı açabilir.

Independent Türkçe, independent.co.uk/tech


Çin ve ABD uzayda nadir görülen bir işbirliğine imza attı

Dünya etrafındaki yörüngede bulunan enkazın illüstrasyonu (NASA'nın Goddard Uzay Uçuş Merkezi/JSC)
Dünya etrafındaki yörüngede bulunan enkazın illüstrasyonu (NASA'nın Goddard Uzay Uçuş Merkezi/JSC)
TT

Çin ve ABD uzayda nadir görülen bir işbirliğine imza attı

Dünya etrafındaki yörüngede bulunan enkazın illüstrasyonu (NASA'nın Goddard Uzay Uçuş Merkezi/JSC)
Dünya etrafındaki yörüngede bulunan enkazın illüstrasyonu (NASA'nın Goddard Uzay Uçuş Merkezi/JSC)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri 

Uzay trafiğini yönetmek için nadir görülen bir işbirliği yaparak yakın zamanda birlikte çalışan Çin ve Amerikan uzay ajansları, birbirleriyle çarpışmasınlar diye uydularını hareket ettirdi.

NASA'nın uzay sürdürülebilirliği programı direktörü Alvin Drew, Sidney'deki Uluslararası Uzay Kongresi'nde, "Biraz kutlama yaptık çünkü Çin Ulusal Uzay Ajansı ilk kez bize ulaşarak 'Uydularımız arasında bir kavuşum görüyoruz. Hareketsiz kalmanızı öneririz. Manevrayı biz yapacağız' dedi. Ve bu ilk kez gerçekleşti" diye konuştu.

Çin ve ABD, Dünya yörüngesine mega takım uydular halinde son derece yüksek sayıda uydu yerleştiriyor ve bu da çarpışma olasılığını artırıyor.

Uyduların işgalindeki alçak Dünya yörüngesinde, 1 cm ila 10 cm boyutunda 200 bin, 10 cm'den büyük de onbinlerce cisim olduğu tahmin ediliyor.

Alçak Dünya yörüngesindeki 12 bin 955 aktif uydunun 8 bin 500'ü, yani yüzde 66'sından biraz fazlası, SpaceX'in Starlink takım uydusunu oluşturuyor.

SpaceX patronu Elon Musk, Starlink'teki uydu sayısını 42 binin üstüne çıkarmayı umduğunu söylerken, şirketin halihazırda 12 bin uydu fırlatma izni var.

Çin de 2030'lara gelindiğinde Dünya yörüngesinde 10 binden fazla uydu bulundurma planını yakın zamanda duyurmuştu.

Artan uzay trafiğine ve bunun acilen yönetilmesine ihtiyaç duyulmasına rağmen, Çin ve Amerikan uzay ajansları arasında nadiren işbirliği kuruluyor.

2011 tarihli Wolf Yasa Değişikliği, NASA'nın ABD Kongresi tarafından özel olarak onaylanmadığı sürece Çin veya herhangi bir Çinli şirketle iki taraflı işbirliği yapmak için federal fon kullanmasını kısıtlıyor.

Diğer yandan devlete ait çeşitli sondaların birbirleriyle ve önceki fırlatmalardan kalan uzay çöpleriyle çarpışma riski her geçen gün artıyor ve astronotları bile tehdit ediyor.

Bu hafta üç astronot, dönüş kapsüllerine uzay çöpü olduğundan şüphelenilen bir şey çarptığı için Çin'in Tiangong Uzay İstasyonu'nda mahsur kalmıştı.

Araştırmacılar alçak yörüngedeki uydular nedeniyle astronominin de artan bir tehditle karşı karşıya olduğu uyarısında bulunuyor.

Hukuk uzmanı David Koplow, "Uydular gözlemevlerinin üzerinden uçarken, uzak cisimlerin ve olayların görüntüsünü engelliyor, toplanan görüntülerde tahrip edici beyaz çizgiler bırakıyor ve uzak kozmik ışık ve radyo dalgalarından gelen hayati verilere erişimi engelliyor" diyor.

Bilimsel dergi Vanderbilt Journal of Transnational Law'da yazan Koplow, onbinlerce yeni uydu ve ilgili görev enkazının Dünya yörüngesine fırlatılmasıyla birlikte, "sıkışıklık, çarpışma ve parazit tehlikelerinin de buna bağlı olarak artacağını" belirtiyor.

Independent Türkçe, independent.co.uk/space


ABD Kongresi Bütçe Ofisi hacklendi

ABD Kongresi Bütçe Ofisi, saldırıyı kontrol altına almak için "derhal harekete geçti"
ABD Kongresi Bütçe Ofisi, saldırıyı kontrol altına almak için "derhal harekete geçti"
TT

ABD Kongresi Bütçe Ofisi hacklendi

ABD Kongresi Bütçe Ofisi, saldırıyı kontrol altına almak için "derhal harekete geçti"
ABD Kongresi Bütçe Ofisi, saldırıyı kontrol altına almak için "derhal harekete geçti"

ABD Kongresi Bütçe Ofisi (Congressional Budget Office / CBO), yabancı olduğundan şüphelenilen aktörler tarafından hacklendi. Bu ofis, yasa tasarılarının ulusal maliyeye etkilerini değerlendiren önemli bir yasama organı.

CBO sözcüsü Caitlin Emma, ​​The Washington Post'a yaptığı açıklamada "Kongre Bütçe Ofisi güvenlik olayını tespit etti, durumu kontrol altına almak için derhal harekete geçti ve kurumun sistemlerini daha iyi korumak için ek izleme ve yeni güvenlik kontrolleri başlattı" dedi.

Olay araştırılıyor ve Kongre için yapılan çalışmalar devam ediyor. Diğer hükümet kurumları ve özel sektör kuruluşları gibi CBO da zaman zaman ağına yönelik tehditlerle karşılaşıyor ve bu tehditleri ortadan kaldırmak için sürekli gözlem halinde.

WP'nin haberine göre bu güvenlik ihlali, hassas devlet verilerini ve ABD Temsilciler Meclisi ve Senato ofisleriyle kurulan iletişimleri açığa çıkarabilir. Ayrıca bazı parlamenterlerin ofisleri güvenlik endişeleri nedeniyle CBO'yla iletişimi kesti.

Temmuzda Çinli hackerlar, Microsoft SharePoint yazılımındaki bir güvenlik açığını kullanarak, nükleer silahları denetleyen bir ABD devlet kurumuna erişmeyi başarmıştı.

Güvenlik açığından, İç Güvenlik Bakanlığı ve Sağlık ve Sağlık ve Sosyal Hizmetler Bakanlığı'ndaki güvenlik riskleri de sorumlu tutulmuştu.

Hackerler önceki aylarda Trump yönetiminin DOGE maliyet azaltma programının internet sitesini ele geçirmişti.

Federal yetkililerin, Çin'le ilgili ulusal güvenlik endişeleri nedeniyle çok satan bir ev tipi internet dağıtıcısının yasaklanmasını düşündüğü bildiriliyor.

The Washington Post'un aktardığı iddiaya göre Ticaret Bakanlığı, Kaliforniya merkezli TP-Link Systems'ın cihaz satışlarının yasaklanmasını öneriyor. Şirketin ürünleri ev tipi internet dağıtıcısı pazarının üçte birinden fazlasını oluşturuyor.

Yetkililer, yakın zamanda Çinli firma TP-Link Technologies'den ayrılan şirketin, Pekin'in etkisine tabi olmaya devam etmesinden ve Amerikalıların verilerini riske atmasından endişe duyuyor. Gazeteye göre şirket, eski ana şirketinin Çin'deki varlıklarının bir kısmına sahip olmayı sürdürüyor.

yju
Microsoft SharePoint'teki bir güvenlik açığı önceki aylarda bazı ABD kurumlarını etkiledi​​​ (AP)​​​​

TP-Link Systems ise ABD merkezli bir şirket olduğu ve tüketiciler için tehdit teşkil etmediğinde ısrarcı.

TP-Link Systems'ın bir sözcüsü The Independent'a, "Bu iddialarla ilgili herhangi bir kurum veya Beyaz Saray tarafından resmi bir işlem veya doğrulama yapılmadı" dedi.

Özel şirketler de son aylarda büyük saldırılara maruz kaldı.

Geçen ay popüler mesajlaşma uygulaması Discord'da çok sayıda kullanıcının bilgilerini ele geçiren hackerlar, onbinlerce kişinin resim, resmi kimlik, isim ve iletişim bilgileri gibi hassas verilerini riske atmıştı.

Independent Türkçe