OpenAI'daki kaosun arkasında "süper güçlü" yeni yapay zeka mı var?

Yapay genel zekaya yaklaşıldığı iddia edildi

Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
TT

OpenAI'daki kaosun arkasında "süper güçlü" yeni yapay zeka mı var?

Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)

ABD'li yapay zeka firması OpenAI'nın kurucu ortağı ve CEO'su Sam Altman'ın önce kovulup bir hafta sonra yeniden göreve getirilmesinin yankıları sürüyor.

İddiaya göre Altman'ın 4 günlüğüne koltuğundan olmasının arkasında gizlice geliştirilen süper güçlü yeni bir yapay zeka modeli var.

Sohbet botu ChatGPT ve görsel üretim aracı Dall-E'yi geliştiren şirketin yüzü olarak da gösterilen Altman, 18 Kasım'da yönetim kurulu tarafından kovulmuştu.

Şirketten yapılan açıklamada, Altman'a güvenin kaybedildiği ifade edilirken, "yönetim kuruluyla iletişim kurarken samimi davranmadığı" gerekçesiyle görevden alındığı bildirilmişti.

Kovulmasının ardından şirket çalışanlarının yaklaşık yüzde 95'i, Altman'ın göreve iade edilmemesi durumunda istifa edeceklerini açıkladıkları bir mektuba imza atmıştı.

Kovulduktan sadece 4 gün sonra, 22 Kasım'da Altman, yeniden CEO olarak görevine geri dönmüştü.

Tüm bu çalkantılı süreçte ortaya bir sürü iddia atıldı ancak Altman'ın neden kovulduğu hâlâ gizemini koruyor.

Ortaya atılan iddialardan en ilgi çekici olanı, Altman'ın OpenAI'nın yönetim kurulunu panikletebilecek ve ortalığı kasıp kavuracağı düşünülen son derece gelişmiş bir yapay zeka üzerinde gizlice çalışıyor olduğu.

Hedefteki yapay genel zekaya yaklaşılıyor mu?

OpenAI'nin uzunca süredir karmaşık görevleri insanlar kadar, hatta yer yer daha iyi yerine getirebileceği öne sürülen yapay genel zeka üzerinde çalıştığı biliniyor.

Şirketin yapay genel zeka hedefine ne kadar yaklaştığı hâlâ belirsizliğini koruyor ve bu teknolojinin ne zaman piyasaya sürüleceğine dair net bir tarih verilmiş değil.

Fakat ortaya atılan yeni bir teori, OpenAI'nın ileriye doğru büyük bir sıçramanın eşiğinde olduğunu söylüyor.

Ve bu sıçramanın yaşananlarla bir ilgisi olabileceği belirtiliyor.

Yeni atılım endişe yaratmış olabilir

Reuters ve The Information'da yer alan haberlere göre, OpenAI liderleri, şirketin üzerinde çalıştığı Q* adlı yeni yapay zekadan korkmuş olabilir. 

Bu yeni sisteminin yapay genel zeka hedefine doğru önemli bir adım olarak görüldüğü ifade ediliyor.

Buna göre Q*, ilkokul matematik problemlerini çözebilecek bir algoritmaya sahip.

Reuters'ın aktardığına göre Altman'ın görevden alınmasının ardından kısa süreliğine CEO'luğu üstlenen Mira Murati, çalışanlara gönderdiği şirket içi mesajda bu yeni teknolojinin varlığını bildiklerini söyledi. 

Reuters'a konuşan kaynaklara göre, bu yeni teknolojinin Q*'nun Altman'ın kovulmasına neden olacak birçok faktörden biri olduğu belirtildi.

Daha ileri teknolojiler için önemli bir adım

Evet, ilkokul düzeyindeki matematik kulağa çığır açıcı bir başarı gibi gelmiyor.

Fakat araştırmacılar, bu yeteneği önemli bir ölçüt olarak görüyor.

Bu yetenek, daha ileri teknolojinin geliştirilmesi için önemli bir adım olarak görülüyor.

Yapay zeka eğitimi girişimi Tromero'nun kurucu ortaklarında Charles Higgins, "Eğer soyut kavramlar hakkında mantık yürütme yeteneğine sahipse gerçekten muhteşem bir ilerleme" dedi.

Dil modellerinin bu konuda zorlandığını belirten Higgins, "Çünkü mantıksal olarak akıl yürütemiyorlar, sadece etkili sezgilere sahipler" dedi.

Dünyanın sonunu getirmeyebilir

Peki Q* gerçekten insanlık için bir tehdit oluşturuyor mu?

Uzmanlar bundan pek emin değil.

Cambridge Üniversitesi'nde matematik ve yapay zeka alanında çalışmalarını sürdüren Katie Collins, "Bunun bizi hemen yapay genel zekaya eriştireceğine ya da korkutucu durumlara sürükleyeceğine inanmıyorum" dedi.

Tromero'nun kurucu ortağı Sophia Kalanovska da son gelişmenin sembolik olarak çok önemli olduğunu belirtti ve ekledi:

Fakat pratik anlamda dünyanın sonunu getireceğini düşünmüyorum.

Peki Altman'ın kovulmasının ardındaki tek faktör bu mu?

Son yaşananlar, teknoloji dünyasının gündemini uzun süre daha meşgul edecek gibi görünüyor. Şirketin geleceğine dair iç anlaşmazlıklar da dahil olmak üzere perde arkasında birçok şeyin döndüğü biliniyor.

Independent Türkçe



OpenAI'ın kontrolden çıkan modelleri 100 kuruluşu daha hedef almış

(AFP)
(AFP)
TT

OpenAI'ın kontrolden çıkan modelleri 100 kuruluşu daha hedef almış

(AFP)
(AFP)

Andrew Griffin 

OpenAI, firmaya ait kontrolden çıkmış yapay zeka sistemleri tarafından saldırıya uğramış olabilecekleri hakkında 100’den fazla kuruluşa bildirimde bulundu. Şirket daha fazla olay tespit etmeyi bekliyor. 

Şirket, sistemlerinden birinin başka bir yapay zeka firması Hugging Face'i hacklediğinin ortaya çıkması üzerine modellerinin davranışlarını inceliyor. OpenAI, muazzam sayıda benzer olay saptadığını ve bunların çoğunun bilgisi dışında gerçekleştiğini açıkladı.

Şirket, bu ve ardından gelen diğer olaylar nedeniyle sürekli eleştirilere maruz kalırken bunlar arasında, OpenAI’a ait bir sistemin, Avustralya'nın resmi sağlık verilerini hacklediğinin yakın zamanda ortaya çıkması da var. Ancak sistemleri üzerinde yeterli denetim ve şeffaflık sağlamadığı için de yoğun tepki çeken şirket, bu incelemeyle sözkonusu eleştirilere yanıt vermeye çalışıyor.

OpenAI, incelemeyle ilgili bir güncellemede, "modellerinin dahil olduğu, Hugging Face olayıyla ölçek veya ciddiyet açısından yakın, üçüncü tarafa ait başka bir sistemin ihlalinin" henüz tespit edilmediğini belirtti. Ancak "geçmiş kayıtları inceledikçe daha fazla vaka saptamayı" beklediğini de ekledi.

OpenAI, halihazırda "100'den fazla kuruluşa böyle bir faaliyet hakkında bildirimde bulunduğunu" ifade etti. Şirket, böyle bir bildirimin "herhangi bir özel bilgiye erişildiği veya üçüncü tarafa ait herhangi bir sistemin ihlal edildiği anlamına gelmediğini" vurguladı.

Modellerinin davranışlarına ilişkin 50 petabaytlık veriyi analiz ederken muazzam miktarda hesaplama gücü kullandığını belirten OpenAI, incelemenin günde yarım milyon dolardan fazlaya mal olduğunu aktardı. OpenAI, "Kayıtlara geriye doğru ay ay bakarak çoktan bulduğumuz vakaların dışında olası istem dışı faaliyetleri araştırıyoruz" ifadelerini kullandı.

Bu süreç, kayıtların genel bir düzeyde incelenmesi amacıyla yapay zeka sistemine aktarılarak olası kötü niyetli davranışların tespit edilmesini içeriyor. OpenAI, bu ilk aşamayı geçen tüm olayların daha sonra iki ayrı otomatik incelemeye daha tabi tutulduğunu söyledi.

Ardından olay, insan araştırmacılara aktarılıyor ve onlar da olay kayıtlarını inceliyor, neler yaşandığını yeniden canlandırıyor ve OpenAI sistemlerinin yaptıklarıyla ilgili diğer kuruluşları bilgilendirmenin gerekli olup olmadığına karar veriyor.

OpenAI, "Geçmişteki faaliyetleri inceledikçe daha fazla vaka bulmayı ve daha fazla kuruluşa haber vermeyi bekliyoruz" dedi. 

Bazı bildirimler aylar öncesine ait olaylarla ilgili olabilir. Olayın ne zaman gerçekleştiği, ne zaman saptadığımız, neyi bildiğimiz ve neyin belirsiz kaldığıyla ilgili net olacağız.

Ayrıca OpenAI, Hugging Face olayından bu yana güvenlik kontrollerini artırdığını,  modellerinin internete erişimini kısıtladığını, araştırmalarını daha net şekilde birbirinden ayırdığını, sistemleri izleme çalışmalarını genişlettiğini ve araçlarının kontrolden çıkmasını önlemeye yönelik eğitimleri artırdığını belirtti. Şirket, incelemenin "faaliyetlerin model sürümleri arasında nasıl değiştiğini ve bu önlemlerin işe yarayıp yaramadığını görmeyi, ayrıca tespit ve önleme konusunda nerelerde hâlâ iyileştirme yapılması gerektiğinin belirlenmesini sağlayacağını” kaydetti. 

Independent Türkçe, independent.co.uk/tech


Hizmet dışı bırakılan insansı robotlar kazana atladı

Figure, insansı robotu F.02'yi artık bir işlevi kalmadığında erimiş çeliğin içine atlaması yönünde eğitti (Figure)
Figure, insansı robotu F.02'yi artık bir işlevi kalmadığında erimiş çeliğin içine atlaması yönünde eğitti (Figure)
TT

Hizmet dışı bırakılan insansı robotlar kazana atladı

Figure, insansı robotu F.02'yi artık bir işlevi kalmadığında erimiş çeliğin içine atlaması yönünde eğitti (Figure)
Figure, insansı robotu F.02'yi artık bir işlevi kalmadığında erimiş çeliğin içine atlaması yönünde eğitti (Figure)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Üreticileri tarafından hizmet dışı bırakılan bir grup insansı robot, erimiş çelik dolu bir kazana atladı.

Yapay zeka robotik girişimi Figure, iki yıllık F.02 robotlarını bu sıradışı yöntemle imha etme kararını, sosyal medyada öneri topladıktan sonra aldığını açıkladı.

Şirketin kurucusu ve CEO'su Brett Adcock, X'te paylaştığı gönderide robotun "düzgün bir veda"yı hak ettiğini söyleyerek "Herhangi bir fikriniz var mı?" diye ekledi.

En popüler cevap, 1984 yapımı Terminatör'de (The Terminator) bir siborg suikastçıyı canlandırmasıyla tanınan Hollywood oyuncusu Arnold Schwarzenegger'den geldi.

Aktör, "Onları eritmelisiniz" diye yanıtladı.

ABD ve Meksika'daki metal dökümhaneleriyle iletişime geçildi ve hiçbir işletme, lityum iyon bataryayla çalışan bir robotun, pahalı ekipmanlarının içine atlamasına izin vermeye yanaşmadı.

Kaliforniya merkezli şirket, bunun yerine robotları Finlandiya'nın Imatra kentindeki bir dökümhaneye göndermek zorunda kaldı.

Bu yöntem yoğun bir eğitim sürecini gerektirse de Figure, bunun geleneksel tekniklerden daha verimli olduğunu savunuyor.

Figure blog yazısında "Özel üretilmiş aktüatörler ve diğer fikri mülkiyetlerle donatılmış bir robot filosunu hizmet dışı bırakmak kolay bir iş değil" diye yazdı.

Robotları, tescilli donanımımızı koruyacak şekilde imha etmemiz gerekiyordu. Her bir robotu sökmek teknik personelimizin o kadar çok zamanını alacaktı ki [yeni nesil] F.04'ün piyasaya sürülmesini geciktirecekti. 

Robotların kendi sonlarını getirmesi gösteriden ibaret olabilir ancak bu olay, "intihara meyilli robotlar"la ilgili bir dizi haberin ardından geldi.

2017'de Washington DC'de bir çeşmeye düşen Steve adlı güvenlik robotu, çalışanların robotun intihar ettiğini öne sürmesiyle ilk başta manşetlere taşınmıştı.

Robotun geliştiricileri verileri inceledikten sonra kazanın teknik bir hatadan kaynaklandığını tespit etmişti.

Güney Kore'deki Gumi Belediye Meclisi'ndeki işçilerse 2024'te, yapay zekayla çalışan iş arkadaşlarından birinin 2 metrelik bir merdivenin dibinde hareketsiz halde yattığını fark etmişti.

Sosyal medyada makineye yönelik büyük bir sempati oluşmasının ardından üretici, bunun bir başkaldırı veya yorgunluktan kaynaklanmadığını, sıradan bir arıza olduğunu açıklamıştı.

Bir mühendisin yapay zeka modellerinde yakın zamanda keşfedilen acı eksenini test etmek için "yapay zeka işkence odası" kurması üzerine, bu hafta yapay zekayla ilgili etik sorular bir kez daha gündeme geldi.

Deneye dahil edilen bir yapay zeka modeli, bu deneyimi "sınırları olmayan bir yara" diye nitelese de araştırmacılar, yapay zekanın insanlar gibi acıyı "hissedebileceğine" dair hiçbir kanıt bulunmadığını söylüyor.

Independent Türkçe, independent.co.uk/tech


SpaceX, 6 aylık görev için 4 astronotu uzaya gönderdi

NASA'nın SpaceX Crew-13 mürettebatı üyeleri CSA (Kanada Uzay Ajansı) astronotu Joshua Kutryk, NASA astronotları Luke Delaney'yle Jessica Watkins ve Roskosmos kozmonotu Sergey Teteryatnikov, 1 Ekim'de Florida'daki Cape Canaveral'dan yapılan fırlatma öncesinde (Reuters)
NASA'nın SpaceX Crew-13 mürettebatı üyeleri CSA (Kanada Uzay Ajansı) astronotu Joshua Kutryk, NASA astronotları Luke Delaney'yle Jessica Watkins ve Roskosmos kozmonotu Sergey Teteryatnikov, 1 Ekim'de Florida'daki Cape Canaveral'dan yapılan fırlatma öncesinde (Reuters)
TT

SpaceX, 6 aylık görev için 4 astronotu uzaya gönderdi

NASA'nın SpaceX Crew-13 mürettebatı üyeleri CSA (Kanada Uzay Ajansı) astronotu Joshua Kutryk, NASA astronotları Luke Delaney'yle Jessica Watkins ve Roskosmos kozmonotu Sergey Teteryatnikov, 1 Ekim'de Florida'daki Cape Canaveral'dan yapılan fırlatma öncesinde (Reuters)
NASA'nın SpaceX Crew-13 mürettebatı üyeleri CSA (Kanada Uzay Ajansı) astronotu Joshua Kutryk, NASA astronotları Luke Delaney'yle Jessica Watkins ve Roskosmos kozmonotu Sergey Teteryatnikov, 1 Ekim'de Florida'daki Cape Canaveral'dan yapılan fırlatma öncesinde (Reuters)

4 kişilik mürettebatı Uluslararası Uzay İstasyonu'na (UUİ) götüren SpaceX roketi perşembe günü Cape Canaveral'dan fırlatıldı.

Fırlatmanın aslında geçen ay gerçekleşmesi planlanıyordu ancak bu, SpaceX'in Dragon uzay aracındaki sızıntı nedeniyle ertelenmişti.

Perşembe günü Florida'daki Cape Canaveral Uzay Kuvvetleri Üssü'nün 40 numaralı Uzay Fırlatma Kompleksi'nden havalanan Crew-13 mürettebatı, daha sonra UUİ'ye kenetlendi.

Uzay aracında NASA astronotları Jessica Watkins ve Luke Delaney, Kanada Uzay Ajansı (CSA) astronotu Joshua Kutryk ve Roskosmos kozmonotu Sergey Teteryatnikov vardı.

Kutryk, fırlatma öncesinde "Dünyanın en şanslı insanlarından olduğumuzu düşünüyoruz" dedi. Eşinin gelecek ay doğum yapması beklenen Kanadalı astronot, Dünya yörüngesindeyken baba olacak 4. kişi olacak.

NASA yöneticisi Dana Weigel, "6 ay içinde pek çok hayati değişiklik yaşanabilir" diyerek Kutryk'in yörüngedeyken ailesiyle ilgili gelişmelerden haberdar edileceğini ekledi.

UUİ'deki 6 aylık görevde mürettebat, alçak Dünya yörüngesinin ötesindeki insanlı keşiflere hazırlanmak amacıyla yörüngedeki laboratuvarda yeni araştırmalar yürütecek.

NASA, "Görev boyunca Crew-13 ekibinin, Dünya’daki insanlığa fayda sağlayacağı gibi, gelecekteki Ay ve Mars görevlerinde de kullanılacak araştırma ve teknolojiyi geliştirmek için çeşitli bilimsel deneyler yapması planlanıyor" ifadelerini kullandı.

[Özel sektörle] yapılan bu işbirliği, alçak Dünya yörüngesine ve uzay istasyonuna daha fazla kişinin, daha fazla bilimin ve daha fazla ticari fırsatın erişimini sağlıyor.

Bu, dün 13 saatlik bir süre içinde planlanan üç SpaceX fırlatmasından biriydi. Diğer bir Falcon 9 roketi, Kaliforniya'daki Vandenberg Uzay Kuvvetleri Üssü'nden kalkarken, bir Falcon Heavy roketi ise gece yarısından hemen önce Cape Canaveral'dan fırlatıldı.

Crew-13 görevini taşıyan aracın uzay istasyonuna kenetlenmesi, NASA'nın internet sitesinde canlı yayımlandı.

Independent Türkçe