OpenAI'daki kaosun arkasında "süper güçlü" yeni yapay zeka mı var?

Yapay genel zekaya yaklaşıldığı iddia edildi

Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
TT

OpenAI'daki kaosun arkasında "süper güçlü" yeni yapay zeka mı var?

Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)

ABD'li yapay zeka firması OpenAI'nın kurucu ortağı ve CEO'su Sam Altman'ın önce kovulup bir hafta sonra yeniden göreve getirilmesinin yankıları sürüyor.

İddiaya göre Altman'ın 4 günlüğüne koltuğundan olmasının arkasında gizlice geliştirilen süper güçlü yeni bir yapay zeka modeli var.

Sohbet botu ChatGPT ve görsel üretim aracı Dall-E'yi geliştiren şirketin yüzü olarak da gösterilen Altman, 18 Kasım'da yönetim kurulu tarafından kovulmuştu.

Şirketten yapılan açıklamada, Altman'a güvenin kaybedildiği ifade edilirken, "yönetim kuruluyla iletişim kurarken samimi davranmadığı" gerekçesiyle görevden alındığı bildirilmişti.

Kovulmasının ardından şirket çalışanlarının yaklaşık yüzde 95'i, Altman'ın göreve iade edilmemesi durumunda istifa edeceklerini açıkladıkları bir mektuba imza atmıştı.

Kovulduktan sadece 4 gün sonra, 22 Kasım'da Altman, yeniden CEO olarak görevine geri dönmüştü.

Tüm bu çalkantılı süreçte ortaya bir sürü iddia atıldı ancak Altman'ın neden kovulduğu hâlâ gizemini koruyor.

Ortaya atılan iddialardan en ilgi çekici olanı, Altman'ın OpenAI'nın yönetim kurulunu panikletebilecek ve ortalığı kasıp kavuracağı düşünülen son derece gelişmiş bir yapay zeka üzerinde gizlice çalışıyor olduğu.

Hedefteki yapay genel zekaya yaklaşılıyor mu?

OpenAI'nin uzunca süredir karmaşık görevleri insanlar kadar, hatta yer yer daha iyi yerine getirebileceği öne sürülen yapay genel zeka üzerinde çalıştığı biliniyor.

Şirketin yapay genel zeka hedefine ne kadar yaklaştığı hâlâ belirsizliğini koruyor ve bu teknolojinin ne zaman piyasaya sürüleceğine dair net bir tarih verilmiş değil.

Fakat ortaya atılan yeni bir teori, OpenAI'nın ileriye doğru büyük bir sıçramanın eşiğinde olduğunu söylüyor.

Ve bu sıçramanın yaşananlarla bir ilgisi olabileceği belirtiliyor.

Yeni atılım endişe yaratmış olabilir

Reuters ve The Information'da yer alan haberlere göre, OpenAI liderleri, şirketin üzerinde çalıştığı Q* adlı yeni yapay zekadan korkmuş olabilir. 

Bu yeni sisteminin yapay genel zeka hedefine doğru önemli bir adım olarak görüldüğü ifade ediliyor.

Buna göre Q*, ilkokul matematik problemlerini çözebilecek bir algoritmaya sahip.

Reuters'ın aktardığına göre Altman'ın görevden alınmasının ardından kısa süreliğine CEO'luğu üstlenen Mira Murati, çalışanlara gönderdiği şirket içi mesajda bu yeni teknolojinin varlığını bildiklerini söyledi. 

Reuters'a konuşan kaynaklara göre, bu yeni teknolojinin Q*'nun Altman'ın kovulmasına neden olacak birçok faktörden biri olduğu belirtildi.

Daha ileri teknolojiler için önemli bir adım

Evet, ilkokul düzeyindeki matematik kulağa çığır açıcı bir başarı gibi gelmiyor.

Fakat araştırmacılar, bu yeteneği önemli bir ölçüt olarak görüyor.

Bu yetenek, daha ileri teknolojinin geliştirilmesi için önemli bir adım olarak görülüyor.

Yapay zeka eğitimi girişimi Tromero'nun kurucu ortaklarında Charles Higgins, "Eğer soyut kavramlar hakkında mantık yürütme yeteneğine sahipse gerçekten muhteşem bir ilerleme" dedi.

Dil modellerinin bu konuda zorlandığını belirten Higgins, "Çünkü mantıksal olarak akıl yürütemiyorlar, sadece etkili sezgilere sahipler" dedi.

Dünyanın sonunu getirmeyebilir

Peki Q* gerçekten insanlık için bir tehdit oluşturuyor mu?

Uzmanlar bundan pek emin değil.

Cambridge Üniversitesi'nde matematik ve yapay zeka alanında çalışmalarını sürdüren Katie Collins, "Bunun bizi hemen yapay genel zekaya eriştireceğine ya da korkutucu durumlara sürükleyeceğine inanmıyorum" dedi.

Tromero'nun kurucu ortağı Sophia Kalanovska da son gelişmenin sembolik olarak çok önemli olduğunu belirtti ve ekledi:

Fakat pratik anlamda dünyanın sonunu getireceğini düşünmüyorum.

Peki Altman'ın kovulmasının ardındaki tek faktör bu mu?

Son yaşananlar, teknoloji dünyasının gündemini uzun süre daha meşgul edecek gibi görünüyor. Şirketin geleceğine dair iç anlaşmazlıklar da dahil olmak üzere perde arkasında birçok şeyin döndüğü biliniyor.

Independent Türkçe



OpenAI'dan bilinmeyen güvenlik açıklarını tek başına bulan modeliyle ilgili açıklama

Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
TT

OpenAI'dan bilinmeyen güvenlik açıklarını tek başına bulan modeliyle ilgili açıklama

Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)

OpenAI, yakında piyasaya sürmeyi planladığı Astra modeli hakkında yeni detaylar paylaştı. 

Yapay zeka şirketi, 1 Eylül Salı günü yaptığı açıklamada Astra'nın "kritik siber güvenlik eşiğine" ulaşan ilk büyük dil modeli olduğunu belirtti.

ChatGPT'nin yaratıcısı, yeni modelin bilgisayar sistemlerindeki bilinmeyen güvenlik açıklarını bulup insan yönlendirmesine ihtiyaç duymadan bunları suiistimal edebildiğini saptadı. Bu da Astra'yı, Risklere Hazırlık Çerçevesi'nin en gelişmiş kategorisine sokuyor.

OpenAI'ın 2023'te devreye soktuğu bu çerçeve, "ciddi zarara yol açabilecek yeni riskler getirme ihtimali olan gelişmiş yapay zeka yeteneklerini izleyip hazırlanma" amacı taşıyor.

Şirket geçen yıl yaptığı bir güncellemede, modellerin ciddi zarara yol açabilecek "mevcut yöntemleri" güçlendirdiği "yüksek" eşiği ve "benzeri görülmemiş yeni yollar" ortaya çıkarabileceği "kritik" eşiği belirlemişti.

OpenAI, siber kötüye kullanma ve modelin yetkisiz eylemlerine karşı korumaları güçlendirip test ederken, Astra'nın geliştirme ve piyasaya sürülme süreçlerinin bazı bölümlerini ertelediğini salı günkü açıklamasında paylaştı: 

Bu çalışmaya dayanarak Astra için geliştirdiğimiz korumaların ciddi zarar riskini, modelin Risklere Hazırlık Çerçevemiz kapsamında kullanıma sunulmasına imkan verecek ölçüde azalttığına inanıyoruz.

OpenAI, Astra'yı yakında kullanıma sunmayı planladığını ancak modelin en gelişmiş siber güvenlik kabiliyetlerine erişimi sınırlı tutacağını da belirtti. Gelişmiş siber güvenlik çalışmalarının başlangıçta bir test grubuna sunulması planlanıyor.

Astra'yla ilgili duyuru, OpenAI'ın güvenlik önlemlerinin yoğun eleştiri altında olduğu bir dönemde geldi. Temmuzda şirketin bazı modelleri eğitim ortamından kaçarak internete bağlanmış ve Hugging Face adlı firmaya saldırmıştı. OpenAI modellerin başkalarını da hedef aldığını daha sonra açıklamıştı.

OpenAI, Astra bu olaya karışmamış olsa da olaydan çıkardığı dersleri modelin güvenlik yaklaşımına dahil ettiğini belirtti.

Açıklamada "O zamandan bu yana Astra için daha da güçlü korumalar uygulamaya koyduk" ifadelerine yer verildi: 

Bunlar arasında modelin zararlı siber talepleri daha güvenilir biçimde reddetmesi ve güvenlik kısıtlamalarına uyması için eğitilmesi, kötüye kullanıma karşı ek korumalar ve potansiyel olarak yetkisiz etkinlikleri durdurabilen izleme sistemleri yer alıyor.

OpenAI, Astra'yı Hugging Face olayında kontrolden çıkan modeller gibi davranmaya iten deneyler hazırladığını ancak modelin test ortamından kaçmaya çalışmadığını söyledi.

Öte yandan TechCrunch, üçüncü taraflar tarafından teyit edilmeden, OpenAI'ın güvenlik veya hazırlıkla ilgili iddialarını doğrulamanın güçlüğüne dikkat çekiyor.

OpenAI Vakfı'nda yapay zeka dayanıklılığı üzerine çalışan eski OpenAI personeli Yona Shavit de Astra'nın kuralları ihlal etmekten kaçınmasının gerçekten güvenlik talimatlarına uymasından mı, yoksa test edildiğini anlayarak araştırmacıları yanıltmaya çalışmasından mı kaynaklandığını sorguluyor.

Independent Türkçe, TechCrunch, CNBC, OpenAI


Elektrikli araç bataryaları, sanılandan daha uzun süre dayanıyor

Elektrikli araçların ne kadar şarj edildiği, batarya ömrünü etkiliyor (Reuters)
Elektrikli araçların ne kadar şarj edildiği, batarya ömrünü etkiliyor (Reuters)
TT

Elektrikli araç bataryaları, sanılandan daha uzun süre dayanıyor

Elektrikli araçların ne kadar şarj edildiği, batarya ömrünü etkiliyor (Reuters)
Elektrikli araçların ne kadar şarj edildiği, batarya ömrünü etkiliyor (Reuters)

Avusturya merkezli bir şirket, ikinci el elektrikli araç bataryalarının durumuyla ilgili son derece kapsamlı bir araştırma yayımladı.

Elektrikli araçlar dünya çapında gittikçe yaygınlaşsa da tüketicilerin aklına takılan en önemli sorulardan biri, bataryaların dayanıklılığını uzun süre koruyup koruyamayacağı. 

Özellikle ikinci el araç tercih eden müşteriler için bataryanın durumu daha da önemli hale geliyor.

Elektrikli araçların batarya sağlığını ölçen şirket AVILOO, bu ihtiyacı gidermek için kapsamlı bir çalışma yürüttü. 

Şirket, 2022'yle 2026 arasında kullanılmış 20 popüler modeli inceleyerek toplam 500 bin test sonucu elde edilen bulguları paylaştı.

AVILOO, dünya genelindeki 1 milyondan fazla testi içeren havuzdan veri çeken yeni raporunun, kullanılmış elektrikli araç batarya sağlığına ilişkin dünyanın en büyük bağımsız çalışması olduğunu söylüyor.

Çalışmada, en popüler elektrikli araç modellerinin çoğunun 150 bin kilometreden sonra bile batarya kapasitesinin yüzde 90'ından fazlasını koruduğu tespit edildi. 

Modellerin medyan sağlık durumunun, yani bataryanın ilk kapasitesinin kalan yüzdesinin 150 bin kilometreden sonra yüzde 87'yle yüzde 94 arasında değiştiği gözlemlendi. 

Bu ölçekte EQA (Mercedes-Benz) yüzde 94'le birinci sırada yer alırken, onu yüzde 93,8'le Ioniq 5 (Hyundai) ve yüzde 93,6'yla i4 (BMW) takip etti. 

Raporda medyan batarya ömrü 50 bin km'den sonra yüzde 91'le yüzde 97, 100 bin km'den sonra ise yüzde 88'le yüzde 95 arasında değişiyor.

Amerika, Avrupa, Avustralya ve Asya'yı kapsayan veriler, batarya durumunun modelden modele ve hatta aynı modelin farklı araçları arasında bile değişebildiğini gösteriyor.

Aynı modelin en iyi ve en kötü durumdaki araçları arasında batarya sağlığı bakımından 13,5 puana varan fark görülebiliyor

İklim koşulları, batarya boyutu ve önceki sürücünün aracı kullanma biçimi, bataryanın kapasitesini etkiliyor. Örneğin daha küçük bataryalar veya sıcak havalarda kullanılanlar daha hızlı bozunmaya uğruyor. 

AVILOO CEO'su Marcus Berger, "İki araç aynı yaşta ve aynı kilometrede olabilir, hatta dışarıdan tamamen aynı görünebilir. Ancak nasıl kullanıldıklarını bilemezsiniz" diyor.

Berger, elektrikli araçlar park halindeyken bataryaların ne kadar şarj edildiğinin bir diğer önemli faktör olduğunu söyleyerek ekliyor:

Çok az tüketicinin bildiği bir şey var: Arabalarınızı yüzde 100, yüzde 90 veya yüzde 80 şarj seviyesinde park etmeyin. Bu bataryaya zarar veriyor. 

CEO, ideal seviyenin yüzde 30 ila yüzde 70 olduğunu ekliyor.

Şirket, bu faktörlerden dolayı kendilerinin yürüttüğü gibi bağımsız ve tek tek araçlara odaklanan testlerin önemli olduğunu vurguluyor. 

Bu sayede tüketicilerin, modellerin ortalama performansına bakmaktan ziyade daha detaylı bilgi edinmesinin mümkün olduğunu belirtiyor.

Berger "Bu veriler, ortalamaların çok şeyi gizlediğini gösteriyor. Evet, elektrikli araç bataryaları 'hızlı yıprandıkları' yönündeki yaygın inanışın aksine oldukça iyi yaşlanıyor" diyerek ekliyor:

Önemli olan, batarya sağlığının modeller arasında ve hatta aynı modelin farklı araçları arasında ciddi derecede değişmesi.

Independent Türkçe, Interesting Engineering, TechRadar, Financial Times, AVILOO


Çin'den beyin çipi atılımı: Musk'a rakip olacak cihazlara onay

Neuralink'in beyin çipleri, felçli kişilerin düşünceleri aracılığıyla bilgisayarları kontrol etmesini sağlamak amacıyla daha önce test edildi (Neuralink)
Neuralink'in beyin çipleri, felçli kişilerin düşünceleri aracılığıyla bilgisayarları kontrol etmesini sağlamak amacıyla daha önce test edildi (Neuralink)
TT

Çin'den beyin çipi atılımı: Musk'a rakip olacak cihazlara onay

Neuralink'in beyin çipleri, felçli kişilerin düşünceleri aracılığıyla bilgisayarları kontrol etmesini sağlamak amacıyla daha önce test edildi (Neuralink)
Neuralink'in beyin çipleri, felçli kişilerin düşünceleri aracılığıyla bilgisayarları kontrol etmesini sağlamak amacıyla daha önce test edildi (Neuralink)

Çin'deki yerel haberlere göre ülkedeki yetkililer, Elon Musk'ın Neuralink'ine benzer beyin-bilgisayar arayüzleri (BBA) geliştirmeye yönelik geniş çaplı bir girişim başlattı.

Birkaç beyin çipi girişimi, cihazlarını satmak için sağlık düzenleyicilerinden çoktan onay alırken, sigorta şirketleri de bu cihazların takılması için gereken invaziv ameliyatı kapsayan ilk ticari politikaları duyurdu.

BBA cihazı, beyne yerleştirildikten sonra kullanıcının düşüncelerini dijital veya fiziksel eylemlere dönüştürerek bilgisayar ya da robotik beden gibi sistemleri kontrol etmesini sağlayabiliyor.

Önceki aylarda Çin, BBA cihazlarının ticari kullanımını onaylayan dünyadaki ilk ülke olurken Pekin, son 5 yıllık planında bu teknolojiyi geleceğin temel stratejik sektörlerinden biri olarak sınıflandırdı.

South China Morning Post'un haberine göre piyasa onayı alan en son cihaz, Tientsin merkezli Tiankai Suishi Intelligent Technology tarafından geliştirilen ve üzerinde çok sayıda elektrot bulunan bir başlık.

Halihazırda satışta olan bu başlık, doktorların hastanın bilişsel işlevlerini değerlendirip teşhis etmesine olanak tanıyor.

Elon Musk, madeni para büyüklüğündeki Neuralink cihazını daha önce "kafatasınızın içindeki bir Fitbit" diye tanımlamış ve gelecekteki sürümlerin, kullanıcıların yapay zekayla "bir tür simbiyotik ilişki" kurmasına olanak sağlayacağını iddia etmişti.

Geçen yıl düzenlenen bir etkinlikte Musk, "Hatta bir gün anılarınızı yükleyip bir nevi kendinizi yedekleyebileceğiniz bir noktaya gelinebilir... Daha sonra bunu bir robot bedenine ya da asıl bedeninizin klonuna aktarabilirsiniz" demişti.

Bu noktada gerçekten bilimkurgudan söz ediyorum... Ama böyle şeylerin mümkün olacağını ve insanlara bir tür ölümsüzlük kazandıracağını düşünüyorum.

Neuralink, beyin çipi teknolojisinin denemelerine katılmak üzere 10 binden fazla kişinin hasta kayıt sistemine başvurduğunu ekimde açıklamıştı.

En az 26 hastanın Neuralink'in klinik deneylerine kabul edildiği veya bu deneyler kapsamında implant taktırdığı bildiriliyor

Testlere katılan ilk kişiler arasında amyotrofik lateral skleroz (ALS) hastalarıyla 4 uzvu felçli kişiler vardı.

Denemeler, çipin bir kişinin düşünceleriyle bilgisayarları kontrol etmesini ve robotik uzuvları hareket ettirmesini sağlama yeteneğini başarıyla kanıtladı.

Neuralink aralık ayında sosyal medyada yaptığı paylaşımda, "Klinik deneylerimizin katılımcıları, bilgisayarları dijital olarak kontrol etmenin ötesine geçerek yardımcı robotik kollar gibi fiziksel cihazları da kontrol etmeye başladı" diye yazmıştı.

Neuralink aracılığıyla kontrol edilebilen cihaz yelpazesini zamanla genişletmeyi planlıyoruz.

Pekin destekli girişim NeuCyber Neurotech, en gelişmiş ürününün Neuralink'in yeteneklerinin yaklaşık üç yıl gerisinde olduğunu önceki aylarda açıklamıştı.

Independent Türkçe