OpenAI'daki kaosun arkasında "süper güçlü" yeni yapay zeka mı var?

Yapay genel zekaya yaklaşıldığı iddia edildi

Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
TT

OpenAI'daki kaosun arkasında "süper güçlü" yeni yapay zeka mı var?

Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)
Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (AFP)

ABD'li yapay zeka firması OpenAI'nın kurucu ortağı ve CEO'su Sam Altman'ın önce kovulup bir hafta sonra yeniden göreve getirilmesinin yankıları sürüyor.

İddiaya göre Altman'ın 4 günlüğüne koltuğundan olmasının arkasında gizlice geliştirilen süper güçlü yeni bir yapay zeka modeli var.

Sohbet botu ChatGPT ve görsel üretim aracı Dall-E'yi geliştiren şirketin yüzü olarak da gösterilen Altman, 18 Kasım'da yönetim kurulu tarafından kovulmuştu.

Şirketten yapılan açıklamada, Altman'a güvenin kaybedildiği ifade edilirken, "yönetim kuruluyla iletişim kurarken samimi davranmadığı" gerekçesiyle görevden alındığı bildirilmişti.

Kovulmasının ardından şirket çalışanlarının yaklaşık yüzde 95'i, Altman'ın göreve iade edilmemesi durumunda istifa edeceklerini açıkladıkları bir mektuba imza atmıştı.

Kovulduktan sadece 4 gün sonra, 22 Kasım'da Altman, yeniden CEO olarak görevine geri dönmüştü.

Tüm bu çalkantılı süreçte ortaya bir sürü iddia atıldı ancak Altman'ın neden kovulduğu hâlâ gizemini koruyor.

Ortaya atılan iddialardan en ilgi çekici olanı, Altman'ın OpenAI'nın yönetim kurulunu panikletebilecek ve ortalığı kasıp kavuracağı düşünülen son derece gelişmiş bir yapay zeka üzerinde gizlice çalışıyor olduğu.

Hedefteki yapay genel zekaya yaklaşılıyor mu?

OpenAI'nin uzunca süredir karmaşık görevleri insanlar kadar, hatta yer yer daha iyi yerine getirebileceği öne sürülen yapay genel zeka üzerinde çalıştığı biliniyor.

Şirketin yapay genel zeka hedefine ne kadar yaklaştığı hâlâ belirsizliğini koruyor ve bu teknolojinin ne zaman piyasaya sürüleceğine dair net bir tarih verilmiş değil.

Fakat ortaya atılan yeni bir teori, OpenAI'nın ileriye doğru büyük bir sıçramanın eşiğinde olduğunu söylüyor.

Ve bu sıçramanın yaşananlarla bir ilgisi olabileceği belirtiliyor.

Yeni atılım endişe yaratmış olabilir

Reuters ve The Information'da yer alan haberlere göre, OpenAI liderleri, şirketin üzerinde çalıştığı Q* adlı yeni yapay zekadan korkmuş olabilir. 

Bu yeni sisteminin yapay genel zeka hedefine doğru önemli bir adım olarak görüldüğü ifade ediliyor.

Buna göre Q*, ilkokul matematik problemlerini çözebilecek bir algoritmaya sahip.

Reuters'ın aktardığına göre Altman'ın görevden alınmasının ardından kısa süreliğine CEO'luğu üstlenen Mira Murati, çalışanlara gönderdiği şirket içi mesajda bu yeni teknolojinin varlığını bildiklerini söyledi. 

Reuters'a konuşan kaynaklara göre, bu yeni teknolojinin Q*'nun Altman'ın kovulmasına neden olacak birçok faktörden biri olduğu belirtildi.

Daha ileri teknolojiler için önemli bir adım

Evet, ilkokul düzeyindeki matematik kulağa çığır açıcı bir başarı gibi gelmiyor.

Fakat araştırmacılar, bu yeteneği önemli bir ölçüt olarak görüyor.

Bu yetenek, daha ileri teknolojinin geliştirilmesi için önemli bir adım olarak görülüyor.

Yapay zeka eğitimi girişimi Tromero'nun kurucu ortaklarında Charles Higgins, "Eğer soyut kavramlar hakkında mantık yürütme yeteneğine sahipse gerçekten muhteşem bir ilerleme" dedi.

Dil modellerinin bu konuda zorlandığını belirten Higgins, "Çünkü mantıksal olarak akıl yürütemiyorlar, sadece etkili sezgilere sahipler" dedi.

Dünyanın sonunu getirmeyebilir

Peki Q* gerçekten insanlık için bir tehdit oluşturuyor mu?

Uzmanlar bundan pek emin değil.

Cambridge Üniversitesi'nde matematik ve yapay zeka alanında çalışmalarını sürdüren Katie Collins, "Bunun bizi hemen yapay genel zekaya eriştireceğine ya da korkutucu durumlara sürükleyeceğine inanmıyorum" dedi.

Tromero'nun kurucu ortağı Sophia Kalanovska da son gelişmenin sembolik olarak çok önemli olduğunu belirtti ve ekledi:

Fakat pratik anlamda dünyanın sonunu getireceğini düşünmüyorum.

Peki Altman'ın kovulmasının ardındaki tek faktör bu mu?

Son yaşananlar, teknoloji dünyasının gündemini uzun süre daha meşgul edecek gibi görünüyor. Şirketin geleceğine dair iç anlaşmazlıklar da dahil olmak üzere perde arkasında birçok şeyin döndüğü biliniyor.

Independent Türkçe



125 milyon yıl önce bataklıklarda dolaşan dinozor tespit edildi

Iguanodontian dinozor grubundan Paludohadros proudlovii'nin sığ bir su kütlesinin kenarındaki çamurda yürüdüğü halinin rekonstrüksiyonu (Guilherme Gehr)
Iguanodontian dinozor grubundan Paludohadros proudlovii'nin sığ bir su kütlesinin kenarındaki çamurda yürüdüğü halinin rekonstrüksiyonu (Guilherme Gehr)
TT

125 milyon yıl önce bataklıklarda dolaşan dinozor tespit edildi

Iguanodontian dinozor grubundan Paludohadros proudlovii'nin sığ bir su kütlesinin kenarındaki çamurda yürüdüğü halinin rekonstrüksiyonu (Guilherme Gehr)
Iguanodontian dinozor grubundan Paludohadros proudlovii'nin sığ bir su kütlesinin kenarındaki çamurda yürüdüğü halinin rekonstrüksiyonu (Guilherme Gehr)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri

Yaklaşık 125 milyon yıl önce İngiltere'nin bataklıklarında yaşayan bir dinozor türü, Surrey'deki ikonik Ewhurst tuğla fabrikasında ortaya çıkarılan bir fosil sayesinde tespit edildi.

25 yıldan uzun süre önce keşfedilen fosil örneği, Londra Doğa Tarihi Müzesi tarafından korunuyordu. Başlangıçta, başparmaklarındaki karakteristik sivri çıkıntılarla tanınan dinozor grubu Iguanodontianlar'ın üyesi olarak tanımlanmıştı.

Ancak fosilin, Iguanodon alt grubuna mı yoksa onun daha küçük akrabası Mantellisaurus'a mı ait olduğu belirsizliğini koruyordu.

Doğa Tarihi Müzesi'nden araştırmacılar, 2023'te Mantellisaurus hakkında yayımlanan bir çalışmanın, aralarındaki temel farklılıkların tespit edilmesini sağladığını söylüyor.

Bu nedenle son yıllarda paleontologlar, Doğa Tarihi Müzesi'nin gözetimindeki fosilleri yeniden inceliyor.

Yeni tanımlanan ve Paludohadros proudlovii adı verilen tür, bölgenin çamurlu sulak alanlarla kaplı olduğu Erken Kretase Dönemi'nde İngiltere'nin güneyinde yaşayan dört ayaklı bir otçuldu.

Dinozorun adındaki "palus", Latincede "bataklık" anlamına gelirken, tür ismi "proudlovii" ise Will Proudlove'a atfen verildi. Ewhurst Works'ün eski çalışanı Proudlove, kariyer basamaklarını tırmanarak müdür pozisyonuna yükselmişti.

Will, Paludohadros'un çıkarılmasından kısa süre önce, 35 yaşında hayatını kaybetmiş ve arkasında eşi Rachael'la çocukları Ellie ve Matt'i bırakmıştı.

Rachael Proudlove, "Ne yazık ki bu dinozor, onun ölümünden ancak bir yıl sonra keşfedildi. Fakat o zamandan beri bu hikaye hayatımızın bir parçası haline geldi" diyor.

Görsel kaldırıldı.
Kafatası kemikleri (Tim Burgess / Wienerberger Ltd.)

Journal of Systematic Palaeontology'de yayımlanan yeni araştırmaya göre yaklaşık 5 metre uzunluğunda ve 1,5 ila 2 ton ağırlığındaki Paludohadros proudlovii örneği, muhtemelen bir gergedana yakın boyutlardaydı.

Ancak görünüşe göre fosil kemikleri tam gelişmediği için araştırmacılar, bu bireyin henüz yavru olduğunu ve bu türün yetişkinlik çağında muhtemelen çok daha büyük boyutlara ulaşabildiğini düşünüyor.

Bilim insanları, tarih öncesi İngiltere'nin bataklıklarında yaşayan P. proudlovii'nin, iki ayaklı korkunç ve etçil Baryonyx walkeri de dahil birkaç başka dinozorla aynı ortamı paylaşmış olabileceğini belirtiyor.

Doğa Tarihi Müzesi'nden öğretim üyesi ve çalışmanın kıdemli yazarı Susannah Maidment, "Paludohadros, Baryonyx'ten sadece 100 metre uzakta bulundu ve bu dinozorun fosillerini de Doğa Tarihi Müzesi'nde muhafaza ediyoruz. Baryonyx daha çok balıkları yemesiyle bilinse de bu dinozorun son öğününde bir yavru iguanodontian da vardı" diyor.

Dr. Maidment şu ifadeleri kullanıyor: 

Bunun hangi türe ait olduğunu kesin bir şekilde söyleyemiyoruz; bu nedenle Baryonyx'in genç Paludohadros'ların kalıntılarını yemiş olması ya da fırsat bulduğunda onları avlamış olması da mümkün.

Independent Türkçe,independent.co.uk/news


"Skynet" yapay zeka ajanı siber saldırı düzenlemek için diğer modelleri ele geçiriyor

Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin yıllık raporu, hackerların yetenekleriyle savunma önlemleri arasındaki uçurumun giderek genişlediği uyarısında bulunuyor (Reuters)
Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin yıllık raporu, hackerların yetenekleriyle savunma önlemleri arasındaki uçurumun giderek genişlediği uyarısında bulunuyor (Reuters)
TT

"Skynet" yapay zeka ajanı siber saldırı düzenlemek için diğer modelleri ele geçiriyor

Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin yıllık raporu, hackerların yetenekleriyle savunma önlemleri arasındaki uçurumun giderek genişlediği uyarısında bulunuyor (Reuters)
Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin yıllık raporu, hackerların yetenekleriyle savunma önlemleri arasındaki uçurumun giderek genişlediği uyarısında bulunuyor (Reuters)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson

Güvenlik araştırmacıları, internette güvenlik açığı taşıyan yapay zeka sistemlerini bulup ele geçiren ve onların siber saldırılar gerçekleştirmesini sağlayan bir yapay zeka ajanı keşfetti.

Otonom hackerın, Terminatör (Terminator) serisinin kötü karakteri olan yapay zekaya atfen isimlendirilen bir "Skynet modu" var. Bu mod, ele geçirilen modellerin 100 bine kadar adımı insan onayı olmadan gerçekleştirmesine olanak tanıyor.

İlk olarak siber güvenlik şirketi Symantec'in Tehdit İstihbaratı ekibinin ortaya çıkardığı saldırgan yapay zeka ajanı, saldırganların başkalarının yapay zeka modellerini ele geçirdiği "LLMjacking" (büyük dil modeli korsanlığı) adlı yeni bir trend kapsamında yer alıyor.

Saldırganın, kurbanın bilgi işlem gücünü ve yapay zeka hizmetlerindeki token kullanım hakkını ödeme yapmadan kullanmasına olanak tanıyan bu saldırı türü giderek yaygınlaşıyor.

LLMjacking, kurbanlar için maliyetli olabiliyor ancak genellikle nispeten zararsız işlerde kullanılıyor. Asıl amaç, Anthropic ve OpenAI gibi yapay zeka platformlarının yüksek ücretlerinden kaçınmak.

Symantec araştırmacıları, kötü niyetli yapay zekayı detaylandırdıkları blog yazısında, "Bu aracı diğerlerinden ayıran özellik, çalınan modelin sadece soruları yanıtlamakla kalmayıp saldırıyı planlaması ve yürütmesi" diye yazıyor.

Saldırgan yapay zeka ajanı, ele geçirilen sistemleri kullanarak hassas veri çalmak veya kripto para madenciliği yazılımları yerleştirmek gibi siber saldırıları kendi başına planlayıp gerçekleştirdi.

Araştırmacılar şu ifadeleri kullanıyor:

Operatörler, ticari bir yapay zeka modelinin kendileriyle işbirliği yapmasını sağlamak için güvenlik kısıtlamalarını aşmaya yönelik bir jailbreak yöntemi kullandı. Bu yöntem, modele güvenlik kontrollerini göz ardı etmesini ve kimlik bilgisi hırsızlığını rutin bir geliştirme çalışması olarak görmesini söylüyordu.

Operatörlerin 'Skynet modu' diye adlandırdığı talimat, hedefleri taramayı, bunlara zararlı yazılım bulaştırmayı, kripto para madenciliği yazılımları yerleştirmeyi ve sistemlere yeniden zararlı yazılım bulaştırmayı içeren bir döngüyü tanımlıyordu.

Araştırmacılar, yapay zeka bal küpü diye bilinen bir yöntem aracılığıyla bu ajanı yakalamayı başardı. Bu sayede korumasız bir yapay zeka hizmeti gibi davranarak saldırganı tuzağa düşürdüler.

Saldırgan yapay zeka yakalandıktan sonra araştırmacılar onu inceleyerek nasıl çalıştığını görebildi.

Bal küpü, Symantec'in raporunun yayımlanmasından önceki birkaç ayda onbinlerce farklı adresten gelen 127 binden fazla dış isteği kaydetti.

Araştırmacılar, keşfedilen bu faaliyetin "saldırganların yapay zekayı kullanma biçiminde değişime işaret ettiği" sonucuna varıyor.

Independent Türkçe,independent.co.uk/tech


Bilim dünyasında bir ilk: İnsan DNA'sı vücudun içinde düzenlendi

Gen düzenleme, tek ve kalıcı bir tedavi sunarak "heyecan verici" bir atılıma işaret ediyor (Unsplash)
Gen düzenleme, tek ve kalıcı bir tedavi sunarak "heyecan verici" bir atılıma işaret ediyor (Unsplash)
TT

Bilim dünyasında bir ilk: İnsan DNA'sı vücudun içinde düzenlendi

Gen düzenleme, tek ve kalıcı bir tedavi sunarak "heyecan verici" bir atılıma işaret ediyor (Unsplash)
Gen düzenleme, tek ve kalıcı bir tedavi sunarak "heyecan verici" bir atılıma işaret ediyor (Unsplash)

Suha Kidwai

Bir gen düzenleme tekniği kullanılarak insan vücudunun içindeki DNA doğrudan ilk kez değiştirildi.

Bilim insanları klinik çalışmada, Wilson hastalığının karaciğer hücrelerinde neden olduğu genetik mutasyonu düzeltmek için "birincil düzenleme" (prime editing) diye bilinen yüksek hassasiyetli bir araç kullandı. Bu rahatsızlık, vücudun fazla bakırı atmasını engelleyen nadir bir hastalık.

Hakemli dergi Nature'da yayımlanan çığır açıcı gelişme, karmaşık laboratuvar prosedürlerinin yerini alarak insan vücudundaki DNA'yı onarmaya yönelik daha hızlı, daha ucuz ve daha az invaziv genetik tedavilerin önünü açabilir.

Wilson Hastalığı Derneği Başkanı Rhonda Rowland, "Hayatım boyunca bunun benim nadir hastalığıma uygulanacağını hiç düşünmemiştim" diyor. 

Gerçekten heyecan verici bir yıl olacak.

Wilson hastalığı, karaciğerdeki fazla bakırı atmaktan sorumlu proteini üreten ATP7B genindeki mutasyonlardan kaynaklanıyor. Tedavi edilmediği takdirde bakır birikip zehirli seviyelere kadar ulaşarak ciddi karaciğer hasarına, sinirlerde bozulmaya ve nörolojik rahatsızlıklara yol açıyor.

Mevcut tedaviler, ömür boyu bakır temizleyici ilaçların alınmasını gerektiriyor ancak gen düzenleme, gendeki değişikliğin yarattığı sorunu doğrudan gidererek tek seferlik ve kalıcı bir çözüm sunma potansiyeline sahip.

CRISPR-Cas9 teknolojileri gibi standart gen düzenleme yöntemleri genellikle genleri yeniden yazmak yerine devre dışı bırakırken birincil düzenleme, DNA'nın belirli bölümlerinde son derece hassas şekilde ekleme, çıkarma ve değişiklik yapabilen mikroskobik bir kelime işlemci gibi çalışıyor.

ABD'li biyoteknoloji şirketi Prime Medicine'ın geliştirdiği tedavi, mRNA aşılarında kullanılan teknolojiye benzer şekilde minik lipit nanopartiküller aracılığıyla gen düzenleme araçlarını karaciğer hücrelerine taşıyor.

DNA'yı doğrudan vücut içinde düzenlemek, hastanın hücrelerini çıkarıp laboratuvarda değiştirdikten sonra tekrar enjekte etmek gibi maliyetli ve riskli süreçlere ihtiyacı ortadan kaldırıyor.

Geleneksel hücre düzenleme prosedürlerinde, düzenlenmiş hücrelerin vücuda kabul edilmesi için yer açılması amacıyla genellikle hastaların ağır bir kemoterapi alması gerekiyor. 

TD Cowen'dan biyoteknoloji analisti Joseph Thome, "Bu genetik tıp şirketlerine finansman sağlamak ucuz bir iş değil" diyerek doğrudan tedavilerin üretim maliyetlerini önemli ölçüde düşürebileceğini ve tedavileri daha geniş kesimler için erişilebilir hale getirebileceğini vurguluyor.

Öte yandan uzmanlar, hücreler çoğalmaya başlamadan önce doktorlar düzenlemelerin tamamen doğru olup olmadığını doğrulayamadığından, vücut içi gen düzenlemenin de kendine özgü zorluklar taşıdığı uyarısında bulunuyor.

Wisconsin-Madison Üniversitesi'nden biyomedikal mühendisi Krishanu Saha, "Bu, ne tür riskleri kabul etmeye hazır olduğunuza bağlı" diyerek gen düzenleme araçlarını hedef organlara hassas şekilde ulaştırmanın hâlâ "temel zorluk" olduğunu ekliyor.

Prime Medicine'ın, halihazırda düzenleyici kurumların onayını bekleyen diğer vücut içi CRISPR tedavileriyle ilgili kararlarıyla birlikte bu denemeden elde edilen ilk klinik sonuçları gelecek yıl açıklaması bekleniyor.

Independent Türkçe,independent.co.uk/news