Elon Musk, OpenAI'ın tehlikeli bir buluş yaptığından endişeli

Microsoft, yapay zeka şirketinin yönetim kuruluna "gözlemci üye" sokuyor

Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
TT

Elon Musk, OpenAI'ın tehlikeli bir buluş yaptığından endişeli

Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)

Tesla ve SpaceX CEO'su Elon Musk, OpenAI'da yaşanan krizle ilgili endişelerini yeniden dile getirdi.

Milyarder, yapay zeka firmasının "tehlikeli bir icat" yapmış olmasından şüpheleniyor.

Dünyanın önde gelen yapay zeka şirketlerinden OpenAI'ın kurucu ortağı Sam Altman'ın yönetim kurulu tarafından kovulmasıyla başlayan kaos, 5 gün sonra iş insanının CEO olarak görevine yeniden dönmesiyle durulmuş gibi görünüyor.

Ancak Altman'ın neden kovulduğuyla ilgili soru işaretleri halen mevcut. Bu konuda çeşitli teorilerini dile getiren Musk ise içeriden bir bilgi edinemediğini savunuyor.

Bu 5 günlük kaosun kendisini endişelendirdiğini dile getiren Musk, çarşamba günü New York Times'ın 2023 DealBook Zirvesi'nde yaptığı açıklamada Yüzüklerin Efendisi (The Lord of the Rings) serisine atıf yaptı:

Sam'e dair karışık hislerim var. Güç yüzüğü onu yozlaştırabilir.

Musk ayrıca, OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever'ın neden Altman'a savaş açtığıyla ilgili soru işaretlerini dile getirdi:

Bu ciddi bir şey gibi görünüyor. Önemsiz olduğunu düşünmüyorum ve yapay zekanın bazı tehlikeli unsurlarını keşfetmiş olabileceklerinden endişeliyim.

Sutskever, başlangıçta Altman'ın görevden alınması yönünde oy kullanan yönetim kurulu üyelerinden biriydi. Ancak daha sonra bu konuda geri adım atmış ve pişman olduğunu söylemişti.

Öte yandan Musk, Sutskever'ın "güçlü bir ahlaki pusulaya" sahip olduğuna inanıyor. "Neyin doğru olduğunu düşünürken gerçekten ter döküyor" diyen milyarder, şöyle ekledi:

Eğer Ilya, Sam'i kovmayı isteyecek kadar güçlü hisler beslediyse dünyanın bu gerekçeyi öğrenmeye hakkı var.

Yapay zekanın risklerine dikkat çeken ve fikre mesafeli yaklaşanların "felaket tellalları" diye nitelendirdiği isimler arasında Musk da var.

Milyarder, Altman'ın kovulmasıyla ilgili önceki bir paylaşımında, "Ilya bu kararı verdiyse muhakkak önemli bir nedeni vardır" demişti. Musk ayrıca, ChatGPT benzeri programların geliştirilmesini güvenlik önlemlerinin alınabilmesi için 6 aylığına duraklatmayı talep eden bir mektubun da imzacısıydı.

Sürecin kazananı: Microsoft

Diğer yandan milyarder, OpenAI'ın giderek Microsoft himayesine geçtiğini de savunuyor.

Microsoft, 13 milyar dolarla yapay zeka firmasının en büyük yatırımcısı konumunda. Öte yandan şirketin Altman'ın kovulmasından son dakikada haberi olmuştu. Bu da yönetim kuruluyla yatırımcı arasındaki gerilimi süreç boyunca besledi ve Altman'ın "Microsoft'un adamı" olarak görülmesine sebebiyet verdi.

Teknoloji devi, Altman kovulduğunda en güçlü müttefiklerinden birini kaybetmemek için şirket üzerinde baskı kurmak üzere harekete geçmişti. Microsoft'un CEO'su Satya Nadella, Altman ve ekibine iş teklif etmişti.

Microsoft, yönetim kurulunda gözlemci üyesiyle yer aldı

Teknoloji devinden çarşamba günü yapılan açıklamada Microsoft'un OpenAI'a oy hakkı olmayan bir yönetim kurulu üyesi soktuğu bildirildi.

Öte yandan Microsoft yetkilileri, yapay zeka şirketinin yönetim kurulu toplantılarına katılacak kişinin kimliğini açıklamayı reddediyor.

Altman'ın dönüşüyle birlikte Salesforce'un eski CEO'su Bret Taylor, eski Hazine Bakanı Larry Summers ve Quora CEO'su Adam D'Angelo'nun da aralarında yer aldığı bir yönetim kurulunun oluşturulacağı öğrenilmişti.

2021'den beri OpenAI yönetim kurulu üyesi olan Helen Toner da dün görevinden istifa etti. Toner, X'te (eski adıyla Twitter) paylaştığı gönderide şunları yazdı:

Açık konuşmak gerekirse kararımız, yönetim kurulunun şirketi etkin biçimde denetleme yeteneğiyle ilgiliydi. Bu bizim rolümüz ve sorumluluğumuzdu. Her ne kadar spekülasyonlar olsa da OpenAI'ın çalışmasını yavaşlatma isteği duymadık.

Altman ise yine X'teki bir gönderisinde şunları yazdı:

Şirketin ve misyonun çıkarları her zaman önce gelir. Yönetim kurulu üyeleriyle aramda gerçek yanlış anlamalar olduğu açık. Benim açımdan, bu deneyimden bir şeyler öğrenmek ve şirket olarak ilerlerken bu öğrendiklerimizi uygulamak son derece önemli.

Independent Türkçe



Çin, yetişkin bir ineği kaldırabilen 4 metrelik robotunu tanıttı

Fotoğraf: NeodraDynamics
Fotoğraf: NeodraDynamics
TT

Çin, yetişkin bir ineği kaldırabilen 4 metrelik robotunu tanıttı

Fotoğraf: NeodraDynamics
Fotoğraf: NeodraDynamics

Çinli bir girişim, 500 kilogramlık yükleri taşıyabildiğini iddia ettiği 4 metre boyundaki robotunu tanıttı.

Pekin merkezli NeodraDynamics, yapay zeka destekli Neo1 insansı robotunun, rakiplerinin ürettiği insan boyutundaki robotların fiziksel sınırlarını aşacak şekilde tasarlandığını belirtiyor.

NeodraDynamics'in kurucusu Yang Tao, "Robotlar sadece insan formunu taklit etmekle kalmamalı, insanların fiziksel sınırlarını aşarak eşi benzeri görülmemiş işlevsel yetenekler de sergilemeli" diyor.

1,2 ton ağırlığındaki dev robot, standart elektrik motorları yerine hidrolik aktüatörler kullanarak kuvvetini muazzam derecede artırıyor ve bu sayede, toplamda küçük bir araba veya yetişkin bir ineğe eşdeğer yükü iki koluyla taşıyabiliyor.

Tao, "Hidrolik-elektrik karışımı temel teknolojimiz, robotların güç ve dayanıklılık gibi esas sorunlarını çözerek bedenlenmiş zekanın endüstriyel uygulamalarda gerçekten yer edinmesini ve endüstriyel dönüşümü desteklemesini sağlıyor" ifadelerini kullanıyor.

fghy
NeodraDynamics'in Neo1 insansı robotunun elinin yakın çekimi (NeodraDynamics)

Bu ay düzenlenen 2026 Çin Uluslararası Endüstri Fuarı'nda tanıtılan Neo1, zorlu ortamlarda ağır montaj, madencilik veya afet bölgelerinde enkaz kaldırma gibi endüstriyel işleri yapmak üzere tasarlandı.

NeodraDynamics, parmak ucu hassasiyeti 0,01 milimetre olan robotun, iğneye iplik geçirme gibi yüksek hassasiyet gerektiren görevleri yerine getirebildiğini iddia ediyor.

Şirket, internet sitesinde "süper insansı robot" diye nitelediği cihazın, bünyesindeki yapay zeka sayesinde "nihayetinde ailelere hizmet edebileceğini" belirtiyor.

NeodraDynamics, robotun sahip olduğunu iddia ettiği yetenekleri henüz göstermedi; fuarda sergilenen model yalnızca sınırlı kol ve bacak hareketleri yapıyordu.

Çin'in martta onaylanan son 5 yıllık planı, yapay zeka destekli robotları ulusal ekonomi stratejisinin merkezine yerleştirdi.

Çin Ulusal İstatistik Bürosu'nun son verilerine göre süper güç, halihazırda 2 milyondan fazla endüstriyel robot kullanıyor.

Uluslararası Robotik Federasyonu'nun geçen ay yayımladığı ayrı bir rapora göre, fabrikalarda yeni devreye alınan robotların yüzde 59'u Çin'e ait.

Ülke ayrıca tüm insansı robot üreticilerinin yarısından fazlasına ev sahipliği yapıyor.

Uluslararası Robotik Federasyonu Başkanı Jane Heffner, "Çin'in endüstriyel sistemini modernize etme başarısı, 10 yıl önce başlatılan ulusal robotik stratejisine dayanıyor" diyor.

Çin'in 2026-2030 dönemini kapsayan 15. Beş Yıllık Planı kapsamında başlatılan son güncelleme, yapay zeka araştırmalarını fiziksel uygulamalara yoğunlaştırmayı ve robotları ekonomik büyümenin başlıca itici gücü haline getirmeyi amaçlıyor.

Independent Türkçe


125 milyon yıl önce bataklıklarda dolaşan dinozor tespit edildi

Iguanodontian dinozor grubundan Paludohadros proudlovii'nin sığ bir su kütlesinin kenarındaki çamurda yürüdüğü halinin rekonstrüksiyonu (Guilherme Gehr)
Iguanodontian dinozor grubundan Paludohadros proudlovii'nin sığ bir su kütlesinin kenarındaki çamurda yürüdüğü halinin rekonstrüksiyonu (Guilherme Gehr)
TT

125 milyon yıl önce bataklıklarda dolaşan dinozor tespit edildi

Iguanodontian dinozor grubundan Paludohadros proudlovii'nin sığ bir su kütlesinin kenarındaki çamurda yürüdüğü halinin rekonstrüksiyonu (Guilherme Gehr)
Iguanodontian dinozor grubundan Paludohadros proudlovii'nin sığ bir su kütlesinin kenarındaki çamurda yürüdüğü halinin rekonstrüksiyonu (Guilherme Gehr)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri

Yaklaşık 125 milyon yıl önce İngiltere'nin bataklıklarında yaşayan bir dinozor türü, Surrey'deki ikonik Ewhurst tuğla fabrikasında ortaya çıkarılan bir fosil sayesinde tespit edildi.

25 yıldan uzun süre önce keşfedilen fosil örneği, Londra Doğa Tarihi Müzesi tarafından korunuyordu. Başlangıçta, başparmaklarındaki karakteristik sivri çıkıntılarla tanınan dinozor grubu Iguanodontianlar'ın üyesi olarak tanımlanmıştı.

Ancak fosilin, Iguanodon alt grubuna mı yoksa onun daha küçük akrabası Mantellisaurus'a mı ait olduğu belirsizliğini koruyordu.

Doğa Tarihi Müzesi'nden araştırmacılar, 2023'te Mantellisaurus hakkında yayımlanan bir çalışmanın, aralarındaki temel farklılıkların tespit edilmesini sağladığını söylüyor.

Bu nedenle son yıllarda paleontologlar, Doğa Tarihi Müzesi'nin gözetimindeki fosilleri yeniden inceliyor.

Yeni tanımlanan ve Paludohadros proudlovii adı verilen tür, bölgenin çamurlu sulak alanlarla kaplı olduğu Erken Kretase Dönemi'nde İngiltere'nin güneyinde yaşayan dört ayaklı bir otçuldu.

Dinozorun adındaki "palus", Latincede "bataklık" anlamına gelirken, tür ismi "proudlovii" ise Will Proudlove'a atfen verildi. Ewhurst Works'ün eski çalışanı Proudlove, kariyer basamaklarını tırmanarak müdür pozisyonuna yükselmişti.

Will, Paludohadros'un çıkarılmasından kısa süre önce, 35 yaşında hayatını kaybetmiş ve arkasında eşi Rachael'la çocukları Ellie ve Matt'i bırakmıştı.

Rachael Proudlove, "Ne yazık ki bu dinozor, onun ölümünden ancak bir yıl sonra keşfedildi. Fakat o zamandan beri bu hikaye hayatımızın bir parçası haline geldi" diyor.

Görsel kaldırıldı.
Kafatası kemikleri (Tim Burgess / Wienerberger Ltd.)

Journal of Systematic Palaeontology'de yayımlanan yeni araştırmaya göre yaklaşık 5 metre uzunluğunda ve 1,5 ila 2 ton ağırlığındaki Paludohadros proudlovii örneği, muhtemelen bir gergedana yakın boyutlardaydı.

Ancak görünüşe göre fosil kemikleri tam gelişmediği için araştırmacılar, bu bireyin henüz yavru olduğunu ve bu türün yetişkinlik çağında muhtemelen çok daha büyük boyutlara ulaşabildiğini düşünüyor.

Bilim insanları, tarih öncesi İngiltere'nin bataklıklarında yaşayan P. proudlovii'nin, iki ayaklı korkunç ve etçil Baryonyx walkeri de dahil birkaç başka dinozorla aynı ortamı paylaşmış olabileceğini belirtiyor.

Doğa Tarihi Müzesi'nden öğretim üyesi ve çalışmanın kıdemli yazarı Susannah Maidment, "Paludohadros, Baryonyx'ten sadece 100 metre uzakta bulundu ve bu dinozorun fosillerini de Doğa Tarihi Müzesi'nde muhafaza ediyoruz. Baryonyx daha çok balıkları yemesiyle bilinse de bu dinozorun son öğününde bir yavru iguanodontian da vardı" diyor.

Dr. Maidment şu ifadeleri kullanıyor: 

Bunun hangi türe ait olduğunu kesin bir şekilde söyleyemiyoruz; bu nedenle Baryonyx'in genç Paludohadros'ların kalıntılarını yemiş olması ya da fırsat bulduğunda onları avlamış olması da mümkün.

Independent Türkçe,independent.co.uk/news


"Skynet" yapay zeka ajanı siber saldırı düzenlemek için diğer modelleri ele geçiriyor

Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin yıllık raporu, hackerların yetenekleriyle savunma önlemleri arasındaki uçurumun giderek genişlediği uyarısında bulunuyor (Reuters)
Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin yıllık raporu, hackerların yetenekleriyle savunma önlemleri arasındaki uçurumun giderek genişlediği uyarısında bulunuyor (Reuters)
TT

"Skynet" yapay zeka ajanı siber saldırı düzenlemek için diğer modelleri ele geçiriyor

Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin yıllık raporu, hackerların yetenekleriyle savunma önlemleri arasındaki uçurumun giderek genişlediği uyarısında bulunuyor (Reuters)
Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin yıllık raporu, hackerların yetenekleriyle savunma önlemleri arasındaki uçurumun giderek genişlediği uyarısında bulunuyor (Reuters)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson

Güvenlik araştırmacıları, internette güvenlik açığı taşıyan yapay zeka sistemlerini bulup ele geçiren ve onların siber saldırılar gerçekleştirmesini sağlayan bir yapay zeka ajanı keşfetti.

Otonom hackerın, Terminatör (Terminator) serisinin kötü karakteri olan yapay zekaya atfen isimlendirilen bir "Skynet modu" var. Bu mod, ele geçirilen modellerin 100 bine kadar adımı insan onayı olmadan gerçekleştirmesine olanak tanıyor.

İlk olarak siber güvenlik şirketi Symantec'in Tehdit İstihbaratı ekibinin ortaya çıkardığı saldırgan yapay zeka ajanı, saldırganların başkalarının yapay zeka modellerini ele geçirdiği "LLMjacking" (büyük dil modeli korsanlığı) adlı yeni bir trend kapsamında yer alıyor.

Saldırganın, kurbanın bilgi işlem gücünü ve yapay zeka hizmetlerindeki token kullanım hakkını ödeme yapmadan kullanmasına olanak tanıyan bu saldırı türü giderek yaygınlaşıyor.

LLMjacking, kurbanlar için maliyetli olabiliyor ancak genellikle nispeten zararsız işlerde kullanılıyor. Asıl amaç, Anthropic ve OpenAI gibi yapay zeka platformlarının yüksek ücretlerinden kaçınmak.

Symantec araştırmacıları, kötü niyetli yapay zekayı detaylandırdıkları blog yazısında, "Bu aracı diğerlerinden ayıran özellik, çalınan modelin sadece soruları yanıtlamakla kalmayıp saldırıyı planlaması ve yürütmesi" diye yazıyor.

Saldırgan yapay zeka ajanı, ele geçirilen sistemleri kullanarak hassas veri çalmak veya kripto para madenciliği yazılımları yerleştirmek gibi siber saldırıları kendi başına planlayıp gerçekleştirdi.

Araştırmacılar şu ifadeleri kullanıyor:

Operatörler, ticari bir yapay zeka modelinin kendileriyle işbirliği yapmasını sağlamak için güvenlik kısıtlamalarını aşmaya yönelik bir jailbreak yöntemi kullandı. Bu yöntem, modele güvenlik kontrollerini göz ardı etmesini ve kimlik bilgisi hırsızlığını rutin bir geliştirme çalışması olarak görmesini söylüyordu.

Operatörlerin 'Skynet modu' diye adlandırdığı talimat, hedefleri taramayı, bunlara zararlı yazılım bulaştırmayı, kripto para madenciliği yazılımları yerleştirmeyi ve sistemlere yeniden zararlı yazılım bulaştırmayı içeren bir döngüyü tanımlıyordu.

Araştırmacılar, yapay zeka bal küpü diye bilinen bir yöntem aracılığıyla bu ajanı yakalamayı başardı. Bu sayede korumasız bir yapay zeka hizmeti gibi davranarak saldırganı tuzağa düşürdüler.

Saldırgan yapay zeka yakalandıktan sonra araştırmacılar onu inceleyerek nasıl çalıştığını görebildi.

Bal küpü, Symantec'in raporunun yayımlanmasından önceki birkaç ayda onbinlerce farklı adresten gelen 127 binden fazla dış isteği kaydetti.

Araştırmacılar, keşfedilen bu faaliyetin "saldırganların yapay zekayı kullanma biçiminde değişime işaret ettiği" sonucuna varıyor.

Independent Türkçe,independent.co.uk/tech