Elon Musk, OpenAI'ın tehlikeli bir buluş yaptığından endişeli

Microsoft, yapay zeka şirketinin yönetim kuruluna "gözlemci üye" sokuyor

Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
TT

Elon Musk, OpenAI'ın tehlikeli bir buluş yaptığından endişeli

Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)

Tesla ve SpaceX CEO'su Elon Musk, OpenAI'da yaşanan krizle ilgili endişelerini yeniden dile getirdi.

Milyarder, yapay zeka firmasının "tehlikeli bir icat" yapmış olmasından şüpheleniyor.

Dünyanın önde gelen yapay zeka şirketlerinden OpenAI'ın kurucu ortağı Sam Altman'ın yönetim kurulu tarafından kovulmasıyla başlayan kaos, 5 gün sonra iş insanının CEO olarak görevine yeniden dönmesiyle durulmuş gibi görünüyor.

Ancak Altman'ın neden kovulduğuyla ilgili soru işaretleri halen mevcut. Bu konuda çeşitli teorilerini dile getiren Musk ise içeriden bir bilgi edinemediğini savunuyor.

Bu 5 günlük kaosun kendisini endişelendirdiğini dile getiren Musk, çarşamba günü New York Times'ın 2023 DealBook Zirvesi'nde yaptığı açıklamada Yüzüklerin Efendisi (The Lord of the Rings) serisine atıf yaptı:

Sam'e dair karışık hislerim var. Güç yüzüğü onu yozlaştırabilir.

Musk ayrıca, OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever'ın neden Altman'a savaş açtığıyla ilgili soru işaretlerini dile getirdi:

Bu ciddi bir şey gibi görünüyor. Önemsiz olduğunu düşünmüyorum ve yapay zekanın bazı tehlikeli unsurlarını keşfetmiş olabileceklerinden endişeliyim.

Sutskever, başlangıçta Altman'ın görevden alınması yönünde oy kullanan yönetim kurulu üyelerinden biriydi. Ancak daha sonra bu konuda geri adım atmış ve pişman olduğunu söylemişti.

Öte yandan Musk, Sutskever'ın "güçlü bir ahlaki pusulaya" sahip olduğuna inanıyor. "Neyin doğru olduğunu düşünürken gerçekten ter döküyor" diyen milyarder, şöyle ekledi:

Eğer Ilya, Sam'i kovmayı isteyecek kadar güçlü hisler beslediyse dünyanın bu gerekçeyi öğrenmeye hakkı var.

Yapay zekanın risklerine dikkat çeken ve fikre mesafeli yaklaşanların "felaket tellalları" diye nitelendirdiği isimler arasında Musk da var.

Milyarder, Altman'ın kovulmasıyla ilgili önceki bir paylaşımında, "Ilya bu kararı verdiyse muhakkak önemli bir nedeni vardır" demişti. Musk ayrıca, ChatGPT benzeri programların geliştirilmesini güvenlik önlemlerinin alınabilmesi için 6 aylığına duraklatmayı talep eden bir mektubun da imzacısıydı.

Sürecin kazananı: Microsoft

Diğer yandan milyarder, OpenAI'ın giderek Microsoft himayesine geçtiğini de savunuyor.

Microsoft, 13 milyar dolarla yapay zeka firmasının en büyük yatırımcısı konumunda. Öte yandan şirketin Altman'ın kovulmasından son dakikada haberi olmuştu. Bu da yönetim kuruluyla yatırımcı arasındaki gerilimi süreç boyunca besledi ve Altman'ın "Microsoft'un adamı" olarak görülmesine sebebiyet verdi.

Teknoloji devi, Altman kovulduğunda en güçlü müttefiklerinden birini kaybetmemek için şirket üzerinde baskı kurmak üzere harekete geçmişti. Microsoft'un CEO'su Satya Nadella, Altman ve ekibine iş teklif etmişti.

Microsoft, yönetim kurulunda gözlemci üyesiyle yer aldı

Teknoloji devinden çarşamba günü yapılan açıklamada Microsoft'un OpenAI'a oy hakkı olmayan bir yönetim kurulu üyesi soktuğu bildirildi.

Öte yandan Microsoft yetkilileri, yapay zeka şirketinin yönetim kurulu toplantılarına katılacak kişinin kimliğini açıklamayı reddediyor.

Altman'ın dönüşüyle birlikte Salesforce'un eski CEO'su Bret Taylor, eski Hazine Bakanı Larry Summers ve Quora CEO'su Adam D'Angelo'nun da aralarında yer aldığı bir yönetim kurulunun oluşturulacağı öğrenilmişti.

2021'den beri OpenAI yönetim kurulu üyesi olan Helen Toner da dün görevinden istifa etti. Toner, X'te (eski adıyla Twitter) paylaştığı gönderide şunları yazdı:

Açık konuşmak gerekirse kararımız, yönetim kurulunun şirketi etkin biçimde denetleme yeteneğiyle ilgiliydi. Bu bizim rolümüz ve sorumluluğumuzdu. Her ne kadar spekülasyonlar olsa da OpenAI'ın çalışmasını yavaşlatma isteği duymadık.

Altman ise yine X'teki bir gönderisinde şunları yazdı:

Şirketin ve misyonun çıkarları her zaman önce gelir. Yönetim kurulu üyeleriyle aramda gerçek yanlış anlamalar olduğu açık. Benim açımdan, bu deneyimden bir şeyler öğrenmek ve şirket olarak ilerlerken bu öğrendiklerimizi uygulamak son derece önemli.

Independent Türkçe



Eski Twitter çalışanı platformu geri getirmek için kolları sıvadı

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

Eski Twitter çalışanı platformu geri getirmek için kolları sıvadı

Fotoğraf: Reuters
Fotoğraf: Reuters

ABD merkezli bir girişim, Elon Musk devralmadan önceki Twitter'ın orijinal işlevlerini ve markasını hayata döndüren yeni bir sosyal ağ kurmaya çalışıyor.

Operation Bluebird adlı Virginia merkezli girişim, "terk edilmiş" Twitter ticari markalarını geri almasına izin verilmesi için ABD Patent ve Ticari Marka Ofisi'ne (USPTO) çoktan dilekçe sundu.

Musk'ın platformu 44 milyar dolarlık bir anlaşmayla devralmasından 9 ay sonra, Temmuz 2023'te Twitter'ın adı X olarak değiştirilmişti.

Şirket, X.com'a yönlendiren Twitter.com internet sitesinin hâlâ sahibi ancak eski kuruluşa ait tüm logoları veya referansları çevrimiçi ortamdan kaldırdı.

X ayrıca kuş odaklı terminolojiye gönderme yapan özellikleri de yeniden adlandırdı; örneğin "Birdwatch" (kuş gözlemi) adlı doğrulama programı artık "Topluluk Notları" diye biliniyor.

Operation Bluebird'ün twitter.new alan adına halihazırda sahip olması, ilgili kişilerin platformun muhtemel açılışından önce kullanıcı adı ayırtmasına olanak tanıyor.

İki tescilli marka avukatı Michael Peroff ve Stephen Coates bu girişimi yönetiyor. Coates daha önce 2014-2016'da Twitter'ın ticari marka, alan adı ve pazarlama müdür yardımcısı olarak görev yapmıştı.

Operation Bluebird'ün USPTO'ya yaptığı başvuruda "Twitter ve Tweet markaları, X Corp.'un ürünlerinden, hizmetlerinden ve pazarlamasından tamamen silindi, efsanevi kuş logosu fiilen terk edildi ve markayı kullanmaya devam etme niyeti sözkonusu değil" ifadeleri yer alıyor.

Bluebird işbu dilekçede, X Corp.'un Twitter markasındaki haklarından yasal olarak vazgeçtiği, tartışmalı markaların yeniden kullanılmasına dair hiçbir niyeti olmadığı, USPTO'ya yanlış beyan ve bildirimlerde bulunarak sahtekarlık yapmayı sürdürdüğü gerekçesiyle, tüm tartışmalı markaların iptalini talep etmektedir.

Dilekçede ayrıca şirketin isminin Twitter'dan X'e çevrilmesinden kısa süre önce Musk'ın yaptığı bir paylaşıma da değiniliyor.

Musk, 23 Temmuz 2023'te "Ve yakında Twitter markasına ve yavaş yavaş tüm kuşlara veda edeceğiz" diye yazmıştı.

Musk ve X'in USPTO dilekçesine yanıt vermek için şubata kadar vakti var. The Independent cevap hakkı için X'le temasa geçti.

Independent Türkçe


En zararlı" yapay zekalar listelendi

(Unsplash)
(Unsplash)
TT

En zararlı" yapay zekalar listelendi

(Unsplash)
(Unsplash)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Yeni bir araştırmaya göre yapay zeka şirketlerinin büyük çoğunluğu, teknolojinin getirdiği felaket risklerini yönetmekte başarısız.

Kâr amacı gütmeyen Future of Life Institute'teki yapay zeka güvenliği uzmanlarının değerlendirmesi, önde gelen 8 yapay zeka şirketinin "bu kadar güçlü sistemlerin gerektirdiği somut güvenlik önlemlerinden, bağımsız denetimden ve güvenilir uzun vadeli risk yönetimi stratejilerinden yoksun olduğunu" ortaya koydu.

Yapay Zeka Güvenlik Endeksi'nde en iyi puanları ABD şirketleri alırken, Anthropic, ChatGPT'nin yaratıcısı OpenAI ve Google DeepMind'ı geride bıraktı. Çin şirketleriyse genel olarak en düşük notları alırken, Alibaba Cloud, DeepSeek'in hemen arkasında yer aldı.

Varoluşsal risk değerlendirmesinde hiçbir şirket D'nin üzerinde not almazken, Alibaba Cloud, DeepSeek, Meta, xAI ve Z.ai, F notu aldı.

Araştırmada, "Varoluşsal güvenlik, sektörün temel yapısal başarısızlığı olmaya devam ediyor ve hızlanan yapay genel zeka/süper zeka hedefleriyle güvenilir kontrol planlarının yokluğu arasındaki giderek genişleyen uçurum her gün daha endişe verici hale geliyor" dendi.

Şirketler yapay genel zeka ve süper zeka hedeflerini hızlandırırken, hiçbiri felaket niteliğindeki kötüye kullanımı veya kontrol kaybını önlemek için güvenilir bir plan ortaya koyamıyor.

Önde gelen yapay zeka şirketlerine temel güvenlik konularında verilen puanlar (Future of Life Institute)Önde gelen yapay zeka şirketlerine temel güvenlik konularında verilen puanlar (Future of Life Institute)

Raporun yazarları, yapay zeka şirketlerinin kendi güvenlik değerlendirmelerinde daha şeffaf olmaları ve yapay zeka psikozu gibi daha acil zararlardan kullanıcıları korumak için daha fazla çaba göstermeleri çağrısında bulundu.

UC Berkeley'den bilgisayar bilimleri profesörü Stuart Russell, "Yapay zeka CEO'ları insanüstü yapay zekanın nasıl inşa edileceğini bildiklerini öne sürüyor ancak hiçbiri kontrolü kaybetmemizi nasıl önleyeceklerini gösteremiyor. Bu gelişmeden sonra insanlığın hayatta kalması artık bizim elimizde değil" dedi.

Nükleer reaktör gereksinimlerine uygun olarak, yıllık kontrol kaybı riskini yüz milyonda bire indirebileceklerine dair kanıt arıyorum. Bunun yerine, riskin onda bir, beşte bir, hatta üçte bir olabileceğini kabul ediyorlar ve bu sayıları ne haklı çıkarabiliyorlar ne de iyileştirebiliyorlar.

OpenAI temsilcisi, şirketin "sistemlere güçlü güvenlik önlemleri eklemek ve modelleri titizlikle test etmek" için bağımsız uzmanlarla çalıştığını belirtti.

Google sözcüsüyse şunları söyledi:

Sınır Güvenlik Çerçevemiz, güçlü sınır yapay zeka modellerinden kaynaklanan ciddi riskleri ortaya çıkmadan önce belirlemek ve azaltmak için özel protokoller sunuyor.

Modellerimiz daha gelişmiş hale geldikçe, kabiliyetlerimizle aynı hızda güvenlik ve yönetim konusunda yenilik yapmaya devam ediyoruz.

Independent, yorum için Alibaba Cloud, Anthropic, DeepSeek, xAI ve Z.ai'yla iletişime geçti.

Independent Türkçe, independent.co.uk/tech


NASA ve ESA'dan yeni 3I/ATLAS görüntüleri: İki kuyruğu var

Hubble Uzay Teleskobu, yıldızlararası kuyrukluyıldız 3I/ATLAS'ı 30 Kasım'da ikinci kez gözlemledi (NASA)
Hubble Uzay Teleskobu, yıldızlararası kuyrukluyıldız 3I/ATLAS'ı 30 Kasım'da ikinci kez gözlemledi (NASA)
TT

NASA ve ESA'dan yeni 3I/ATLAS görüntüleri: İki kuyruğu var

Hubble Uzay Teleskobu, yıldızlararası kuyrukluyıldız 3I/ATLAS'ı 30 Kasım'da ikinci kez gözlemledi (NASA)
Hubble Uzay Teleskobu, yıldızlararası kuyrukluyıldız 3I/ATLAS'ı 30 Kasım'da ikinci kez gözlemledi (NASA)

3I/ATLAS'ın yeni yayımlanan görüntüleri, yıldızlararası cismin aktivitesinin arttığını ve iki kuyruğu olduğunu ortaya çıkardı.

Oumuamua ve Borisov'dan sonra Güneş Sistemi'nde görülen ilk yıldızlararası cisim olan 3I/ATLAS, son aylarını sistemin iç kısımlarında ilerleyerek geçirdi.

Kuyrukluyıldız, Mars'a ve Güneş'e en yakın konumuna ekimde ulaştı.

Gökbilimcilerin çeşitli teleskoplarla aylardır takip ettiği cisim Dünya'ya en yakın konumuna yaklaşırken, NASA ve Avrupa Uzay Ajansı (ESA) yeni görüntülerini paylaştı.

Görüntüler, 3I/ATLAS'ın Güneş'e yaklaştığında çok parlak ve aktif hale gelerek uzaya büyük miktarda süblimleşmiş gaz ve toz püskürttüğünü ortaya koydu.

NASA'nın Hubble Uzay Teleskobu, 3I/ATLAS'ı keşfinden kısa bir süre sonra temmuzda gözlemleyen ilk araçlardan biriydi. 

Bilim insanları emektar teleskobu bir kez daha kuyrukluyıldızın gizemlerini açığa çıkarmak için kullandı. 

30 Kasım'da Hubble, gökcismini Dünya'dan 286 milyon kilometre uzaktayken görüntülemeyi başardı. 

Fotoğrafın merkezindeki parlak beyaz nokta, kuyrukluyıldızın çekirdeğini (ana gövdesi) ve etrafını saran parlak gaz ve toz atmosferi olan komayı gösteriyor.

Kuyrukluyıldızlar genellikle Güneş'e yaklaştıkça içlerindeki buzun ısınıp süblimleşmesiyle parlaklaşıyor. Yıldızın enerjisi bu gazı Güneş'ten uzağa doğru uzanan bir kuyruk haline getiriyor. Cismin Güneş'e bakan en sıcak tarafındaysa, yıldıza doğru eğimli gaz ve toz püskürmeleri meydana gelebiliyor.

Hubble'ın yeni görüntüsünde bu olguların ikisi de belli belirsiz görülebiliyor.

zxscdfrg
Juice aracı, 3I/ATLAS'ın iki kuyruğunu gözler önüne serdi (ESA)

NASA'nın yanı sıra ESA da Jüpiter'e doğru yol alan Juice aracının çektiği 3I/ATLAS görüntüsünü yayımladı.

Nisan 2023'te fırlatılan Juice, Jüpiter'in en büyük üç uydusu Ganymede, Calliston ve Europa'da yaşam belirtileri arayacak. 

2031'de hedefine ulaşması beklenen araç 2 Kasım'da Hubble'a kıyasla daha yakın bir mesafeden 3I/ATLAS'ın görüntüsünü yakaladı. 

Aslında Juice'un, kuyrukluyıldızın 66 milyon kilometre uzağından edindiği veriler Şubat 2026'dan önce bilim insanlarının eline geçmeyecek.

Ancak araştırmacılar yıldızlararası cisim hakkında daha fazla bilgi edinmek için verinin bir kısmını indirdi.

Yeni yayımlanan görüntüde, kuyrukluyıldızı çevreleyen komanın yanı sıra iki kuyruk seçiliyor: plazma kuyruğu ve toz kuyruğu.

ESA'dan yapılan açıklamada "Kuyrukluyıldızın koma diye bilinen, parlayan gaz halesini açıkça görmekle kalmıyor, aynı zamanda iki kuyruğa dair işaretler de görüyoruz" ifadeleri kullanılıyor: 

Kuyrukluyıldızın elektrik yüklü gazdan oluşan 'plazma kuyruğu' karenin tepesine doğru uzanıyor. Ayrıca çerçevenin sol alt kısmına doğru uzanan, küçük katı parçacıklardan oluşan daha soluk bir 'toz kuyruğu'nu da görebiliyoruz.

Güneş Sistemi'nde ortaya çıkan kuyrukluyıldızlar genellikle komanın yanı sıra bu iki kuyruğa da sahip oluyor. 

Bilim insanları şubat sonlarında daha fazla verinin gelmesiyle 3I/ATLAS hakkında daha net bilgiler edinmeyi umuyor.

Ayrıca Dünya'ya yaklaşan cisim, pek çok aracın yanı sıra James Webb Uzay Teleskobu tarafından da görüntülenecek. 

3I/ATLAS'ın, 19 Aralık'ta 270 milyon kilometre uzaklığa gelerek Dünya'ya en yakın mesafesine ulaşması bekleniyor.

Independent Türkçe, Live Science, CNN, ESA