Elon Musk, OpenAI'ın tehlikeli bir buluş yaptığından endişeli

Microsoft, yapay zeka şirketinin yönetim kuruluna "gözlemci üye" sokuyor

Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
TT

Elon Musk, OpenAI'ın tehlikeli bir buluş yaptığından endişeli

Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)

Tesla ve SpaceX CEO'su Elon Musk, OpenAI'da yaşanan krizle ilgili endişelerini yeniden dile getirdi.

Milyarder, yapay zeka firmasının "tehlikeli bir icat" yapmış olmasından şüpheleniyor.

Dünyanın önde gelen yapay zeka şirketlerinden OpenAI'ın kurucu ortağı Sam Altman'ın yönetim kurulu tarafından kovulmasıyla başlayan kaos, 5 gün sonra iş insanının CEO olarak görevine yeniden dönmesiyle durulmuş gibi görünüyor.

Ancak Altman'ın neden kovulduğuyla ilgili soru işaretleri halen mevcut. Bu konuda çeşitli teorilerini dile getiren Musk ise içeriden bir bilgi edinemediğini savunuyor.

Bu 5 günlük kaosun kendisini endişelendirdiğini dile getiren Musk, çarşamba günü New York Times'ın 2023 DealBook Zirvesi'nde yaptığı açıklamada Yüzüklerin Efendisi (The Lord of the Rings) serisine atıf yaptı:

Sam'e dair karışık hislerim var. Güç yüzüğü onu yozlaştırabilir.

Musk ayrıca, OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever'ın neden Altman'a savaş açtığıyla ilgili soru işaretlerini dile getirdi:

Bu ciddi bir şey gibi görünüyor. Önemsiz olduğunu düşünmüyorum ve yapay zekanın bazı tehlikeli unsurlarını keşfetmiş olabileceklerinden endişeliyim.

Sutskever, başlangıçta Altman'ın görevden alınması yönünde oy kullanan yönetim kurulu üyelerinden biriydi. Ancak daha sonra bu konuda geri adım atmış ve pişman olduğunu söylemişti.

Öte yandan Musk, Sutskever'ın "güçlü bir ahlaki pusulaya" sahip olduğuna inanıyor. "Neyin doğru olduğunu düşünürken gerçekten ter döküyor" diyen milyarder, şöyle ekledi:

Eğer Ilya, Sam'i kovmayı isteyecek kadar güçlü hisler beslediyse dünyanın bu gerekçeyi öğrenmeye hakkı var.

Yapay zekanın risklerine dikkat çeken ve fikre mesafeli yaklaşanların "felaket tellalları" diye nitelendirdiği isimler arasında Musk da var.

Milyarder, Altman'ın kovulmasıyla ilgili önceki bir paylaşımında, "Ilya bu kararı verdiyse muhakkak önemli bir nedeni vardır" demişti. Musk ayrıca, ChatGPT benzeri programların geliştirilmesini güvenlik önlemlerinin alınabilmesi için 6 aylığına duraklatmayı talep eden bir mektubun da imzacısıydı.

Sürecin kazananı: Microsoft

Diğer yandan milyarder, OpenAI'ın giderek Microsoft himayesine geçtiğini de savunuyor.

Microsoft, 13 milyar dolarla yapay zeka firmasının en büyük yatırımcısı konumunda. Öte yandan şirketin Altman'ın kovulmasından son dakikada haberi olmuştu. Bu da yönetim kuruluyla yatırımcı arasındaki gerilimi süreç boyunca besledi ve Altman'ın "Microsoft'un adamı" olarak görülmesine sebebiyet verdi.

Teknoloji devi, Altman kovulduğunda en güçlü müttefiklerinden birini kaybetmemek için şirket üzerinde baskı kurmak üzere harekete geçmişti. Microsoft'un CEO'su Satya Nadella, Altman ve ekibine iş teklif etmişti.

Microsoft, yönetim kurulunda gözlemci üyesiyle yer aldı

Teknoloji devinden çarşamba günü yapılan açıklamada Microsoft'un OpenAI'a oy hakkı olmayan bir yönetim kurulu üyesi soktuğu bildirildi.

Öte yandan Microsoft yetkilileri, yapay zeka şirketinin yönetim kurulu toplantılarına katılacak kişinin kimliğini açıklamayı reddediyor.

Altman'ın dönüşüyle birlikte Salesforce'un eski CEO'su Bret Taylor, eski Hazine Bakanı Larry Summers ve Quora CEO'su Adam D'Angelo'nun da aralarında yer aldığı bir yönetim kurulunun oluşturulacağı öğrenilmişti.

2021'den beri OpenAI yönetim kurulu üyesi olan Helen Toner da dün görevinden istifa etti. Toner, X'te (eski adıyla Twitter) paylaştığı gönderide şunları yazdı:

Açık konuşmak gerekirse kararımız, yönetim kurulunun şirketi etkin biçimde denetleme yeteneğiyle ilgiliydi. Bu bizim rolümüz ve sorumluluğumuzdu. Her ne kadar spekülasyonlar olsa da OpenAI'ın çalışmasını yavaşlatma isteği duymadık.

Altman ise yine X'teki bir gönderisinde şunları yazdı:

Şirketin ve misyonun çıkarları her zaman önce gelir. Yönetim kurulu üyeleriyle aramda gerçek yanlış anlamalar olduğu açık. Benim açımdan, bu deneyimden bir şeyler öğrenmek ve şirket olarak ilerlerken bu öğrendiklerimizi uygulamak son derece önemli.

Independent Türkçe



Google'dan botlara karşı yeni hamle: Kullanıcılar kameraya el sallayacak

Fotoğraf: Unsplash
Fotoğraf: Unsplash
TT

Google'dan botlara karşı yeni hamle: Kullanıcılar kameraya el sallayacak

Fotoğraf: Unsplash
Fotoğraf: Unsplash

Google, kullanıcıların gerçek olduklarını doğrulaması için bilgisayarlarına el sallamasını isteyecek.

Bu test, internet sitesi sahipleriyle sitelere erişmeye çalışan otomatik botlar arasında süregelen mücadelenin son halkası.

Birçok internet sitesi sahibi, sitelerini ziyaret edenlerin gerçek insanlar olup olmadığını kontrol etmek için CAPTCHA gibi sistemler kullanıyor. Buradaki amaç, internet sitesine erişip saldırı amacıyla trafiği tıkamaya çalışan, çevrimiçi sistemlere otomatik kaydolan veya başka saldırılar düzenleyen botlarla gerçek kişileri ayırt etmek.

Ancak botlar giderek daha gelişmiş hale geldikçe, bu sistemlerin otomatik kullanıcıları gerçek kişilerden ayırması zorlaşıyor. Kullanıcılardan harf ve rakamları tanımlamasını isteyen CAPTCHA'nın eski sürümleri gibi geleneksel sistemler artık eskisi kadar güvenilir değil.

Buna karşılık Google ve diğer şirketler bir dizi güncelleme yayımlıyor. Bunlar arasında nesneleri tanımlama veya ekrandaki şekilleri belirli yerlere sürükleme gibi yöntemler yer alıyor.

Google, bu teknolojideki en son gelişmeyi açıkladı: Gerçek kişi olduklarından emin olmak için kullanıcılardan bilgisayarlarına el sallamaları istenecek. Ayrıntılar, Google'ın internet sitesindeki bir yardım sayfasında paylaşıldı.

Google, yeni sistemin kullanıcının kamerasından görüntü alarak onlardan çeşitli "hareketler veya jestler" yapmasını istediğini belirtiyor. Kullanıcılar hareket ederken Google, ellerinin çeşitli kısımlarını izleyerek bunların gerçek (veya örneğin yapay zeka destekli bir video) olup olmadığını kontrol ediyor.

Google, kullanıcıların el hareketi özelliklerini etkinleştirmesi ve kameralarına açık erişim izni vermesi gerektiğini, bu iznin daha sonra geri alınabileceğini vurguluyor. Videolar belirli bir kullanıcıyla ilişkilendirilmiyor ve doğrulandıktan sonra siliniyor.

Google şu ifadeleri kullanıyor:

Erişilebilirlik ihtiyacı olan ve el hareketleriyle testi tamamlayamayan kullanıcılar için reCAPTCHA, görsel ve sesli testler sunmaya devam ederken, daha erişilebilir ve güvenli alternatifler geliştiriyor.

Independent Türkçe


Çin'den sırt çantasına sığan drone karşıtı lazer

25 Nisan 2019'da Washington DC'deki Pentagon'da lazerle düşürülen drone (AFP)
25 Nisan 2019'da Washington DC'deki Pentagon'da lazerle düşürülen drone (AFP)
TT

Çin'den sırt çantasına sığan drone karşıtı lazer

25 Nisan 2019'da Washington DC'deki Pentagon'da lazerle düşürülen drone (AFP)
25 Nisan 2019'da Washington DC'deki Pentagon'da lazerle düşürülen drone (AFP)

Çinli bir savunma tedarikçisi, gökyüzündeki drone'ları vurabilen taşınabilir bir lazer silahı tanıttı.

South China Morning Post'un haberine göre, Harbin Xinguang Optik-Elektronik Teknoloji şirketi, geçen hafta Pekin'deki silah fuarında sırt çantasında taşınabilen bu teknolojiyi sergiledi.

Yüksek güçlü lazerler, geleneksel mühimmatlara göre daha verimli ve atış başına çok daha düşük maliyetli olduklarından, silahlandırılmış drone'lara karşı savunmada giderek daha fazla kullanılıyor.

Yüksek enerji ve soğutma gereksinimleri bugüne kadar drone karşıtı lazerlerin tek bir kişi tarafından taşınamayacak kadar hantal olmasına yol açıyordu.

Yeni taşınabilir Lijian (keskin kılıçlar) modelleri, hedefleri belirlemek için yapay zeka kullanıyor ve bazı Çin askeri tesislerinde halihazırda konuşlandırılmış durumda.

Her biri yaklaşık 25 kilogram ağırlığında ve yaklaşık 500 metre menzile sahip; bu da sabit konuşlu modellerin menzilinin yaklaşık yarısı kadar.

Sınırlı menzillerine rağmen bir drone'u sadece 4 saniyede imha edebiliyorlar ve tekrar ateşlenmeden önce soğumaları 5 saniyeden az sürüyor.

Harbin Xinguang Optik-Elektronik Teknolojisi, SCMP'ye yaptığı açıklamada, bu silahların "daha kolay çalıştırılabildiğini ve hızla konuşlandırılıp toplanabildiğini" belirtti.

cvfghy

Martta ABD ordusu, Louisiana'daki bir ABD Hava Kuvvetleri üssü üzerinde çok sayıda "tanımlanamayan drone" olduğunu bildirmiş ve bu da drone karşıtı lazer sistemlerinin konuşlandırılması tartışmalarına yol açmıştı.

Birleşik Krallık, drone saldırılarına karşı daha iyi korunmak için gelecek yıl 4 savaş gemisine DragonFire lazer silahını yerleştirmeyi planladığını duyurdu.

Bu savunma taktiği, 2022'deki Rusya istilasının ardından Ukrayna'da giderek daha popüler hale geldi ve drone'lar, lazerler ve kara robotlarının geliştirilmesi modern savaşı tamamen yeniden şekillendirdi.

Yarbay Jahara Matisek, eylülde The Independent'a, "Lazerler ve mikrodalgalar, drone'ları düşük maliyetle etkisiz hale getirmeyi mümkün kılıyor, elektrik savaşının drone'ları engellemesinden bahsetmeye gerek bile yok" demişti.

[Lazer silahları] ışık hızında hassasiyet ve çok yüksek atış kapasitesi sunuyor ancak sis, yağmur veya dumanda zorlanıyor veciddi enerji ve soğutma altyapısı gerektiriyor.

Independent Türkçe


Anthropic, iki yapay zekâ modeline yabancıların erişimini askıya aldı

New York'ta bir bilgisayar ekranında Anthropic web sitesinden sayfalar ve şirket logosu gösteriliyor (AP)
New York'ta bir bilgisayar ekranında Anthropic web sitesinden sayfalar ve şirket logosu gösteriliyor (AP)
TT

Anthropic, iki yapay zekâ modeline yabancıların erişimini askıya aldı

New York'ta bir bilgisayar ekranında Anthropic web sitesinden sayfalar ve şirket logosu gösteriliyor (AP)
New York'ta bir bilgisayar ekranında Anthropic web sitesinden sayfalar ve şirket logosu gösteriliyor (AP)

Yapay zekâ şirketi Anthropic, ABD hükümetinin ulusal güvenlik gerekçesiyle çıkardığı bir karara uyarak, elindeki en güçlü iki yapay zekâ modeline erişimi askıya aldığını duyurdu.

"Fable 5" modelinin resmi olarak piyasaya sürülmesinden sadece üç gün sonra şirket tarafından yayımlanan blog yazısında; Anthropic bünyesinde çalışanlar da dahil olmak üzere bütün yabancı uyrukluların "Fable 5" ve "Mythos 5" modellerine erişiminin, ulusal güvenlik endişeleri nedeniyle hükümet talimatıyla yasaklandığı belirtildi.

Şirket açıklamada, "Bu kararın fiili sonucu, alınan karara tam uyum sağlamak adına tüm müşterilerimiz için Fable 5 ve Mythos 5 modellerini durdurmak zorunda kalmamızdır" ifadelerine yer verdi.

ABD Başkanı Donald Trump, geçtiğimiz hafta siber güvenlik başlığı altında en gelişmiş yapay zekâ modelleri üzerinde hükümet denetimine izin veren bir başkanlık kararnamesi imzalamıştı. Ancak söz konusu kararname, bu denetimin yalnızca "gönüllülük esasına göre" yürütüleceğini öngörüyordu.

Şarku’l Avsat’ın aldığı bilgiye göre Anthropic, yapay zekâ sektöründe etiği ve güvenliği çalışmalarının merkezine koyan bir laboratuvar olarak edindiği imajla tanınıyor.