Elon Musk, OpenAI'ın tehlikeli bir buluş yaptığından endişeli

Microsoft, yapay zeka şirketinin yönetim kuruluna "gözlemci üye" sokuyor

Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
TT

Elon Musk, OpenAI'ın tehlikeli bir buluş yaptığından endişeli

Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)

Tesla ve SpaceX CEO'su Elon Musk, OpenAI'da yaşanan krizle ilgili endişelerini yeniden dile getirdi.

Milyarder, yapay zeka firmasının "tehlikeli bir icat" yapmış olmasından şüpheleniyor.

Dünyanın önde gelen yapay zeka şirketlerinden OpenAI'ın kurucu ortağı Sam Altman'ın yönetim kurulu tarafından kovulmasıyla başlayan kaos, 5 gün sonra iş insanının CEO olarak görevine yeniden dönmesiyle durulmuş gibi görünüyor.

Ancak Altman'ın neden kovulduğuyla ilgili soru işaretleri halen mevcut. Bu konuda çeşitli teorilerini dile getiren Musk ise içeriden bir bilgi edinemediğini savunuyor.

Bu 5 günlük kaosun kendisini endişelendirdiğini dile getiren Musk, çarşamba günü New York Times'ın 2023 DealBook Zirvesi'nde yaptığı açıklamada Yüzüklerin Efendisi (The Lord of the Rings) serisine atıf yaptı:

Sam'e dair karışık hislerim var. Güç yüzüğü onu yozlaştırabilir.

Musk ayrıca, OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever'ın neden Altman'a savaş açtığıyla ilgili soru işaretlerini dile getirdi:

Bu ciddi bir şey gibi görünüyor. Önemsiz olduğunu düşünmüyorum ve yapay zekanın bazı tehlikeli unsurlarını keşfetmiş olabileceklerinden endişeliyim.

Sutskever, başlangıçta Altman'ın görevden alınması yönünde oy kullanan yönetim kurulu üyelerinden biriydi. Ancak daha sonra bu konuda geri adım atmış ve pişman olduğunu söylemişti.

Öte yandan Musk, Sutskever'ın "güçlü bir ahlaki pusulaya" sahip olduğuna inanıyor. "Neyin doğru olduğunu düşünürken gerçekten ter döküyor" diyen milyarder, şöyle ekledi:

Eğer Ilya, Sam'i kovmayı isteyecek kadar güçlü hisler beslediyse dünyanın bu gerekçeyi öğrenmeye hakkı var.

Yapay zekanın risklerine dikkat çeken ve fikre mesafeli yaklaşanların "felaket tellalları" diye nitelendirdiği isimler arasında Musk da var.

Milyarder, Altman'ın kovulmasıyla ilgili önceki bir paylaşımında, "Ilya bu kararı verdiyse muhakkak önemli bir nedeni vardır" demişti. Musk ayrıca, ChatGPT benzeri programların geliştirilmesini güvenlik önlemlerinin alınabilmesi için 6 aylığına duraklatmayı talep eden bir mektubun da imzacısıydı.

Sürecin kazananı: Microsoft

Diğer yandan milyarder, OpenAI'ın giderek Microsoft himayesine geçtiğini de savunuyor.

Microsoft, 13 milyar dolarla yapay zeka firmasının en büyük yatırımcısı konumunda. Öte yandan şirketin Altman'ın kovulmasından son dakikada haberi olmuştu. Bu da yönetim kuruluyla yatırımcı arasındaki gerilimi süreç boyunca besledi ve Altman'ın "Microsoft'un adamı" olarak görülmesine sebebiyet verdi.

Teknoloji devi, Altman kovulduğunda en güçlü müttefiklerinden birini kaybetmemek için şirket üzerinde baskı kurmak üzere harekete geçmişti. Microsoft'un CEO'su Satya Nadella, Altman ve ekibine iş teklif etmişti.

Microsoft, yönetim kurulunda gözlemci üyesiyle yer aldı

Teknoloji devinden çarşamba günü yapılan açıklamada Microsoft'un OpenAI'a oy hakkı olmayan bir yönetim kurulu üyesi soktuğu bildirildi.

Öte yandan Microsoft yetkilileri, yapay zeka şirketinin yönetim kurulu toplantılarına katılacak kişinin kimliğini açıklamayı reddediyor.

Altman'ın dönüşüyle birlikte Salesforce'un eski CEO'su Bret Taylor, eski Hazine Bakanı Larry Summers ve Quora CEO'su Adam D'Angelo'nun da aralarında yer aldığı bir yönetim kurulunun oluşturulacağı öğrenilmişti.

2021'den beri OpenAI yönetim kurulu üyesi olan Helen Toner da dün görevinden istifa etti. Toner, X'te (eski adıyla Twitter) paylaştığı gönderide şunları yazdı:

Açık konuşmak gerekirse kararımız, yönetim kurulunun şirketi etkin biçimde denetleme yeteneğiyle ilgiliydi. Bu bizim rolümüz ve sorumluluğumuzdu. Her ne kadar spekülasyonlar olsa da OpenAI'ın çalışmasını yavaşlatma isteği duymadık.

Altman ise yine X'teki bir gönderisinde şunları yazdı:

Şirketin ve misyonun çıkarları her zaman önce gelir. Yönetim kurulu üyeleriyle aramda gerçek yanlış anlamalar olduğu açık. Benim açımdan, bu deneyimden bir şeyler öğrenmek ve şirket olarak ilerlerken bu öğrendiklerimizi uygulamak son derece önemli.

Independent Türkçe



Yapay zeka uygulamaları 1 milyar kullanıcıyı aştı

Fotoğraf: Unsplash
Fotoğraf: Unsplash
TT

Yapay zeka uygulamaları 1 milyar kullanıcıyı aştı

Fotoğraf: Unsplash
Fotoğraf: Unsplash

Yeni bir rapora göre ChatGPT, Claude ve Google Gemini gibi mobil yapay zeka uygulamalarının kullanıcı sayısı 1 milyarı geçti.

Bu kilometre taşına, OpenAI'ın ChatGPT'yi kullanıma açmasının üzerinden üç yıl bile  geçmeden ulaşıldı. ChatGPT, Kasım 2022'de piyasaya sürüldüğünde tarihin en hızlı büyüyen uygulaması olmuştu.

Tüketici bilgi firması Meltwater ve kreatif ajans We Are Social tarafından hazırlanan Digital 2026 raporunda, "Yapay zeka, erken benimseyenlerden kitlesel pazara yayılarak 'kritik eşiği geçiyor' dendi.

700 sayfalık rapor, bu eğilimin internetin geri kalanında da dalgalanma etkisi yarattığını ve geleneksel arama motorlarını kullananların sayısının artık düşüşte olduğunun altını çiziyor.

Veri analisti Simon Kemp, "Yapay zeka, kullanıcıların farklı türden soruları yanıtlamalarına ve yalnızca arama motorlarıyla yapabileceklerinden çok daha geniş bir ihtiyaç yelpazesini karşılamalarına giderek daha fazla olanak sağlıyor" dedi.

OpenAI'ın patronu Sam Altman'a göre yapay zekanın benimsenme oranları büyük ölçüde yaklaşık 800 milyon kullanıcısı olan ChatGPT sayesinde artıyor.

Bu rakam geçen yıl bu zamanlar 250 milyon civarındaydı ve Statista tarafından toplanan verilere göre 586 milyon kullanıcısı olan Elon Musk'ın X'inin önüne geçti

OpenAI, Duke Üniversitesi ve Harvard Üniversitesi'nden araştırmacılar geçen ay yayımladıkları makalede dünya yetişkin nüfusunun yaklaşık yüzde 10'unun ChatGPT kullandığını belirtmişti.

Araştırmacılar, "Yeni bir teknoloji için bu küresel yayılma hızının emsali yok" diye yazmıştı.

Pew Araştırma Merkezi'nin marşamba günü yayımladığı ayrı bir rapor, yapay zeka konusunda heyecandan çok endişe duyan kişi sayısının daha fazla olduğunu ortaya koydu.

25 ülkede 28 binden fazla kişinin görüşlerinin alındığı anket, insanların sadece yüzde 16'sının bu teknoloji konusunda endişeliden ziyade heyecanlı olduğunu ortaya koydu.

Raporun yazarları, "Yapay zekayla ilgili endişeler özellikle yetişkinlerin yaklaşık yarısının heyecandan çok endişe duyduğunu söylediği Birleşik Devletler, İtalya, Avustralya, Brezilya ve Yunanistan'da yaygın" diye yazdı.

Anket ayrıca, kişi başına düşen gayri safi yurtiçi hasılayla ölçülen bir ülkenin geliriyle yapay zeka farkındalığı arasında güçlü bir ilişki olduğunu ortaya koyuyor. Yüksek gelirli ülkelerdeki nüfus, daha az varlıklı ekonomilerdekilere kıyasla yapay zeka hakkında daha fazla bilgi sahibi olma eğiliminde.

Independent Türkçe


Starship, Teksas'tan yeni bir test uçuşuyla fırlatıldı

Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)
Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)
TT

Starship, Teksas'tan yeni bir test uçuşuyla fırlatıldı

Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)
Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)

Amerikalı milyarder Elon Musk'ın sahibi olduğu SpaceX, dün Teksas'taki Starbase'den Starship uzay aracının on birinci uçuşunu gerçekleştirdi. Bu test görevi, yeniden kullanılabilir uzay aracının uydu fırlatma ve nihayetinde insanları Ay ve Mars'a taşıma yeteneğini test etmeyi amaçlıyor.

Bir Süper Ağır itici roketin üzerine monte edilmiş Starship üst kademesinden oluşan uzay aracı, SpaceX'in Starbase'deki tesislerinden yaklaşık 23:20 GMT'de fırlatıldı. Starship üst kademesini uzaya gönderdikten sonra, Süper Ağır itici roket fırlatmadan yaklaşık 10 dakika sonra Meksika Körfezi'ne yumuşak bir iniş gerçekleştirdi.

SpaceX Başkanı Gwynne Shotwell, geçen ay Paris'te düzenlenen bir konferansta, "11. test uçuşunu başarılı kılmak için elimizden gelen her şeyi yaptık," dedi. "Ama bildiğiniz gibi, kimse ne olacağını bilmiyor, bu yüzden göreceğiz." Starship'in, 2027 yılına kadar NASA astronotlarını Ay'a indirmesi planlanıyor.

Roket, SpaceX'in mobil geniş bant internet sağlama hedefinde hayati rol oynayan daha büyük Starlink uydularının fırlatılması için büyük önem arzediyor. Bu uydular, Musk'ın Mars'a insan ve kargo gönderme vizyonunun temelini oluşturuyor.


"Arka kapı" tehlikesi: 250 dosya ChatGPT'yi zehirlemeye yetiyor

(Unsplash)
(Unsplash)
TT

"Arka kapı" tehlikesi: 250 dosya ChatGPT'yi zehirlemeye yetiyor

(Unsplash)
(Unsplash)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi yapay zeka modellerinin, eğitim verilerine yalnızca küçük bir bozulmuş veri örneği eklenerek "zehirlenebileceği" uyarısını yaptı.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü, Alan Turing Enstitüsü ve yapay zeka firması Anthropic'in ortak yürüttüğü çalışma, 250 kadar az sayıda belgenin büyük dil modellerinin (LLM'ler) anlamsız metinler üretmesine yol açan bir "arka kapı" zafiyeti oluşturabileceğini ortaya koydu.

Bu açık özellikle endişe verici çünkü en popüler LLM'ler, kişisel internet siteleri ve blog yazıları da dahil internetteki herkese açık metinlerle önceden eğitiliyor. Bu da herhangi birinin yapay zeka modelinin eğitim verilerine dahil olabilecek içerik üretmesini mümkün kılıyor.

Anthropic, konuyu detaylandıran blog yazısında "Kötü niyetli aktörler, zehirlenme diye bilinen süreçte modelin istenmeyen veya tehlikeli davranışları öğrenmesini sağlamak için bu yayınlara belirli bir metin enjekte edebilir" dedi.

Arka kapı eklemek de bu saldırı türünden. Arka kapılar, modelden normalde gizli kalacak belirli bir davranışı tetikleyen özel ifadelerdir. Örneğin bir saldırgan komut isteminde olduğu gibi rasgele bir tetikleyici ifade içerdiğinde LLM'ler hassas verileri dışarı sızdıracak şekilde zehirlenebilir.

Bulgular yapay zeka güvenliğine dair endişelere yol açarken araştırmacılar, bunun teknolojinin hassas uygulamalarda kullanılma potansiyelini sınırladığını söylüyor.

Alan Turing Enstitüsü'nden Dr. Vasilios Mavroudis ve Dr. Chris Hicks, "Sonuçlarımız şaşırtıcı ve endişe vericiydi: Bir LLM'yi zehirlemek için gereken kötü niyetli belge sayısı (yaklaşık 250), modelin veya eğitim verilerinin boyutundan bağımsız olarak neredeyse sabitti" diye yazdı.

Başka bir deyişle, veri zehirleme saldırıları daha önce sanılandan daha uygulanabilir olabilir. Bir saldırgan için örneğin 250 zehirli Wikipedia makalesi yaratmak nispeten kolay olacaktır.

Riskler, "Poisoning attacks on LLMs require a near-constant number of poison samples" (LLM'lere yönelik zehirleme saldırıları neredeyse sabit sayıda zehir örneği gerektiriyor) başlıklı, hakem kontrolünden geçmemiş makalede detaylandırıldı.

The Independent yorum için Google ve OpenAI'la iletişime geçti.

Independent Türkçe, independent.co.uk/tech