Elon Musk, OpenAI'ın tehlikeli bir buluş yaptığından endişeli

Microsoft, yapay zeka şirketinin yönetim kuruluna "gözlemci üye" sokuyor

Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
TT

Elon Musk, OpenAI'ın tehlikeli bir buluş yaptığından endişeli

Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)
Musk, OpenAI'ın geliştirdiği ChatGPT'ye karşı kendi yapay zeka botu Grok'u duyurmuştu (Reuters)

Tesla ve SpaceX CEO'su Elon Musk, OpenAI'da yaşanan krizle ilgili endişelerini yeniden dile getirdi.

Milyarder, yapay zeka firmasının "tehlikeli bir icat" yapmış olmasından şüpheleniyor.

Dünyanın önde gelen yapay zeka şirketlerinden OpenAI'ın kurucu ortağı Sam Altman'ın yönetim kurulu tarafından kovulmasıyla başlayan kaos, 5 gün sonra iş insanının CEO olarak görevine yeniden dönmesiyle durulmuş gibi görünüyor.

Ancak Altman'ın neden kovulduğuyla ilgili soru işaretleri halen mevcut. Bu konuda çeşitli teorilerini dile getiren Musk ise içeriden bir bilgi edinemediğini savunuyor.

Bu 5 günlük kaosun kendisini endişelendirdiğini dile getiren Musk, çarşamba günü New York Times'ın 2023 DealBook Zirvesi'nde yaptığı açıklamada Yüzüklerin Efendisi (The Lord of the Rings) serisine atıf yaptı:

Sam'e dair karışık hislerim var. Güç yüzüğü onu yozlaştırabilir.

Musk ayrıca, OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever'ın neden Altman'a savaş açtığıyla ilgili soru işaretlerini dile getirdi:

Bu ciddi bir şey gibi görünüyor. Önemsiz olduğunu düşünmüyorum ve yapay zekanın bazı tehlikeli unsurlarını keşfetmiş olabileceklerinden endişeliyim.

Sutskever, başlangıçta Altman'ın görevden alınması yönünde oy kullanan yönetim kurulu üyelerinden biriydi. Ancak daha sonra bu konuda geri adım atmış ve pişman olduğunu söylemişti.

Öte yandan Musk, Sutskever'ın "güçlü bir ahlaki pusulaya" sahip olduğuna inanıyor. "Neyin doğru olduğunu düşünürken gerçekten ter döküyor" diyen milyarder, şöyle ekledi:

Eğer Ilya, Sam'i kovmayı isteyecek kadar güçlü hisler beslediyse dünyanın bu gerekçeyi öğrenmeye hakkı var.

Yapay zekanın risklerine dikkat çeken ve fikre mesafeli yaklaşanların "felaket tellalları" diye nitelendirdiği isimler arasında Musk da var.

Milyarder, Altman'ın kovulmasıyla ilgili önceki bir paylaşımında, "Ilya bu kararı verdiyse muhakkak önemli bir nedeni vardır" demişti. Musk ayrıca, ChatGPT benzeri programların geliştirilmesini güvenlik önlemlerinin alınabilmesi için 6 aylığına duraklatmayı talep eden bir mektubun da imzacısıydı.

Sürecin kazananı: Microsoft

Diğer yandan milyarder, OpenAI'ın giderek Microsoft himayesine geçtiğini de savunuyor.

Microsoft, 13 milyar dolarla yapay zeka firmasının en büyük yatırımcısı konumunda. Öte yandan şirketin Altman'ın kovulmasından son dakikada haberi olmuştu. Bu da yönetim kuruluyla yatırımcı arasındaki gerilimi süreç boyunca besledi ve Altman'ın "Microsoft'un adamı" olarak görülmesine sebebiyet verdi.

Teknoloji devi, Altman kovulduğunda en güçlü müttefiklerinden birini kaybetmemek için şirket üzerinde baskı kurmak üzere harekete geçmişti. Microsoft'un CEO'su Satya Nadella, Altman ve ekibine iş teklif etmişti.

Microsoft, yönetim kurulunda gözlemci üyesiyle yer aldı

Teknoloji devinden çarşamba günü yapılan açıklamada Microsoft'un OpenAI'a oy hakkı olmayan bir yönetim kurulu üyesi soktuğu bildirildi.

Öte yandan Microsoft yetkilileri, yapay zeka şirketinin yönetim kurulu toplantılarına katılacak kişinin kimliğini açıklamayı reddediyor.

Altman'ın dönüşüyle birlikte Salesforce'un eski CEO'su Bret Taylor, eski Hazine Bakanı Larry Summers ve Quora CEO'su Adam D'Angelo'nun da aralarında yer aldığı bir yönetim kurulunun oluşturulacağı öğrenilmişti.

2021'den beri OpenAI yönetim kurulu üyesi olan Helen Toner da dün görevinden istifa etti. Toner, X'te (eski adıyla Twitter) paylaştığı gönderide şunları yazdı:

Açık konuşmak gerekirse kararımız, yönetim kurulunun şirketi etkin biçimde denetleme yeteneğiyle ilgiliydi. Bu bizim rolümüz ve sorumluluğumuzdu. Her ne kadar spekülasyonlar olsa da OpenAI'ın çalışmasını yavaşlatma isteği duymadık.

Altman ise yine X'teki bir gönderisinde şunları yazdı:

Şirketin ve misyonun çıkarları her zaman önce gelir. Yönetim kurulu üyeleriyle aramda gerçek yanlış anlamalar olduğu açık. Benim açımdan, bu deneyimden bir şeyler öğrenmek ve şirket olarak ilerlerken bu öğrendiklerimizi uygulamak son derece önemli.

Independent Türkçe



OpenAI ve Google "kara listedeki" Çinli devlerle iş yapıyor

Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)
Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)
TT

OpenAI ve Google "kara listedeki" Çinli devlerle iş yapıyor

Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)
Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)

OpenAI ve Google'ın, Pentagon'un kara listesindeki Çinli teknoloji devlerine gelişmiş yapay zeka modelleri sattığı ortaya çıktı.

Financial Times (FT), irtibata geçtiği OpenAI ve Google'ın, ABD tarafından Çin ordusuyla işbirliği yapmakla suçlanan Alibaba, Baidu ve Tencent'in Singapur merkezli iştiraklerine yapay zeka hizmetleri sağladıklarını doğruladığını aktarıyor.

OpenAI'dan bir yetkili, modellerin yasadışı şekilde kullanılması endişesiyle geçen ay Alibaba'yla bağlantılı geliştiricilerin yapay zeka modellerine uzaktan erişimini askıya aldıklarını belirtiyor.

Google da yapay zeka hizmetlerinin kullanım şartlarına tabi olmak kaydıyla Hong Kong ve Singapur'da erişime açık olduğunu bildirdi.

Haberde, ABD'li firmaların yapay zeka hizmetlerini bu şirketlere satmasının yasadışı olmadığı vurgulanıyor.

ABD Savunma Bakanlığı (Pentagon), bazı Çinli firmaları Çin Halk Kurtuluş Ordusu'yla (ÇHKO) bağlantılı oldukları gerekçesiyle kara listeye alıyor. Apple'ın da bu listedeki Çinli çip üreticileri CXMT ve YMTC'yle iş yapmanın yollarını aradığı aktarılmıştı.

Diğer yandan ABD ulusal güvenliğini tehdit edebilecek şirketlerin yer aldığı "1260H" diye bilinen bu listenin herhangi bir hukuki bağlayıcılığı yok.

Buna rağmen bazı kesimler Beyaz Saray'ın, Pekin'le yarı iletken ticaretine uyguladığına benzer sınırlamaları yapay zeka modelleri için de devreye sokmasını istiyor.

ABD'li düşünce kuruluşu Dış İlişkiler Konseyi'nden teknoloji ve güvenlik uzmanı Chris McGuire şu yorumu yapıyor:

Trump yönetimi sürekli yapay zeka alanında Çin'i geride bırakmamız gerektiğini söylüyor. Ancak sorun şu ki Çin'i yavaşlatmak için elimizdeki asıl araç olan ihracat kontrolü hakkında hiçbir adım atmadılar.

ChatGPT'nin yaratıcısı OpenAI, modellerine Çin'den erişilmesine izin verilmediğini bildiriyor. Ancak Çin sermayeli veya genel merkezi Çin'de yer alan bazı şirketlerin belirli koruma önlemleri dahilinde yapay zeka hizmetlerini kullanabildiğini aktarıyor.

Pentagon'la yaşadığı anlaşmazlıkla gündem olan Anthropic'in, Alibaba'yı yapay zeka modelinin yeteneklerini yasadışı şekilde kopyalamakla suçlaması da dikkat çekmişti.

ABD'li teknoloji devinden geçen ay yapılan açıklamada, Anthropic'in Claude modeline erişim için Alibaba'nın 25 bin sahte hesap oluşturduğu öne sürülmüştü.

Alibaba da çalışanlarının Claude'u kullanmasını yasaklamış, bu modeli "yüksek riskli yazılım" listesine almıştı.

Independent Türkçe, Financial Times, CNBC, China Daily


Liseli Japon, ChatGPT destekli siber saldırıyla 46 bin hesabı birden sildi

ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)
ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)
TT

Liseli Japon, ChatGPT destekli siber saldırıyla 46 bin hesabı birden sildi

ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)
ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)

Japonya'da 15 yaşındaki bir erkek çocuk, yapay zeka kullanarak bir anime yayın platformundaki onbinlerce hesabı zorla silen bir program geliştirdiği gerekçesiyle gözaltına alındı.

Polis, olayı bir ay boyunca hizmet kesintisine neden olan kasıtlı ve süregelen bir siber saldırı diye niteledi.

Tokyo yakınlarındaki Tokorozawa'da yaşayan lise öğrencisi, Japonya'nın en büyük oyuncak üreticisi Bandai Namco Holdings'in alt şirketi Bandai Namco Filmworks'ün sunucularına 4 Kasım 2025'te sahte komutlar göndererek hile yoluyla iş faaliyetlerini engellemekle suçlandı.

Tokyo Metropoliten Polis Teşkilatı saldırının, şirketin Bandai Channel yayın platformundaki 46 bin 812 hesabın kullanıcıların bilgisi veya rızası olmadan topluca silinmesine yol açtığını belirtti.

İddiaları kabul eden öğrenci, ilk kaynak kodunu kendisinin yazdığını ve daha sonra bunu iyileştirip tamamlamak için ChatGPT'ye başvurduğunu dedektiflere söyledi.

Asahi Shimbun'a göre öğrenci, dedektiflere, "Kayıt silme işlemi için kaynak kodunu kendim oluşturdum. İşlem uzun sürdüğü için ChatGPT'ye danıştım ve farklı bir programlama dilinde tamamladım" dedi.

Şirkete karşı herhangi bir kin beslemediğini söyleyen öğrenci, sadece giriş yapabileceği çok sayıda hesap olması nedeniyle onları hedef aldığını açıkladı.

Bandai Namco Filmworks önlemler alarak erişimini engelledikten sonra bile öğrencinin, IP adresini 30 kez değiştirerek sahte komutlar göndermeyi sürdürdüğü iddia ediliyor.

Şirket, hizmetlerini bir aydan uzun süre askıya almak ve etkilenen üyelere para iadesi yapmak zorunda kaldı.

Ertesi ay Bandai Namco Filmworks, yaklaşık 1,36 milyon hesabın e-posta adresleri, hesap bakiyeleri ve ödeme yöntemleri gibi kişisel bilgilerinin sızdırılmış olabileceğini duyurdu.

Şirket, verilerin internette yayımlanması gibi ikincil bir zararın doğrulanmadığını ifade etti.

Japon basınına göre şirket, "Bu durumu çok ciddiye alıyoruz ve düzenli kontroller yapmaya devam ederek böyle bir olayın tekrarlanmasını önlemek için çaba göstereceğiz" dedi.

İlkokuldayken kendi kendine kod yazmayı öğrenen öğrenci, dedektiflere ağ iletişimini analiz etmekten keyif aldığını söyledi.

Haziranda başka bir üyenin hesabını kullanarak yayın platformuna giriş yaptığı şüphesiyle gözaltına alınmasının ardından dedektifler daha geniş çaplı saldırıyı ortaya çıkardı.

Metropoliten Polis Teşkilatı'ndan üst düzey bir dedektif, gözaltı kararının ardından bir uyarı yayımladı.

Dedektif, "Siber uzay son derece anonim bir ortam ve insanlar kolayca suç işlemeye yönelebilir ancak bu eylemler ciddi sonuçlara yol açabilir" dedi.

Japonya'daki bir siber saldırıda üretken yapay zekanın araç olarak kullanıldığı ilk vakalardan biri olan bu olay, bu tür teknolojinin çevrimiçi suç faaliyetlerindeki engelleri ne kadar kolay aşabileceğine dair yeni soruları gündeme getiriyor.

Independent Türkçe


"Uzaylı bulduğunu" sanan yapay zeka nasıl kolayca kandırıldı?

Yapay zekanın yaşam işaretlerini yanlış yorumlaması, sunduğu verilerin insan kontrolünden geçmesi gerektiğini vurguluyor (Unsplash)
Yapay zekanın yaşam işaretlerini yanlış yorumlaması, sunduğu verilerin insan kontrolünden geçmesi gerektiğini vurguluyor (Unsplash)
TT

"Uzaylı bulduğunu" sanan yapay zeka nasıl kolayca kandırıldı?

Yapay zekanın yaşam işaretlerini yanlış yorumlaması, sunduğu verilerin insan kontrolünden geçmesi gerektiğini vurguluyor (Unsplash)
Yapay zekanın yaşam işaretlerini yanlış yorumlaması, sunduğu verilerin insan kontrolünden geçmesi gerektiğini vurguluyor (Unsplash)

Yapay zekanın eğitim sürecinde başarılı olsa bile cansız yapıları çok yüksek oranda uzaylı yaşam formu sanabildiği tespit edildi.

Nöral ağlardan oluşan yapay zeka modelleri, tekrarlayan örüntüleri tespit etmede başarılı olduğu için genetik ve uzay çalışmaları gibi alanlarda sıkça kullanılıyor.

Dünya çapındaki gökbilimciler de başka gezegenlerdeki yaşam arayışlarında bu teknolojinin muazzam miktarda veriyi işleyerek çalışmalarını kolaylaştırmasını umuyor.

Yaşamın varlığını kesin olarak doğrulayan tek bir biyoimza yok ancak gökbilimciler, yaşamın bilgiyi kodlaması gerektiğini söylüyor. Kendilerini kopyalayabilen DNA gibi zincir benzeri moleküller buna örnek verilebilir.

Michigan Eyalet Üniversitesi'nden Ankit Gupta ve Christoph Adami, yapay zekanın bu yaşam işaretlerini ne kadar iyi saptayabildiğini anlamak için sanal ortamda bir çalışma yürüttü.

Araştırmacılar Avida isimli bir program kullanarak bilgisayar koduyla yazılmış dijital organizmalar üretti. Bu dijital canlılar, sanal ortamda tekrar tekrar kendilerini kopyalıyor.

Bilim insanları her kopyalama işleminin kusurlu olduğunu ve tıpkı gerçek organizmaların genetik kodunun üreme sırasında mutasyona uğraması gibi, bilgisayar kodlarının da değiştiğini belirtiyor.

Adami, bu tür dijital yaşam formlarının evrim araştırmalarında onlarca yıldır kullanıldığını söylüyor.

Çalışma kapsamında, kendilerini kopyalama bilgisine sahip olan ve olmayan onbinlerce dijital organizma üreten ekip, bir yapay zeka modelini bunlarla eğitti. Eğitim süresince yapay zeka hangi organizmaların "canlı" olup olmadığını yüzde 99,97 oranında doğru tespit etti.

Ancak model, daha önce görmediği organizmalarla test edilince pek iyi bir performans sergilemedi.

Bulguları Kanada'da düzenlenen 2026 Yapay Yaşam Konferansı'nda sunulan çalışmada ekip ilk olarak yapay zekaya dijital cansız yapıları sundu ve model bunun cansız olduğunu saptadı.

Ancak araştırmacılar daha sonra organizmanın bilgisayar kodunu yavaş yavaş değiştirdi.Sadece 150 değişikliğin ardından organizma artık kendini kopyalayama niteliğini kaybetse bile yapay zeka modeli onu canlı sanmaya devam etti.

Gupta, "Hangi komut dizisiyle başlarsak başlayalım, yapay zekayı yüzde 100 oranında kandırmayı başardık" diyor.

Bu tür hatalı tahminler, başka gezegenlerde yaşam bulunduğunun sanılıp daha sonra yapay zekanın yanıldığının ortaya çıkmasına yol açabilir. Ayrıca yapay zeka sağlık gibi çeşitli alanlarda da kullanıldığı için bu sorunun daha geniş çaplı yansımaları olabilir. 

Çalışma, eğitim sürecinin başarılı geçmesinin bile bu modellere güvenmek için yeterli olmayacağını gösteriyor.

Araştırmacılar bu nedenle verilerin sürekli insanlar tarafından kontrol edilmesi gerektiğini belirtiyor.

Yapay zekanın örüntüleri yanlış sınıflandırmak gibi bir "zayıf noktası" olduğuna dikkat çeken Adami şöyle diyor:

Karar sürecinde mutlaka bir insan yer almalı.

Araştırmacılar bundan sonraki çalışmalarında yapay zekayı dijital yerine gerçek yaşam verisiyle test etmeyi planlıyor.

Independent Türkçe, Phys.org, IFLScience