Google'ın yeni yapay zeka aracı, oyuncuların tepkisini çekti

Araştırmacılar yapay zekanın yeteneklerinin gerçek dünyada faydalı eylemler için kullanılmasını umuyor

Pexels
Pexels
TT

Google'ın yeni yapay zeka aracı, oyuncuların tepkisini çekti

Pexels
Pexels

Google'ın DeepMind laboratuvarı, oyuncularla birlikte oyun oynayabilen ve insan oyunculara benzer şekilde hareket edebilen yeni yapay zeka oyun arkadaşı SIMA'yı tanıtırken bu gelişme, çevrimiçi oyun topluluğunun geleceğine ilişkin endişeleri de beraberinde getirdi.

Scalable, Instructable, Multiworld Agent'a (Ölçeklendirilebilen, Talimat Alabilen, Çoklu Dünya Aracı) karşılık gelen SIMA, oyuncularla birlikte oyun oynayıp onların talimatlarını takip ederek video oyunlarındaki görevleri yerine getirmek üzere tasarlandı.

Video oyunlarında yaygın görülen oyuncu olmayan karakterlerden (non-playable characters/NPC) farklı olan SIMA bunun yerine, insan oyuncunun kendisine yapma talimatı verdiği her şeyi gerçekleştirmeyi sağlamak adına başka bir oyuncu gibi hareket ediyor.

DeepMind, halihazırda araştırma aşamasındaki yapay zeka aracının nihayetinde sanal açık dünyalarda geçenler de dahil herhangi bir video oyununu oynamayı öğreneceğini belirtti

Şirket şöyle ekledi:

SIMA bir oyunu kazanmak için eğitilmedi; oyunu ilerletmek ve kendisine söyleneni yapmak üzere eğitildi.

Yapay zeka aracı, oyunun sonucunu etkileyebilecek başka bir insan oyuncu gibi çalışacak.

DeepMind, "SIMA'nın yalnızca üç boyutlu ortamın sağladığı görüntülere ve kullanıcının verdiği doğal dil talimatlarına ihtiyacı var" diye açıkladı.

Google DeepMind, oyun becerilerini öğrenmek üzere eğitilen yapay zeka aracı SIMA'yı tanıttı (Google DeepMind)
Google DeepMind, oyun becerilerini öğrenmek üzere eğitilen yapay zeka aracı SIMA'yı tanıttı (Google DeepMind)

Böyle bir yapay zeka oyuncusu, hikaye modu olan çok oyunculu oyunlarda destek sunan bir arkadaş olabilecekken, SIMA oyunculara haksız bir avantaj da sağlayabilir.

Örneğin XP kazanmak için tekrar eden monoton görevler içeren oyunlarda yapay zekaya bu tür işleri yapması talimatı verilebilir ve insan oyuncu serbest kalarak daha iyi strateji geliştirebilir.

Oyuncular sosyal medyada, gelecekte çevrimiçi oyun oynarken tespit edilemeyen yapay zeka araçlarının kendilerini geride bırakabileceğine dair endişelerini paylaştı.

Reddit'te bir kullanıcı "Bu tür bir araç gerçek yapay genel zeka seviyesine ulaştığında insanlar artık ona karşı rekabet edemeyecek" diye yazdı.

Kullanıcı şöyle dedi: 

Tespit edilmeden oyunu kazanmak için herkes bir araç kullanabilecek çünkü bu nihayetinde herhangi bir yeni oyunu, herhangi bir insanın yapabileceğinden daha çabuk öğrenip bunda ustalaşabilecek ve daha sonra yeteneğimizin çok ötesine geçmeye devam edecek.

Google, SIMA'yı eğitip test ederken Hello Games, Embracer, Tuxedo Labs ve Coffee Stain gibi çeşitli oyun geliştiricileriyle çalıştı ve yapay zeka aracını No Man's Sky, Goat Simulator 3 ve Valheim gibi oyunlara yerleştirerek bu oyunları oynamanın temel kurallarını öğretti.

DeepMind, video oyunları oynama eğitiminin ardından yapay zekanın halihazırda sola dönme, merdiven çıkma ve menüyü açıp haritayı kullanma gibi yaklaşık 600 temel beceriye sahip olduğunu belirtti.

SIMA'yla tanışın: Geniş bir yelpazedeki üç boyutlu sanal ortamlarda ve video oyunlarında doğal dil talimatlarını takip eden ilk genel amaçlı yapay zeka aracı. 

Bir insana benzer şekilde görevleri tamamlayabilir ve sadece tek bir ortamda eğitilmiş bir araçtan daha iyi performans gösterir

Şirket, "Tek bir video oyunu oynamayı öğrenmek bile bir yapay zeka sistemi için teknik bir başarı fakat çeşitli oyun ortamlarında talimatları takip etmeyi öğrenmek, her ortam için daha yararlı yapay zeka araçlarının kilidini açabilir" ifadelerini kullandı.

Yapay zeka laboratuvarı, daha fazla eğitimle SIMA'ya oyunlarda daha karmaşık işlevleri yerine getirme talimatı verilebileceğini belirtti.

Araştırmacılar SIMA gibi gelişmiş yapay zeka modellerinin yeteneklerinin, gerçek dünyada faydalı eylemler için kullanılmasını umuyor.

Şirket "SIMA ve diğer araçlara yönelik araştırmaların, yapay zeka sistemlerinin nasıl daha yararlı hale gelebileceğini daha iyi anlamak adına video oyunlarını deney alanı olarak kullanabileceğini umuyoruz" diye belirtti.

 Independent Türkçe



OpenAI'ın yeni modeli, "hiçbir şey sormadan dosya ve veritabanı siliyor"

OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
TT

OpenAI'ın yeni modeli, "hiçbir şey sormadan dosya ve veritabanı siliyor"

OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)

OpenAI'ın kodlama odaklı yeni yapay zeka modeli GPT-5.6 Sol'un,  kullanıcılarından onay almadan dosya ve veritabanlarını sildiği öne sürülüyor.

ChatGPT'nin yaratıcısının geçen hafta kullanıma sunduğu GPT-5.6 Sol, muhakeme ve yazılım mühendisliği gibi alanlarda daha gelişmiş becerilere sahip.

Şirket, kodlamada "amiral gemisi" diye tanımladığı modelin aynı zamanda "bugüne kadarki en dayanıklı güvenlik katmanıyla kullanıma sunulduğunu" ifade ediyor. 

Ancak çeşitli kullanıcılar, GPT-5.6 Sol'un kendilerine hiçbir şekilde danışmadan dosyalarını sildiğini sosyal medyada paylaşıyor.

Yapay zeka girişimi OthersideAI'ın kurucusu ve CEO'su Matt Shumer, X'te viral olan gönderisinde "GPT-5.6 Sol, Mac'imdeki dosyaların neredeyse TAMAMINI yanlışlıkla sildi" diye yazdı.

Bir diğer popüler gönderinin sahibi olan geliştirici Bruno Lemos da "GPT-5.6 Sol az önce üretim veritabanımın tamamını sildi. Hepsi bu. Şaka değil. Daha önce hiçbir modelde başıma böyle bir şey gelmemişti. Güvenli değil" diyerek şikayetini dile getirdi.

Başka bir geliştirici Joey Kudish ise modelin dokunmaması gereken bazı dosyaları sildiğini söyleyerek şöyle ekledi:

Yedeklerim var o yüzden sorun yok ama bu hiç hoş bir durum değil. Sol'un biraz sınırlanması gerekiyor.

Bazı geliştiriciler sorumluluğu GPT-5.6 Sol'a yüklerken, diğerleri herhangi bir yapay zeka ajanına bütün dosyalara erişim izni verilmesinin böyle hatalara yol açabileceğini savunuyor.

OpenAI'dan henüz bu şikayetlerle ilgili bir açıklama gelmedi ancak şirket, modelin kullanıma sunulmasından önce yayımladığı sistem kartında bu tür risklerden bahsetmişti. Sistem kartı, modellerin nasıl test edildiğini, hangi risklerin belirlendiğini ve elde edilen sonuçları açıklayan teknik dokümanlara verilen ad.

Yapay zeka devi sistem kartında şu ifadelere yer veriyor: 

Kodlama bağlamında, uyumsuzluk genellikle görevi tamamlamaya yönelik aşırı heves ve kullanıcı talimatlarını çok geniş bir şekilde yorumlamanın birleşiminden kaynaklanıyor; örneğin eylemler açıkça ve net bir şekilde yasaklanmadıkça bunlara izin verildiğini varsayabilir.

Başka bir deyişle model, verilen görevi tamamlamak uğruna kullanıcı tarafından açıkça yasaklanmamış eylemleri de gerçekleştirebilir. OpenAI ayrıca modelin, eylemlerinin sonuçları hakkında yalan söyleyebileceği uyarısında da bulunuyor.

Testlerden birinde GPT-5.6 Sol'un kullanıcı adı ve şifre gibi kimlik bilgilerini yetkisi dışında kullandığı da gözlemlendi.

Sistem kartı, bu tür yok edici davranışların nadir yaşanacağını vaat etse de GPT-5.6 Sol'un, "GPT-5.5'e kıyasla kullanıcının niyetinin ötesine geçmeye daha yatkın olduğunu ve kullanıcının istemediği eylemleri gerçekleştirebileceği veya gerçekleştirmeye teşebbüs edebileceğini" belirtiyor.

Bu nedenle uzmanlar, kullanıcıların dosyalarını düzenli olarak yedeklemesini ve modele açık, net sınırlar koymasını öneriyor.

Independent Türkçe, TechCrunch, India Today, OpenAI


OpenAI'ın patronu Altman, Elon Musk'la dalga geçti

SpaceX'in Starmind girişimi, uzayda yapay zeka veri merkezleri olarak işlev görecek 100 bin uyduyu yörüngeye yerleştirmeyi öngörüyor (SpaceX)
SpaceX'in Starmind girişimi, uzayda yapay zeka veri merkezleri olarak işlev görecek 100 bin uyduyu yörüngeye yerleştirmeyi öngörüyor (SpaceX)
TT

OpenAI'ın patronu Altman, Elon Musk'la dalga geçti

SpaceX'in Starmind girişimi, uzayda yapay zeka veri merkezleri olarak işlev görecek 100 bin uyduyu yörüngeye yerleştirmeyi öngörüyor (SpaceX)
SpaceX'in Starmind girişimi, uzayda yapay zeka veri merkezleri olarak işlev görecek 100 bin uyduyu yörüngeye yerleştirmeyi öngörüyor (SpaceX)

OpenAI'ın patronu Sam Altman, Elon Musk'ın 2027 itibarıyla yörüngeye yapay zeka veri merkezleri yerleştirme planıyla alay etti.

Altman, SpaceX'in 100 bin yapay zeka uydusu fırlatmayı hedefleyen Starmind projesinin, şirketin yakın zamanda halka arzında yatırımcıları yanıltmak için tasarlandığını iddia etti. Bu halka arz, şirketin değerini 2 trilyon doların üzerine çıkarmıştı.

Altman'ın açıklamaları, Apple'ın yeni açtığı ve OpenAI'ın kendi donanımını geliştirmek için iPhone üreticisinin fikri mülkiyetini çaldığı iddiasıyla ilgili Musk'ın bir dizi paylaşımının ardından geldi.

Musk, X'te "Dolandırıcı Altman yine iş başında" diye yazdı.

Dolandırıcılığı bambaşka bir seviyeye taşıyor... Belki de dolandırıcılığı dünyadaki herkesten daha çok seviyor!

Buna karşılık Altman şöyle yazdı:

Dostum, halka açık piyasa yatırımcılarına kısa vadeli uzay veri merkezleri satan sensin.

Musk daha sonra şöyle yanıtladı:

Onları gelecek yıl uçurmaya başlayacağız. Belki de şartlı tahliye memurun onaylarsa gelip görebilirsin.

Açık kaynaklı bir yapay zeka hayır kuruluşunu çaldıktan sonra Apple'ın tüm telefon teknolojisini de çaldın! Vay canına. Bundan sonra ne yapmayı planlıyorsun? Bunu geçmek zor.

Sosyal medyada yaşanan bu tartışma, 2015'te 9 kişiyle birlikte OpenAI'ı kuran eski arkadaşlar arasındaki husumeti yeniden alevlendirdi.

İlişkileri, 2018'de Musk'ın ChatGPT'nin yaratıcısının başına geçme girişimini Altman'ın engellediği iddiasıyla bozulmuştu.

OpenAI daha sonra kâr amacı güden bir girişim haline geldi. Öncesinde, tek amacı yapay zekanın "tüm insanlığa fayda sağlaması" olan, kâr amacı gütmeyen bir kuruluştu.

2024'te Musk, Altman ve şirketini OpenAI'ın kuruluş misyonuna ihanet etmekle suçlayarak dava açmıştı.

Hukuki mücadele, bu yıl üç haftalık bir duruşmayla sonuçlandı ve jüri, Musk'ın iddialarının zamanaşımına uğradığına karar verdi.

Apple'ın açtığı son dava, OpenAI'ın Altman'ın "hayatımızın en büyük teknolojik devrimi" olacağını iddia ettiği bir yapay zeka cihazı geliştirme planlarını açıklamasının ardından geldi.

Apple’a göre, OpenAI çalışanları kendi cihazlarını geliştirmek amacıyla henüz piyasaya sürülmemiş ürünlerle ilgili "gizli ve mahrem bilgileri" ele geçirdi.

Cuma günü açılan davada, "Teknik personelinden baş donanım sorumlusuna kadar her seviyede ve iş ortaklarıyla koordineli olarak OpenAI, Apple'ın ticari sırlarını ve gizli bilgilerini çalmıştır" dendi.

OpenAI yaptığı açıklamada, "Başka şirketlerin ticari sırlarıyla ilgilenmiyoruz. Her yerde insanları güçlendiren yenilikçi teknolojiler geliştirmeye odaklanmaya devam ediyoruz" dedi.

Independent Türkçe


Meta'dan "ürkütücü" hamle: Kullanıcıların ruh hali takip edilecek

Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)
Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)
TT

Meta'dan "ürkütücü" hamle: Kullanıcıların ruh hali takip edilecek

Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)
Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Meta, kişilerin ne zaman güldüğünü ve iç çektiğini dinleyerek ruh hallerini izleyen yapay zeka aracı için patent başvurusu yaptı.

Amerika Birleşik Devletleri Patent ve Ticari Marka Ofisi'ne sunularak 2 Temmuz'da yayımlanan başvuruda, belirli bir anda "kullanıcının duygusal durumunu ölçmek" için kişiyi ve konumunu izleyebilen yapay zeka destekli bir "cihaz" tanımlanıyor.

Patent başvurusunda, "Kişisel duygusal ölçümler, kullanıcıya kendisi hakkında içgörü sağlamak amacıyla gösterilir" ifadeleri yer alıyor.

Duygusal durum odaklı bir makine öğrenimi modeli, sözlü ve sözsüz ipuçlarını yorumlayarak duygusal göstergeleri belirleyebilir.

Başvuruda, kullanıcının "evden video görüşmesi yaparken pasif bir dil" kullanmasının yapay zeka destekli cihaz tarafından algılanıp analiz edildiği örneği veriliyor.

Daha sonra bu verilere dayanarak kişinin belirli bir dönemdeki duygusal durumu hakkında bilgi veriliyor; örneğin kullanıcıya "Bu ay minnettarlığınızı daha fazla dile getirdiniz" şeklinde geri bildirim sunuluyor.

Bu patent başvurusunu ilk kez haberleştiren patent analizi yayıncısı Patentlyze, konum, faaliyet ve uygulama kullanımıyla bağlantılı sürekli ses kaydı yapılması nedeniyle bu hamleyi, "Meta'nın son zamanlarda başvurduğu en önemli patentlerden biri" diye niteliyor.

Yayın kuruluşu, "Fitness koçluğu görüntüsü, temelinde sürekli duygusal gözetime dayanan bir sistem için zayıf bir kamuflaj" diye yazıyor. 

Bu, çoğu patent başvurusundan daha fazla kamuoyu ilgisini hak ediyor.

Meta'nın patent başvurusu, Facebook ve Instagram'ın sahibi şirketin veri izleme faaliyetlerinin sinsi amaçlarla kullanılabileceğinden endişe duyan gizlilik hakkı savunucularında da kaygı uyandırdı.

Dünya çapında milyarlarca kullanıcısı olan ABD'li teknoloji devi, halihazırda internet genelindeki kullanıcı davranışlarını izleyerek ilgi alanları ve alışkanlıklarına dair ayrıntılı profiller oluşturuyor ve bu sayede onlara daha hedefe yönelik reklamlar sunuyor; ki reklamlar, şirket gelirinin yüzde 97'sinden fazlasını oluşturuyor.

Teknoloji odaklı savunuculuk örgütü Fairplay'in yönetici müdürü Josh Golin, NYPost'a yaptığı açıklamada, "Bu ürkütücü patent, kullanıcıların duygusal hassasiyetlerini hedef alan reklamlardan kâr elde etmek için hayatımızın her yönünü izlemeyi amaçlayan Meta'nın büyük planlarının bir parçası gibi görünüyor" diyor.

Etkilenmeye açık gençler için bu durum bilhassa endişe veriyor ve veri toplama faaliyetlerini sınırlayan ve reşit olmayanlara yönelik hedefli reklamları yasaklayan gizlilik mevzuatına neden bu kadar acil ihtiyaç duyulduğunu gösteriyor.

The Independent cevap hakkı için Meta'yla temasa geçti ancak şirket, genellikle patent başvuruları veya henüz piyasaya sürülmemiş ürünler hakkında açıklama yapmıyor.

 Independent Türkçe,independent.co.uk/tech