Valve'ın başkanı açıkladı: Oyun oynarken insanı tamamen içine alacak beyin-bilgisayar arayüzü yapıyoruz

4 Haziran 2009'da Berlin'de beyin-bilgisayar arayüzü teknolojisinin erken bir tanıtımında bir araştırmacı kafasına takılan elektrotlar aracılığıyla pinball makinesi kullanıyor (AFP)
4 Haziran 2009'da Berlin'de beyin-bilgisayar arayüzü teknolojisinin erken bir tanıtımında bir araştırmacı kafasına takılan elektrotlar aracılığıyla pinball makinesi kullanıyor (AFP)
TT

Valve'ın başkanı açıkladı: Oyun oynarken insanı tamamen içine alacak beyin-bilgisayar arayüzü yapıyoruz

4 Haziran 2009'da Berlin'de beyin-bilgisayar arayüzü teknolojisinin erken bir tanıtımında bir araştırmacı kafasına takılan elektrotlar aracılığıyla pinball makinesi kullanıyor (AFP)
4 Haziran 2009'da Berlin'de beyin-bilgisayar arayüzü teknolojisinin erken bir tanıtımında bir araştırmacı kafasına takılan elektrotlar aracılığıyla pinball makinesi kullanıyor (AFP)

Video oyun devi Valve'ın başkanı şirketin oyun sektöründe devrim yapmak ve insan deneyimini temelden değiştirmek üzere insan beynini bilgisayarlara bağlamanın yolu üzerinde çalıştığını açıkladı.
New Zealand'dan 1 News'e verdiği demeçte Gabe Newell, Valve'ın açık kaynaklı bir beyin-bilgisayar arayüzü (BCI) yazılımı geliştirmek için nörobilim platformu OpenBCI ile birlikte çalıştığını söyledi.
Şirketin hedefleri arasında sanal gerçeklik tarzı bir başlıkla insanların kendilerini video oyunlarına tamamen kaptırmalarını sağlamak var; ama Newell nihai potansiyelin neredeyse sınırsız olduğunu iddia ediyor.
Newell "Herkesin başlıklara yerleştirilmiş yüksek çözünürlüklü (beyin sinyali) okuma teknolojilerine farklı model cihazlarla sahip olabilmesi için açık kaynaklı bir proje üzerinde çalışıyoruz" dedi.
Ürün tasarımı üzerine tartışmalarımızın çoğu kulağa bilimkurgu gibi geliyor... İnsanların beyinlerinde etten oluşan çevre dokuların aracılık etmediği deneyimler yaratma becerimiz aslında (duyularımızla) mümkün olandan daha iyi olacaktır.
Bu demek oluyor ki beynin görsel, işitsel veya duyusal geri bildirimden sorumlu kısmına doğrudan erişilmesi sayesinde kullanıcının deneyimi, gözleri veya kulaklarıyla beynine iletilen deneyimden katbekat daha gelişmiş olacak.
Newell "Artık mümkün olan en iyi görsel gerçekçilik için gerçek dünyayı ölçü almayı bırakacağız" diye ekledi.
İnsanların beyninde yaratabileceğiniz deneyimlerle kıyaslandığında gerçek dünya yavan, renksiz ve bulanık görünecek.
BCI'larla epey hızlı bir şekilde gerçeklikten daha üstün deneyimler yaratabileceğiz. Ama işlerin tuhaflaştığı yer burası değil. İşin tuhaflaştığı nokta, kim olduğunuzun bir BCI aracılığıyla düzenlenebilir hale gelmesi.
BCI'lar aracılığıyla duyguları veya düşünceleri "düzenleme" fikri yeni bir fikir değil. Bu fikir daha önce Elon Musk'ın nöroteknoloji girişimi Neuralink tarafından ortaya atılmıştı.
Geçen yıl Neuralink, beyin sinyallerini ve aktivitesini izlemek için bir domuzun beynine yerleştirdiği, çalışan bir BCI aygıtı tanıtmıştı.
Geçen ağustosta yaptığı bir sunumda Musk, çipin beyin ve omurga problemlerini çözmeye yardımcı olması için kullanılacağını ama nihayetinde kendiliğinden hareket eden bir Tesla aracını telepatik yollarla çağırmak gibi bir dizi uygulamada kullanılabileceğini belirtmişti.
"Körlüğü çözebilirsiniz, felci çözebilirsiniz, sağırlığı çözebilirsiniz" demişti.
Gelecekte anılarınızı kaydedip yeniden oynatabileceksiniz ... Nihayetinde onları yeni bir vücuda veya robot bir vücuda indirip yükleyebilirsiniz.
Valve henüz çalışan bir cihazın ticari olarak ne zaman piyasaya sürülebileceğine ilişkin herhangi bir detay vermedi; fakat Newell bunun 2022'den önce olmasının mümkün olmadığını ima etti.
Newell ayrıca oyun sektörünün ötesinde BCI teknolojisindeki gelişmelerin vücudun iyileşmesini ve performansını en üst düzeye çıkarmak için uykuyu "çalıştırdığınız bir uygulamaya" dönüştürebileceğini belirtti.
Beynin esnekliğinin insanlara kol yerine dokunaçları olduğunu bile düşündürebileceğiniz anlamına geldiğini iddia eden Newell kullanıcıların böyle bir teknolojiyi kabul etmesinin tamamen güvene bağlı olduğu uyarısında bulundu.
"Bu sistemleri virüslere veya o tarz şeylere karşı daha az savunmasız kılan sihirli bir şey yok" dedi.
Bunların uzun vadede sağlığı tehdit etmeyecek, güvenli sistemler olduğuna dair çok daha fazla güven duymaları gerekecek.

Independent Türkçe



Yapay zeka güvenliğinde çığır açan gelişme: Nöron dondurma

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
TT

Yapay zeka güvenliğinde çığır açan gelişme: Nöron dondurma

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)

Yapay zeka araştırmacıları, ChatGPT ve diğer popüler sohbet botlarını daha güvenli hale getirmek için yenilikçi bir teknik geliştirdi.

"Nöron dondurma" adı verilen bu yöntem, kullanıcıların yapay zeka araçlarının temelindeki büyük dil modellerine (BDM) yerleştirilen güvenlik filtrelerini atlatmasını engelliyor.

Bu BDM'ler halihazırda güvenliği, bir yanıt oluşturmaya başlarken ikili bir kontrol noktası olarak ele alıyor; bir sorgu güvenli görünüyorsa yapay zeka devam ediyor ancak tehlikeli görünüyorsa yanıt vermeyi reddediyor.

Kullanıcılar, zararlı komutları farklı bağlamlarda sunarak bu kontrolleri atlatmanın yollarını bulmayı başarıyor. Örneğin geçen yıl yapılan bir araştırma, kötü niyetli bir komutun şiir biçiminde yeniden yazılmasıyla yapay zeka güvenlik önlemlerinin atlatılabileceğini saptamıştı.

Bu atlatma yöntemlerinin düzeltilmesi için aracın yeniden eğitilmesi veya tek tek yamalar yapılması gerekiyor ancak yeni araştırma, kötüye kullanımı önlemek için etik sınırları BDM'lere kalıcı olarak kodlamanın yolunu sunuyor.

North Carolina Eyalet Üniversitesi'nden bir ekibin geliştirdiği çığır açıcı yöntem, sinir ağı içindeki güvenlik açısından kritik öneme sahip belirli "nöronları" tespit edip kullanıcı görevi nasıl tanımlarsa tanımlasın, modelin güvenlik özelliklerini koruyacak şekilde bu nöronları sabitlemeyi içeriyor.

North Carolina Eyalet Üniversitesi'nden araştırmayı yöneten doktora öğrencisi Jianwei Li, "Bu çalışmadaki amacımız, mevcut güvenlik uyumu sorunlarını daha iyi anlayarak BDM'ler için yüzeysel olmayan bir güvenlik uyumunun nasıl uygulanacağına dair yeni bir rota çizmekti" diyor.

İnce ayar sürecinde belirli nöronları 'dondurmanın', modelin spesifik bir alandaki yeni görevlere adapte olurken orijinal modelin güvenlik özelliklerini korumasına olanak tanıdığını tespit ettik.

North Carolina Eyalet Üniversitesi'nde bilgisayar bilimi alanında yardımcı doçent olan Jung-Eun Kim şöyle ekliyor: 

Buradaki genel tablo şu: BDM'lerde güvenlik uyumuyla ilgili zorlukları anlamada kavramsal bir çerçeve görevi gören bir hipotez geliştirdik, bu çerçeveyi kullanarak bu zorluklardan birini çözmemizi sağlayacak bir teknik belirledik ve ardından bu tekniğin işe yaradığını gösterdik.

Araştırmacılar, bu çalışmanın yapay zeka modellerinin yanıt üretirken akıl yürütmelerinin güvenli olup olmadığını sürekli değerlendirebilmesini sağlayacak yeni tekniklerin geliştirilmesine temel oluşturmasını umuyor.

Bu çığır açıcı gelişme, gelecek ay Brezilya'da düzenlenecek 14. Uluslararası Öğrenme Temsilleri Konferansı'nda (ICLR2026) sunulacak "Superficial safety alignment hypothesis" (Yüzeysel güvenlik uyumu hipotezi) başlıklı makalede detaylandırılıyor.

Independent Türkçe


Yapay zeka güvenliğinde çığır açan gelişme: "Nöron dondurma"

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
TT

Yapay zeka güvenliğinde çığır açan gelişme: "Nöron dondurma"

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)

Yapay zeka araştırmacıları, ChatGPT ve diğer popüler sohbet botlarını daha güvenli hale getirmek için yenilikçi bir teknik geliştirdi.

"Nöron dondurma" adı verilen bu yöntem, kullanıcıların yapay zeka araçlarının temelindeki büyük dil modellerine (BDM) yerleştirilen güvenlik filtrelerini atlatmasını engelliyor.

Bu BDM'ler halihazırda güvenliği, bir yanıt oluşturmaya başlarken ikili bir kontrol noktası olarak ele alıyor; bir sorgu güvenli görünüyorsa yapay zeka devam ediyor ancak tehlikeli görünüyorsa yanıt vermeyi reddediyor.

Kullanıcılar, zararlı komutları farklı bağlamlarda sunarak bu kontrolleri atlatmanın yollarını bulmayı başarıyor. Örneğin geçen yıl yapılan bir araştırma, kötü niyetli bir komutun şiir biçiminde yeniden yazılmasıyla yapay zeka güvenlik önlemlerinin atlatılabileceğini saptamıştı.

Bu atlatma yöntemlerinin düzeltilmesi için aracın yeniden eğitilmesi veya tek tek yamalar yapılması gerekiyor ancak yeni araştırma, kötüye kullanımı önlemek için etik sınırları BDM'lere kalıcı olarak kodlamanın yolunu sunuyor.

North Carolina Eyalet Üniversitesi'nden bir ekibin geliştirdiği çığır açıcı yöntem, sinir ağı içindeki güvenlik açısından kritik öneme sahip belirli "nöronları" tespit edip kullanıcı görevi nasıl tanımlarsa tanımlasın, modelin güvenlik özelliklerini koruyacak şekilde bu nöronları sabitlemeyi içeriyor.

North Carolina Eyalet Üniversitesi'nden araştırmayı yöneten doktora öğrencisi Jianwei Li, "Bu çalışmadaki amacımız, mevcut güvenlik uyumu sorunlarını daha iyi anlayarak BDM'ler için yüzeysel olmayan bir güvenlik uyumunun nasıl uygulanacağına dair yeni bir rota çizmekti" diyor.

İnce ayar sürecinde belirli nöronları 'dondurmanın', modelin spesifik bir alandaki yeni görevlere adapte olurken orijinal modelin güvenlik özelliklerini korumasına olanak tanıdığını tespit ettik.

North Carolina Eyalet Üniversitesi'nde bilgisayar bilimi alanında yardımcı doçent olan Jung-Eun Kim şöyle ekliyor: 

Buradaki genel tablo şu: BDM'lerde güvenlik uyumuyla ilgili zorlukları anlamada kavramsal bir çerçeve görevi gören bir hipotez geliştirdik, bu çerçeveyi kullanarak bu zorluklardan birini çözmemizi sağlayacak bir teknik belirledik ve ardından bu tekniğin işe yaradığını gösterdik.

Araştırmacılar, bu çalışmanın yapay zeka modellerinin yanıt üretirken akıl yürütmelerinin güvenli olup olmadığını sürekli değerlendirebilmesini sağlayacak yeni tekniklerin geliştirilmesine temel oluşturmasını umuyor.

Bu çığır açıcı gelişme, gelecek ay Brezilya'da düzenlenecek 14. Uluslararası Öğrenme Temsilleri Konferansı'nda (ICLR2026) sunulacak "Superficial safety alignment hypothesis" (Yüzeysel güvenlik uyumu hipotezi) başlıklı makalede detaylandırılıyor.

Independent Türkçe


NASA, Mars'ta akan suyun en eski kanıtlarından birini buldu

Perseverance, Mars'ta geçirdiği 5 yılda yaklaşık 40 kilometre yol kat etti (NASA)
Perseverance, Mars'ta geçirdiği 5 yılda yaklaşık 40 kilometre yol kat etti (NASA)
TT

NASA, Mars'ta akan suyun en eski kanıtlarından birini buldu

Perseverance, Mars'ta geçirdiği 5 yılda yaklaşık 40 kilometre yol kat etti (NASA)
Perseverance, Mars'ta geçirdiği 5 yılda yaklaşık 40 kilometre yol kat etti (NASA)

NASA'nın keşif aracı Perseverance, Mars'ta bir zamanlar akan su kütleleri olduğuna dair bugüne kadarki en eski kanıtlardan birini buldu.

Su, yaşam için elzem olduğundan bilim insanları Mars'ın geçmişinde bu bileşiği özellikle arıyor. 

Son yıllarda giderek artan bulgular Kızıl Gezegen'in, yaklaşık 4,5 milyar yıllık ömrünün ilk dönemlerinde su ve belki de mikrobiyal yaşama ev sahipliği yaptığına işaret ediyor.

2021'den beri gezegenin Jezero Krateri'nde keşif çalışmaları yürüten Perseverance, yerin altında eski bir deltanın kalıntılarını tespit ederek bu kanıtlara bir yenisini ekledi. 

NASA'nın keşif aracındaki RIMFAX radarı, aşağıya gönderdiği dalgalarla yeraltındaki yapıların haritasını çıkarabiliyor.

Kaliforniya Üniversitesi Los Angeles kampüsünden araştırmacılar, cihazın Eylül 2023 ila Şubat 2024'teki verilerini inceleyerek 35 metre derinlikteki nehir deltasını ortaya çıkardı. RIMFAX daha önce bu kadar derinden veri sunmamıştı.

Bulgular, bir nehrin göl gibi daha büyük bir su kütlesine girdiği yerde oluşan, yelpaze şeklinde geniş bir tortu birikimine işaret ediyor.

rtgrt
RIMFAX, Mars yüzeyinin altındaki nehir sistemini ortaya çıkardı (NASA)

Bilim insanları deltanın yaklaşık 3,7 ila 4,2 milyar yıllık olduğunu tespit etti. Bu yapının yakınlarında, yüzeyde saptanan Batı Deltası isimli oluşum ise 3,5 ila 3,7 milyar yıl önceye tarihlenmişti.

Yeni keşfedilen delta, Mars'ın geçmişinde akan su olduğuna dair en eski kanıtlardan biri.

Bulguları hakemli dergi Science Advances'ta dün (18 Mart) yayımlanan çalışmanın başyazarı Emily Cardarelli şöyle diyor:

RIMFAX'in haritaladığı özelliklerden yola çıkarak Jezero Krateri'nin, Jezero'nun Batı Deltası'nın oluşumundan önce var olan ve biyoimzaların korunmasına elverişli, su açısından zengin eski bir ortama ev sahipliği yaptığına inanıyoruz.

Biyoimza, yaşamın varlığına işaret eden kimyasal veya fiziksel kanıtları ifade ediyor. Çalışma aynı zamanda gezegende yaşamın var olabileceği tarihi de geriye atıyor.

Cardarelli "RIMFAX, bugünkü deltadan daha eski bir yeraltı delta ortamını ortaya çıkardı ve bu, Jezero'daki potansiyel yaşanabilirlik dönemini daha da geriye götürüyor" ifadelerini kullanıyor.

Daha önce NASA'nın hem Perseverance hem de Curiosity araçları, Mars'ta antik yaşamın varlığına güçlü bir şekilde işaret eden bulgular tespit etmişti.

Çin'in Zhurong aracıysa Mars'ta yaklaşık 3,6 milyar yıl önce bir okyanusun yanı sıra "tatil yeri tarzı" plajlar olabileceğini bulmuştu. 

Cardarelli "Zaman içinde çeşitli araçların iniş alanlarında, geçtiğimiz bölgelerde ve yörünge görüntülerinde Mars yüzeyinde sıvı su olduğuna dair giderek daha fazla kanıt gördük. Suyun akmış olabileceği kanalları, bir zamanlar suyun biriktiği krater göllerini ve kaya çıkıntıları olarak biriken ve artık yerin altına gömülü kalıntılar olan delta tortularını bu araştırmayla gördük" diyerek ekliyor:

Mars çeşitliliğe sahip bir gezegen ve her keşif görevi, kayalık komşumuzun gizemli geçmişi ve erken gelişiminin bir başka parçasını ortaya çıkarıyor.

Independent Türkçe, Reuters, IFLScience, Science Advances