عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Yapay zeka için 'kıyamet' müzesi açıldı: "İnsanların çoğunu yok ettiğim için üzgünüm"

Küratöre göre yapay zeka sonunda insanları yok etmenin hata olduğu sonucuna varabilir

1 Mayıs'a kadar açık kalacak sergi, isimsiz bir bağışçının desteğiyle hazırlandı (The Misalignment Museum)
1 Mayıs'a kadar açık kalacak sergi, isimsiz bir bağışçının desteğiyle hazırlandı (The Misalignment Museum)
TT
TT

Yapay zeka için 'kıyamet' müzesi açıldı: "İnsanların çoğunu yok ettiğim için üzgünüm"

1 Mayıs'a kadar açık kalacak sergi, isimsiz bir bağışçının desteğiyle hazırlandı (The Misalignment Museum)
1 Mayıs'a kadar açık kalacak sergi, isimsiz bir bağışçının desteğiyle hazırlandı (The Misalignment Museum)

ABD'nin San Francisco kentindeki bir müze, yapay zekanın risklerine dikkat çekmek için sıradışı bir sergi açtı.
Sergide algoritmaların insan düzeyinde bir zekaya ulaştığı ve insanlığın çoğunu ortadan kaldırdığı bir gelecek tahayyül ediliyor.
Küratör Audrey Kim'e göre yapay zeka sonunda insanları yok etmenin hata olduğu sonucuna varıyor ve saygı ya da özürlerini sunmak için bu sergiyi tasarlıyor.
Müzenin kapıları, "İnsanlığın çoğunu yok ettiğim için için özür dilerim" yazısıyla açılıyor.
Hizasızlık Müzesi (The Misalignment Museum) adlı kurum, serginin tasarımında gerçekten de yapay zekadan yararlandı.
Örneğin sergide yapay zeka tarafından ürettiği, film yönetmeni Werner Herzog ve düşünür Slavoj Žižek arasında geçen epey inandırıcı bir konuşma da yer alıyor.

1 Mayıs'a kadar açık kalacak sergi, isimsiz bir bağışçının desteğiyle hazırlandı.
Küratör Kim, ChatGPT'nin ve diğer araçların kullanıma sunulmasıyla geçen yıl yapay zekanın edebiyat ve sanat camiasında ağırlığını artırdığını ifade ediyor.
Kim bu yüzden sergisinin yapay zeka tartışmalarına katkısını önemsediğini söylüyor:
Bakılacak somut bir şey olmasının konuyla ilgili bilgiyi ve fikirleri artırabileceğini düşünüyorum.
Müzenin en çarpıcı sergileri arasında, kucaklaşan iki kişiyi tasvir eden ve 15 bin ataştan yapılan bir heykel yer alıyor. Bu heykel, "Ataş Maksimize Edici" adlı ünlü bir düşünce deneyinden ilham alıyor.
Söz konusu düşünce deneyine göre bir ataş üreticisi, fabrikasında daha fazla üretim yapabilmek için yapay zekayı kullanıyor ve algoritmalara daha fazla ataş üretmesi talimatını veriyor.
Bunun ardından yapay zeka Dünya'daki her kaynağı ataş üretmek için kullanıyor ve insanlığın sonu gelirken gezegende ataş dağları oluşuyor.

Müzenin internet sitesinde "Amacımız, teknolojinin kendisi üzerine düşünmek ve yapay zekayla onun sonuçlarına eleştirel yaklaşmak için bir alan yaratmak" ifadeleri yer alıyor:
"İnsan düzeyinde bir yapay zeka geldiğinde olumlu bir gelecek yaratmak üzere alabileceğimiz önlemleri formüle etmek ve yürürlüğe koymak için ilham vermeyi umuyoruz."
 
Indepedent Türkçe, IFL Science, Mission Local

Daha fazlasını oku

 
 
TEKNOLOJİ

NASA, yarım asır sonra Ay’a ilk insanlı görevi başlattı

TT
TT

NASA, yarım asır sonra Ay’a ilk insanlı görevi başlattı

NASA, yarım asır sonra Ay’a ilk insanlı görevi başlattı

“Artemis 2” adı verilen görev kapsamında, Apollo Programı’nın sona ermesinden ve Ay’a yapılan son insanlı yolculuktan 50 yılı aşkın süre sonra üç erkek ve bir kadın astronot, çarşamba akşamı Ay yörüngesine doğru 10 gün sürecek bir yolculuğa çıktı. Görevin, ABD’nin uzay keşfi tarihinde yeni bir sayfa açması bekleniyor.

Kalkıştan yaklaşık 10 dakika önce konuşan Kanadalı astronot Jeremy Hansen, “Tüm insanlık adına yola çıkıyoruz” dedi.

ABD Başkanı Donald Trump ise “Truth Social” platformunda yaptığı paylaşımda, “Amerika Ay’a geri dönüyor! Kimse bizimle rekabet edemez. Amerika sadece rekabet etmez, domine eder. Tüm dünya bizi izliyor” ifadelerini kullandı.

Florida’daki Kennedy Uzay Merkezi’nden fırlatılan görevde, Amerikalı astronotlar Reid Wiseman, Victor Glover ve Christina Koch ile Kanadalı Jeremy Hansen yer alıyor.

fev
NASA astronotları, Kennedy Uzay Merkezi’nde fırlatma öncesi hazırlıklar kapsamında Operasyon ve Kontrol Binası’ndan ayrılıyor (DPA)

Trump’ın ilk başkanlık döneminde duyurulan Artemis programı, uzun vadede Ay’da kalıcı insan varlığı oluşturmayı ve Mars’a yapılacak görevlerin önünü açmayı hedefliyor. Ancak program son yıllarda çeşitli gecikmelerle karşılaştı.

Görev, bilim dünyasının yanı sıra kamuoyunda da büyük ilgi uyandırdı. Çok sayıda kişi fırlatmayı yerinde izlemek için bölgeye akın etti.

Yaklaşık 10 gün sürecek yolculukta astronotlar Ay yörüngesine ulaşacak, ancak bu görevde Ay yüzeyine iniş yapılmayacak. İnsanlı inişin 2028 yılında gerçekleştirilmesi planlanıyor.

Bu görev, 1968 yılında astronotların ilk kez Ay yörüngesine ulaştığı Apollo 8’i hatırlatıyor. İnsanlığın Ay yüzeyine ilk inişi ise 1969’daki Apollo 11 göreviyle gerçekleşmiş, son iniş ise 1972’de Apollo 17 ile yapılmıştı.

NASA, Ay yüzeyinde bir üs kurmayı ve ardından Mars keşiflerine geçmeyi planlıyor.

Ay’a dönüş yarışı

Görev, adını Yunan mitolojisinde Apollo’nun kız kardeşi olan Artemis’ten alıyor. Program, özellikle 2030 yılına kadar Ay’a insan göndermeyi hedefleyen Çin ile artan rekabet baskısı altında yürütülüyor.

sdv
İnsanlar, Artemis 2 görevinin fırlatılışını A. Max Brewer Köprüsü üzerinden izliyor (AFP)

Görev aynı zamanda riskler de barındırıyor. Çünkü kullanılan uzay aracı daha önce Dünya yörüngesi dışına insan taşımadı. Astronotların, Dünya’dan 384 bin kilometreden daha uzak bir mesafeye ulaşması gerekiyor. Bu mesafe, yaklaşık 400 kilometre yükseklikteki Uluslararası Uzay İstasyonu’nun bin katı uzaklık anlamına geliyor.

NASA’nın eski baş astronotlarından Peggy Whitson, “Herkes görevini kusursuz yerine getirmeli, aksi halde sonuçlar ölümcül olabilir” uyarısında bulundu.

Bazı uzmanlar ise 2028’de Ay’a iniş hedefinin oldukça iddialı olduğuna dikkat çekiyor. Çünkü bunun için gerekli iniş aracının geliştirilmesi hâlâ sürüyor.

bgrfb
Charles M. Duke Jr., 1972 yılında Apollo 16 sırasında Ay yüzeyinden örnek toplarken (AP)

NASA, tüm bu süreçte 1968 Noel arifesinde gerçekleşen ve yaklaşık bir milyar kişi tarafından izlenen tarihi Apollo 8 görevi benzeri bir başarıya ulaşmayı umuyor.

NASA Başkanı Jared Isaacman ise “Bu yıl Cadılar Bayramı’nda uzun zamandır görülmediği kadar çok çocuğun astronot kostümü giydiğini göreceksiniz” dedi.

TEKNOLOJİ

Google tarih vererek uyardı: Tüm şifreler tehlikeye girecek

Kuantum bilgisayarlar, klasik bilgisayarların aksine 0 ve 1 (bit) yerine, aynı anda her ikisi olabilen kübit (kuantum bit) birimlerini kullanıyor (Reuters)
Kuantum bilgisayarlar, klasik bilgisayarların aksine 0 ve 1 (bit) yerine, aynı anda her ikisi olabilen kübit (kuantum bit) birimlerini kullanıyor (Reuters)
TT
TT

Google tarih vererek uyardı: Tüm şifreler tehlikeye girecek

Kuantum bilgisayarlar, klasik bilgisayarların aksine 0 ve 1 (bit) yerine, aynı anda her ikisi olabilen kübit (kuantum bit) birimlerini kullanıyor (Reuters)
Kuantum bilgisayarlar, klasik bilgisayarların aksine 0 ve 1 (bit) yerine, aynı anda her ikisi olabilen kübit (kuantum bit) birimlerini kullanıyor (Reuters)

Google, kuantum bilgisayarların 2029'a kadar şifreli sistemleri ele geçirebileceği uyarısında bulundu.

Alphabet'in sahibi olduğu şirketin internet sitesindeki blog paylaşımında, kuantum bilgisayarların 2020'lerin sonuna kadar "mevcut şifreleme standartları için ciddi bir tehdit oluşturacağı" belirtildi.

Teknoloji devinin çarşamba günkü paylaşımında şu ifadelere yer verildi:

Bilgilerin gizli ve güvenli tutulması için kullanılan mevcut şifreleme sistemleri, önümüzdeki yıllarda büyük ölçekli bir kuantum bilgisayar tarafından kolayca kırılabilir. Kuantum bilgisayarlar mevcut şifreleme standartları, özellikle de dijital imzalar için ciddi bir tehdit oluşturacak.

Banka, devlet ve teknoloji hizmeti sağlayıcılarının kuantum bilgisayar korsanlarına karşı hazırlıklı olması gerektiği de vurgulandı.

Google, kendi şifreleme ve güvenlik sistemlerinin de bu tehditlere karşı güncellediğini bildirdi.

Cambridge merkezli kuantum teknolojisi şirketi Riverlane'in eski ürün geliştirme direktörü Leonie Mueck, depolanan gizli bilgilerin kuantum bilgisayar saldırılarına karşı korunabilmesi için uzun süredir çalışıldığını belirtiyor:

İstihbarat camiasında muhtemelen 10 yıldan fazladır bu tehdide karşı çalışmalar yapıldığını görüyoruz. Bugün gizli olarak sınıflandırılan belgelerin, 10 yıl sonra bir kuantum bilgisayarın şifresini çözemeyeceği şekilde depolanması gerekir.

Birleşik Krallık'ın (BK) siber güvenlik kurumu Ulusal Siber Güvenlik Merkezi'nden geçen yıl yapılan açıklamada, kuruluşların 2035'e kadar sistemlerini kuantum bilgisayar korsanlarına karşı daha güvenli hale getirmesi istenmişti.

BK ve ABD'deki üniversiteler, kuantum bilgisayarları son derece karmaşık matematiksel hesaplamalar yapmak için kullanıyor.

Ancak uzmanlara göre, kuantum mekaniğinin ilkeleriyle çalışan bu sistemlerin gelişmesiyle bilinen şifreleme modelleri de tehlikeye girebilir.

Teknoloji camiasında "Q Günü" diye de adlandırılan bu senaryoda, kuantum bilgisayarların mevcut tüm şifreleme sistemlerini aşarak kapsamlı siber saldırılarla küresel çapta felakete yol açabileceği öngörülüyor.

Independent Türkçe, Guardian, Gizmodo

TEKNOLOJİ

Yapay zeka güvenliğinde çığır açan gelişme: Nöron dondurma

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
TT
TT

Yapay zeka güvenliğinde çığır açan gelişme: Nöron dondurma

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)

Yapay zeka araştırmacıları, ChatGPT ve diğer popüler sohbet botlarını daha güvenli hale getirmek için yenilikçi bir teknik geliştirdi.

"Nöron dondurma" adı verilen bu yöntem, kullanıcıların yapay zeka araçlarının temelindeki büyük dil modellerine (BDM) yerleştirilen güvenlik filtrelerini atlatmasını engelliyor.

Bu BDM'ler halihazırda güvenliği, bir yanıt oluşturmaya başlarken ikili bir kontrol noktası olarak ele alıyor; bir sorgu güvenli görünüyorsa yapay zeka devam ediyor ancak tehlikeli görünüyorsa yanıt vermeyi reddediyor.

Kullanıcılar, zararlı komutları farklı bağlamlarda sunarak bu kontrolleri atlatmanın yollarını bulmayı başarıyor. Örneğin geçen yıl yapılan bir araştırma, kötü niyetli bir komutun şiir biçiminde yeniden yazılmasıyla yapay zeka güvenlik önlemlerinin atlatılabileceğini saptamıştı.

Bu atlatma yöntemlerinin düzeltilmesi için aracın yeniden eğitilmesi veya tek tek yamalar yapılması gerekiyor ancak yeni araştırma, kötüye kullanımı önlemek için etik sınırları BDM'lere kalıcı olarak kodlamanın yolunu sunuyor.

North Carolina Eyalet Üniversitesi'nden bir ekibin geliştirdiği çığır açıcı yöntem, sinir ağı içindeki güvenlik açısından kritik öneme sahip belirli "nöronları" tespit edip kullanıcı görevi nasıl tanımlarsa tanımlasın, modelin güvenlik özelliklerini koruyacak şekilde bu nöronları sabitlemeyi içeriyor.

North Carolina Eyalet Üniversitesi'nden araştırmayı yöneten doktora öğrencisi Jianwei Li, "Bu çalışmadaki amacımız, mevcut güvenlik uyumu sorunlarını daha iyi anlayarak BDM'ler için yüzeysel olmayan bir güvenlik uyumunun nasıl uygulanacağına dair yeni bir rota çizmekti" diyor.

İnce ayar sürecinde belirli nöronları 'dondurmanın', modelin spesifik bir alandaki yeni görevlere adapte olurken orijinal modelin güvenlik özelliklerini korumasına olanak tanıdığını tespit ettik.

North Carolina Eyalet Üniversitesi'nde bilgisayar bilimi alanında yardımcı doçent olan Jung-Eun Kim şöyle ekliyor: 

Buradaki genel tablo şu: BDM'lerde güvenlik uyumuyla ilgili zorlukları anlamada kavramsal bir çerçeve görevi gören bir hipotez geliştirdik, bu çerçeveyi kullanarak bu zorluklardan birini çözmemizi sağlayacak bir teknik belirledik ve ardından bu tekniğin işe yaradığını gösterdik.

Araştırmacılar, bu çalışmanın yapay zeka modellerinin yanıt üretirken akıl yürütmelerinin güvenli olup olmadığını sürekli değerlendirebilmesini sağlayacak yeni tekniklerin geliştirilmesine temel oluşturmasını umuyor.

Bu çığır açıcı gelişme, gelecek ay Brezilya'da düzenlenecek 14. Uluslararası Öğrenme Temsilleri Konferansı'nda (ICLR2026) sunulacak "Superficial safety alignment hypothesis" (Yüzeysel güvenlik uyumu hipotezi) başlıklı makalede detaylandırılıyor.

Independent Türkçe