Bilim insanları uyardı: "Uzaylılarla ilk karşılaşma katliamla sonuçlanabilir"

"2023'ün sadece yarısındayız ama şimdiden uzaylılarla temas yılıymış gibi geliyor"

Yönetmenliğini Steven Spielberg'ün üstlendiği Üçüncü Türden Yakınlaşmalar (Close Encounters of The Third Kind) filminde insanların uzaylılara ait bir uzay aracıyla karşılaşmasının ardından yaşananlar konu alınıyor (Columbia Pictures)
Yönetmenliğini Steven Spielberg'ün üstlendiği Üçüncü Türden Yakınlaşmalar (Close Encounters of The Third Kind) filminde insanların uzaylılara ait bir uzay aracıyla karşılaşmasının ardından yaşananlar konu alınıyor (Columbia Pictures)
TT

Bilim insanları uyardı: "Uzaylılarla ilk karşılaşma katliamla sonuçlanabilir"

Yönetmenliğini Steven Spielberg'ün üstlendiği Üçüncü Türden Yakınlaşmalar (Close Encounters of The Third Kind) filminde insanların uzaylılara ait bir uzay aracıyla karşılaşmasının ardından yaşananlar konu alınıyor (Columbia Pictures)
Yönetmenliğini Steven Spielberg'ün üstlendiği Üçüncü Türden Yakınlaşmalar (Close Encounters of The Third Kind) filminde insanların uzaylılara ait bir uzay aracıyla karşılaşmasının ardından yaşananlar konu alınıyor (Columbia Pictures)

ABD'deki farklı üniversitelerden üç bilim insanı, uzaylılarla insanların karşılaşmasının felaketle sonuçlanabileceğine dair uyardı.

Kaliforniya Üniversitesi'nden David Delgado Shorter, Alberta Üniversitesi'nden Kim TallBear ve Bowdoin College'dan William Lempert, konuyla ilgili kaleme aldıkları ortak yazıda "katliam" ve "kolonizasyon" riskine dikkat çekti.

The Conversation'da yayımlanan yazıda, "2023'ün sadece yarısındayız ama şimdiden uzaylılarla temas yılıymış gibi geliyor" ifadeleri yer aldı.

ABD'nin şubatta düşürdüğü tanımlanamayan uçan cisimleri (UFO) hatırlatan üç akademisyen, insanlık ve Dünya dışı yaşam arasında kurulacak ilk teması "bir olaydan ziyade, çoktan başlamış uzun bir süreç olarak değerlendirdiklerini" söylüyor.

Akademisyenler, Dünya tarihinden yola çıkarak, kendini insanlardan daha gelişmiş gören bir uygarlığın, gezegenimizi kolonileştirebileceğine dikkat çekiyor.

Yazıda, "Hiç kimse Dünya dışı varlıklarla kurulacak ilişkinin nasıl gideceğini bilemez" ifadelerine yer veriliyor.

Söz konusu üç akademisyen aslında NASA'nın SETI projesinin faaliyetlerini değerlendirmek üzere kurulan bir çalışma grubunun üyeleri.

Açılımı Dünya Dışı Akıllı Yaşam Araştırması (Search for Extra-Terrestrial Intelligence) olan SETI, Dünya-dışı bir uygarlıktan gelebilecek mesajların saptanması halinde incelenmesi amacıyla ön çalışmaları 1960'larda ABD tarafından yapılan, daha sonra geliştirilerek 1971'de NASA eliyle başlatılan bir proje.

Akademisyenlerin aktarımına göre, SETI yöneticileri olası risklerin farkında olduğunu ve bu yüzden şimdilik uzayı sadece dinlemekle yetindiklerini ifade ediyor.

Ancak akademisyenler, bu dinleme faaliyetinin de kendi risklerini barındırdığı görüşünde:

SETI'ye bağlı araştırmacılar, 'Sadece dinlemekten ne zarar gelebilir?' diyor. Ancak herhangi bir uygarlık, dinleme tekniklerimize bakarak henüz ilkel bir medeniyet olduğumuzu düşünebilir.

Üç akademisyene göre uzaylı uygarlıkların, insanlığın ilkel olduğunu düşünmesi çok tehlikeli olabilir. Söz konusu yazıda Kristof Kolomb'un Amerika'ya gidişi, buna örnek olarak veriliyor.

16. yüzyıldan kalma bu gravür, Kristof Kolomb'un Amerika'ya inişini ve ilkel gördükleri yerli halkla karşılaşmalarını gösteriyor (Wikimedia Commons)
16. yüzyıldan kalma bu gravür, Kristof Kolomb'un Amerika'ya inişini ve ilkel gördükleri yerli halkla karşılaşmalarını gösteriyor (Wikimedia Commons)

"Kristof Kolomb ve diğer Avrupalı kaşifler Amerika'ya geldiklerinde yerlileri yazı yazmadıkları için gelişmemiş diye niteledi" ifadelerini kullanan akademisyenler, şöyle devam ediyor:

Önyargılı düşündüler. Bu da Amerika'da yerlilerin onlarca yıl boyunca köleleştirilmesine yol açtı.

Yazı şu cümleyle noktalanıyor:

Dünya'nın kendi tarihinden uyarı niteliğindeki hikayeleri daha sonra değil, şimdi düşünmek gerek.

 

Independent Türkçe, The Conversation



Çin, ABD’ye meydan okudu: Yapay zeka küresel işbirliğiyle geliştirilmeli

Şi Cinping, yeni yapay zeka girişiminin "Küresel Güney'in çağrılarına yanıt verdiğini" söyledi (Reuters)
Şi Cinping, yeni yapay zeka girişiminin "Küresel Güney'in çağrılarına yanıt verdiğini" söyledi (Reuters)
TT

Çin, ABD’ye meydan okudu: Yapay zeka küresel işbirliğiyle geliştirilmeli

Şi Cinping, yeni yapay zeka girişiminin "Küresel Güney'in çağrılarına yanıt verdiğini" söyledi (Reuters)
Şi Cinping, yeni yapay zeka girişiminin "Küresel Güney'in çağrılarına yanıt verdiğini" söyledi (Reuters)

Çin, Dünya Yapay Zeka İşbirliği Örgütü'yle (WAICO) ABD'nin bu sektördeki hakimiyetine meydan okudu.

Rusya, Brezilya, Küba, Venezuela, Pakistan, Kazakistan ve Endonezya'nın da aralarında bulunduğu 29 ülkenin temsilcileri, Şanghay'da dün bir araya gelerek WAICO'nun kuruluşu için imza attı.  

Çin'in kamu yayıncısı Çin Merkez Televizyonu'nun analizinde Pekin yönetiminin yapay zeka alanında "yeni bir düzen kurmayı hedeflediği" belirtildi. Bu düzende "tüm insanlığın gücünün bir araya getirilmesiyle açık kaynaklı bir yapay zeka ekosistemi oluşturulacağı" vurgulandı.

Çin lideri Şi Cinping, bugün Şanghay'da düzenlenen Dünya Yapay Zeka Konferansı'ndaki konuşmasında, açık kaynaklı yapay zekanın "tarihi bir fırsat" sunduğunu söyleyerek, bunun teknolojiye erişimdeki adaletsizlikleri ortadan kaldıracağını savundu.

ABD'nin adını anmasa da rakibinin bu sektördeki hakimiyetine kolektif bir çıkışla meydan okuduklarını ima etti:

Yapay zeka geliştirme, bir ülkenin tek başına sergilediği bir performans değil, küresel işbirliğinin senfonisi olmalıdır.

WAICO'nun kuruluşu için düzenlenen imza törenine ve bugünkü konferansa katılanlar arasında Birleşmiş Milletler (BM) Genel Sekreteri Antonio Guterres de vardı.

Şi, yapay zekanın "güvenli ve kontrol edilebilir" olmasını sağlamak için BM çerçevesinde işbirliği çağrısında bulundu. Bu teknolojiye dayalı otonom sistemlerin potansiyel tehlikelerine dikkat çekerek, "yapay zekanın her zaman insan kontrolü altında olmasını" önemsediklerini vurguladı.

Reuters'ın analizinde, Çin'in açık kaynaklı yapay zeka modellerinin, OpenAI ve Anthropic gibi ABD'li şirketlerin tescilli sistemlerine karşı hızla ilerleme kaydettiği yazılıyor.

Şi'nin konuşmasından birkaç saat önce de Pekin merkezli yapay zeka firması Moonshot AI, yeni modeli Kimi K3'ü tanıttı. Şirkete göre bu, dünyanın en büyük açık kaynaklı yapay zeka modeli.

Washington merkezli danışmanlık firması The Asia Group'tan George Chen, şu yorumu paylaşıyor:

Şi'nin mesajı açık: Çin yapay zeka teknolojisi ve standartları konusunda kimseyi takip etmeyecek. Aksine Çin her iki alanda da dünyaya öncülük edecek.

Wall Street Journal'ın görüş aldığı Stanford Üniversitesi'nden Graham Webster ise Şi'nin işaret ettiği yapay zekaya ilişkin tehlikelerin küresel ölçekte yönetilmesi için Washington ve Pekin arasında işbirliğinin zorunlu olacağını söylüyor.

Independent Türkçe, Wall Street Journal, Reuters, China Daily, Global Times


Instagram, risk altında olduğunu düşündüğü çocukların ebeveynlerine mesaj gönderecek

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

Instagram, risk altında olduğunu düşündüğü çocukların ebeveynlerine mesaj gönderecek

Fotoğraf: Reuters
Fotoğraf: Reuters

Instagram, yapay zekayla endişe verici konuşmalar yapan çocukların ebeveynlerine mesaj gönderecek.

Şirket ayrıca bir kişinin konuşmalarından, "acil intihar riski" içinde olduğu anlaşılırsa ilk yardım ekiplerini bilgilendirebilecek yeni araçlar üzerinde çalışıyor.

Meta bu değişikliklerin, "intihar ve kendine zarar vermeyle ilgili hassas konuşmalar sözkonusu olduğunda doğru tepki vermelerini" sağlamayı amaçlayan bir dizi güncelleme kapsamında yapıldığını belirtiyor. 

Bir çocuk Meta AI sohbet botuyla kendine zarar verme ya da intihar hakkında konuşuyorsa ve bu, Instagram'ın ebeveyn denetim araçlarını kullanan bir hesapsa, Instagram mesajı veya kısa mesaj yoluyla ebeveynler proaktif olarak uyarılacak. Şirket, bu özelliğin "uzmanlarla birlikte geliştirilen risk işaretlerini" izlemek üzere tasarlandığını ifade ediyor.

Meta yaptığı açıklamada, "Örneğin bir ergenin kendine zarar vereceğine, üstü kapalı da olsa gönderme yaptığı konuşmalar gibi, hangi yapay zeka sohbetlerinin uyarı gerektirdiğini anlamak için ebeveynler ve uzmanlarla birlikte çalıştık" diyor. 

Ardından bu tür sohbetleri tespit edecek özel bir yapay zeka sistemi geliştirdik.

Meta, bu tür uyarıların ebeveynler için "endişe verici" olabileceğinin farkında. Bu nedenle şirket, yapay zeka sisteminin işaretlediği tüm uyarı mesajlarının manuel olarak inceleneceğini ancak belirsizlik durumunda ebeveynlerle iletişime geçme yönünde bir yaklaşım izleyeceğini belirtiyor.

Şirket, "Bu, bazen aslında ciddi bir endişe nedeni bulunmasa bile ebeveynlere bildirim gönderebileceğimiz anlamına gelse de bunun doğru bir başlangıç noktası olduğunu düşünüyoruz ve doğru dengeyi kurduğumuzdan emin olmak için sistemi izlemeyi ve geliştirmeyi sürdüreceğiz" ifadelerini kullanıyor.

Meta, bir çocuğun Instagram'da intihar veya kendine zarar vermeyle ilgili terimleri kısa bir zaman diliminde tekrar tekrar araması durumunda ebeveynleri zaten uyarıyordu. Ancak yeni güncellemeyle, şirketin Instagram ve WhatsApp dahil tüm platformlarında yapay zeka sistemleriyle iletişim kurma yolu olarak teşvik ettiği Meta AI aracına benzer araçlar geliyor.

Şirket ayrıca yapay zeka sistemiyle yapılan bir sohbette kişinin "kendine zarar verme riskinin çok yakın olduğunun" görüldüğü durumlarda acil durum ekipleriyle iletişime geçmenin yollarını araştırdığını da söylüyor. Meta'nın halihazırda Instagram ve Facebook'taki paylaşımlar için benzer araçları var.

Independent Türkçe


OpenAI'ın yeni modeli, "hiçbir şey sormadan dosya ve veritabanı siliyor"

OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
TT

OpenAI'ın yeni modeli, "hiçbir şey sormadan dosya ve veritabanı siliyor"

OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)

OpenAI'ın kodlama odaklı yeni yapay zeka modeli GPT-5.6 Sol'un,  kullanıcılarından onay almadan dosya ve veritabanlarını sildiği öne sürülüyor.

ChatGPT'nin yaratıcısının geçen hafta kullanıma sunduğu GPT-5.6 Sol, muhakeme ve yazılım mühendisliği gibi alanlarda daha gelişmiş becerilere sahip.

Şirket, kodlamada "amiral gemisi" diye tanımladığı modelin aynı zamanda "bugüne kadarki en dayanıklı güvenlik katmanıyla kullanıma sunulduğunu" ifade ediyor. 

Ancak çeşitli kullanıcılar, GPT-5.6 Sol'un kendilerine hiçbir şekilde danışmadan dosyalarını sildiğini sosyal medyada paylaşıyor.

Yapay zeka girişimi OthersideAI'ın kurucusu ve CEO'su Matt Shumer, X'te viral olan gönderisinde "GPT-5.6 Sol, Mac'imdeki dosyaların neredeyse TAMAMINI yanlışlıkla sildi" diye yazdı.

Bir diğer popüler gönderinin sahibi olan geliştirici Bruno Lemos da "GPT-5.6 Sol az önce üretim veritabanımın tamamını sildi. Hepsi bu. Şaka değil. Daha önce hiçbir modelde başıma böyle bir şey gelmemişti. Güvenli değil" diyerek şikayetini dile getirdi.

Başka bir geliştirici Joey Kudish ise modelin dokunmaması gereken bazı dosyaları sildiğini söyleyerek şöyle ekledi:

Yedeklerim var o yüzden sorun yok ama bu hiç hoş bir durum değil. Sol'un biraz sınırlanması gerekiyor.

Bazı geliştiriciler sorumluluğu GPT-5.6 Sol'a yüklerken, diğerleri herhangi bir yapay zeka ajanına bütün dosyalara erişim izni verilmesinin böyle hatalara yol açabileceğini savunuyor.

OpenAI'dan henüz bu şikayetlerle ilgili bir açıklama gelmedi ancak şirket, modelin kullanıma sunulmasından önce yayımladığı sistem kartında bu tür risklerden bahsetmişti. Sistem kartı, modellerin nasıl test edildiğini, hangi risklerin belirlendiğini ve elde edilen sonuçları açıklayan teknik dokümanlara verilen ad.

Yapay zeka devi sistem kartında şu ifadelere yer veriyor: 

Kodlama bağlamında, uyumsuzluk genellikle görevi tamamlamaya yönelik aşırı heves ve kullanıcı talimatlarını çok geniş bir şekilde yorumlamanın birleşiminden kaynaklanıyor; örneğin eylemler açıkça ve net bir şekilde yasaklanmadıkça bunlara izin verildiğini varsayabilir.

Başka bir deyişle model, verilen görevi tamamlamak uğruna kullanıcı tarafından açıkça yasaklanmamış eylemleri de gerçekleştirebilir. OpenAI ayrıca modelin, eylemlerinin sonuçları hakkında yalan söyleyebileceği uyarısında da bulunuyor.

Testlerden birinde GPT-5.6 Sol'un kullanıcı adı ve şifre gibi kimlik bilgilerini yetkisi dışında kullandığı da gözlemlendi.

Sistem kartı, bu tür yok edici davranışların nadir yaşanacağını vaat etse de GPT-5.6 Sol'un, "GPT-5.5'e kıyasla kullanıcının niyetinin ötesine geçmeye daha yatkın olduğunu ve kullanıcının istemediği eylemleri gerçekleştirebileceği veya gerçekleştirmeye teşebbüs edebileceğini" belirtiyor.

Bu nedenle uzmanlar, kullanıcıların dosyalarını düzenli olarak yedeklemesini ve modele açık, net sınırlar koymasını öneriyor.

Independent Türkçe, TechCrunch, India Today, OpenAI