عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

Böcek kovucular sivrisinekleri kendine çekmeye başladı

Yeni bir araştırmaya göre böcekler, kovucuların kokusunu ödülle ilişkilendirmeye başladı (Unsplash)
Yeni bir araştırmaya göre böcekler, kovucuların kokusunu ödülle ilişkilendirmeye başladı (Unsplash)
TT
TT

Böcek kovucular sivrisinekleri kendine çekmeye başladı

Yeni bir araştırmaya göre böcekler, kovucuların kokusunu ödülle ilişkilendirmeye başladı (Unsplash)
Yeni bir araştırmaya göre böcekler, kovucuların kokusunu ödülle ilişkilendirmeye başladı (Unsplash)

Rebecca Whittaker 

Her yaz milyonlarca kişi sivrisinekleri uzak tutmak için kendilerine böcek kovucu sıkıyor ancak bir araştırma, kan emici böceklerin bu kovucuları yiyecekle ilişkilendirmeyi öğrenebildiğine işaret ediyor.

Böcek kovucularda geniş çapta kullanılan DEET (kimyasal adı N,N-dietil-meta-toluamid) Birleşik Krallık Sağlık Güvenliği Ajansı tarafından da tavsiye ediliyor.

Dünya Sağlık Örgütü'ne (DSÖ) göre sivrisinek kaynaklı hastalıklar her yıl yaklaşık 700 bin kişinin ölümüne neden olduğundan, sivrisinek ısırıklarının sıtma, Zika virüsü, dang humması ve Japon ensefaliti yayabileceği ülkelerde kovucular hayati önem taşıyor.

Ancak yeni araştırma, böceklerin zamanla kovucunun kokusunu ödülle ilişkilendirmeye başladığını ve bazı durumlardaysa bu kokuya çekildiğini öne sürüyor.

Virginia Tech'ten Doçent Clément Vinauger, "Birisi DEET uyguladıktan sonra yoğunluk zamanla azalıyor ancak sivrisinek yine de beslenmeyi başarıyorsa, böcek bu kokuyu ödülle ilişkilendirmeye başlayabilir" diyor. 

Kovucuların gerçek dünyada nasıl kullanıldığını düşünürsek bu ihtimali ciddiye almalıyız.

Bulguları Journal of Experimental Biology'de yayımlanan çalışmada araştırmacılar dang humması, Zika, sarıhumma ve chikungunya gibi her yıl on milyonlarca kişiyi etkileyen hastalıkları yayan türlerden sarıhumma sivrisineğine (Aedes aegypti) odaklandı.

Araştırmacılar, Ivan Pavlov'un köpeklere zil sesini yemekle ilişkilendirmeyi öğrettiği ünlü deneylerindeki öğrenme prensibi olan Pavlov koşullanması yönteminden faydalanarak sivrisinekleri eğitti.

Sivrisinekler, ulaşamayacakları bir mesafeye yerleştirilmiş bir torba ılık kanla birlikte kumaş bir ağın arkasında tutuldu. Sivrisinekler kanla beslenmeye başladıktan sonra araştırmacılar DEET kokusunu ortama yaydı.

Deneyi 4 kez tekrarladıktan sonra böceklerin yüzde 60'ından fazlası DEET kokusunu alınca beslenmeye çalıştı.

Ardından sivrisineklere biri temiz, diğeri de normal yoğunlukta DEET'le kaplanmış iki insan eli arasında seçim yapma şansı verildi. Eğitimsiz sivrisinekler DEET sıkılmış elden kaçınırken, eğitilenler bu ele çekildi.
 

Virginia Tech Tarım ve Yaşam Bilimleri Fakültesi'nden Doçent Clément Vinauger (Virginia Tech)Virginia Tech Tarım ve Yaşam Bilimleri Fakültesi'nden Doçent Clément Vinauger (Virginia Tech)

Vinauger, "Yaygın kanı her zaman kovucuların kimyasal yapıları sayesinde işe yaradığı yönündeydi; yani DEET'in kokusu sivrisineklere kötü geldiği için kaçtıkları ya da kimyasal yapısının sivrisineklerin bizi koklamasını engellediği düşünülüyordu" diyor.

Ancak sivrisinek beyninin, deneyimlerine dayanarak bu tepkiyi yeniden belirleyebildiğini gösteriyoruz. Böceğin öğrenme mekanizması, kimyasallar kadar rol oynuyor. Bence burada bir paradigma değişimi var.

Vinauger, bu bulguların insanların DEET kullanmayı bırakması gerektiği anlamına gelmediğini söylüyor. DEET hâlâ piyasadaki en etkili kovuculardan biri.

Araştırmacı "Gerçek bir hastalık riskinin olduğu tropikal bölgelerdeyseniz kullanmalısınız" diyor.

Ancak çalışma, zamanlama ve yoğunluğun daha önce sanılandan daha önemli olabileceğini gösteriyor.

Vinauger "Bir kerede çok miktarda uygulamak yerine, her zaman aktif kalması ve sürekli koruma sağlaması için düzenli olarak yeniden uygulayabilirsiniz" ifadelerini kullanıyor.

Independent Türkçe, independent.co.uk/news

TEKNOLOJİ

NASA, Artemis görevi için şair arayışında

(Reuters)
(Reuters)
TT
TT

NASA, Artemis görevi için şair arayışında

(Reuters)
(Reuters)

Andrew Griffin 

NASA, Ay'a yönelik Artemis görevi ve diğer çalışmalarına destek olacak şairler ve başka yaratıcı hikaye anlatıcıları arıyor.

Uzay ajansı, yürüttükleri görevleri paylaşacak "sinemacılar, belgeselciler, şarkı yazarları, hikaye anlatıcıları, şairler ve diğerleriyle" çalışmak istiyor.

Bunlar arasında insanları Ay'a geri götürecek Artemis programının yanı sıra başka görevler de var. 2028'de Mars'a nükleer reaktör gönderme planları, Ay yüzeyinde üs inşa etme çalışmaları ve test uçuşları da bunlar arasında.

Ajans kamuoyuna yaptığı çağrıda bu çalışmaların, "NASA'nın görevlerine dair hikayeleri mümkün olduğunca geniş bir kitleyle paylaşmasını ve yeni nesil kaşiflere ilham vermesini" hedeflediğini belirtti.

Açıklamada başarılı içerik üreticilerinin, NASA'nın program tesislerine davet edileceği, "program ve görevler hakkında bilgi edineceği, personelle röportaj yapacağı ve programın içeriği ve onun bir parçası olmanın nasıl bir şey olduğunu birkaç gün boyunca deneyimleyeceği" söylendi.

Çalışma öncelikle ABD'deki içerik üreticilerine odaklansa da Amerikan ekiplerindeki uluslararası işbirlikçilerin de değerlendirmeye alınacağı ifade edildi. İlk turda en fazla 10 kişi veya ekibin yer alması bekleniyor ancak uzay ajansı daha fazla fırsatın ortaya çıkmasının muhtemel olduğunu belirtti.

İçerik üreticilerine çalışmaları karşılığında ödeme yapılmayacak. Bunun yerine NASA, çalışmanın "karşılıklı fayda" sağlayacağını umduğunu ve uzay ajansıyla üreticilerin kendi masraflarını kendilerinin karşılayacağını ifade etti.

NASA, ilgilenen herkesten haziran sonuna kadar tekliflerini sunmalarını istedi. Ajans, ilgilenenlerin tam olarak ne göndermesi gerektiğine dair bilgiler gibi ayrıntıları içeren bir teklif çağrısını internet sitesinde yayımladı.

Independent Türkçe,independent.co.uk/space

TEKNOLOJİ

Çin bütün insansı robotlara kimlik numarası getiriyor

Hangzhou'da halk, polis memuru olan insansı robotun yanından geçiyor (AFP)
Hangzhou'da halk, polis memuru olan insansı robotun yanından geçiyor (AFP)
TT
TT

Çin bütün insansı robotlara kimlik numarası getiriyor

Hangzhou'da halk, polis memuru olan insansı robotun yanından geçiyor (AFP)
Hangzhou'da halk, polis memuru olan insansı robotun yanından geçiyor (AFP)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri 

Çin devlet televizyonu CCTV'ye göre Asya ülkesi, insansı robotlarını yaşam döngüleri boyunca daha iyi takip edebilmek amacıyla bu araçların hepsine eşsiz dijital kimlik numaraları getirmeyi planlıyor.

Çin sektörde hızlı bir büyüme hedeflerken bu program, yetkililerin insansı robot ürünlerini üretim aşamasından nihai geri dönüşümlerine kadar güvenlik riskleri açısından izlemesini sağlamak üzere tasarlandı.

Çinli yetkililer ayrıca insansı robotların nasıl yönetilmesi gerektiği ve bu eşsiz kimlik numaralarının nasıl takip edilebileceğine dair yeni yönergeler yayımladı.

Bu benzersiz insansı robot kimlikleri 4 bölümden oluşuyor. Bunlar arasında sınır ötesi sevkıyatları takip etmeye yarayan iki basamaklı bir kod ve robotu üreten Çinli firmayı tanımlayan 4 basamaklı bir kod da yer alıyor.

Yeni yönergeye göre 6 basamaklı bir ürün kodu insansı robotun türünü belirlerken, 17 basamaklı seri numarası ise her bir robotu birbirinden ayıracak.

Bu girişim halihazırda 100'den fazla Çinli üreticiyi kapsarken, 200 farklı modelden 28 binden fazla insansı robota dijital kimlik atandı.

Bütün bu programı, Çin Sanayi ve Bilgi Teknolojileri Bakanlığı bünyesindeki Çin İnsansı Robotik ve Bedenlenmiş Zeka Standardizasyonu (HEIS) yürütüyor.

Uzmanlara göre Çin'de insansı robotlar halihazırda çoğunlukla üniversiteler, araştırma laboratuvarları ve imalat sektöründe kullanılsa da ülke, yaşlı bakımı ve ev temizliği gibi ticari uygulamalar için geniş çaplı kullanıma sunmaya da hazırlanıyor.

Ülke ayrıca donanım tedarik zincirini hızla yerelleştirerek ABD menşeli Nvidia çiplerine bağımlılığını azaltıyor.

Yerel haberlere göre ülkede halihazırda kullanılan insansı robotlar tamamen otonom olmaktan uzak ve genellikle çeşitli görevleri yerine getirmek için gereken hassasiyet ve el becerisinden yoksun.

Bu robotlar çoğunlukla farklı sektörlerde sahaya özgü denemeler yapmak için kullanılıyor ancak uzmanlar, bu görevlerde bile robotların sınırlı el becerisi nedeniyle insanlara kıyasla sadece kısmen verimli olduklarını belirtiyor.

GigaAI, Unitree ve Agibot gibi şirketler, önemli donanım yenilikleriyle pazara öncülük ediyor.

Örneğin GigaAI, Çin'in ev işlerini yerine getirmek üzere geliştirilen ilk genel amaçlı insansı robotunu kısa süre önce tanıtmıştı.

GigaAI'ın SeeLight S1 robotu, Hubei İnsansı Robot İnovasyon Merkezi ve Hubei İnsansı Robotik Endüstri Birliği'yle işbirliği içinde üretildi. SCMP'nin haberine göre robotun 2027'nin ilk yarısında test edilmek üzere Vuhan'daki ailelere ücretsiz verilmesi planlanıyor.

Robotik şirketi, iki kollu ve tekerlekli insansı robotun sebze doğrama, yumurta kızartma ve çamaşır makinesini doldurma gibi çeşitli ev işlerini yaptığını gösteren bir videoyu WeChat'te yayımladı.

Independent Türkçe, independent.co.uk/tech