عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

NASA, Artemis görevi için şair arayışında

(Reuters)
(Reuters)
TT
TT

NASA, Artemis görevi için şair arayışında

(Reuters)
(Reuters)

Andrew Griffin 

NASA, Ay'a yönelik Artemis görevi ve diğer çalışmalarına destek olacak şairler ve başka yaratıcı hikaye anlatıcıları arıyor.

Uzay ajansı, yürüttükleri görevleri paylaşacak "sinemacılar, belgeselciler, şarkı yazarları, hikaye anlatıcıları, şairler ve diğerleriyle" çalışmak istiyor.

Bunlar arasında insanları Ay'a geri götürecek Artemis programının yanı sıra başka görevler de var. 2028'de Mars'a nükleer reaktör gönderme planları, Ay yüzeyinde üs inşa etme çalışmaları ve test uçuşları da bunlar arasında.

Ajans kamuoyuna yaptığı çağrıda bu çalışmaların, "NASA'nın görevlerine dair hikayeleri mümkün olduğunca geniş bir kitleyle paylaşmasını ve yeni nesil kaşiflere ilham vermesini" hedeflediğini belirtti.

Açıklamada başarılı içerik üreticilerinin, NASA'nın program tesislerine davet edileceği, "program ve görevler hakkında bilgi edineceği, personelle röportaj yapacağı ve programın içeriği ve onun bir parçası olmanın nasıl bir şey olduğunu birkaç gün boyunca deneyimleyeceği" söylendi.

Çalışma öncelikle ABD'deki içerik üreticilerine odaklansa da Amerikan ekiplerindeki uluslararası işbirlikçilerin de değerlendirmeye alınacağı ifade edildi. İlk turda en fazla 10 kişi veya ekibin yer alması bekleniyor ancak uzay ajansı daha fazla fırsatın ortaya çıkmasının muhtemel olduğunu belirtti.

İçerik üreticilerine çalışmaları karşılığında ödeme yapılmayacak. Bunun yerine NASA, çalışmanın "karşılıklı fayda" sağlayacağını umduğunu ve uzay ajansıyla üreticilerin kendi masraflarını kendilerinin karşılayacağını ifade etti.

NASA, ilgilenen herkesten haziran sonuna kadar tekliflerini sunmalarını istedi. Ajans, ilgilenenlerin tam olarak ne göndermesi gerektiğine dair bilgiler gibi ayrıntıları içeren bir teklif çağrısını internet sitesinde yayımladı.

Independent Türkçe,independent.co.uk/space

TEKNOLOJİ

Çin bütün insansı robotlara kimlik numarası getiriyor

Hangzhou'da halk, polis memuru olan insansı robotun yanından geçiyor (AFP)
Hangzhou'da halk, polis memuru olan insansı robotun yanından geçiyor (AFP)
TT
TT

Çin bütün insansı robotlara kimlik numarası getiriyor

Hangzhou'da halk, polis memuru olan insansı robotun yanından geçiyor (AFP)
Hangzhou'da halk, polis memuru olan insansı robotun yanından geçiyor (AFP)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri 

Çin devlet televizyonu CCTV'ye göre Asya ülkesi, insansı robotlarını yaşam döngüleri boyunca daha iyi takip edebilmek amacıyla bu araçların hepsine eşsiz dijital kimlik numaraları getirmeyi planlıyor.

Çin sektörde hızlı bir büyüme hedeflerken bu program, yetkililerin insansı robot ürünlerini üretim aşamasından nihai geri dönüşümlerine kadar güvenlik riskleri açısından izlemesini sağlamak üzere tasarlandı.

Çinli yetkililer ayrıca insansı robotların nasıl yönetilmesi gerektiği ve bu eşsiz kimlik numaralarının nasıl takip edilebileceğine dair yeni yönergeler yayımladı.

Bu benzersiz insansı robot kimlikleri 4 bölümden oluşuyor. Bunlar arasında sınır ötesi sevkıyatları takip etmeye yarayan iki basamaklı bir kod ve robotu üreten Çinli firmayı tanımlayan 4 basamaklı bir kod da yer alıyor.

Yeni yönergeye göre 6 basamaklı bir ürün kodu insansı robotun türünü belirlerken, 17 basamaklı seri numarası ise her bir robotu birbirinden ayıracak.

Bu girişim halihazırda 100'den fazla Çinli üreticiyi kapsarken, 200 farklı modelden 28 binden fazla insansı robota dijital kimlik atandı.

Bütün bu programı, Çin Sanayi ve Bilgi Teknolojileri Bakanlığı bünyesindeki Çin İnsansı Robotik ve Bedenlenmiş Zeka Standardizasyonu (HEIS) yürütüyor.

Uzmanlara göre Çin'de insansı robotlar halihazırda çoğunlukla üniversiteler, araştırma laboratuvarları ve imalat sektöründe kullanılsa da ülke, yaşlı bakımı ve ev temizliği gibi ticari uygulamalar için geniş çaplı kullanıma sunmaya da hazırlanıyor.

Ülke ayrıca donanım tedarik zincirini hızla yerelleştirerek ABD menşeli Nvidia çiplerine bağımlılığını azaltıyor.

Yerel haberlere göre ülkede halihazırda kullanılan insansı robotlar tamamen otonom olmaktan uzak ve genellikle çeşitli görevleri yerine getirmek için gereken hassasiyet ve el becerisinden yoksun.

Bu robotlar çoğunlukla farklı sektörlerde sahaya özgü denemeler yapmak için kullanılıyor ancak uzmanlar, bu görevlerde bile robotların sınırlı el becerisi nedeniyle insanlara kıyasla sadece kısmen verimli olduklarını belirtiyor.

GigaAI, Unitree ve Agibot gibi şirketler, önemli donanım yenilikleriyle pazara öncülük ediyor.

Örneğin GigaAI, Çin'in ev işlerini yerine getirmek üzere geliştirilen ilk genel amaçlı insansı robotunu kısa süre önce tanıtmıştı.

GigaAI'ın SeeLight S1 robotu, Hubei İnsansı Robot İnovasyon Merkezi ve Hubei İnsansı Robotik Endüstri Birliği'yle işbirliği içinde üretildi. SCMP'nin haberine göre robotun 2027'nin ilk yarısında test edilmek üzere Vuhan'daki ailelere ücretsiz verilmesi planlanıyor.

Robotik şirketi, iki kollu ve tekerlekli insansı robotun sebze doğrama, yumurta kızartma ve çamaşır makinesini doldurma gibi çeşitli ev işlerini yaptığını gösteren bir videoyu WeChat'te yayımladı.

Independent Türkçe, independent.co.uk/tech

TEKNOLOJİ

Apple, Siri'yi baştan aşağı değiştiriyor: Yenilikler neler?

Fotoğraf: AP
Fotoğraf: AP
TT
TT

Apple, Siri'yi baştan aşağı değiştiriyor: Yenilikler neler?

Fotoğraf: AP
Fotoğraf: AP

Apple'ın odağına gizliliği alarak Siri'yi baştan aşağı yenilemeyi planladığı yeni bir haberde bildirildi. 

Apple, iki yıldır sanal asistanına yepyeni yetenekler kazandıracağına söz verirken, bunun için sistemin yenilenmesi gerekiyor.  Bu yeni özellikler arasında kullanıcının kişisel koşullarını anlama yeteneği de yer alacak. Böylece kullanıcılar, örneğin birinin uçağının ne zaman ineceğini sorabilecek ve sistem o kişinin kim olduğunu bilip seyahatiyle ilgili daha fazla bilgi edinebilecek.

Ancak bu yenileme ve Apple'ın yapay zeka alanındaki çabaları genel olarak bir dizi sorunla karşılaşırken özelliklerin çoğu ya geç geldi ya da hiç gelmedi. Buna Siri'deki değişiklikler de dahil.

Apple'ın bu yeni Siri sürümünü, gelecek ay düzenlenecek yıllık yazılım etkinliği Dünya Geliştiriciler Konferansı'nda (WWDC) piyasaya süreceği söylentileri dolaşıyor.

Bloomberg'ün yeni haberine göre Siri'nin yeni sürümü bir dizi özellikle birlikte geliyor ancak Apple, gizliliğe odaklanmasının, halihazırda yapay zekayı daha yoğun kullanan diğer rakiplerinden ayrışmanın anahtarı olacağını umuyor. Kullanıcıların sohbet geçmişlerini 30 gün veya bir yıl sonra otomatik olarak silmesine imkan vermenin de bu özellikler arasında yer alacağı raporda iddia ediliyor.

Diğer sohbet botları da sohbet geçmişlerini silme ve geçici sohbetler yapma olanağı sunsa da gizlilik politikaları daha belirsiz. Dahası, sohbet geçmişlerinin yıllarca saklanabilmesi ve hatta modelleri daha fazla eğitmek için kullanılabilmesi, kişisel verilerin sohbet botu içinde depolanma ihtimali olduğu anlamına geliyor.

Öte yandan bu geçmişler, cevapları kişiselleştirmeye ve daha ayrıntılı bir bağlam sağlamaya yarayabileceğinden kullanıcılara fayda sağlayabilir. Apple, gizliliğe yönelik katı inancının bazı yapay zeka özelliklerini zedelemesiyle ilgili geçmişte eleştirilerle karşılaşmıştı çünkü bu, ürünlerinin kullanıcılar hakkında daha az veriye sahip olduğu anlamına geliyordu. Ancak şirket, her ikisini de yapmanın mümkün olduğuna inandığını defalarca vurguladı.

Siri'deki değişikliklerle ilgili diğer söylentiler arasında, kullanıcıların sohbetlerini görebilecekleri bağımsız bir uygulama ve sanal asistanla etkileşim kurma yöntemlerinin yeniden tasarlanması yer alıyor.

Independent Türkçe