Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns



Microsoft mavi ekrana veda ediyor

Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)
Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)
TT

Microsoft mavi ekrana veda ediyor

Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)
Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)

Microsoft, yaklaşık 40 yılın ardından kötü şöhretli Windows mavi ekranından kurtuluyor.

Çoğu Windows kullanıcısı bu ekranla ve "Kurtarma" mesajıyla büyük ihtimalle en beklenmedik anlarda karşılaşmıştır.

Yazılım şirketi perşembe günü yaptığı açıklamayla bu ekranın yerine, basitleştirilmiş bir kullanıcı arayüzünü kullanıma sunduğunu duyurdu: siyah ekran.

Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor.

Dünyanın dört bir yanında Windows kullanan havayolları, hastaneler, acil servisler ve bankalar etkilenmiş ve milyonlarca Microsoft kullanıcısı çevrimdışı kalmıştı.

Yaklaşık 8,5 milyon Windows sisteminin çökmesine, verimlilik kaybı ve diğer sorunlar nedeniyle şirketlerin milyarlarca dolar kaybetmesine neden olmuştu.

Bunun sonucunda Microsoft siber dayanıklılığını güçlendirme sözü vermişti.

Microsoft'un kurumsal ve işletim sistemi güvenliğinden sorumlu başkan yardımcısı David Weston bir blog yazısında "Beklenmedik yeniden başlatma deneyimini kolaylaştırıyoruz" dedi.

Ayrıca başarılı bir şekilde yeniden başlatılamayan bilgisayarlar için bir kurtarma mekanizması olan hızlı makine kurtarma özelliğini de ekliyoruz. Bu değişiklik, beklenmedik bir yeniden başlatma durumunda aksaklıkları azaltmaya yönelik süregelen daha büyük bir çabanın parçası.

Şirket, yeni kurtarma sisteminin bu yazın ilerleyen dönemlerinde tüm Windows 11 24H2 cihazlarında kullanıma sunulacağını belirtti.

Microsoft'a göre bu yenilik, yeniden başlatma sırasında bekleme süresini çoğu kullanıcı için iki saniyeye indirecek.

Weston, The Verge'e verdiği bir röportajda, "Bu gerçekten netlik, daha iyi bilgi sağlama ve bizim ve müşterilerin sorunun özünün ne olduğunu gerçekten anlamamıza izin verme girişimi, böylece sorunu daha hızlı düzeltebiliriz" diye ekledi.

Bunun bir parçası da tam olarak neyin yanlış gittiğine, sorunun Windows'tan mı yoksa bir bileşenden mi kaynaklandığına dair daha temiz bilgi sağlamak.

Microsoft geliştiricisi Raymond Chen bir blog yazısında mavi ekranın 90'lı yılların başında geliştirildiğini yazmıştı.

Independent Türkçe