عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

Fillerin dürtü kontrolü bilim insanlarını şaşırttı

Koh Samui'deki Samui Fil Barınağı'nda yaşayan dişi fil Somboon (AFP)
Koh Samui'deki Samui Fil Barınağı'nda yaşayan dişi fil Somboon (AFP)
TT
TT

Fillerin dürtü kontrolü bilim insanlarını şaşırttı

Koh Samui'deki Samui Fil Barınağı'nda yaşayan dişi fil Somboon (AFP)
Koh Samui'deki Samui Fil Barınağı'nda yaşayan dişi fil Somboon (AFP)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri 

Araştırmacılar, sorunları daha etkili bir şekilde çözmek için dürtülerini bastırabilen Asya fillerinin, bu yeteneğe sahip az sayıdaki hayvan türünden biri olduğunu söylüyor.

Daha etkili bir davranışı tercih edebilmek için bir dürtüye direnmek, yani engelleyici kontrol olarak bilinen süreç, insanların karar verme mekanizmasının temel unsurlarından biri.

Bu yetenek, bazı kuş ve memeli türlerinde de gözlemleniyor.

Tayland'daki Ulusal Fil Enstitüsü’nde yapılan bir deney, Asya fillerinin engelleyici kontrol özelliğine sahip olduğunu gösterdi.

Araştırmacılar, bulguları hakemli dergi PLOS One'da yayımlanan yeni çalışmada, "Filler, dürtüsel bir davranışı bastırmaları gereken bir durumla karşılaştığında genellikle bu dürtüyü bastırmayı başardı" ifadelerini kullanıyor.

Bu yetenek, sosyal etkileşimler veya fillerin problem çözme gibi bilişsel süreçlerinin diğer yönleri için önem taşıyabilir.

Görsel kaldırıldı.
Filler, yiyeceği elde etmenin etkili yollarını bulmak için dürtülerine direniyor (Sangpa Dittakul)

Çalışma kapsamında 16 fil, tek bir açıklıktan yiyecek almak için hortumlarını bir kutunun etrafından uzatmayı öğrendi.

Daha sonra hayvanlara, ön tarafındaki küçük delikler sayesinde içindeki yiyeceği görüp koklayabildikleri şeffaf bir kutu sunuldu. Araştırmacılar, hayvanların başlangıçta öğrendikleri gibi yiyeceğe doğrudan uzanma arzusuna tutarlı biçimde direndiğini ve bunun yerine kutunun yan tarafındaki açıklığı kullandığını tespit etti.

Kutu döndürüldüğünde filler ilk başta açıklığın önceki konumuna uzanma dürtüsüne kapılsa da kısa süre içinde bu davranışlarını değiştirerek yeni ve etkili bir yaklaşım buldu.

Araştırmacılar, daha yaşlı bireylerde davranış değişikliğinin daha yavaş gerçekleştiğini ve bunun muhtemelen yaşa bağlı bilişsel gerilemeden kaynaklandığını belirtiyor.

Bilim insanları, "Çalışma, bu türde engelleyici kontrolün varlığına dair ilk kanıtlardan bazılarını sunuyor" diye yazarak bunu doğrulamak için daha fazla araştırmaya ihtiyaç duyulduğunu ekliyor.

Deney, fillerin dürtüsel ancak etkisiz eylemlere direnip dolaylı fakat etkili davranışları tercih etme yeteneğini ortaya koyuyor.

Araştırmacılar, bu yeteneğin fillerin problem çözme ve sosyalleşme becerilerinin kritik bir parçası olabileceğini ve insan-fil çatışmalarını önlemeye yönelik etkili stratejilerin geliştirilmesine katkı sağlayabileceğini söylüyor.

Araştırmacılar şu ifadeleri kullanıyor:

Engelleyici kontrolü inceleyen kontrollü deneylerde fillerin farklı türdeki engellerle nasıl etkileşim kurduğunu ve bunların etrafından dolaşmayı nasıl öğrendiğini anlamak, yaban hayatındaki insan yapımı engellerden nasıl kaçındıklarını veya atlattıklarını anlamamıza yardımcı olabilir.

Independent Türkçe,independent.co.uk/news

YAŞAM Sağlık

Teknoloji patronu, yapay zekanın yakında kansere çare bulacağını söyledi

Paris'teki Fransız biyofarmasötik şirketi Cellectis'in laboratuvarındaki laboratuvar teknisyenleri, kanser tedavileri için CAR-T hücreleri ve RNA üretmek üzere 23 Eylül 2021'de bir makinede çalışıyor (Thomas Coex/AFP)
Paris'teki Fransız biyofarmasötik şirketi Cellectis'in laboratuvarındaki laboratuvar teknisyenleri, kanser tedavileri için CAR-T hücreleri ve RNA üretmek üzere 23 Eylül 2021'de bir makinede çalışıyor (Thomas Coex/AFP)
TT
TT

Teknoloji patronu, yapay zekanın yakında kansere çare bulacağını söyledi

Paris'teki Fransız biyofarmasötik şirketi Cellectis'in laboratuvarındaki laboratuvar teknisyenleri, kanser tedavileri için CAR-T hücreleri ve RNA üretmek üzere 23 Eylül 2021'de bir makinede çalışıyor (Thomas Coex/AFP)
Paris'teki Fransız biyofarmasötik şirketi Cellectis'in laboratuvarındaki laboratuvar teknisyenleri, kanser tedavileri için CAR-T hücreleri ve RNA üretmek üzere 23 Eylül 2021'de bir makinede çalışıyor (Thomas Coex/AFP)

Birleşik Krallık'ın (BK) en büyük teknoloji şirketinin CEO'su, yapay zeka alanındaki gelişmeler sayesinde önümüzdeki birkaç on yılda kansere çare bulunacağını söyledi.

Dünyanın önde gelen çip tasarımcılarından Arm Holdings'in başındaki Rene Haas, yapay zekanın kanserden etkilenen DNA belirteçlerini modelleme sorununu çözebileceğini ve bu sorunun halen insanlara ve mevcut yapay zeka sistemlerine "fazla karmaşık" geldiğini söyledi.

Merkezi Cambridge'de bulunan Arm, dünya çapında milyarlarca akıllı telefon, akıllı saat ve diğer cihazda kullanılan yarı iletken mimarisinin yanı sıra veri merkezlerinde kullanılan yapay zeka çiplerinin giderek artan bir kısmını da tasarlıyor.

Küresel yapay zeka patlamasından en çok fayda sağlayanlardan biri haline gelen şirket, 400 milyar doların üzerinde piyasa değeriyle bu yıl BK tarihinin en değerli firması olmuştu.

BBC'ye konuşan Haas, "Yapay zeka... Sizin, benim ve diğer insanların bugünkü imkanlarla yaşamları boyunca bulamayacağı bir kanser tedavisini bulacak. Yaşam süremiz içinde yapay zekanın kanseri tedavi etmeye yardımcı olacağına inanıyorum" dedi.

Bir hücreyi modellemek, bir insanı modellemek, bir DNA belirtecinin kanserden nasıl etkilendiğini modellemek; bunlar sadece günümüz insanları için değil, yapay zekayı çalıştıran bilgisayarlar için de çok karmaşık sorunlar. Ancak zamanla bilgisayarlara daha fazla model yüklendikçe ve bu sistemler geliştikçe, sözkonusu sorunların aşılması mümkün olacak.

Sağlık sektöründe yapay zeka alanında son dönemde kaydedilen ilerlemeler, bu teknolojinin tıbbi araştırmaları hızlandırma potansiyeline yönelik iyimserliği güçlendiriyor.

Google DeepMind, proteinlerin, DNA'nın, RNA'nın ve ilaç moleküllerinin birbirleriyle nasıl etkileşime girdiğini tahmin edebilen yapay zeka modeli AlphaFold 3'ü 2024'te tanıtmıştı.

Biyolojide uzun süredir devam eden bu zorluğun aşılması, hastalar için hayat değiştirici tedavilere yönelik ilaçların keşfedilip geliştirilmesi yolunda önemli bir dönüm noktası olarak görülmüştü.

DeepMind'dan doğan Isomorphic Labs, yapay zeka sistemleriyle tasarlanan ilaçların ilk insan klinik denemeleri için bu yıl hazırlıklara başlamıştı.

AstraZeneca, Eli Lilly ve Sanofi gibi diğer ilaç şirketleri de yeni kanser tedavilerini saptamak amacıyla yapay zekayı kullanmak üzere milyarlarca dolarlık ortaklıklar kurdu.

Haas, halihazırda tedarik zinciri sorunları yaşanan yapay zeka çiplerine erişimin bu potansiyeli gerçekleştirmenin önündeki en önemli zorluklardan biri olacağını söyledi.

Haas, "Kesinlikle tedarik kısıtlamalarıyla karşı karşıya olduğumuz bir ortamdayız" dedi.

Independent Türkçe

TEKNOLOJİ

Tek bir tıklamaya bile ihtiyaç duymadan telefonlara sızabilen yapay zekâ destekli bir araç geliştirildi

Araştırmacılar, mağdurun herhangi bir şeye tıklamasına gerek kalmadan iOS ve Android işletim sistemleri üzerinden yayılabilen ilk “bilgisayar solucanını” geliştirdi (Arşiv- Reuters)
Araştırmacılar, mağdurun herhangi bir şeye tıklamasına gerek kalmadan iOS ve Android işletim sistemleri üzerinden yayılabilen ilk “bilgisayar solucanını” geliştirdi (Arşiv- Reuters)
TT
TT

Tek bir tıklamaya bile ihtiyaç duymadan telefonlara sızabilen yapay zekâ destekli bir araç geliştirildi

Araştırmacılar, mağdurun herhangi bir şeye tıklamasına gerek kalmadan iOS ve Android işletim sistemleri üzerinden yayılabilen ilk “bilgisayar solucanını” geliştirdi (Arşiv- Reuters)
Araştırmacılar, mağdurun herhangi bir şeye tıklamasına gerek kalmadan iOS ve Android işletim sistemleri üzerinden yayılabilen ilk “bilgisayar solucanını” geliştirdi (Arşiv- Reuters)

Kaliforniya merkezli siber güvenlik şirketi “Calypso”da görev yapan küçük bir araştırmacı ekibi, gelişmiş yapay zekâ modellerinin yardımıyla Çin’de yaygın olarak kullanılan sosyal medya ve mesajlaşma platformu WeChat’e sızabilen ve platform üzerinde tam kontrol sağlayabilen bir hackleme aracı geliştirmeyi başardı.

Saldırı araçlarını satmak yerine siber savunmayı güçlendirmek amacıyla geliştirdiğini belirten Calypso’nun Üst Yöneticisi (CEO) Tai Dong, söz konusu güvenlik açığının “olağanüstü” olduğunu söyledi. Dong, ABD’nin New York Times (NYT) gazetesine yaptığı açıklamasında, açığın basitliği ile sahip olduğu geniş imkânların bilgisayar korsanları açısından “bir rüyanın gerçeğe dönüşmesi” anlamına geldiğini belirtti.

Söz konusu saldırı, yapay zekânın olağanüstü hızla gelişmesinin ve düzenleyici kurumların, hatta önde gelen geliştiricilerin bile bu gelişime ayak uydurmakta zorlandığı bir ortamın en yeni ve en kaygı verici örneklerinden biri olarak değerlendiriliyor.

Calypso, “WeWorm” adını verdiği saldırının, bilinen ilk “bilgisayar solucanı” olduğunu belirtti. Bilgisayar solucanları, insan müdahalesine ihtiyaç duymadan bir cihazdan diğerine kendi kendine yayılabilen kötü amaçlı yazılım türü olarak tanımlanıyor. Şirket, WeWorm’un Apple’ın iOS ve Google’ın Android işletim sistemlerinde, mağdurun herhangi bir şeye tıklamasına veya dokunmasına gerek kalmadan yayılabildiğini açıkladı.

“Zero-click” olarak bilinen tıklamasız saldırılar, kimlik avı amacıyla kullanılan geleneksel e-posta ve kısa mesajlardan çok daha tehlikeli kabul ediliyor. Bunun nedeni, mağdurun önceden hazırlanmış bir dijital tuzağa düşmesini gerektirmemesi ve bu nedenle savunulmasının son derece zor olması.

Siber saldırı (Reuters)
Siber saldırı (Reuters)

WeChat’in sahibi Çinli teknoloji şirketi Tencent’in bir sözcüsü de güvenlik açığının varlığını doğruladı. Sözcü, Calypso’nun kendileriyle iletişime geçmesinin ardından sorunun giderildiğini belirtti.

Sözcü yaptığı açıklamada, şirketin söz konusu sorunun güvenliği tehlikeye attığına veya herhangi bir kullanıcıyı etkilediğine inanmasını gerektirecek bir neden bulunmadığını söyledi. Ayrıca kullanıcıların uygulamada herhangi bir güncelleme yapmasına gerek olmadığını ifade etti.

Bununla birlikte, söz konusu keşfin, gelişmiş yapay zekâ modellerinin yakın gelecekte dijital güvenliğe ilişkin temel varsayımları sarsacak karanlık bir dönemin habercisi olabileceği yönündeki endişeleri artırması bekleniyor. Bu modellerin, en azından kısa vadede, kötü niyetli bilgisayar korsanlarına önemli bir avantaj sağlayabileceği değerlendiriliyor.

Calypso, çalışmasında açık kaynaklı yapay zekâ modellerinin yanı sıra ABD merkezli öncü yapay zekâ modellerinin bir kombinasyonundan yararlandığını açıkladı. Ancak hangi modellerin kullanıldığını belirtmedi.

WeWorm saldırısında, bir WeChat hesabına sızıldıktan sonra saldırgan mesajları okuyup gönderebiliyor, arama yapabiliyor ve mağdurun hesabını kontrol edebiliyordu.

“Bilgisayar solucanları”, bir bağlantıya veya dosyaya tıklanmasını gerektirmeyen yazılım açıklarından yararlanarak kendi kodlarını ağ veya internet üzerinden otomatik biçimde yayabiliyor. Bu da hızlı ve kolay şekilde çoğalmalarını sağlıyor. WeWorm da bu olayda WeChat hesapları üzerinden aynı yöntemle yayıldı.

WeChat, bu yıl yayımladığı bir blog yazısında aylık 1,4 milyardan fazla aktif kullanıcısı bulunduğunu açıkladı. Bu rakam, uygulamayı dünyanın en yaygın kullanılan platformlarından biri haline getiriyor. Kullanıcıların büyük çoğunluğu ise Çin’de bulunuyor.

Öte yandan, daha önce ABD Ulusal Güvenlik Ajansı’nda (NSA) baş veri bilimcisi olarak görev yapan Finn Nguyen, söz konusu kötü amaçlı yazılımı şimdiye kadar gördüğü “en tehlikeli ve en endişe verici siber saldırılardan biri” olarak nitelendirdi.

Kendi kendine yayılabilen bilgisayar solucanları daha önce de ortaya çıkmıştı. Bu tür yazılımlar birkaç on yıl önce daha yaygındı ancak o dönemde cep telefonu yazılımlarını hedef almıyordu.

Nguyen, WeChat solucanının hesaplara hızla sızmasının ardından hesapların adres defterinde kayıtlı tüm numaralara otomatik olarak yayılabilmesi nedeniyle özellikle endişe verici olduğunu belirtti. Bunun kötü amaçlı yazılımın “son derece hızlı bir şekilde yayılmasına” imkân verdiğini söyleyen Nguyen, “Saatler içinde saldırı yüz milyonlarca cihaza ulaşabilir” dedi.

Son haftalarda OpenAI ve aralarında Calypso’nun da bulunduğu 100’den fazla büyük teknoloji şirketi, yayımladıkları açık mektupta yapay zekâ destekli yeni bir siber saldırı dalgasının yaklaşmakta olduğu uyarısında bulundu. Şirketler, kurumlar ve hükümetlerin bu tehdide karşı hazırlıklı olması gerektiğini vurguladı.

Bu mektup, yapay zekâ modellerinin gerçekleştirdiği bir dizi siber saldırının ardından yayımlandı. Bazı vakalarda bu modellerin test ortamlarından çıkarak başka şirketlere saldırmayı başardığı belirtildi.

Şarku’l Avsat’ın NYT’den aktardığı habere göre Microsoft’un kurucu ortağı milyarder Bill Gates verdiği röportajda, bu risklerle mücadelenin “dünyanın en önemli önceliği” olması gerektiğini söyledi.

OpenAI CEO’su Sam Altman ise geçen hafta Kuzey Carolina’da düzenlenen G20 toplantısında yaptığı konuşmada, “Büyük bir tehditle karşı karşıyayız. Çok acil şekilde harekete geçilmediği takdirde siber güvenlik konusunda son derece kötü gelişmeler yaşanacak” ifadelerini kullandı.