عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

İnsansı robotlardan tarihi sınav: 60 bin görev, yüzde 99,99 başarı

Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)
Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)
TT
TT

İnsansı robotlardan tarihi sınav: 60 bin görev, yüzde 99,99 başarı

Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)
Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)

Çin'deki insansı robotlar, bir faaliyetteki üretim hattında 6 günlük bir vardiyayı kusursuza yakın bir başarı oranıyla tamamladı.

Şanghay merkezli girişim Agibot'un ürettiği robotlar, Çin'in doğusundaki Nanchang'da yer alan bir fabrikada 64 saatten uzun süre boyunca kalite kontrol denetimlerini ve malzeme taşıma işlemlerini yürüttü.

Tüm operasyon canlı yayımlandı ve üretim hattındaki 60 binden fazla görevin yüzde 99,99'luk başarı oranıyla tamamlandığı görüldü.

Agibot'un kıdemli başkan yardımcısı Dr. Yao Maoqing, "İnsansı robotikte asıl soru artık bir robotun neler yapabileceği değil, gerçek çalışma ortamlarında konuşlandırılıp, entegre edilip, değer yaratıp yaratamayacağı" diyor.

Birden fazla insansı robotu gerçek bir üretim hattına sokarak ve sürecin 6 gün boyunca izlenmesini sağlayarak bedenlenmiş yapay zekanın endüstriyel ölçekte uygulanmasının aslında ne gerektirdiğine daha şeffaf bir cevap vermek istedik.

sdvdf
Agibot robotları, Longcheer Technology'nin Nanchang fabrikasındaki üretim tesisinde (Agibot)

Şanghay merkezli bu girişimin bugüne kadar 15 binden fazla robot ürettiğini de duyurması, robotların gerçek dünyada geniş ölçekte kullanıma sunulması yolunda önemli bir dönüm noktası.

Çin'in 2026-2030'u kapsayan son Beş Yıllık Planı, insansı robotları ekonomik büyüme için en önemli 10 stratejik sektörden biri olarak önceliklendiriyor.

Bu, insansı robotların standart endüstriyel robotların yeteneklerinin çok ötesinde görevleri yerine getirmelerini sağlayan güçlü çiplerle donatıldığı, bedenlenmiş yapay zekaya yönelik bir geçişe işaret ediyor.

Uluslararası Robotik Federasyonu Başkanı Takayuki Ito, "Çin yeni çerçeve kapsamında odağını geleneksel endüstriyel otomasyondan, yapay zekayla entegre, üst düzey akıllı robotik alanına kaydırıyor" ifadelerini kullanıyor.

Barclays analistleri, Çin'in 2035'e gelindiğinde 11 milyon insansı robotu devreye sokmuş olacağını öngörüyor; bu rakam, dünyanın geri kalanı için öngörülen 2 milyon adedin çok üstünde.

Morgan Stanley'nin ayrı bir analizine göre Çin geçen yıl sadece 12 bin robot sattı ve bu da beklentilerin gerçekleri aşabileceği anlamına geliyor.

Fabrika robotlarının 6 günlük canlı yayınının ardından Agibot, insansı makinelerin ticari değerini başarıyla kanıtladığını ve bunun, laboratuvar testlerinden gerçek dünya uygulamalarına geçişin işareti olduğunu iddia etti.

Şirket yaptığı açıklamada, "Sektör yeni bir aşamaya giriyor" ifadelerine yer verdi.

Bu, bedenlenmiş yapay zekanın artık endüstriyel müşterilerin önem verdiği gerçek çalışma koşullarına daha yakın ve daha şeffaf biçimde test edilmeye başlandığını gösteriyor. Aynı zamanda genel amaçlı robot ekosisteminin fikir aşamasından gerçek dünya uygulamalarınadoğru ilerlediğinin de sinyalini veriyor.

Independent Türkçe

TEKNOLOJİ

Çin, yapay zeka tabanlı "siber nükleer silahı" olduğunu iddia etti

Fotoğraf: AFP
Fotoğraf: AFP
TT
TT

Çin, yapay zeka tabanlı "siber nükleer silahı" olduğunu iddia etti

Fotoğraf: AFP
Fotoğraf: AFP

Çinli bir yapay zeka şirketi, Batılı şirketlere ve hükümetlere yıkıcı saldırılar düzenleyebilecek bir "siber nükleer silah" geliştirdiğini iddia ediyor.

Pekin merkezli Zhipu AI (Z.ai), yapay zeka modelinin artık siber güvenlik açıklarını tespit etmede Anthropic'in Mythos modelini yakalayarak Çin'i ABD'yle aynı seviyeye getirdiğini açıkladı.

Anthropic, nisanda Mythos'u tanıttığında bu modelin dünyadaki "tüm büyük işletim sistemleri ve tüm büyük internet tarayıcılarındaki" yazılım açıklarını ortaya çıkardığını ve bunlar arasında onlarca yıldır tespit edilemeyenler de olduğunu belirtmişti.

ABD'li şirket, kötü niyetli kişilerin bu modeli siber saldırılar yürütmek için kullanmasını önlemek amacıyla modeli sınırlı biçimde kullanıma sunmuştu. Önceki haftalardaysa Anthropic, ABD Ticaret Bakanlığı'nın talimatı üzerine Mythos 5 modelini tüm kullanıcılar için devre dışı bırakmak zorunda kalmıştı.

Daha sonra model, şirketler, kritik altyapı operatörleri ve ABD devlet kurumları gibi yaklaşık 100 güvenilir kuruluşun erişimine yeniden açıldı.

Z.ai'ya göre şirketin GLM-5.2 modeli, yazılım hatalarını bulmada Anthropic'in Mythos modeliyle eşdeğer bir performans sergilerken, aynı işi yaklaşık altıda bir maliyetle yapabiliyor.

Çin merkezli bir diğer siber güvenlik şirketi 360 Security Technology de Anthropic'in Mythos'una rakip olabilecek yapay zeka modelleri geliştirdiğini iddia ediyor.

sdvefr

Şirketin kurucusu Zhou Hongyi, geçen hafta Pekin'de düzenlenen ISC.AI 2026 güvenlik konferansında Mythos'u yapay zeka çağının "siber nükleer silahı" diye niteleyerek şirketinin Yitian Tulong modellerinin "Çin'in Mythos'u" olduğunu söylemişti.

Hongyi, "Siber saldırı ve savunma alanındaki dengeleri değiştirebilecek bu tür güçlü bir silah, sadece başkalarının elinde kalamaz" demişti.

Çin, güvenlik açığı keşfine başlamadan önce modellerinin yeteneklerinin rakiplerini yakalamasını bekleyemez çünkü bekleme lüksümüz yok.

İki şirketin modellerinin yetenekleri, Batılı firmalar tarafından henüz bağımsız olarak doğrulanmadı.

Siber güvenlik uzmanları, bu söylemlerin sözkonusu yeteneklerin kanıtı olmaktan ziyade ABD'yi caydırma amacı taşıyabileceği uyarısında bulunuyor.

Birleşik Krallık istihbarat kurumu GCHQ'da görev yaptıktan sonra siber danışmanlık şirketi UtopianKnight'ı kuran James Griffiths, The Independent'a yaptığı açıklamada "Çin'in, Anthropic'in Mythos'una eşdeğer bir araca sahip olduğunu kamuoyuna açıklaması şaşırtıcı değil ve bunu Nükleer Caydırıcılık kavramıyla ilişkilendirmek ise epey ilginç bir taktik" dedi.

ABD'den gelen son haberlere göre,  Ulusal Güvenlik Ajansı sistemlerine rahatlıkla sızabiliyor ve en yüksek güvenlik sınıfındaki ağları bile aşabiliyor; bu da Çin'in 'nükleer caydırıcılık' kavramını kullanarak yaptığı bir güç oyunu. Bunu bize karşı kullanmaya kalkmayın, yoksa biz de size karşı kullanırız. Siber alanda karşılıklı kesin yıkım.

Independent Türkçe

TEKNOLOJİ

Ebola salgınındaki en büyük gizem çözülemiyor

Ebola'nın temsili görseli
Ebola'nın temsili görseli
TT
TT

Ebola salgınındaki en büyük gizem çözülemiyor

Ebola'nın temsili görseli
Ebola'nın temsili görseli

Kongo'da nisan ayından bu yana hızla yayılan Ebola virüsü, bin 200'ü aşkın vaka ve 360 ölümle, hastalığın 50 yıl önceki keşfinden bu yana kaydedilen üçüncü en büyük salgın haline geldi. Ancak bilim dünyasını asıl endişelendiren, virüsün kökenine dair süregelen derin belirsizlik.

Bilinmezliğin adı: Bundibugyo

Mevcut salgının arkasında, Ebola’ya yol açtığı bilinen üç ana türden biri olan ve hakkında çok az şey bilinen "Bundibugyo virüsü" bulunuyor. Bilim insanları, virüsün normalde hayvanlarda yaşadığına ve zaman zaman türler arası bariyeri aşarak insanlara geçtiğine inanıyor. Ancak yıllardır süren araştırmalara rağmen, virüsün insanlara geçmeden önce nerede saklandığı hala tespit edilebilmiş değil. Georgia Üniversitesi'nden ekolojist Mikala Sundaram, bu durumu "Bundibugyo virüsü hakkında en ufak bir bilgiye bile sahip değiliz" sözleriyle özetliyor.

İnsanlık neden tehdit altında?

Bu bilgi eksikliği, küresel sağlık güvenliğini de riske atıyor. Uzmanlara göre virüsün saklandığı "hayvan deposunu" (rezervuar) bilmeden önleyici adımlar atmak imkânsız. Ebola'nın diğer türleri ve henüz insanlara bulaşmamış ilişkili virüsler için de aynı tehlike geçerli.

Cehalet insanlığı tehlikeye atar.Cehalet insanlığı tehlikeye atar.

1976’dan günümüze çözülemeyen iz

Ebola ilk kez 1976 yılında, o zamanki adıyla Zaire (bugünkü Demokratik Kongo Cumhuriyeti) ve Güney Sudan'da ortaya çıktı. Her iki bölgede de yüksek ateş, kusma ve kanama gibi benzer belirtiler gösteren virüslerin, "Filovirüs" ailesine mensup olduğu belirlendi. Ancak zamanla bu virüslerin "Ebola" ve "Sudan" olarak adlandırılan iki farklı tür olduğu anlaşıldı. O dönemden beri yürütülen saha araştırmalarında; yarasalardan farelere, tahtakurularından sivrisineklere kadar yüzlerce hayvan türü incelendi ancak virüsün orijinal kaynağına dair kesin bir kanıt bulunamadı.

"Gizli" bir taşıyıcı mı?

Ebola virüsü üzerine yapılan bazı çalışmalar, virüsün insan vücudunda gözler veya sperm gibi bölgelerde yıllarca "uykuda" kalabildiğini gösteriyor. Araştırmacılar, benzer bir kronik enfeksiyonun yarasalarda da olabileceğini düşünüyor. Sundaram, "Eğer virüs bu küçük ceplerde gizleniyorsa, geleneksel kan testleri onu tespit edemez" diyerek, yarasaların virüsü dışkı veya salya yoluyla meyve ağaçlarına bulaştırarak insanlara taşıyor olabileceği ihtimaline dikkat çekiyor.

Bilim dünyası strateji değiştiriyor

Şimdiye kadar yapılan araştırmalar çoğunlukla salgın patlak verdikten sonra gerçekleştirilen "anlık" müdahalelerle sınırlı kaldı. 2018'de bulunan ve yarasalarda tespit edilen "Bombali" virüsü gibi yeni türler, ağın ne kadar geniş olabileceğini kanıtlıyor.

Almanya'daki Helmholtz Tek Sağlık Enstitüsü Direktörü Fabian Leendertz, bu "tesadüfi" arama yönteminin değişmesi gerektiğini savunuyor. Şarku’l Avsat’ın New York Times’ten aktardığı habere göre Leendertz ve ekibi, Afrika'da uzun vadeli izleme istasyonları kurarak insanlar ve hayvanlardan düzenli olarak numune toplamaya başladı. Leendertz, bu stratejiyi şu sözlerle açıklıyor: "Virüsün hayvandan insana sıçraması tahmin ettiğimizden çok daha sık yaşanıyor. Bu karmaşık ekolojik ağı anlamak için sürekli ve sistematik bir takibe ihtiyacımız var."