عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

NASA, Swift teleskobunu kurtarmak için robotik bir görev başlattı

Swift uzay aracını gösteren, NASA tarafından 31 Temmuz 2004’te yayımlanan fotoğraf. (AFP)
Swift uzay aracını gösteren, NASA tarafından 31 Temmuz 2004’te yayımlanan fotoğraf. (AFP)
TT
TT

NASA, Swift teleskobunu kurtarmak için robotik bir görev başlattı

Swift uzay aracını gösteren, NASA tarafından 31 Temmuz 2004’te yayımlanan fotoğraf. (AFP)
Swift uzay aracını gösteren, NASA tarafından 31 Temmuz 2004’te yayımlanan fotoğraf. (AFP)

ABD Ulusal Havacılık ve Uzay Dairesi (NASA), eski bir teleskobunu uzay enkazına dönüşmeden kurtarmayı amaçlayan son derece riskli bir robotik görevi başlatmaya hazırlanıyor. Şarku’l Avsat’ın AFP’den aktardığına göre bu girişim, ilerleyen dönemde diğer uydu ve uzay araçlarının ömrünü uzatmaya yönelik yeni teknolojilere zemin hazırlayabilir.

NASA, görevin dün yapılması planlanan fırlatmasının hava koşulları bugüne ertelendiğini açıkladı.

Birkaç ay sürmesi planlanan görev kapsamında, Dünya’ya doğru yavaşça alçalan ve kısa süre içinde atmosfere girerek yanması beklenen “Swift” teleskobunu kurtarmak için özel olarak tasarlanmış bir robot uzaya gönderilecek.

Robotu taşıyacak sistem, Pasifik Okyanusu’ndaki bir ada bölgesinden, “Pegasus” adlı küçük bir roketle ve uçaktan gerçekleştirilecek havadan fırlatma yöntemiyle uzaya gönderilecek.

NASA astrofizikçisi Regina Caputo, AFP’ye yaptığı açıklamada, “Bu görevde her şey oldukça sıra dışı” ifadelerini kullandı.

Caputo, NASA ve Catalyst şirketi tarafından hazırlanan karmaşık kurtarma planını detaylandırarak, robot ve teleskobun küçük ölçekli modelleriyle süreci açıkladı.

Görev planına göre robot, Swift teleskobunun yörüngesine yakın bir hatta yerleşecek, ardından teleskobu uzayda tespit ederek üç robotik kol yardımıyla kenetlenecek.

Sonrasında teleskobu yaklaşık 300 kilometre daha yüksek bir yörüngeye taşıyarak en az bir ay içinde yeniden eski konumuna yakın bir seviyeye çıkaracak. Böylece teleskop, atmosfere girip yok olmak yerine görevine yıllarca devam edebilecek.

NASA Astrofizik Bölümü Direktörü Shawn Domagal-Goldman, bu girişimi “benzeri görülmemiş bir başarı zinciri” olarak tanımladı.

Domagal-Goldman ayrıca, risklerin yüksek olduğunu ancak ekibin “deneme şansı bulduğu için minnettar” olduklarını ifade etti.

2004 yılında yalnızca iki yıllık bir görev için tasarlanan “Neil Gehrels Swift Observatory” teleskobu, özellikle gama ışını patlamalarını incelemek için geliştirilmişti. NASA bilim insanı Caputo, bu patlamaları “evrendeki en yüksek enerjili olaylar” olarak tanımladı.

Teleskop, 600 kilometrelik alçak Dünya yörüngesinde bulunuyor. Bu konum sayesinde gözlemler için avantaj sağlasa da itki sistemi olmadığı için zamanla yavaşça Dünya’ya yaklaşarak atmosferde yanma riski taşıyor.

Görevin maliyetinin yaklaşık 30 milyon dolar olduğu, teleskobun ise ilk üretim maliyetinin 250 milyon dolar civarında bulunduğu belirtildi.

“LINK” adı verilen robot, kısa sürede geliştirildi ve birçok teknik belirsizlik içeriyor. Mühendisler, teleskobun arka kısmının yapısı hakkında tam bilgiye sahip değil ve robotun bu bölgeye nasıl tutunacağı kesin olarak bilinmiyor.

NASA, tüm bu risklere rağmen görevin uzay araçlarının bakım ve onarımına yönelik yeni bir dönemin başlangıcı olabileceğini değerlendiriyor. Catalyst yöneticisi Robert Lamontagne ise bu çalışmanın “uyduların yakıt ikmali yapılabildiği, yeniden konumlandırılabildiği ve onarılabildiği yeni bir modelin başlangıcı” olabileceğini ifade etti.

TEKNOLOJİ

İnsansı robotlardan tarihi sınav: 60 bin görev, yüzde 99,99 başarı

Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)
Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)
TT
TT

İnsansı robotlardan tarihi sınav: 60 bin görev, yüzde 99,99 başarı

Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)
Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)

Çin'deki insansı robotlar, bir faaliyetteki üretim hattında 6 günlük bir vardiyayı kusursuza yakın bir başarı oranıyla tamamladı.

Şanghay merkezli girişim Agibot'un ürettiği robotlar, Çin'in doğusundaki Nanchang'da yer alan bir fabrikada 64 saatten uzun süre boyunca kalite kontrol denetimlerini ve malzeme taşıma işlemlerini yürüttü.

Tüm operasyon canlı yayımlandı ve üretim hattındaki 60 binden fazla görevin yüzde 99,99'luk başarı oranıyla tamamlandığı görüldü.

Agibot'un kıdemli başkan yardımcısı Dr. Yao Maoqing, "İnsansı robotikte asıl soru artık bir robotun neler yapabileceği değil, gerçek çalışma ortamlarında konuşlandırılıp, entegre edilip, değer yaratıp yaratamayacağı" diyor.

Birden fazla insansı robotu gerçek bir üretim hattına sokarak ve sürecin 6 gün boyunca izlenmesini sağlayarak bedenlenmiş yapay zekanın endüstriyel ölçekte uygulanmasının aslında ne gerektirdiğine daha şeffaf bir cevap vermek istedik.

sdvdf
Agibot robotları, Longcheer Technology'nin Nanchang fabrikasındaki üretim tesisinde (Agibot)

Şanghay merkezli bu girişimin bugüne kadar 15 binden fazla robot ürettiğini de duyurması, robotların gerçek dünyada geniş ölçekte kullanıma sunulması yolunda önemli bir dönüm noktası.

Çin'in 2026-2030'u kapsayan son Beş Yıllık Planı, insansı robotları ekonomik büyüme için en önemli 10 stratejik sektörden biri olarak önceliklendiriyor.

Bu, insansı robotların standart endüstriyel robotların yeteneklerinin çok ötesinde görevleri yerine getirmelerini sağlayan güçlü çiplerle donatıldığı, bedenlenmiş yapay zekaya yönelik bir geçişe işaret ediyor.

Uluslararası Robotik Federasyonu Başkanı Takayuki Ito, "Çin yeni çerçeve kapsamında odağını geleneksel endüstriyel otomasyondan, yapay zekayla entegre, üst düzey akıllı robotik alanına kaydırıyor" ifadelerini kullanıyor.

Barclays analistleri, Çin'in 2035'e gelindiğinde 11 milyon insansı robotu devreye sokmuş olacağını öngörüyor; bu rakam, dünyanın geri kalanı için öngörülen 2 milyon adedin çok üstünde.

Morgan Stanley'nin ayrı bir analizine göre Çin geçen yıl sadece 12 bin robot sattı ve bu da beklentilerin gerçekleri aşabileceği anlamına geliyor.

Fabrika robotlarının 6 günlük canlı yayınının ardından Agibot, insansı makinelerin ticari değerini başarıyla kanıtladığını ve bunun, laboratuvar testlerinden gerçek dünya uygulamalarına geçişin işareti olduğunu iddia etti.

Şirket yaptığı açıklamada, "Sektör yeni bir aşamaya giriyor" ifadelerine yer verdi.

Bu, bedenlenmiş yapay zekanın artık endüstriyel müşterilerin önem verdiği gerçek çalışma koşullarına daha yakın ve daha şeffaf biçimde test edilmeye başlandığını gösteriyor. Aynı zamanda genel amaçlı robot ekosisteminin fikir aşamasından gerçek dünya uygulamalarınadoğru ilerlediğinin de sinyalini veriyor.

Independent Türkçe

TEKNOLOJİ

Çin, yapay zeka tabanlı "siber nükleer silahı" olduğunu iddia etti

Fotoğraf: AFP
Fotoğraf: AFP
TT
TT

Çin, yapay zeka tabanlı "siber nükleer silahı" olduğunu iddia etti

Fotoğraf: AFP
Fotoğraf: AFP

Çinli bir yapay zeka şirketi, Batılı şirketlere ve hükümetlere yıkıcı saldırılar düzenleyebilecek bir "siber nükleer silah" geliştirdiğini iddia ediyor.

Pekin merkezli Zhipu AI (Z.ai), yapay zeka modelinin artık siber güvenlik açıklarını tespit etmede Anthropic'in Mythos modelini yakalayarak Çin'i ABD'yle aynı seviyeye getirdiğini açıkladı.

Anthropic, nisanda Mythos'u tanıttığında bu modelin dünyadaki "tüm büyük işletim sistemleri ve tüm büyük internet tarayıcılarındaki" yazılım açıklarını ortaya çıkardığını ve bunlar arasında onlarca yıldır tespit edilemeyenler de olduğunu belirtmişti.

ABD'li şirket, kötü niyetli kişilerin bu modeli siber saldırılar yürütmek için kullanmasını önlemek amacıyla modeli sınırlı biçimde kullanıma sunmuştu. Önceki haftalardaysa Anthropic, ABD Ticaret Bakanlığı'nın talimatı üzerine Mythos 5 modelini tüm kullanıcılar için devre dışı bırakmak zorunda kalmıştı.

Daha sonra model, şirketler, kritik altyapı operatörleri ve ABD devlet kurumları gibi yaklaşık 100 güvenilir kuruluşun erişimine yeniden açıldı.

Z.ai'ya göre şirketin GLM-5.2 modeli, yazılım hatalarını bulmada Anthropic'in Mythos modeliyle eşdeğer bir performans sergilerken, aynı işi yaklaşık altıda bir maliyetle yapabiliyor.

Çin merkezli bir diğer siber güvenlik şirketi 360 Security Technology de Anthropic'in Mythos'una rakip olabilecek yapay zeka modelleri geliştirdiğini iddia ediyor.

sdvefr

Şirketin kurucusu Zhou Hongyi, geçen hafta Pekin'de düzenlenen ISC.AI 2026 güvenlik konferansında Mythos'u yapay zeka çağının "siber nükleer silahı" diye niteleyerek şirketinin Yitian Tulong modellerinin "Çin'in Mythos'u" olduğunu söylemişti.

Hongyi, "Siber saldırı ve savunma alanındaki dengeleri değiştirebilecek bu tür güçlü bir silah, sadece başkalarının elinde kalamaz" demişti.

Çin, güvenlik açığı keşfine başlamadan önce modellerinin yeteneklerinin rakiplerini yakalamasını bekleyemez çünkü bekleme lüksümüz yok.

İki şirketin modellerinin yetenekleri, Batılı firmalar tarafından henüz bağımsız olarak doğrulanmadı.

Siber güvenlik uzmanları, bu söylemlerin sözkonusu yeteneklerin kanıtı olmaktan ziyade ABD'yi caydırma amacı taşıyabileceği uyarısında bulunuyor.

Birleşik Krallık istihbarat kurumu GCHQ'da görev yaptıktan sonra siber danışmanlık şirketi UtopianKnight'ı kuran James Griffiths, The Independent'a yaptığı açıklamada "Çin'in, Anthropic'in Mythos'una eşdeğer bir araca sahip olduğunu kamuoyuna açıklaması şaşırtıcı değil ve bunu Nükleer Caydırıcılık kavramıyla ilişkilendirmek ise epey ilginç bir taktik" dedi.

ABD'den gelen son haberlere göre,  Ulusal Güvenlik Ajansı sistemlerine rahatlıkla sızabiliyor ve en yüksek güvenlik sınıfındaki ağları bile aşabiliyor; bu da Çin'in 'nükleer caydırıcılık' kavramını kullanarak yaptığı bir güç oyunu. Bunu bize karşı kullanmaya kalkmayın, yoksa biz de size karşı kullanırız. Siber alanda karşılıklı kesin yıkım.

Independent Türkçe