عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

NASA yıldızının ölümünden sağ çıkan gezegenin sırrını çözdü

Yıldızından 7 kat büyük olan WD 1856 b, son derece yakın bir yörüngede dönüyor (NASA)
Yıldızından 7 kat büyük olan WD 1856 b, son derece yakın bir yörüngede dönüyor (NASA)
TT
TT

NASA yıldızının ölümünden sağ çıkan gezegenin sırrını çözdü

Yıldızından 7 kat büyük olan WD 1856 b, son derece yakın bir yörüngede dönüyor (NASA)
Yıldızından 7 kat büyük olan WD 1856 b, son derece yakın bir yörüngede dönüyor (NASA)

NASA'nın James Webb Uzay Teleskobu'nu (JWST) kullanan bilim insanları, yıldızı öldükten sonra sağ kalan bir gezegenin bunu nasıl başardığını tespit etti.

Güneş gibi yıldızlar yaşamlarının son döneminde inanılmaz derecede büyüyerek kırmızı devlere dönüşüyor. Ardından dış katmanlarını atıyorlar ve geriye beyaz cüce diye bilinen sıcak, yoğun ve küçük cisimler kalıyor.

Yıldızlar kırmızı dev evresindeyken yakınlarındaki gezegenleri de yutuyor. Yaklaşık 5 milyar yıl sonra bu sürece girmesi beklenen Güneş'in Merkür, Venüs ve belki Dünya'yı da yok edeceği düşünülüyor.

Ancak 2020'de NASA'nın Geçiş Halindeki Ötegezegen Araştırma Uydusu ve Spitzer Uzay Teleskobu'nu kullanan gökbilimciler, Dünya'dan 80 ışık yılı uzaktaki bir beyaz cücenin yörüngesinde, çok yakından dönen bir gezegen keşfetmişti.

WD 1856 b isimli gezegen, yıldızına 3 milyon kilometre uzakta dönüyordu; bu, Dünya'yla Güneş arasındaki mesafenin 50'de biri.

Saint Andrews Üniversitesi'nden gökbilimci Ryan MacDonald ve ekibi, Jüpiter'e yakın boyutlara ancak onun 4 ila 11 katı kütleye sahip bu gezegenin, yıldızın kırmızı dev evresinde nasıl yok olup gitmediğini anlamak için JWST'yi kullandı.

WD 1856 b'yi, beyaz cücenin önünden geçerken izleyen araştırmacılar, bu sayede atmosferi hakkında bilgi toplamaya çalıştı.

Gökbilimciler normalde gezegenler bizimle yıldızları arasından geçtiğinde, atmosferden süzülen yıldız ışığını inceleyerek bu çalışmaları yürütüyor. Işığın yardımıyla atmosferin hangi gazlardan oluştuğu belirleniyor.

Ancak WD 1856 b, yörüngesinde döndüğü beyaz cüceden 7 kat büyük olduğu için belirli bir anda atmosferin sadece bir kısmı ışığa maruz kalıyor.

MacDonald, "Ayrıca beyaz cüce, normalde gözlemlediğimiz anakol yıldızlarından çok daha sönük. Yani bu gerçekten de genellikle JWST'yle incelediğimiz sistemlerden son derece farklı bir sistem" diye açıklıyor.

Bu alışılmadık sisteme özgü modeller geliştiren araştırmacılar, WD 1856 b'nin atmosferinden ziyade sıcaklığı karşısında şaşkına döndü.

Benzerliklerinden dolayı Jüpiter gibi yaklaşık -113 derece olmasını bekledikleri gezegen, 126 dereceydi.

Bulguları hakemli dergi Nature'da dün (1 Temmuz) yayımlanan çalışmanın yazarları, tek ısı kaynağı beyaz cücenin ışığı olması durumunda gezegenin bu sıcaklığa ulaşamayacağını söylüyor.

Dev gezegenlerin milyarlarca yıla yayılan soğuma süreci tahmin edilebiliyor. Bu sayede araştırmacılar WD 1856 b'nin, yıldızın beyaz cüceye dönüşmesinden 3 ila 5,5 milyar yıl sonra ısındığı ve o zamandan beri soğuduğu sonucuna vardı.

Kırmızı dev evresinde, gezegenin yıldızdan çok daha uzak olduğu ve mevcut konumuna daha sonra geldiği düşünülüyor.

İhtimaller arasında, yakındaki başka bir yıldızın hem gezegenin ısınmasına hem de daha uzak bir yörüngeden mevcut konumuna doğru gelmesine yol açmış olabileceği yer alıyor.

Makalenin yazarlarından Christopher O'Connor ise "Gezegen iç yörüngeye doğru hareket ederken beyaz cücenin güçlü kütleçekim kuvveti sonucu büyük ölçüde ısınmış olabilir" diyor.

Bulgular, Güneş benzer süreçler yaşadığında özellikle Jüpiter gibi gaz devlerine ne olacağına da ışık tutuyor.

MacDonald, "Teleskopları kullanırken geçmişe bakmaya alışkınız ancak burada, Güneş benzeri bir yıldızın kalıntısının etrafındaki dış gezegenlere ne olabileceğini ilk kez görüyoruz" diyerek ekliyor:

Bu, Güneş Sistemi’nin uzak geleceğine bir zaman makinesiyle bakmak gibi.

Gökbilimci, Jüpiter gibi gezegenlerin, yıldızlarının ölümünden sonra "ikinci bir hayatı" olabileceğini belirtiyor:

Yıldız ölümü son değil, Jüpiter gibi gezegenlerin yaşamında yeni bir bölümün başlangıcı.

Independent Türkçe, Science Alert, NASA, Nature

TEKNOLOJİ

NASA, Swift teleskobunu kurtarmak için robotik bir görev başlattı

Swift uzay aracını gösteren, NASA tarafından 31 Temmuz 2004’te yayımlanan fotoğraf. (AFP)
Swift uzay aracını gösteren, NASA tarafından 31 Temmuz 2004’te yayımlanan fotoğraf. (AFP)
TT
TT

NASA, Swift teleskobunu kurtarmak için robotik bir görev başlattı

Swift uzay aracını gösteren, NASA tarafından 31 Temmuz 2004’te yayımlanan fotoğraf. (AFP)
Swift uzay aracını gösteren, NASA tarafından 31 Temmuz 2004’te yayımlanan fotoğraf. (AFP)

ABD Ulusal Havacılık ve Uzay Dairesi (NASA), eski bir teleskobunu uzay enkazına dönüşmeden kurtarmayı amaçlayan son derece riskli bir robotik görevi başlatmaya hazırlanıyor. Şarku’l Avsat’ın AFP’den aktardığına göre bu girişim, ilerleyen dönemde diğer uydu ve uzay araçlarının ömrünü uzatmaya yönelik yeni teknolojilere zemin hazırlayabilir.

NASA, görevin dün yapılması planlanan fırlatmasının hava koşulları bugüne ertelendiğini açıkladı.

Birkaç ay sürmesi planlanan görev kapsamında, Dünya’ya doğru yavaşça alçalan ve kısa süre içinde atmosfere girerek yanması beklenen “Swift” teleskobunu kurtarmak için özel olarak tasarlanmış bir robot uzaya gönderilecek.

Robotu taşıyacak sistem, Pasifik Okyanusu’ndaki bir ada bölgesinden, “Pegasus” adlı küçük bir roketle ve uçaktan gerçekleştirilecek havadan fırlatma yöntemiyle uzaya gönderilecek.

NASA astrofizikçisi Regina Caputo, AFP’ye yaptığı açıklamada, “Bu görevde her şey oldukça sıra dışı” ifadelerini kullandı.

Caputo, NASA ve Catalyst şirketi tarafından hazırlanan karmaşık kurtarma planını detaylandırarak, robot ve teleskobun küçük ölçekli modelleriyle süreci açıkladı.

Görev planına göre robot, Swift teleskobunun yörüngesine yakın bir hatta yerleşecek, ardından teleskobu uzayda tespit ederek üç robotik kol yardımıyla kenetlenecek.

Sonrasında teleskobu yaklaşık 300 kilometre daha yüksek bir yörüngeye taşıyarak en az bir ay içinde yeniden eski konumuna yakın bir seviyeye çıkaracak. Böylece teleskop, atmosfere girip yok olmak yerine görevine yıllarca devam edebilecek.

NASA Astrofizik Bölümü Direktörü Shawn Domagal-Goldman, bu girişimi “benzeri görülmemiş bir başarı zinciri” olarak tanımladı.

Domagal-Goldman ayrıca, risklerin yüksek olduğunu ancak ekibin “deneme şansı bulduğu için minnettar” olduklarını ifade etti.

2004 yılında yalnızca iki yıllık bir görev için tasarlanan “Neil Gehrels Swift Observatory” teleskobu, özellikle gama ışını patlamalarını incelemek için geliştirilmişti. NASA bilim insanı Caputo, bu patlamaları “evrendeki en yüksek enerjili olaylar” olarak tanımladı.

Teleskop, 600 kilometrelik alçak Dünya yörüngesinde bulunuyor. Bu konum sayesinde gözlemler için avantaj sağlasa da itki sistemi olmadığı için zamanla yavaşça Dünya’ya yaklaşarak atmosferde yanma riski taşıyor.

Görevin maliyetinin yaklaşık 30 milyon dolar olduğu, teleskobun ise ilk üretim maliyetinin 250 milyon dolar civarında bulunduğu belirtildi.

“LINK” adı verilen robot, kısa sürede geliştirildi ve birçok teknik belirsizlik içeriyor. Mühendisler, teleskobun arka kısmının yapısı hakkında tam bilgiye sahip değil ve robotun bu bölgeye nasıl tutunacağı kesin olarak bilinmiyor.

NASA, tüm bu risklere rağmen görevin uzay araçlarının bakım ve onarımına yönelik yeni bir dönemin başlangıcı olabileceğini değerlendiriyor. Catalyst yöneticisi Robert Lamontagne ise bu çalışmanın “uyduların yakıt ikmali yapılabildiği, yeniden konumlandırılabildiği ve onarılabildiği yeni bir modelin başlangıcı” olabileceğini ifade etti.

TEKNOLOJİ

İnsansı robotlardan tarihi sınav: 60 bin görev, yüzde 99,99 başarı

Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)
Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)
TT
TT

İnsansı robotlardan tarihi sınav: 60 bin görev, yüzde 99,99 başarı

Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)
Çin'in Agibot robotları, Haziran 2026'da Longcheer Technology'nin Nanchang'daki fabrikasında 6 gün boyunca insan işçilerle birlikte tabletlerin montajını ve denetimini gerçekleştirdi (Agibot)

Çin'deki insansı robotlar, bir faaliyetteki üretim hattında 6 günlük bir vardiyayı kusursuza yakın bir başarı oranıyla tamamladı.

Şanghay merkezli girişim Agibot'un ürettiği robotlar, Çin'in doğusundaki Nanchang'da yer alan bir fabrikada 64 saatten uzun süre boyunca kalite kontrol denetimlerini ve malzeme taşıma işlemlerini yürüttü.

Tüm operasyon canlı yayımlandı ve üretim hattındaki 60 binden fazla görevin yüzde 99,99'luk başarı oranıyla tamamlandığı görüldü.

Agibot'un kıdemli başkan yardımcısı Dr. Yao Maoqing, "İnsansı robotikte asıl soru artık bir robotun neler yapabileceği değil, gerçek çalışma ortamlarında konuşlandırılıp, entegre edilip, değer yaratıp yaratamayacağı" diyor.

Birden fazla insansı robotu gerçek bir üretim hattına sokarak ve sürecin 6 gün boyunca izlenmesini sağlayarak bedenlenmiş yapay zekanın endüstriyel ölçekte uygulanmasının aslında ne gerektirdiğine daha şeffaf bir cevap vermek istedik.

sdvdf
Agibot robotları, Longcheer Technology'nin Nanchang fabrikasındaki üretim tesisinde (Agibot)

Şanghay merkezli bu girişimin bugüne kadar 15 binden fazla robot ürettiğini de duyurması, robotların gerçek dünyada geniş ölçekte kullanıma sunulması yolunda önemli bir dönüm noktası.

Çin'in 2026-2030'u kapsayan son Beş Yıllık Planı, insansı robotları ekonomik büyüme için en önemli 10 stratejik sektörden biri olarak önceliklendiriyor.

Bu, insansı robotların standart endüstriyel robotların yeteneklerinin çok ötesinde görevleri yerine getirmelerini sağlayan güçlü çiplerle donatıldığı, bedenlenmiş yapay zekaya yönelik bir geçişe işaret ediyor.

Uluslararası Robotik Federasyonu Başkanı Takayuki Ito, "Çin yeni çerçeve kapsamında odağını geleneksel endüstriyel otomasyondan, yapay zekayla entegre, üst düzey akıllı robotik alanına kaydırıyor" ifadelerini kullanıyor.

Barclays analistleri, Çin'in 2035'e gelindiğinde 11 milyon insansı robotu devreye sokmuş olacağını öngörüyor; bu rakam, dünyanın geri kalanı için öngörülen 2 milyon adedin çok üstünde.

Morgan Stanley'nin ayrı bir analizine göre Çin geçen yıl sadece 12 bin robot sattı ve bu da beklentilerin gerçekleri aşabileceği anlamına geliyor.

Fabrika robotlarının 6 günlük canlı yayınının ardından Agibot, insansı makinelerin ticari değerini başarıyla kanıtladığını ve bunun, laboratuvar testlerinden gerçek dünya uygulamalarına geçişin işareti olduğunu iddia etti.

Şirket yaptığı açıklamada, "Sektör yeni bir aşamaya giriyor" ifadelerine yer verdi.

Bu, bedenlenmiş yapay zekanın artık endüstriyel müşterilerin önem verdiği gerçek çalışma koşullarına daha yakın ve daha şeffaf biçimde test edilmeye başlandığını gösteriyor. Aynı zamanda genel amaçlı robot ekosisteminin fikir aşamasından gerçek dünya uygulamalarınadoğru ilerlediğinin de sinyalini veriyor.

Independent Türkçe