عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

Tarihte tam maraton koşan ilk robot, yeni nesil teknolojilerin önünü açıyor

Güney Kore'de düzenlenen Sangju Kuru Hurma Maratonu'na katılan RAIBO2 (KAIST)
Güney Kore'de düzenlenen Sangju Kuru Hurma Maratonu'na katılan RAIBO2 (KAIST)
TT
TT

Tarihte tam maraton koşan ilk robot, yeni nesil teknolojilerin önünü açıyor

Güney Kore'de düzenlenen Sangju Kuru Hurma Maratonu'na katılan RAIBO2 (KAIST)
Güney Kore'de düzenlenen Sangju Kuru Hurma Maratonu'na katılan RAIBO2 (KAIST)

Tarihte ilk tam maratonu koşan robotu geliştiren araştırmacılar bulgularını açıkladı.

RAIBO2 adlı robot, Kasım 2024'te Güney Kore'de düzenlenen Sangju Kuru Hurma Maratonu'nun 42 bin 195 km'lik tam parkurunu 4 saat 20 dakikadan biraz daha kısa sürede tamamlamıştı. İlk kez böyle bir robot bu mesafeyi tamamlamış ve bataryasının değiştirilmesine gerek kalmamıştı.

Bilim insanları, dünyada ilk olma özelliği taşıyan bu başarıyı, diğer robotların uzun mesafelerde çalışmasını sağlayabilecek ve teknolojiyi daha işlevsel amaçlar için kullanılabilir hale getirecek faydalı bulgulara dönüştürdüklerini söylüyor.

Araştırmacılar, robotun öneminin sadece maraton koşma yeteneğiyle sınırlı olmadığını belirtiyor. Son zamanlarda makinelerin çeşitli ortamlarda kullanılmasına yönelik artan ilgi, robotların koşu hızlarında ve zorlu koşullarda hareket etme yeteneklerinde çığır açıcı gelişmelere neden oldu. Ancak araştırmacılar, çok fazla güç harcamadan, aşırı ısınmadan, bataryası tükenmeden veya dengesizleşmeden uzun süre çalışabilen bir robot üretmeyi mümkün kılmanın da en az bunun kadar önemli olduğunu söylüyor.

Araştırmacılar, bu soruna daha büyük bataryalar veya daha verimli motorlar gibi tek tek bileşenler üzerinden yaklaşmak yerine, onu "bütünsel robot sistemi sorunu" olarak ele aldı. Dört ayaklı robotlar bacaklarını hareket ettirirken vücutlarının çeşitli kısımlarından enerji kaybettiği için bu tür çetin görevleri üstlenebilecek bir robot geliştirmek, bütün tasarımını optimize etmek anlamına geliyor.

Ekip, tasarımın işe yaradığından emin olmak için maraton boyunca robotla birlikte koştu ve voltaj, sıcaklık ve batarya durumunun yanı sıra diğer verileri de kaydetti. Robot ayrıca resmi bir katılımcı olarak kaydedildi ve yolculuğu boyunca görüntülendi.

Araştırmacılar bu tek robot araştırmasından elde edilen verileri, seri üretime uygun ve endüstriyel ortamlarda kullanılabilecek bir ürüne dönüştürmeyi umuyor. RAIBO2 robotu elle tasarlanıp üretildi ancak onu gerçek bir ürüne dönüştürmek için tasarımın birden fazla robotta güvenle kullanılabilir hale getirilmesi ve zorlu endüstriyel ortamlarda da güvenilirliğinin sağlanması gerekecek.

Robotun geliştirildiği Kore İleri Bilim ve Teknoloji Enstitüsü'nden (KAIST) Jemin Hwang, "Bu çalışma, dört ayaklı bir robotun ne kadar uzağa koşabileceğini göstermenin ötesine geçiyor" diyor.

Hem yüksek hareket performansı hem de enerji verimliliği elde etmek için robotun tamamının nasıl tasarlanması gerektiğini gerçek maraton verilerini kullanarak gösterdik. Laboratuvarda elde edilen dünya standartlarındaki performansı, endüstriyel ortamlarda herkesin güvenle kullanabileceği ürünlere taşıyacağız.

Çalışma, hakemli dergi Nature'da yayımlanan "A quadruped robot designed to complete a marathon on a single battery charge" (Tek bir batarya şarjıyla maratonu tamamlamak üzere tasarlanmış dört ayaklı robot) başlıklı yeni makalede aktarılıyor.

Independent Türkçe

TEKNOLOJİ

SpaceX, dünyanın en büyük roketini ilk yörünge uçuşuna hazırlıyor

Fotoğraf: Reuters
Fotoğraf: Reuters
TT
TT

SpaceX, dünyanın en büyük roketini ilk yörünge uçuşuna hazırlıyor

Fotoğraf: Reuters
Fotoğraf: Reuters

SpaceX, mega roketi Starship'in ilk yörünge uçuş denemesine hazırlanıyor.

Gelecek pazartesi gerçekleşmesi planlanan bu kritik görev, NASA'nın Artemis programı kapsamında insanları Ay yüzeyine gönderme takvimini koruyup koruyamayacağını belirleyebilir.

ABD uzay ajansı, Elon Musk'ın bir gün Mars'ta kalıcı bir koloni kurmak için kullanılacağını iddia ettiği 124 metrelik roketin geliştirilmesindeki sorunlar nedeniyle, Artemis'in zaman çizelgesinde zaten erteleme yapmak zorunda kalmıştı.

SpaceX, devasa birinci kademe güçlendiricisini Teksas'ın güneyinde yer alan Starbase tesisindeki fırlatma rampasına pazartesi günü taşıdı.

Super Heavy diye bilinen 33 motorlu roket, daha sonra Starship'in 6 motorlu ikinci kademesiyle birleştirilecek. Tamamen birleştirildiğinde Starship, bugüne kadar uçurulan en büyük ve en güçlü roket olacak.

Yaklaşan Starship uçuşu, programın bugüne kadarki en iddialı görevi olacak. Bu görevde, ikinci aşama roketin 10 saatlik bir uçuşla yörüngeye gönderilmesi ve Dünya'nın etrafında 6 tur attıktan sonra Büyük Okyanus'un Şili açıklarındaki kısmına inmesi hedefleniyor.

Bu uçuş denemesi aynı zamanda SpaceX'in yeni nesil Starlink V3 uydularını alçak Dünya yörüngesine yerleştiren ilk görev olacak.

Bunlar, yörüngede 11 binden fazla Starlink uydusuyla halihazırda dünyanın en büyük yapay uydu ağı olan uzay internet ağının bir sonraki parçasını oluşturacak.

Musk, pazartesi günü X'te paylaştığı gönderide, "Yörüngeye 7 gün içinde yapılacak ilk Starship fırlatması, operasyonel kullanım amaçlı Starlink V3 uydularını taşıyacak" diye yazdı.

Temmuzdaki en son Starship fırlatmasında roket, test amaçlı 20 adet Starlink V3 uydusunu yörüngeye yerleştirme hedefini tamamladıktan sonra Hint Okyanusu'na başarıyla iniş yapmıştı.

Bu görevde Starship'in üst kademesi ilk kez bir yörünge altı uçuştan patlamadan geri dönmüş ve SpaceX, uçuş denemesi hakkında değerli veriler elde etmeyi başarmıştı.

frgthyju
SpaceX mühendisleri, temmuzda gerçekleştirilen uçuş denemesinin ardından 27 Ağustos 2026'da Hint Okyanusu'ndaki Christmas Adası açıklarında bulunan Starship'i inceliyor (SpaceX)

SpaceX, roketin her iki kademesini de tamamen ve hızlıca yeniden kullanılacak şekilde tasarladığından, bunların başarıyla suya inmesini sağlamak, son uçuşun en önemli sınavlarından biri olacak.

SpaceX'in "roketçiliğin kutsal kasesi" diye tanımladığı bu hedefe ulaşmak, gelecek yıl yapılması planlanan Artemis III görevi öncesinde Starship'in geliştirilmesini hızlandırmaya katkı sağlayacak.

14 gün sürecek görevde, NASA'nın Orion uzay aracındaki 4 astronot, alçak Dünya yörüngesindeyken Starship'le kenetlenecek.

Yörünge deneyi, 2028'de Artemis IV kapsamında gerçekleştirilecek ilk insanlı Ay inişinden önce kenetlenme mekanizmalarını ve uzay aracı arayüzlerini test etmeyi amaçlıyor.

Independent Türkçe

TEKNOLOJİ

Yapay zeka kendini geliştirmeye başlarsa ne olacak?

Fotoğraf: Reuters
Fotoğraf: Reuters
TT
TT

Yapay zeka kendini geliştirmeye başlarsa ne olacak?

Fotoğraf: Reuters
Fotoğraf: Reuters

OpenAI, bir gün kendi faaliyetlerini daha güvenli hale getirmek için yapay zekadan yararlanabileceğini ancak bunun için bir dizi acil değişiklik gerektiğini belirtiyor.

Şirket, "otomatik bir yapay zeka araştırmacısı" geliştirmek ve bu sistemi "hizalama sorunu" (yapay zekanın insanlığın etik değerleriyle uyumlu davranmasını sağlama güçlüğü) üzerinde çalışmak için kullanmak istediğini kamuoyuna açıkladı. OpenAI, "yapay zeka sistemleri daha yetenekli ve otonom hale geldikçe, özellikle de araştırma ve geliştirme süreçlerinin daha büyük bir kısmını yapay zeka üstlenmeye başladıkça, bu çalışmanın giderek daha önemli hale geldiğini" belirtti.

Şirketin bu yorumları, özellikle "yinelemeli kendi kendini geliştirme" (RSI) olasılığına dair endişeler bağlamında, yapay zekanın mevcut durumuna ilişkin daha kapsamlı bir açıklamanın parçası olarak geldi. Bu kavram, yapay zekanın kendisini eğitebildiği ve insan gözetimi yerine kendi çalışmaları sayesinde gelişebildiği aşamayı ifade ediyor.

OpenAI ve diğer yapay zeka şirketleri bunun geliştirme hızında muazzam bir artışa yol açabileceğini öne sürüyor. Şirket yayımladığı yeni yazıda, bu teknolojinin "insanların yaşamlarını doğrudan iyileştireceğini" ve "dünya genelindeki insanların faydalanabilmesi için gelişmiş zeka teknolojilerinin maliyetini düşürebileceğini" belirtiyor.

Ancak şirket, otomatikleştirilmiş araştırmaların tehlikeli yapay zekaya karşı mücadelede de yardımcı olabileceğini ifade etti. OpenAI, "Otomatikleştirilmiş araştırmalar, hizalamayı önemli ölçüde iyileştirmemize ve giderek daha yetenekli hale gelen yapay zekaya karşı savunma mekanizmaları oluşturmamıza yardımcı olabilir zira otomatik bir yapay zeka araştırmacısı, aynı zamanda otomatik bir yapay zeka güvenliği araştırmacısı da olabilir" diye yazdı.

Bununla birlikte şirket, böyle bir gelişmenin tehlikeli olabileceğini ve güvenli biçimde gerçekleştirilebileceği zamana kadar hayata geçirilmemesi gerektiğini belirtti.

Şirket şu uyarıda bulunuyor:

Gerekli özen ve dikkat gösterilmeden gerçekleştirilmesi halinde RSI, insanların yapay zeka geliştirme süreci üzerindeki fiili kontrolünü kaybetmesine ve artık anlayamadıkları araştırma süreçlerini denetleyemez hale gelmesine yol açabilir. Bundan sonra yapay zeka daha tehlikeli, insan değerleriyle daha az uyumlu ve genel anlamda insanlar için bir tehdit unsuru haline gelebilir.

Şirket bu durumun yaşanmasını önlemek ve yapay zekanın kendi üzerinde çalışmasına olanak tanıyacak güvenliği sağlamak amacıyla bir dizi koruyucu önlem alınması çağrısında bulundu. Özellikle iki hususun altını çizdi: Yapay zeka güvenliği ve koruyucu önlemler konusunda yeni ulusal ve uluslararası standartların oluşturulması ve risklerin daha iyi görülmesini sağlayacak yeni ölçütler ve olay bildirim protokolleri geliştirilmesi.

ABD yönetiminden "yapay zeka endüstrisi teknik açıdan en ileri noktada bulunduğu ve finans, ticaret, savunma, teknolojiyle bilgi sistemleri gibi kritik alanlarda küresel ağlarda hâlâ ayrıcalıklı bir konumda bulunduğu" gerekçesiyle bu çalışmalara öncülük etmesi istendi.

Son haftalarda aralarında CEO Sam Altman'ın da bulunduğu OpenAI çalışanları, Anthropic gibi diğer önde gelen araştırma şirketlerinin, yapay zekanın geliştirilmesini yavaşlatma ve güvenli kalmasını sağlayacak yeni düzenlemeler getirme çağrılarına destek verdi. Ancak ABD yönetimi bu çağrıları açıkça reddetti. Başkan Donald Trump, sözkonusu adımların ABD'yi geride bırakacağını ve Çin'in bu teknolojinin geliştirilmesinde liderliği ele geçirmesine olanak tanıyacağını öne sürdü.

Independent Türkçe