عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

Bilim insanlarından "uzayda üreme" çağrısı: "Acil işbirliği gerekli"

(AFP)
(AFP)
TT
TT

Bilim insanlarından "uzayda üreme" çağrısı: "Acil işbirliği gerekli"

(AFP)
(AFP)

Andrew Griffin 

Araştırmacılar, insanların uzayda nasıl üreyebileceğini araştırmacıların acilen düşünmesi gerektiğini söylüyor.

İnsanlık Dünya'nın ötesinde yaşamayı hedeflerken, insan üremesinin gerçekte nasıl işleyeceğini anlamamız gerektiğini belirtiyorlar.

Ancak bu soru "soyut bir olasılıktan pratik bir meseleye" dönüşmesine rağmen uzayda insan doğurganlığı ve üreme sağlığını yönetmek için net standartlar hâlâ yok.

Bunlar, üreme sağlığından uzay tıbbına kadar farklı alanlardan 9 uzmanın bir araya gelerek insanların uzayda nasıl üreyebileceğini anlamak için yeni bir çerçeve önerdiği yeni bir çalışmanın sonuçları.

Uzayın insan yaşamı için "düşmanca bir ortam" sunduğu gerçeğine dayanan araştırmacılar, halihazırda bilinen bir dizi zorluk olduğunu belirtiyor. Bunlar arasında yerçekimindeki değişiklikler, artan radyasyon ve uyku döngülerindeki bozulmalar yer alıyor, ki bunların hepsi üreme sağlığını etkileyebilir.

Bu soruları incelemeden uzay araştırmalarına devam etmenin tehlikeli olabileceği uyarısı yapan uzmanlar, gerçek anlamda pratik sorunlara dönüşmeden önce bu meseleleri ele almamız gerektiğini belirtiyor. Üreme teknolojileri genellikle adım adım tanıtılır ve biz çoğunlukla sonradan bunları kavrarız ama uzay araştırmalarında bundan kaçınmak gerekiyor.

NASA'nın araştırmacı bilim insanı ve çalışmanın kıdemli yazarı Fathi Karouia "İnsan uzayda daha geniş bir alana yayıldıkça üreme sağlığı artık politikanın kör noktası olmaya devam edemez" diyor. 

Kritik bilgi boşluklarını kapatmak, hem profesyonel hem de özel astronotları koruyan etik yönergeler belirlemek ve nihayetinde Dünya'nın ötesinde sürdürülebilir bir yaşantıya doğru ilerlerken insanlığı korumak için acilen uluslararası işbirliğine ihtiyaç var.

"Reproductive biomedicine in space: implications for gametogenesis, fertility and ethical considerations in the era of commercial spaceflight" (Uzayda üremenin biyotıbbı: Ticari uzay uçuşları çağında gametogenez, doğurganlık ve etik değerlendirmelerin etkileri) başlıklı rapor, hakemli dergi Reproductive BioMedicine Online'da yayımlandı.

Independent Türkçe, independent.co.uk/space

TEKNOLOJİ

Paris’te savcılık X’in ofislerine baskın düzenleyerek Musk’ı ifadeye çağırdı

X'in yapay zeka destekli sohbet robotu Grok (AFP)
X'in yapay zeka destekli sohbet robotu Grok (AFP)
TT
TT

Paris’te savcılık X’in ofislerine baskın düzenleyerek Musk’ı ifadeye çağırdı

X'in yapay zeka destekli sohbet robotu Grok (AFP)
X'in yapay zeka destekli sohbet robotu Grok (AFP)

Paris Savcılığı dün X platformu üzerinden yaptığı açıklamada, bu sosyal medya platformunu terk ettiğini duyurdu. Açıklamada, Fransa’daki X ofislerinde çeşitli ihlaller şüphesiyle gerçekleştirilen bir aramaya atıfta bulunuldu.

Savcılık, ilave ayrıntı vermeden, “Bizi LinkedIn ve Instagram’dan takip edin” ifadelerini kullandı. Mesajda ayrıca, Ocak 2025’te başlatılan bir soruşturma kapsamında, Fransa’daki X ofislerinde Ulusal Siber Suçlarla Mücadele Birimi’nin, Avrupa polis teşkilatı Europol ile  iş birliği içinde bir arama gerçekleştirdiği belirtildi.

Paris Savcılığı daha önce, X platformunun sahibi Elon Musk’ın 20 Nisan’da ifade vermek üzere çağrıldığını açıklamıştı. Fransa Başsavcısı Laure Beccuau, Musk ile X’in eski CEO’su Linda Yaccarino’nun, “iddia edilen ihlallerin gerçekleştiği dönemde X platformunun fiili ve hukuki yöneticileri sıfatıyla” 20 Nisan’da ifade vermeye çağrıldıklarını bildirdi.

2025 yılının başlarında milletvekillerinin yaptığı şikâyetler üzerine başlatılan bir soruşturma kapsamında bu gelişmeler yaşandı. Şikâyetlerde, Musk’a ait X platformunun algoritmalarının taraflı olduğu ve bunun platformun işleyişini olumsuz etkilediği öne sürüldü.

Soruşturma daha sonra genişletilerek, çocuk pornografisi görüntülerinin bulundurulması ve yayılması ya da sistematik biçimde erişime sunulmasına iştirak, cinsel içerikli deepfake üretimi ve Holokost inkârı gibi başka iddialarla da genişleyerek kapsamlı hale geldi. X platformu ise dün yayımladığı bir açıklamada, Fransız makamlarını, siyasi adımlar atmakla nitelendirdi.

Platformun “uluslararası hükümet ilişkileri” ekibi, “Paris Savcılığı, bugünkü baskını geniş biçimde duyurarak, bunun siyasi amaçlar doğrultusunda tasarlanmış, istismarcı ve gösterişli bir kolluk kuvveti eylemi olduğunu açıkça ortaya koymuştur” ifadelerini kullandı. Açıklamada ayrıca, “Bugünkü baskına dayanak oluşturan iddiaların hiçbir temeli yoktur ve X platformu herhangi bir ihlal gerçekleştirdiği iddiasını kesin bir dille reddetmektedir” ifadeleri yer aldı.

Beccuau’nun açıklamasına göre Musk ve Yaccarino’nun yanı sıra X’te çalışan bazı personel de 20-24 Nisan 2026 tarihleri arasında ifade vermeye çağrıldı. Başsavcı, “Yöneticilerle yapılacak bu gönüllü ifadeler, kendilerine olaylara ilişkin görüşlerini sunma ve gerekirse kurallara uyum için önerilen tedbirleri açıklama imkânı tanıyacaktır” dedi.

Öte yandan, Birleşik Krallık Veri Koruma Düzenleme Kurumu da dün, Elon Musk’ın platformu ve yapay zekâ şirketi xAI hakkında, sohbet botu Grok tarafından oluşturulan cinsel içerikli açık görüntüler nedeniyle soruşturma başlatıldığını duyurdu. Söz konusu görüntüler dünya genelinde tepkilere yol açmıştı.

YAŞAM Sağlık

Protezlerde insan eli benzeri kavrama mümkün mü? Yapay zekâ destekli protezlerde hassas kavrama dönemi

Geliştirilen protez eliyle küçük bir küpü kavrama çalışan bir kişi (Michigan Üniversitesi)
Geliştirilen protez eliyle küçük bir küpü kavrama çalışan bir kişi (Michigan Üniversitesi)
TT
TT

Protezlerde insan eli benzeri kavrama mümkün mü? Yapay zekâ destekli protezlerde hassas kavrama dönemi

Geliştirilen protez eliyle küçük bir küpü kavrama çalışan bir kişi (Michigan Üniversitesi)
Geliştirilen protez eliyle küçük bir küpü kavrama çalışan bir kişi (Michigan Üniversitesi)

Protez uzuvlar alanı, robotik, yapay zekâ ve hassas sensör teknolojilerindeki hızlı ilerlemelerin etkisiyle son yıllarda dikkat çekici bir atılım yaşıyor. Buna karşın, en önemli zorluklardan biri, kullanıcının kavradığı nesnenin niteliğine uygun kavrama gücünün ayarlanması olmaya devam ediyor. Bir yumurtayı tutmak son derece hassas bir dokunuş gerektirirken, bir su şişesini açmak daha fazla güç ve daha ince bir kontrol gerektiriyor.

Şarku’l Avsat’ın ABD Hastalık ve Kontrol Önleme Merkezleri’den (CDC) aktardığı verilere göre ülkede her yıl yaklaşık 50 bin ampütasyon vakası kaydediliyor. Bu durum, el kaybının bireylerin günlük yaşam görevlerini doğal biçimde yerine getirme kapasitesi üzerinde ciddi bir etki yarattığını gösteriyor.

Daha duyarlı akıllı sistemler

Bu alandaki en yeni yenilikler, insan elinin doğal hissini taklit edebilen, daha akıllı ve daha duyarlı protez uzuvların geliştirilmesine odaklanıyor. Bu teknolojiler, kullanıcılara daha yüksek düzeyde bağımsızlık sağlarken, günlük faaliyetleri daha kolay ve güvenle yerine getirmelerine yardımcı oluyor; kullanım sırasında konfor ve güvenliği de artırıyor.

fvdfv
Utah Üniversitesi’nde geliştirilen, insan düşüncesini taklit eden akıllı protez uzuv. (Utah Üniversitesi)

Bu kapsamda, Çin’de Guilin Elektronik Teknoloji Üniversitesi’nden araştırmacılar, makine öğrenimi, bilgisayarla görme ve gelişmiş sensörlere dayanan yenilikçi bir protez sistem geliştirdi. Sistem, her nesne için uygun kavrama gücünü gerçek zamanlı olarak belirlemeyi amaçlıyor. Çalışmanın sonuçları, 20 Ocak 2026 tarihli Nanotechnology and Precision Engineering dergisinde yayımlandı.

Araştırma, kalemler, şişeler, bardaklar, toplar ve anahtarlar gibi günlük hayatta yaygın kullanılan nesnelerin yanı sıra yumurta gibi hassas objeler de dâhil olmak üzere, nesnelerin yüzde 90’ından fazlasıyla etkileşim için gerekli kavrama gücünün ölçülmesine odaklandı. Amaç, kullanıcının her seferinde kavrama gücünü manuel olarak ayarlamasına gerek kalmadan çevresiyle doğal biçimde etkileşim kurabilmesini sağlamak.

Sistem; avuç içine yakın bir noktaya yerleştirilmiş küçük bir kamera, parmak uçlarındaki basınç sensörleri ve kullanıcının ön kolundaki kasların elektriksel aktivitesini ölçen bir elektromiyografi (EMG) cihazından oluşuyor. Bu sayede nesneyi kavrama niyeti belirleniyor ve kavrama gücü otomatik olarak ayarlanıyor.

Çalışmanın başyazarı, Guilin Elektronik Teknoloji Üniversitesi’nden Dr. Hua Li, sistemin bilgisayarla görme ile kasların elektriksel sinyallerini birleştirerek nesnelerin akıllı biçimde tanınmasını ve kavrama gücünün uyarlanabilir şekilde kontrol edilmesini sağladığını belirtti. Dr. Li, bunun protez kullanıcılarının yaşamında somut bir fark yaratabileceğini söyledi.

Dr. Li, Şarku’l Avsat’a yaptığı açıklamada, sistemin gelişmiş bir algoritma aracılığıyla hedef nesneyi otomatik olarak analiz ettiğini; türünü, dokusunu ve boyutunu belirledikten sonra uygun kavrama gücünü seçtiğini ifade etti. Buna göre yumurta gibi hassas nesneler için hafif bir güç, su dolu bardaklar için ise orta düzeyde bir güç uygulanıyor. Bu yaklaşım, nesnelerin zarar görmesi ya da elden kayması ihtimalini azaltıyor.

Kullanıcının niyetini tespit etmek için EMG sinyallerinden yararlanan sistem, “görsel tanıma, güç eşleştirme ve hareketin uygulanması” aşamalarını, insan kas hafızasını taklit eden bir biçimde otomatik olarak tamamlıyor. Bu da sürekli manuel ayarlama ihtiyacını azaltıyor ve günlük görevlerin daha doğal bir şekilde yerine getirilmesini mümkün kılıyor. Sonuç olarak kullanıcıların yaşam kalitesi artıyor.

Geleceğin tasarımlarına etkisi

Bu teknolojinin gelecekteki protez tasarımlarına etkisine değinen Dr. Li, sistemin daha gelişmiş yapay el tasarımları için yeni ufuklar açtığını söyledi. Bilgisayarla görme ve kas sinyallerine dayalı çift kontrol yaklaşımının, “aktif algılama ve otomatik uygulama” temelli akıllı bir mantık sunduğunu belirten Li, bunun protez eli pasif bir tepki aracından çıkarıp, nesneleri kavramada insan davranışına daha yakın bir seviyeye taşıdığını vurguladı.

sfdef
İtalyan Teknoloji Enstitüsü’nde geliştirilen, doğal el hareketini taklit eden yenilikçi protez el. (İtalyan Teknoloji Enstitüsü)

Sistemin diğer protezler veya robotik uygulamalar için uyarlanabilirliğine ilişkin olarak ise Dr. Li, temel teknolojinin uzvun yapısına bağımlı olmadığını kaydetti. Görsel tanıma modellerinde yapılacak basit uyarlamalar ve uygun güç eşiklerinin ayarlanmasıyla, sistemin bacak veya kol protezlerine, hatta robot kollarına da uygulanabileceğini söyledi. Bu durumun, rehabilitasyon cihazları ve robotik teknolojiler için etkili ve düşük maliyetli çözümler sunarak, farklı alanlarda geniş uygulama imkânları yaratacağını ifade etti.

Paralel araştırma girişimleri

Bu gelişmeler, doğal hareketin daha hassas biçimde taklit edilmesini hedefleyen küresel araştırma çabalarıyla da örtüşüyor. Aralık 2025’te ABD’de Utah Üniversitesi’nden bir ekip, yapay zekâya dayalı ve basınç ile görsel sensörlerle donatılmış, “öz-düşünme” yeteneğine sahip akıllı bir protez el geliştirmeyi başardı. Sinir ağı kullanılarak farklı kavrama pozisyonlarıyla eğitilen bu el, her parmağın bağımsız ve kullanıcıyla eşzamanlı hareket etmesine olanak tanıyarak, günlük görevlerde gerekli zihinsel çabayı azalttı.

Ayrıca İtalya Teknoloji Enstitüsü ile Imperial College London’dan araştırmacılar, nöromüsküler uyum ve yumuşak robotik teknolojilere dayalı protez uzuvlar üzerinde çalışıyor. Haziran 2025’te ekip, iki hareket derecesine sahip yumuşak bir protez el tasarladı. Bu tasarım, çok parmaklı ve hassas kontrol gerektiren, geleneksel yöntemlerle mümkün olmayan karmaşık görevlerde umut verici sonuçlar ortaya koydu.

Temmuz 2024’te ise Massachusetts Teknoloji Enstitüsü’nden (MIT) araştırmacılar, protez bir bacak için gelişmiş bir sinirsel arayüz geliştirdi. Elektronik uzvun insan sinir sistemiyle doğrudan etkileşimini sağlayan bu arayüz, cerrahi olarak bağlanan kaslar ve sinir sinyallerini algılayan elektrotlara dayanıyor. Bu sayede kullanıcılar, motor ve duyusal kontrolü yeniden kazanarak yürüme hızında, kas gücünde ve farklı ortamlara uyumda kayda değer iyileşmeler elde etti.

Araştırmacılara göre, tüm bu gelişmeler, protez uzuvların geleceğinin; giderek daha akıllı, uyarlanabilir ve sinir sistemiyle bağlantılı sistemlere doğru ilerlediğini gösteriyor. Bu sistemler, biyolojik uzuvların performansına her geçen gün daha fazla yaklaşarak, kullanıcılara hareketin sadeliğini ve günlük yaşamda özgüveni yeniden kazandırmayı hedefliyor.