عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

Samanyolu'ndaki benzersiz cismin "karmaşık yapısı" gözler önüne serildi

1181'de gözlemlenen tarihi süpernovanın muhtemel kalıntısı Pa 30, NOIRLab'in Gemini North teleskobuyla eşi benzeri görülmemiş bir ayrıntıyla görüntülendi (Uluslararası Gemini Rasathanesi/NOIRLab/NSF/AURA Teşekkür: Baş Araştırmacı: T. Cunningham [Harvard-Smithsonian Astrofizik Merkezi] Görüntü İşleme: J. Miller & M. Rodriguez [Uluslararası Gemini Rasathanesi/NSF NOIRLab], T.A. Rector [Alaska Anchorage Üniversitesi/NSF NOIRLab], D. de Martin & M. Zamani [NSF NOIRLab])
1181'de gözlemlenen tarihi süpernovanın muhtemel kalıntısı Pa 30, NOIRLab'in Gemini North teleskobuyla eşi benzeri görülmemiş bir ayrıntıyla görüntülendi (Uluslararası Gemini Rasathanesi/NOIRLab/NSF/AURA Teşekkür: Baş Araştırmacı: T. Cunningham [Harvard-Smithsonian Astrofizik Merkezi] Görüntü İşleme: J. Miller & M. Rodriguez [Uluslararası Gemini Rasathanesi/NSF NOIRLab], T.A. Rector [Alaska Anchorage Üniversitesi/NSF NOIRLab], D. de Martin & M. Zamani [NSF NOIRLab])
TT
TT

Samanyolu'ndaki benzersiz cismin "karmaşık yapısı" gözler önüne serildi

1181'de gözlemlenen tarihi süpernovanın muhtemel kalıntısı Pa 30, NOIRLab'in Gemini North teleskobuyla eşi benzeri görülmemiş bir ayrıntıyla görüntülendi (Uluslararası Gemini Rasathanesi/NOIRLab/NSF/AURA Teşekkür: Baş Araştırmacı: T. Cunningham [Harvard-Smithsonian Astrofizik Merkezi] Görüntü İşleme: J. Miller & M. Rodriguez [Uluslararası Gemini Rasathanesi/NSF NOIRLab], T.A. Rector [Alaska Anchorage Üniversitesi/NSF NOIRLab], D. de Martin & M. Zamani [NSF NOIRLab])
1181'de gözlemlenen tarihi süpernovanın muhtemel kalıntısı Pa 30, NOIRLab'in Gemini North teleskobuyla eşi benzeri görülmemiş bir ayrıntıyla görüntülendi (Uluslararası Gemini Rasathanesi/NOIRLab/NSF/AURA Teşekkür: Baş Araştırmacı: T. Cunningham [Harvard-Smithsonian Astrofizik Merkezi] Görüntü İşleme: J. Miller & M. Rodriguez [Uluslararası Gemini Rasathanesi/NSF NOIRLab], T.A. Rector [Alaska Anchorage Üniversitesi/NSF NOIRLab], D. de Martin & M. Zamani [NSF NOIRLab])

Bilim insanları, galaksimizdeki benzersiz bir gökcisminin "karmaşık yapısını" gözalıcı detaylarıyla görüntüledi.

Samanyolu'nda türünün bilinen tek süpernova kalıntısı Pa 30, bir yıldızın yaklaşık 850 yıl önce gözlemlenen ölümcül patlamasından geriye kalanlardan oluşuyor. Gökbilimciler son teknoloji teleskopları kullanarak bu cismi ince detaylarıyla görüntüledi.

Görüntü, patlamanın karmaşık yapısını ortaya koyuyor: Adeta havai fişek gösterisi gibi, şeritler evrene doğru uzanıyor. Bu şeritlerin her biri, Güneş Sistemi'ni defalarca içine alabilecek kadar geniş.

Ortasında ise patlayan yıldızın hayatta kalan parçaları olan "zombi yıldız" yer alıyor ve sıradışı bir şekilde gösterinin tam merkezinde duruyor. Yıldızın patlaması 1181'de gözlemlenmiş ve dönemin Japon, Çin ve Arap kaynaklarında ayrı ayrı kaydedilmişti. Kalıntısıysa ilk kez 2013'te bir yurttaş bilim insanı tarafından tespit edilmişti.

Ancak yeni araştırmada gökbilimciler, Gemini North teleskobuyla patlamanın kalıntısını ayrıntılı biçimde görüntülemeyi başardı. Bu sayede ilk bakışta havai fişeğe benzeyen şeritlerin aslında tıpkı ipe dizilmiş inciler gibi uzun düğüm zincirleri olduğu görüldü.

Patlama, Dünya'dan yaklaşık 7 bin 500 ışık yılı uzaklıkta yer alıyor. Bu, Samanyolu'nda türünün bilinen tek örneği ve diğer galaksilerde benzer örnekler saptansa da nispeten yakın olması sayesinde patlamanın çekirdeğindeki kalıntıları görebiliyoruz.

Bu kalıntılar, süpernovanın "Tip Iax" olması nedeniyle bırakıldı. Bu tür süpernovalarda patlama, yıldızın kendisini tamamen yok etmiyor. Araştırmacılar, bunun iki beyaz cücenin çarpışmasından kaynaklandığını düşünüyor. Beyaz cüceler, yıldızların ölürken kendi üzerlerine çökmesiyle oluşan, Dünya büyüklüğündeki yoğun gökcisimleridir.

Avusturya Bilim ve Teknoloji Enstitüsü'nden, çalışmanın yürütücülerinden Ilaria Caiazzo, "Pa 30'un Dünya'ya yakınlığı sayesinde bu kadar ayrıntıyı görebiliyoruz" diyor. 

Bu yakınlık, Pa 30'u araştırmalar açısından eşsiz bir değere sahip kılıyor.

Pa 30, türünün bilinen tek örneği olsa da galaksimizde yalnız olmayabilir. Bilim insanları, keşfedilmeyi bekleyen başka örnekler de olabileceğini söylüyor.

Warwick Üniversitesi'nden çalışmanın ortak lideri Tim Cunningham "Yıldız patlamalarına ilişkin güvenilir tarihsel kayıtlar yalnızca bin yıl kadar eskiye uzanıyor. Bilindiği kadarıyla, galaksimizde karanlıkta gizlenmiş başka benzer kalıntılar olabileceği" diyor.

Bugün, teleskobun icadından yüzyıllar önce bu olayı üç ayrı tarihsel kayıtta belgeleyen gökbilimcilerin gözlemlediğini bildiğimiz ilginç bir cismi inceleyebildiğimiz için şanslıyız.

Çalışma, The Astrophysical Journal'da yayımlanan "Detection of knots in the supernova type Iax remnant Pa 30" (Pa 30 adlı Iax tipi süpernova kalıntısında düğümlerin tespiti) başlıklı yeni makalede aktarılıyor.

Independent Türkçe

TEKNOLOJİ

2026 Nobel Kimya Ödülü, ilaç üretimindeki çığır açıcı keşifleriyle Fransız ve Japon bilim insanlarına verildi

Kimya Nobel Komitesi Başkanı Heiner Linke, İsveç Kraliyet Bilimler Akademisi Genel Sekreteri Ellen Moons ve Kimya Nobel Komitesi üyesi Peter Somfai, bu yılın ödül sahipleri Fransa’dan Henri Kagan ile Japonya’dan Kensu Sway’ın fotoğraflarının ekranda gösterildiği sırada (AFP)
Kimya Nobel Komitesi Başkanı Heiner Linke, İsveç Kraliyet Bilimler Akademisi Genel Sekreteri Ellen Moons ve Kimya Nobel Komitesi üyesi Peter Somfai, bu yılın ödül sahipleri Fransa’dan Henri Kagan ile Japonya’dan Kensu Sway’ın fotoğraflarının ekranda gösterildiği sırada (AFP)
TT
TT

2026 Nobel Kimya Ödülü, ilaç üretimindeki çığır açıcı keşifleriyle Fransız ve Japon bilim insanlarına verildi

Kimya Nobel Komitesi Başkanı Heiner Linke, İsveç Kraliyet Bilimler Akademisi Genel Sekreteri Ellen Moons ve Kimya Nobel Komitesi üyesi Peter Somfai, bu yılın ödül sahipleri Fransa’dan Henri Kagan ile Japonya’dan Kensu Sway’ın fotoğraflarının ekranda gösterildiği sırada (AFP)
Kimya Nobel Komitesi Başkanı Heiner Linke, İsveç Kraliyet Bilimler Akademisi Genel Sekreteri Ellen Moons ve Kimya Nobel Komitesi üyesi Peter Somfai, bu yılın ödül sahipleri Fransa’dan Henri Kagan ile Japonya’dan Kensu Sway’ın fotoğraflarının ekranda gösterildiği sırada (AFP)

Bilim insanları Henri Kagan ve Kensu Sway, “asimetrik organik sentezde doğrusal olmayan etkiler ve otokataliz keşifleri” nedeniyle 2026 Nobel Kimya Ödülü’ne layık görüldü.

Nobel Komitesi, iki araştırmacının ödüle layık görülmesinin gerekçesini, “keşiflerinin, farmasötik ürünlerin üretiminde kullanılmak üzere özel reaksiyonlar geliştiren kimyagerler açısından kritik bir rol oynaması” olarak açıkladı.

Kimya alanının bir bölümü daha önce, 2001 yılında Nobel Ödülü’ne layık görülmüştü. Ancak Fransa’da ve dünya genelinde bu tekniğin “babası” olarak kabul edilen Kagan’ın ödül dışında bırakılması, o dönemde Fransa Bilimsel Araştırmalar Bakanlığı’nın tepkisine yol açmıştı.

95 yaşındaki Kagan hâlen Paris-Saclay Üniversitesi’nde profesör olarak görev yapıyor. 76 yaşındaki Kensu Sway ise Tokyo Doğa Bilimleri Üniversitesi’nde profesör.

Nobel Vakfı tarafından telefonla aranan Japon bilim insanı, haberi aldıktan sonra, “Hayatımın en güzel günü” ifadelerini kullandı.

Tıp ve fizik dallarında bu yılki Nobel Ödülü sahiplerinin isimleri ise pazartesi ve salı günü açıklanmıştı.

2025 yılında Kimya Nobel’i, gazların ve diğer kimyasal maddelerin geçişine imkan sağlayan geniş boşluklara sahip moleküler yapılar olan metal-organik kafesleri geliştiren üç araştırmacıya verilmişti.

Ödül sahiplerinin açıklanmasından önce uzmanların tahminleri farklılık gösterirken, ödüle aday gösterilen çalışmalar arasında gen tedavisi, uyku hormonları ve kendi kendini düzenleyen tek katmanların oluşumu gibi konular yer alıyordu.

Nobel Ödülleri takvimi, 12 Ekim’de ekonomi ödülünün açıklanmasıyla sona erecek.

Bir asırdan uzun geçmişe sahip olan Nobel Kimya Ödülü, İsveç Kraliyet Bilimler Akademisi tarafından veriliyor. Ödül sahipleri, 12 milyon İsveç kronu (1,2 milyon dolar) tutarındaki para ödülünü paylaşmanın yanı sıra, Nobel Ödülü’nün sağladığı uluslararası prestije de kavuşuyor. Şarku’l Avsatın Reuters'ten aktardığına göre Nobel, dünyanın en prestijli bilimsel ödülü olarak kabul ediliyor.

TEKNOLOJİ

İnternet güvenliğine yapay zeka darbesi: Google kritik programı durdurdu

Fotoğraf: Reuters
Fotoğraf: Reuters
TT
TT

İnternet güvenliğine yapay zeka darbesi: Google kritik programı durdurdu

Fotoğraf: Reuters
Fotoğraf: Reuters

Yapay zeka, güvenlik araştırmacılarının interneti ve teknolojimizi güvende tutmak için kullandığı temel yöntemlerden birini sekteye uğratıyor.

Google, yapay zeka nedeniyle artık sürdürülemediği için kritik güvenlik programlarından birini geçici olarak kapatacağını geçen hafta duyurdu.

Şirket, açık kaynaklı yazılımlardaki kritik güvenlik açıklarını tespit etmeye odaklanan "Güvenlik Açığı Ödül Programları"ndan birini askıya aldığını açıkladı. Genellikle "hata ödül programları" (bug bounty) diye bilinen bu programlar, hackerları yazılımlardaki sorunları şirketlere bildirmeye teşvik ediyor. Amaç, güvenlik açıklarını hackerlar bunlardan yararlanmadan önce gidermek.

Bu programlar, siber güvenlik araştırmacılarının çalışmaları karşılığında ödüllendirilmesinin önemli bir yolunu sunuyor. Ayrıca onları, buldukları hataları kendi saldırılarını düzenlemek için kullanmak yerine güvenlik sorunlarının giderilmesine yardımcı olmaya teşvik ediyor. Çoğu büyük teknoloji şirketi, yazılımlarını ve platformlarını korumadaki önemini göz önünde bulundurarak bu tür hata ödül programlarını kendileri yürütüyor.

Ancak Google, yapay zekanın rapor göndermeyi kolaylaştırması nedeniyle bu programlardan birini geçici olarak donduracağını açıkladı. Şirket, X'te paylaştığı gönderide "Bu duraklama, büyük çoğunluğu geçerli olmayan otomatik gönderimlerde yaşanan kayda değer artıştan kaynaklanıyor" diye yazdı.

Bu haber, yapay zekanın çevrimiçi güvenliği ciddi tehlikeye atabileceğine dair endişelerin giderek arttığı bir dönemde geldi. Bu endişelerin büyük kısmı, güçlü ve yeni modellerin yazılımdaki güvenlik açıklarını bulmayı kolaylaştırması ve bu açıkların daha sonra hackerler tarafından suiistimal edilebilmesine odaklanıyor. Ancak Google'ın açıklaması, yapay zekanın yaygınlaşmasının başka zararlı etkileri de olabileceğini gösteriyor.

Google, hata ödül programını askıya alan tek şirket değil. Çünkü çok az çaba gerektiren ve genellikle hatalı raporların sayısında yaşanan fırlama, mühendislerin gerçek sorunları bulup düzeltemeyecek kadar yük altında kalmasına yol açıyor. Linux'ın kurucusu Linus Torvalds önceki aylarda, "ardı arkası kesilmeyen yapay zeka raporlarının" güvenlik çalışmalarını "neredeyse yönetilemez" hale getirdiğini söylemişti. Intel ise geçen ay, hata bildirimleri için 100 bin dolara kadar ödül veren benzer bir programı kapatmış gibi görünüyordu. Ancak şirket, gerekçe olarak yapay zekayı açıkça belirtmemişti.

Independent Türkçe