Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns



Jurassic Park'taki DNA yöntemi gerçek oldu

Jurassic Park'taki dinozorlar, kehribarda korunmuş DNA'dan geliyor (Universal Pictures)
Jurassic Park'taki dinozorlar, kehribarda korunmuş DNA'dan geliyor (Universal Pictures)
TT

Jurassic Park'taki DNA yöntemi gerçek oldu

Jurassic Park'taki dinozorlar, kehribarda korunmuş DNA'dan geliyor (Universal Pictures)
Jurassic Park'taki dinozorlar, kehribarda korunmuş DNA'dan geliyor (Universal Pictures)

Bilim insanları Jurassic Park'tan aldıkları ilhamla DNA'yı kehribar benzeri bir yapıda muhafaza etme yöntemi geliştirdi. Bu sayede sadece genomlar değil görüntü ve müzik de depolanabiliyor. 

Steven Spielberg'ün meşhur filmindeki bilim insanları, milyonlarca yıldır kehribar içinde saklanan DNA'yı kullanarak dinozorları yeryüzüne geri getiriyordu. 

Bu düşünceden yola çıkan Massachusetts Teknoloji Enstitüsü (MIT) araştırmacıları, kendilerinin ürettiği ve kehribara benzeyen cam gibi bir polimerde DNA'yı zarar görmeden sakladı.

Halihazırda kullanılan muhafaza yöntemleri dondurucu soğuklar ve yüksek miktarda enerji gerektiriyor. Yeni teknikteyse DNA, sıcaklık veya nemden zarar görmeden oda sıcaklığında korunabiliyor. 

MIT'li araştırmacılar daha önce DNA'yı silisyum dioksit denen bir kimyasal bileşikte korumayı başarmıştı. Ancak muhafaza etme süreci günler alırken, DNA'yı bileşikten çıkarmak için tehlikeli maddeler kullanılması gerekiyor.

Hakemli dergi Journal of the American Chemical Society'de 12 Haziran'da yayımlanan araştırmanın kıdemli yazarı James Banal "DNA'yı dondurmak onu korumanın bir numaralı yolu olsa da çok pahalı ve ölçeklendirilemiyor" diyerek ekliyor:

Yeni muhafaza yöntemimizin, dijital bilgileri DNA'da saklamanın geleceğini yönlendirebilecek bir teknoloji olacağını düşünüyorum.

Muazzam seviyede bilgi depolama kapasitesine sahip DNA yalnız biyolojik değil, dijital verileri de saklayabiliyor. Dijital depolama sistemleri bunu bilgiyi 0 ve 1 halinde kodlayarak yaparken DNA da temel yapı birimleri adenin, sitozin, guanin ve timini kullanarak bu işlemi gerçekleştiriyor.

Araştırmacılar T-REX (Thermoset-REinforced Xeropreservation / Termosetle Güçlendirilmiş Kurutarak Muhafaza) adını verdikleri yeni saklama yönteminde DNA'nın 75 dereceye kadar sıcaklıklarda korunabildiğini aktarıyor. Ayrıca bu şekilde bir depolama, silisyum dioksitin aksine sadece birkaç saat alıyor. 

Bu yöntemi kullanarak Jurassic Park'ın jenerik müziği, Özgürlük Bildirgesi ve MIT logosunun DNA kodlamasını depolayan araştırmacılar, DNA'yı çıkardıktan sonra verilerin hasara uğramadığını gözlemledi. 

Araştırmacılar halihazırda daha uzun süreli depolama için polimeri kapsüllere dönüştürmeyi planlıyor.

Independent Türkçe, IFL Science, Science Daily, Journal of the American Chemical Society