عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

Samanyolu'nun merkezindeki kara delikle ilgili 50 yıllık gizem çözüldü

Gökbilimciler, galaksimizin merkezindeki süper kütleli kara delik Sagittarius A* ile ilgili uzun süredir çözülemeyen bir gizemi aydınlattıklarını söylüyor. Bu bileşik görüntüde ortadaki beyaz nokta kara deliği gösterirken, turuncu ve mavi bölgeler çevresindeki gazı ve X-ışını verilerini temsil ediyor. Turuncu bölgede görülen koni biçimli boşluk ise araştırmanın temel bulgusu (X-ışını: NASA/CXC/Northwestern Uni./M. Gorski; Radyo: ESO/NAOJ/NRAO/ALMA; Görüntü işleme: NASA/CXC/SAO/K. Arcand ve P. Edmonds)
Gökbilimciler, galaksimizin merkezindeki süper kütleli kara delik Sagittarius A* ile ilgili uzun süredir çözülemeyen bir gizemi aydınlattıklarını söylüyor. Bu bileşik görüntüde ortadaki beyaz nokta kara deliği gösterirken, turuncu ve mavi bölgeler çevresindeki gazı ve X-ışını verilerini temsil ediyor. Turuncu bölgede görülen koni biçimli boşluk ise araştırmanın temel bulgusu (X-ışını: NASA/CXC/Northwestern Uni./M. Gorski; Radyo: ESO/NAOJ/NRAO/ALMA; Görüntü işleme: NASA/CXC/SAO/K. Arcand ve P. Edmonds)
TT
TT

Samanyolu'nun merkezindeki kara delikle ilgili 50 yıllık gizem çözüldü

Gökbilimciler, galaksimizin merkezindeki süper kütleli kara delik Sagittarius A* ile ilgili uzun süredir çözülemeyen bir gizemi aydınlattıklarını söylüyor. Bu bileşik görüntüde ortadaki beyaz nokta kara deliği gösterirken, turuncu ve mavi bölgeler çevresindeki gazı ve X-ışını verilerini temsil ediyor. Turuncu bölgede görülen koni biçimli boşluk ise araştırmanın temel bulgusu (X-ışını: NASA/CXC/Northwestern Uni./M. Gorski; Radyo: ESO/NAOJ/NRAO/ALMA; Görüntü işleme: NASA/CXC/SAO/K. Arcand ve P. Edmonds)
Gökbilimciler, galaksimizin merkezindeki süper kütleli kara delik Sagittarius A* ile ilgili uzun süredir çözülemeyen bir gizemi aydınlattıklarını söylüyor. Bu bileşik görüntüde ortadaki beyaz nokta kara deliği gösterirken, turuncu ve mavi bölgeler çevresindeki gazı ve X-ışını verilerini temsil ediyor. Turuncu bölgede görülen koni biçimli boşluk ise araştırmanın temel bulgusu (X-ışını: NASA/CXC/Northwestern Uni./M. Gorski; Radyo: ESO/NAOJ/NRAO/ALMA; Görüntü işleme: NASA/CXC/SAO/K. Arcand ve P. Edmonds)

Julia Musto Bilim ve İklim Muhabiri 

Gökbilimciler, Samanyolu'nun merkezindeki süper kütleli kara delikle ilgili 50 yılı aşkın süredir devam eden bir gizemi nihayet çözdü.

Çoğu kara delik, çevresindeki maddeyi yutarken rüzgar ya da jetler üretir. Ancak bugüne kadar hiç kimse, galaksimizin büyümesini ve evrimini yönlendiren Sagittarius A*'nın ürettiği rüzgarı (uzay rüzgarları, yıldızlar ve diğer gök cisimlerinden uzay boşluğuna yayılan, yüksek enerjili plazma akışlarıdır -ed.n.) tespit edememişti.

Fakat kara deliğin şimdiye kadar elde edilen en ayrıntılı görüntüsü, araştırmacıların yaklaşık 20 bin yıllık olduğunu söylediği bu rüzgarı çok daha net biçimde ortaya koydu. Bu keşif, bilim insanlarının kara deliğin evrendeki rolünü daha iyi anlamasına yardımcı oluyor.

Northwestern Üniversitesi'nden astrofizikçi Mark Gorski, ortak liderliğini üstelendiği çalışmayla ilgili yaptığı açıklamada "Bir kara delik kusursuz bir vakumun içinde bulunmuyorsa, bir şekilde rüzgar üretmek zorunda" diyor.

Ve evrende de kusursuz bir vakum yok.

Yeni gözlemler sayesinde ilk kez bu rüzgarın izini görebilecek kadar temiz bir görüntü elde ettik. Verilere baktık ve 'İşte burada. Herkesin 50 yıldır aradığı şey tam da bu' dedik.

Araştırmacılar, Şili'deki Atacama Büyük Milimetre/Milimetre Altı Dizisi (ALMA) radyo teleskoplarından elde edilen 5 yıllık gözlem verilerini kullandı. Böylece daha önce Sagittarius A*'yı görmemizi engelleyen gaz ve toz bulutlarının ötesine bakabildiler.

Kara deliğin yakınındaki gazın görüntüsünü oluşturan araştırmacılar, daha sonra görüntüyü işleyerek kara deliğin çevresindeki maddeden kaynaklanan radyo sinyallerinin etkisini azalttı.

Ortaya çıkan görüntü, bölgenin önceki haritalarından 100 kat daha derin ve 80 kat daha netti. Bu sayede daha önce görünmeyen yapılar ilk kez ortaya çıkarıldı.
 

Görsel kaldırıldı.Şili'deki Atacama Büyük Milimetre/Milimetre Altı Dizisi (ALMA) radyo teleskoplarından elde edilen veriler, bu görüntüde Sagittarius A* çevresindeki soğuk gazın dağılımını gösteriyor (X-ışını: NASA/CXC/Northwestern Uni./M. Gorski; Radyo: ESO/NAOJ/NRAO/ALMA; Görüntü işleme: NASA/CXC/SAO/K. Arcand ve P. Edmonds)

Araştırmacılar bu sayede, içinde gaz bulunmayan koni şeklinde devasa bir boşluk keşfetti. Bu yapı ancak sıcak bir rüzgar tarafından oluşturulmuş olabilir.

Kara deliğin çevresindeki yıldızların ürettiği rüzgarların, bu büyüklükte bir boşluk açacak kadar güçlü olmadığını söylüyorlar.

Gorski, "Kara delikten sıcak madde üflerseniz, bunun soğuk maddeyle bir arada bulunması mümkün değildir" ifadelerini kullanıyor.

Ya soğuk maddeyi dışarı iter ya da onu ısıtır. Eğer çok fazla ısınırsa, artık soğuk gazı göremezsiniz.

Görsel kaldırıldı.Samanyolu'nun merkezini gösteren bu bileşik görüntü, Atacama Büyük Milimetre/Milimetre Altı Dizisi radyo teleskoplarından elde edilen verilerle NASA'nın Chandra X-Işını Gözlemevi'nin verilerinin birleştirilmesiyle oluşturuldu (ALMA [ESO/NAOJ/NRAO] /S. Longmore ve ekip arkadaşları. Arkaplan: ESO/D. Minniti ve ekip arkadaşları)

Gorski'yle birlikte araştırmaya ortak liderlik eden Elena Murchikova ise şunları söylüyor:

Bu rüzgar çok güçlü değil ve yönü muhtemelen zaman içinde değişiyor. Bu durum kara deliğimizin de evrendeki konumumuzun da benzersiz olmadığını gösteriyor.

Gözlemler, kara deliğin daha sakin bir evrede bulunduğuna işaret ediyor. Ancak geçmişte daha hareketli dönemler yaşandığına dair kanıtlar var. NASA'nın Chandra X-Işını Gözlemevi de daha önce koni şeklindeki boşluğun yer aldığı aynı bölgede X-ışını emisyonları tespit etmişti.

Sagittarius A* ilk kez 1974'te keşfedilmişti.
 

Görsel kaldırıldı.NASA'nın Chandra X-Işını Gözlemevi'nden elde edilen veriler, kara deliğin çevresindeki bölgeyi gösteriyor (X-ışını: NASA/CXC/Northwestern Uni./M. Gorski; Radyo: ESO/NAOJ/NRAO/ALMA; Görüntü işleme: NASA/CXC/SAO/K. Arcand ve P. Edmonds)

Gorski, "Olağanüstü iddialar olağanüstü kanıtlar gerektirir" diyor.

Bunun yalnızca görüntüleme kaynaklı bir hata olmadığından emin olmak istedik. Sonra Chandra'nın X-ışını görüntüsü tam olarak yerine oturdu. Moleküler yapılar birbirleriyle örtüşüyordu.

Murchikova da "Daha önce kimsenin görmediği bir şey bulduğunuzda aklınızdan geçen ilk düşünce 'Tanrım, bir keşif yaptık' olmaz" diye konuşuyor.

İlk düşündüğünüz şey 'Tanrım, analizimde ne yanlış gitti?' olur. Ancak görüntümüzü X-ışını verileriyle üst üste koyduğumuzda her şey anlam kazanmaya başladı.

Independent Türkçe,independent.co.uk/space

TEKNOLOJİ

Robotaksi bataryalarının sonrasında nasıl kullanılacağı bulundu

(Reuters)
(Reuters)
TT
TT

Robotaksi bataryalarının sonrasında nasıl kullanılacağı bulundu

(Reuters)
(Reuters)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Google'ın ana şirketi Alphabet'in otonom araç birimi Waymo, robotaksi filosundaki eski bataryaları değerlendirerek yenilenebilir enerji depolamada kullanma planlarını açıkladı.

ABD merkezli B2U Storage Solutions'la yapılan "stratejik tedarik anlaşması"nın ardından Waymo'nun otonom taksilerinden çıkan binlerce eskimiş batarya, Kaliforniya ve Teksas'taki elektrik şebekelerine depolama hizmeti sağlayacak.

Bu ortaklık sayesinde rüzgar ve güneş enerjisi tesislerinden elde edilen fazla elektrik bataryalarda depolanacak ve gerektiğinde yerel şebekeye yüzlerce megawatt-saatlik güç sağlamak için kullanılabilecek.

Waymo Sürdürülebilirlik ve Çevre Başkanı Adam Lenz, "Ortak elektrikli araç filomuz döngüsel ekonomiyi genişletirken, elektrik şebekesinde temiz enerjinin büyümesini destekleme yönünde muazzam bir fırsat sunuyor" diyor.

Bu ortaklık sayesinde bataryalarımızı yerel şebeke depolamasında yeniden işlevlendirebilir ve bataryalarımızın, yollardan çekildikten çok sonra da topluma ekonomik ve çevresel değer katmayı sürdürmesini sağlayabiliriz.

Elektrikli araç bataryaları, kapasiteleri yaklaşık yüzde 70-80'e düşene kadar genellikle 15 ila 20 yıl dayanıyor ve bu noktadan sonra sürüş menzili artık araç için kullanışlı olmaktan çıkıyor.

Hâlâ muazzam miktarda şarj tutabildikleri için ve evler, binalar veya şebekeler için fazla güneş veya rüzgar enerjisini depolamada kullanılabildiklerinden, "ikinci hayat" denen bir süreç bu bataryalarda giderek yaygınlaşıyor.

Bu ikinci hayat aşaması, geri dönüştürülmelerinden önceki ömürlerini 10 yıla kadar uzatabiliyor.

B2U, Kaliforniya'nın Lancaster kentindeki tesisinin halihazırda yeniden işlevlendirilmiş 1300'den fazla elektrikli araç bataryası kullandığını belirtiyor.

B2U CEO'su Freeman Hall, "Bu anlaşma, B2U'nun otomotiv endüstrisine entegre bir şekilde yeniden işlevlendirme hizmetleri sağlama misyonunda önemli bir kilometre taşı" diyor.

Bu bataryaları şebeke depolamasına katıp kullanımlarını genişleterek elektrikli araç bataryalarının tüm potansiyelini paraya dönüştürüyoruz ve enerji talebinin artmaya devam ettiği bu dönemde elektrik şebekesine hayati bir istikrar sağlıyoruz.

Independent Türkçe,independent.co.uk/tech

TEKNOLOJİ

Meta'nın kendi yapay zekasıyla popüler Instagram hesapları ele geçirildi

Fotoğraf: Reuters
Fotoğraf: Reuters
TT
TT

Meta'nın kendi yapay zekasıyla popüler Instagram hesapları ele geçirildi

Fotoğraf: Reuters
Fotoğraf: Reuters

Hackerların, Meta'nın yapay zeka sohbet botunu kandırarak bazı popüler Instagram hesaplarına eriştiği iddia ediliyor.

Obama yönetiminin, hâlâ 2,4 milyondan fazla takipçiye sahip eski Beyaz Saray hesabı, ABD Uzay Kuvvetleri Astsubay Kıdemli Başçavuşu'na ait hesap ve güzellik markası Sephora'nın hesabı da dahil bir dizi yüksek profilli Instagram hesabı son birkaç gün içinde ele geçirildi.

Çevrimiçi siber güvenlik araştırmacıları, hackerların Meta'nın yapay zekayla çalışan destek sohbet botunu suiistimal ederek bu hesaplara eriştiğini öne sürüyor. Siber güvenlik araştırmacılarının Telegram gruplarında, hackerların bu hesapların kontrolünü nasıl ele geçirmiş olabileceğini gösteren videolar paylaşıldı.

Bir videoda hackerın, Meta yapay zeka sohbet botundan "şifre sıfırlama e-postası" kullanarak hedef alınan Instagram hesabının şifresini sıfırlamasını istediği ve şifreyi değiştirmek için gereken doğrulama kodunu yeni bir e-posta adresine gönderme talimatı verdiği görülüyor.

Meta, yapay zeka destek temsilcisine Instagram hesabınızı değiştirme yetkisi verdi. Kimlik doğrulaması yok. İnsanlar bunu fark etti ve şu anda hesaplar ele geçiriliyor.

Meta'nın yapay zeka sohbet botu, hackerlardan özçekim videosuyla kimliklerini doğrulamasını istediğinde, hackerların yapay zeka araçlarıyla üretilmiş sahte bir video sunabildiği iddia ediliyor.

Doğrulama işlemi tamamlandıktan sonra hackerlar doğrulama e-postasını kendi adresleriyle değiştirebiliyor.

Siber güvenlik araştırmacıları bu stratejiyi, yapay zeka sohbet botlarını suiistimal eden "sosyal mühendislik" (kullanıcıları hassas bilgilerini vermeye ikna etmeyi amaçlayan dolandırıcılık eylemleri) yöntemlerine benzetiyor.

Saldırı, bu tür taleplere karşı koruma sağlamak üzere tasarlanmış iki faktörlü kimlik doğrulama önlemlerini atlatmış görünüyor.

Meta, The Independent'ın yorum talebine henüz yanıt vermedi ancak bu güvenlik açığını kabul ettiği anlaşılıyor.

Meta'nın iletişim başkanı Andy Stone pazartesi günü X'te yaptığı açıklamada "Bu sorun çözüldü ve etkilenen hesapların güvenliğini sağlıyoruz" dedi.

Bu şekilde kaç Instagram hesabının hacklendiği henüz belli değil.

İnsanlar, Meta'nın yapay zeka destek asistanını kandırarak başkalarının Instagram hesaplarına erişiyor. İşte tam da bu nedenle hesap kurtarma kararlarını alma yetkisi asla yapay zekaya verilmemeli.

Bu sorun, sosyal medya platformlarının geleneksel olarak insanları içeren destek personelinin yürüttüğü temel görevleri yapay zeka sohbet botlarına devretmesine ilişkin endişeleri artırıyor. Martta Meta, tüm Facebook ve Instagram hesapları için yapay zekayla çalışan bir destek hizmeti başlatarak sohbet botlarının, kullanıcıların şifrelerini sıfırlamasına ve diğer hesap bakım işlevlerini yerine getirmesine yardımcı olacağını duyurmuştu.

Özelliğin ürün sayfasında "Hesabınızda bir sorun olduğunda cevap peşine düşmeniz gerekmemeli. Meta yapay zeka destek asistanı, neler olduğunu ve bundan sonra ne yapabileceğinizi anlamanıza yardım eder ve hatta sizin adınıza işlem yapabilir" ifadeleri yer alıyor.

Sizi sadece makalelere yönlendiren geleneksel yardım merkezlerinden farklı olarak bu asistan, şifrenizi sıfırlamaktan sorunlu içeriği bildirmeye kadar çeşitli işlemlerde harekete geçmek için size gerçekten yardımcı olabilir.

Hesapları ele geçirilen kullanıcılar, hesapla ilgili sorunları bir insan yetkiliye iletmenin mümkün olmadığını gördüklerini belirterek şikayetlerini sosyal medyada dile getirdi.

Independent Türkçe