عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

Facebook ve Instagram çöktü mü? Kullanıcılardan erişim sorunu bildirimleri

Facebook ve Meta logosu
Facebook ve Meta logosu
TT
TT

Facebook ve Instagram çöktü mü? Kullanıcılardan erişim sorunu bildirimleri

Facebook ve Meta logosu
Facebook ve Meta logosu

Facebook ve Instagram kullanıcıları, bugün dünya genelinde iki sosyal medya platformuna erişimde sorun yaşandığını bildirdi. Kullanıcıların karşısına, hesapların “geçici olarak kullanılamadığı” yönünde bir mesaj çıktı.

Hizmet kesintilerini takip eden Downdetector sitesine göre sorunlar ABD Doğu Yakası saatiyle yaklaşık 03.25'te başladı. ABD'de binlerce kullanıcı erişim sorunları yaşadığını bildirdi. Şarku’l Avsat’ın Reuters'tan aktardığı habere göre aynı saatlerde kullanıcıların yüzde 63'ü Facebook ve Instagram'ın internet sitelerine erişimde sorun yaşadı. Her iki sosyal medya platformu da Meta'nın bünyesinde bulunuyor.

ABD'de Instagram uygulamasında sorun yaşayan kullanıcılar tarafından bugün TSİ 11.18 itibarıyla 2 bin 829 ayrı bildirim daha yapıldı.

Reuters tarafından yapılan incelemeler, Singapur'da da Facebook ve Instagram'a erişimin aralıklı olarak kesildiğini ortaya koydu. Meta, devam eden hizmet kesintisiyle ilgili yorum talebine henüz yanıt vermedi.

TEKNOLOJİ

Kimi K3... Rakiplerini şaşkına çeviren Çin yapay zekâ modeli

Cuma günü Şanghay’da düzenlenen bir konferans sırasında, Çinli Moonshot AI şirketinin standında, şirketin Kimi K3 yapay zekâ modelinin tanıtımı sırasında bulunan kişiler (Reuters)
Cuma günü Şanghay’da düzenlenen bir konferans sırasında, Çinli Moonshot AI şirketinin standında, şirketin Kimi K3 yapay zekâ modelinin tanıtımı sırasında bulunan kişiler (Reuters)
TT
TT

Kimi K3... Rakiplerini şaşkına çeviren Çin yapay zekâ modeli

Cuma günü Şanghay’da düzenlenen bir konferans sırasında, Çinli Moonshot AI şirketinin standında, şirketin Kimi K3 yapay zekâ modelinin tanıtımı sırasında bulunan kişiler (Reuters)
Cuma günü Şanghay’da düzenlenen bir konferans sırasında, Çinli Moonshot AI şirketinin standında, şirketin Kimi K3 yapay zekâ modelinin tanıtımı sırasında bulunan kişiler (Reuters)

Çinli girişim şirketi Moonshot AI tarafından cuma günü piyasaya sürülen yeni yapay zekâ modeli Kimi K3, en gelişmiş ABD yapay zekâ sistemlerine yakın performansıyla geniş çaplı bir hayranlık uyandırdı. Bu gelişme, ABD’de söz konusu ilerlemeye ayak uydurmak adına hızla harekete geçilmesi yönünde çağrılara yol açtı.

Çinli DeepSeek firmasının Aralık 2024’te V1 aracını sunmasından bu yana, Çinli yapay zekâ şirketleri, indirilebilen ve üzerinde değişiklik yapılabilen açık kaynaklı modelleri ücretsiz olarak erişime açarak sektörün çehresini sürekli olarak yeniden şekillendiriyor.

Şarku’l Avsat’ın AFP’den aktardığına göre bu modeller; büyük Batılı şirketlerin ücretli ve kapalı modellere dayalı olarak kurduğu yapay zekânın ekonomik temellerini kısmen de olsa sorgulatıyor.

Kimi K3 modeli ile özellikle boyut anlamında yeni bir seviyeye ulaşıldı. Model, nisan ayında piyasaya sürülen ve 1,6 trilyon parametreye sahip olan DeepSeek V4 Pro’nun yaklaşık iki katı büyüklüğünde, yani 2,8 trilyon parametre kullanılarak geliştirildi.

Moonshot AI, yeni modellerinin yapay zekâ alanında ‘açık modeller boyutunun üst sınırını’ temsil ettiğini öne sürüyor.

Ancak asıl şaşkınlık yaratan unsur, Kimi K3’ün performansı oldu. Günümüzde yapay zekâ modelleri, çok çeşitli kriterler ve belirli görevler üzerinden karşılaştırılıyor. Bu yarışta Kimi K3; birçok yönden Anthropic firmasının Fable 5 ve OpenAI’ın GPT-5.6 Sol gibi gelişmiş yapay zekâ modellerine yakın bir performans sergiliyor.

Referans platformu Arena AI tarafından hazırlanan sıralamaya göre, Moonshot AI’ın geliştirdiği araç, özellikle uygulama veya web sitesi programlama alanında bazı listelerin zirvesinde yer aldı.

Mevcut aşamada kod üretimi, üretken yapay zekânın en belirgin kullanım alanı olarak öne çıkıyor. Bu pazar şu anda Anthropic şirketinin hakimiyetinde bulunurken, OpenAI da pazardaki varlığını hızla pekiştirmeye devam ediyor.

Henry Intelligent Machines PBC platformunun CEO’su Alex Finn, X platformu üzerinden yaptığı paylaşımda, bu durumun yapay zekâ yarışında radikal ve kalıcı bir dönüşüm yaratacağını ifade etti.

Jeopolitik gerilimler tırmanıyor

Mart ayına kadar Beyaz Saray’da yapay zekâ dosyasını yürüten ve ABD Başkanı Donald Trump’ın danışmanlığını sürdüren David Sacks, gelişmeyi “Bu, endişe verici bir durum” sözleriyle değerlendirdi.

Sacks, elde edilen bu yeni başarıyı Çin-ABD rekabetinde Çin’in bir zaferi olarak görüyor.

Çin’in ilerleme hızını artırdığı bu dönemde Sacks, ABD’nin ‘işleri zorlaştırmasını’ eleştirerek, “Siyasetçiler ve bürokratlar veri merkezlerini yasaklıyor, eyalet düzeyinde daha fazla yasa ve kısıtlama getiriyor ve en yeni modelleri lisanslama yetkisini yeni federal kurumlara vermek için çabalıyorlar” ifadesini kullandı.

Sacks bu sözleriyle, yeni veri merkezlerinin inşasına yönelik protesto hareketine ve en son yapay zekâ teknolojilerini piyasaya sürülmeden önce test etmeyi amaçlayan Trump yönetiminin geri adım atan tutumuna işaret ediyor.

Eski Beyaz Saray Yapay Zekâ Danışmanı Dean Ball ise Çin sisteminin başarısının, yapay zekâyı bir ürün olmaktan ziyade ‘kamusal bir faydaya’ dönüştürmesinden kaynaklandığını düşünüyor. Ball’a göre bu durum, özel sektörü sektöre dahil olmaktan caydırarak ilerleme ve yatırımları engelleyecek.

Avustralya’nın Canberra kentindeki New South Wales Üniversitesi’nde bilgisayar bilimleri profesörü olan Hussein Abbas, “Amerikalıların endişelenmesi gerektiğini söylemiyorum, ancak eli kolu bağlı da oturamazlar” değerlendirmesinde bulundu.

Çin yapay zekâ modelleri, yapay zekâ fiyatlarının hızla yükseldiği bir dönemde, gelişmiş ABD modellerine kıyasla ortalama maliyetlerinin daha düşük olması sayesinde son aylarda Batı’da geniş bir takipçi kitlesine ulaştı ve kullanımı giderek arttı.

Günlük dilde verilen basit komutlarla bir dizi görevi yerine getirebilen, hatta kendi performansını değerlendirip hatalarını düzeltebilen programlar olan yapay zekâ ajanlarının (AI agents) ortaya çıkışı, bilgi işlem gücüne olan ihtiyacı katlarken projelerin maliyetlerini de artırdı.

Atreides Management yatırım şirketinden Gavin Baker’ın da aralarında bulunduğu bazı isimler ise Kimi K3’ün etkisini küçümseyerek, ilk testlerin modelin yüksek miktarda bilgi işlem kapasitesi tükettiğini gösterdiğini ve bunun da onu açık kaynaklı bir modele göre nispeten maliyetli kıldığını belirtti.

Arena AI CEO’su Anastasios Angelopoulos, yapay zekâ modellerinin yeteneklerindeki bu patlamanın jeopolitik gerilimleri tırmandıracağı görüşünü paylaştı.

TITV podcast kanalıyla yaptığı söyleşide Angelopoulos, bu durumun Çin’in kendi yerli modellerinin ihracatına kısıtlamalar getirmesi ya da ABD’nin Çin yapay zekâsının kendi sınırları içindeki kullanımını sınırlaması şeklinde yansıyabileceğini açıkladı.

Angelopoulos, “Çin ile ABD arasındaki rekabetin şiddeti artıyor, bu da giderek daha önemli riskler doğuruyor” dedi.

TEKNOLOJİ

Dinozorları yok eden asteroide dair yeni bulgu: "Çok talihsizlermiş"

Yeni araştırma, 66 milyon yıl önce Dünya'ya çarparak yaşamın büyük çoğunluğunu yok eden ve dinozorlar çağını sona erdiren meteoritin hangi sınıfa ait olduğunu belirledi (Reuters)
Yeni araştırma, 66 milyon yıl önce Dünya'ya çarparak yaşamın büyük çoğunluğunu yok eden ve dinozorlar çağını sona erdiren meteoritin hangi sınıfa ait olduğunu belirledi (Reuters)
TT
TT

Dinozorları yok eden asteroide dair yeni bulgu: "Çok talihsizlermiş"

Yeni araştırma, 66 milyon yıl önce Dünya'ya çarparak yaşamın büyük çoğunluğunu yok eden ve dinozorlar çağını sona erdiren meteoritin hangi sınıfa ait olduğunu belirledi (Reuters)
Yeni araştırma, 66 milyon yıl önce Dünya'ya çarparak yaşamın büyük çoğunluğunu yok eden ve dinozorlar çağını sona erdiren meteoritin hangi sınıfa ait olduğunu belirledi (Reuters)

Julia Musto Bilim ve İklim Muhabiri 

Araştırmacılar, 66 milyon yıl önce dinozorların ölümüne yol açan meteorit türünü ortaya çıkardı ve bu türe Dünya'da pek rastlanmıyor.

Dinozorlar çağının sonunu getiren şey bir asteroit olsa da asteroitlerin Dünya yüzeyine yaptıkları yolculuktan sağ çıkan parçaları meteorit diye adlandırılıyor.

Yaklaşık 10 kilometre genişliğindeki "Chicxulub" asteroidi gezegene çarptığında parçalanarak ardında büyük bir krater ve binlerce kilometre uzağa kadar giden parçalar bıraktı.

Bilim insanları Chicxulub'un izlerini inceleyerek dünyayı sarsan kondritin (bilinen en eski kayalar için kullanılan bir terim) karbonmonoksitten oluştuğunu tespit etti.

British Columbia Üniversitesi'nden bilim insanlarının cuma günü bulgularını yayımladığı yeni araştırmaya göre bu tür meteoritler, Dünya'da örneklenen meteoritlerin yalnızca yüzde 5'ini oluşturuyor ve Güneş Sistemi'ndeki en ilkel maddeler arasında yer alıyor.

Okulda misafir öğretim üyesi olan Dr. Philippe Claeys yaptığı açıklamada, "Böylesine nadir ve uzak bir cismin çarpması, dinozorların ne kadar talihsiz olduğunu gerçekten vurguluyor" diyor.

Bulguların, Chicxulub'un günümüzde Meksika'daki Yucatán Yarımadası diye bilinen bölgeye çarpmasının ardından yaşananlara dair teoriyi değiştirmediğini belirtiyor.

Ancak bulgular, meteoritteki yanıcı bir element olan kükürtün, yaşayan türlerin yüzde 75'ini yok etmesinden sorumlu olma ihtimalini azaltıyor.

Claeys şu ifadeleri kullanıyor:

Atmosfere saçılan ince enkaz parçaları başlıca faktör olmalı.

Claeys, Paris Yer Fiziği Enstitüsü ve Paris Üniversitesi'nden bazı isimler de dahil, Avrupa'daki diğer araştırmacılarla işbirliği yaptı.
 

British Columbia Üniversitesi'nde misafir öğretim üyesi olarak görev yapan Dr. Philippe Claeys, keşfi gerçekleştiren araştırmacılardan biriydi (British Columbia Üniversitesi)British Columbia Üniversitesi'nde misafir öğretim üyesi olarak görev yapan Dr. Philippe Claeys, keşfi gerçekleştiren araştırmacılardan biriydi (British Columbia Üniversitesi)

Bu araştırmacılar, meteoritin oluşturduğu ince bir kil tabakasından toplanan örneklerde yer alan eser miktardaki elementleri ölçtü.

Ekip, Chicxulub'un Jüpiter yakınlarındaki Asteroit Kuşağı'nın dış bölgelerinden ya da Güneş Sistemi'nin uzak köşelerinden gelmiş olabileceğini söylüyor.

Asteroit ve çarpmasıyla ilgili pek çok soru cevap bekliyor ve Dünya'daki yaşamı yok eden şeyin ne olduğu hâlâ araştırılıyor.

Bazı araştırmacılar çarpışmadan çok önce iklim değişikliğinin rol oynamış olabileceğini öne sürerken, diğerleri ise yanardağları işaret ediyor.

Krater çarpmasının kalıntıları, ince bir kil tabakasında bulundu (Dr. Philippe Claeys)Krater çarpmasının kalıntıları, ince bir kil tabakasında bulundu (Dr. Philippe Claeys)

Her halükarda, yaşanmış olabilecekler kulağa korkunç geliyor.

The Conversation'da yayımlanan canlı bir anlatımda, İngiliz öğretim üyeleri Monica Grady ve Michael Benton, ayrım gözetmeksizin ölümlerin yaşandığı tüyler ürpertici bir sahneyi betimliyor.

İkili, "İster dinozor ister bokböceği olsun, geçici çukurun yakınındaki herkes patlamanın etkisiyle anında yanıp kül olurdu" diye yazıyor.

Öğretim üyeleri, "Ancak merkez üssünden 2 bin kilometre uzakta olanlar bile, çarpışma bölgesinden yayılan termal radyasyon ve süpersonik rüzgarlar yüzünden muhtemelen kısa sürede ölürdü" diyor.

Independent Türkçe,independent.co.uk/news