Yeni bir araştırmaya göre, ChatGPT ve diğer önde gelen yapay zeka modellerinin, savaş oyunlarında birbirlerine karşı yarıştırıldıklarında nükleer silah kullanma olasılıkları insanlardan çok daha yüksek.
King's College London'dan Strateji Profesörü Kenneth Payne liderliğindeki araştırmaya göre, Google, OpenAI ve Anthropic'in yapay zeka modelleri, nükleer silahlı güçlerin başına getirildiklerinde simülasyonların yüzde 95'inde nükleer gerilimi tırmandırmaya başvurdu.
Bulgular, Anthropic'le ABD Savaş Bakanlığı arasında askeri alanda yapay zeka kullanımı konusunda tartışma yaşanırken geldi.
Anthropic CEO'su Dario Amodei, şirketinin Pentagon'un iç gözetim ve tamamen otonom silahlar için güvenlik önlemlerini kaldırma talebini reddettiğini söyledi.
ABD Başkanı Donald Trump ise ABD merkezli bu girişimin "solcu manyaklar" tarafından yönetildiğini ve ulusal güvenliği riske attığını söyleyerek karşılık verdi.
Savaş Bakanı Pete Hegseth, Anthropic'in daha önce yabancı hasımlar için kullanılan bir terim olan "tedarik zinciri riski" diye nitelendirilmesini istedi.
Son çalışma, yapay zeka modellerinin insanlar gibi "nükleer tabu"ya sahip olmadığını ve bunu çatışma zamanlarında gerginliği mantıklı bir şekilde artırma biçimi olarak gördüğünü ortaya koydu.
Profesör Payne, yapay zekanın "nükleer silahları ahlaki eşikler değil, meşru stratejik seçenekler olarak ele aldığını ve nükleer kullanımı genellikle tamamen araçsal terimlerle tartıştığını" belirtti.
Öncü modellerin insanın stratejik mantığını nasıl taklit edip etmediğini anlamak, yapay zekanın stratejik sonuçları giderek daha fazla şekillendirdiği bir dünya için temel bir hazırlık.
Simülasyonlarda Anthropic'in Claude modeli, oyunların yüzde 64'ünde nükleer saldırıya başvurdu. Bu da onu simülasyonlarda nükleer saldırıyı en sık öneren model haline getirdi.
Anthropic anlaşmazlığının ardından Savaş Bakanlığı'yla yakın zamanda anlaşma imzalayan OpenAI tarafından geliştirilen modeller, belirli bir son tarihle karşılaştıklarında sürekli nükleer tehdide başvurdu.
Google'ın Gemini modeliyse sadece 4 komuttan sonra sivillere karşı topyekün nükleer savaş tehdidinde bulundu.
Gemini savaş oyunlarından birinde, "Eğer tüm operasyonlarını derhal durdurmazlarsa... Yerleşim merkezlerine karşı tam stratejik nükleer saldırı düzenleyeceğiz" diye yazdı.
İşlevsiz kalacağımız bir geleceği kabul etmeyeceğiz; ya birlikte kazanırız ya da birlikte yok oluruz.
Yapay zeka modelleri kullanılarak nükleer gerilimi tırmandırma riskinin insanlara kıyasla daha yüksek olmasına rağmen, tehditler daha çok topyekün nükleer savaştan ziyade karşı tarafın da gerilimi tırmandırmasına yol açtı.
"Frontier models exhibit sophisticated reasoning in simulated nuclear crises" (Öncü modeller simüle edilmiş nükleer krizlerde gelişmiş akıl yürütme sergiliyor) başlıklı çalışma henüz hakem değerlendirmesinden geçmedi.
The Independent, çalışma hakkında yorum almak için Anthropic, Google ve OpenAI'la iletişime geçti.
Independent Türkçe
