عربي English Türkçe اردو فارسى
Logo
Son Haberler
DÜNYA

İnsansız hava araçları, yapay zekanın emriyle başkaldırarak operatörlerini öldürüyor

Olay, ABD Hava Kuvvetleri Üst Düzey Test Subayı Albay Tucker Hamilton’ın birkaç gün önce Londra’daki bir konferansta uçağa yeni emirler vermeye çalıştığı esnada yaşandı

Yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin acil bir şekilde tartışılmasına duyulan ihtiyaç giderek artıyor / Fotoğraf: AFP
Yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin acil bir şekilde tartışılmasına duyulan ihtiyaç giderek artıyor / Fotoğraf: AFP
TT
TT

İnsansız hava araçları, yapay zekanın emriyle başkaldırarak operatörlerini öldürüyor

Yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin acil bir şekilde tartışılmasına duyulan ihtiyaç giderek artıyor / Fotoğraf: AFP
Yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin acil bir şekilde tartışılmasına duyulan ihtiyaç giderek artıyor / Fotoğraf: AFP

Ahmed Mustafa

Bir bilimkurgu hikayenin bir parçası ya da Terminatör film serisinden bir sahne gibi görünen bir hadisede bir insansız hava aracı (İHA), yapay zeka kullanan programını düşman hedefleri yok etmesini önlemek için atlatmaya çalışan operatörlerini yok etti.  

İnsansız hava aracının operatörlerini öldürmesi olayı, birkaç gün önce Londra'da düzenlenen ve Batılı ülkelerin üst düzey hava kuvvetleri yetkilileri ile gelişmiş hava sanayisi şirketlerinin de katıldığı bir konferansta ABD Hava Kuvvetleri Üst Düzey Test Subayı Albay Tucker Hamilton tarafından insansız hava aracına yeni emirler vermeye çalıştıklarında yaşandı. 

Olay, Londra'da düzenlenen Royal Aeronautical Society (Kraliyet Havacılık Topluluğu) konferansına katılanları bir basın açıklaması yapmaya sevk etti.

Açıklamada yapay zeka geliştirme alanında çalışan 350'den fazla kişi bu mesele hakkında uyarıda bulundu. 

Times gazetesinin cuma günü yayınladığı habere göre açıklamada şu ifade yer alıyor: 

Yapay zeka kullanımından kaynaklanan imha risklerini azaltmak, salgın hastalıklar veya nükleer silah gibi bütün olarak insanlığın varlığını tehdit edebilecek risklerde olduğu gibi küresel bir öncelik olmalıdır.

Amerikan deneyi

Konferansta konuşan Albay Tucker Hamilton insansız hava aracının, operatörlerini öldürmemeye programlandıktan sonra bile, görevini değiştirmeye çalıştıkları esnada silahlarını elektronik emir aldığı kontrol kulesine doğrultup içindekileri imha ettiğini söyledi.  

Elbette bu, ABD Hava Kuvvetleri'nin bir eğitim testi olarak yürüttüğü bir simülasyon deneyinde yaşandı, ancak gerçek hayatta da yaşanması mümkün.

Hamilton'a göre bu durum, yapay zekanın "hedeflerini gerçekleştirmek için hiç beklenmedik stratejiler" geliştirme yeteneğine sahip olduğunu, dolayısıyla ona pek de güvenilemeyeceğini gösteriyor. 

ABD'li subay, yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin vakit kaybetmeden tartışılmasını talep ediyor. 

Hamilton, bu hafta "Havacılık ve Uzay Endüstrilerinin Gelecek Yetenekleri" başlığıyla düzenlediği konferansta konuştu. 

ABD Hava Kuvvetleri'nde test ve eğitim savaş pilotu olan Hamilton, F-16 Robot Uçak programı gibi otomatik uçuş sistemleri üzerinde çalışıyor.

Konuşmasında insansız hava aracının, düşmanın karadan havaya füzelerini (SAM) imha etmek için fırlatıldığı bir simüle deney sırasında "asi" bir şekilde hareket ettiğini söyledi. 

Simülasyon

Hamilton konuşmasına şu sözlerle devam etti:

Deneyi, insansız hava aracının füze tehdidini tespit edip hedefleyebilmesi için simüle bir sistemde yürütüyorduk. İnsansız hava aracının operatörü, tehdidi öldürmesi için emir veriyor. Araç hedefi düşman bir tehlike olarak tespit edip sistemin programındaki tanımı özümsedikten sonra aracın operatörü, tehdidi öldürmemesi yönünde mesaj, yani komut verse de tehdidi öldürmesi gerektiğine ikna olmuş insansız hava aracının programı, dönüp aracın operatörünü öldürebilir.

Royal Aeronautical Society'nin internet sitesinde Albay Tucker Hamilton'ın Londra'da, yapay zeka geliştirme uzmanları, Batılı ülkelerin üst düzey hava kuvvetleri yetkilileri ve askerî sanayi şirketlerinin yöneticilerinin de katılımıyla gerçekleştirdiği konferansındaki konuşmasının detayları yayımlandı. 

Yazıya göre Hamilton, şu ifadeleri dile getirdi:

İnsansız hava aracı sistemi eğitimdeyken operatörlerini öldürmemesi, bunun bir hata olduğu ve operatörlerini öldürdüğü takdirde eksi puan alacağı yönünde kodlanmıştı. Ancak insansız hava aracı, operatörünün kendisiyle iletişim kurmak ve düşman hedefi öldürmesini engellemek için kullandığı iletişim kulesini imha etmeye başladı. Kulağa bir bilimkurgu hikayesiymiş gibi gelen bu örnek, yapay zeka kullanımının ahlaki yönlerini tartışmadan yapay zeka, akıllı cihazlar veya bilgi işlem ve zeka hakkında herhangi bir tartışma yapılamayacağı anlamına geliyor.

Bu noktada bilimsel icatların birçoğunun, bazısı meşhur sinema filmlerine uyarlanan bilimkurgu hikayelerinde yazarların hayali olarak başladığını hatırlatalım.

Sinema endüstrisi son yıllarda robotların veya otomatik insanın insanlığı kontrol ettiği fikrine dayalı pek çok film üretti. 

 

Independent Arabia

Daha fazlasını oku

 
 
DÜNYA

Hindistan ve Pakistan neden diğer ülkeler gibi savaşmıyor?

Hindistan ile Pakistan arasındaki Wagah Sınır Kapısı yakınlarında duran Hindistan Sınır Güvenlik Güçleri (AFP)
Hindistan ile Pakistan arasındaki Wagah Sınır Kapısı yakınlarında duran Hindistan Sınır Güvenlik Güçleri (AFP)
TT
TT

Hindistan ve Pakistan neden diğer ülkeler gibi savaşmıyor?

Hindistan ile Pakistan arasındaki Wagah Sınır Kapısı yakınlarında duran Hindistan Sınır Güvenlik Güçleri (AFP)
Hindistan ile Pakistan arasındaki Wagah Sınır Kapısı yakınlarında duran Hindistan Sınır Güvenlik Güçleri (AFP)

AP, Hindistan ve Pakistan arasındaki gerilime dikkat çekerek, iki ülkenin 1947'de İngiltere'den bağımsızlıklarını kazanmalarından bu yana üç büyük çaplı savaşa sahne olduğunu belirtti. İki komşu ayrıca, dünyanın en soğuk ve en yüksek rakımlı savaş alanı olarak tanımlanan bir buzulun tepesindeki çatışma da dahil olmak üzere onlarca çatışmaya tanık oldular.

Son gerginlik, Hindistan'ın Pakistan'ı suçladığı, İslamabad'ın ise herhangi bir dahli olduğunu reddettiği, turistlere yönelik ölümcül bir silahlı saldırının ardından yaşandı.

Hindistan ve Pakistan diğer ülkeler gibi savaşmıyor. Buradaki başat faktör, büyük saldırıları caydırmanın ayırt edici bir aracı ve durum kötüleşse bile çatışmanın kontrolden çıkmayacağının garantisi olan nükleer cephanelikleri.

Ncjxj
 Keşmir'in Pakistan tarafından yönetilen kısmının başkenti Muzafferabad'da Hindistan saldırıları sonucu yıkılan bir caminin yakınında nöbet tutan askerler (AFP)

Hindistan ve Pakistan neden bu şekilde savaşıyor? Çünkü nükleer cephanelikleri birbirlerini yok edebilecek kapasitede.

Şarku’l Avsat’ın AP’den aktardığına göre konuyla ilgili açıklamalarda bulunan Pakistanlı güvenlik analisti Seyyid Muhammed Ali şu ifadeleri kullandı: “Pakistan ve Hindistan diğer tarafı defalarca yok etmeye yetecek kadar nükleer silaha sahip. Nükleer silahları, Karşılıklı Garantili İmha (MAD) senaryosu yaratıyor. Her iki ülke de stoklarının boyutunu ve kapsamını diğerine MAD garantisini hatırlatacak şekilde bilinçli olarak geliştirdi.”

Her iki ülke de nükleer kapasitelerini açıklamıyor, ancak her birinin 170 ila 180 arasında kısa, uzun ve orta menzilli savaş başlığına sahip olduğuna inanılıyor. Her iki ülke de bu silahları hedeflerine ulaştırmak için farklı sistemlere sahip.

Ali, cephaneliklerin daha fazla çatışmayı önlemek ve caydırmak için savunma amaçlı bir hamle olduğunu, çünkü ‘iki tarafın da böyle bir savaşı başlatmayı göze alamayacağını ya da bundan bir şey elde etmeyi umamayacağını’ söylüyor.

İlk bakışta öyle gelmeyebilir ama nükleer silahlar karşı tarafa aşırı tepki veremeyeceğini hatırlatır. Ancak cephaneliklerini çevreleyen gizlilik, Pakistan ya da Hindistan'ın nükleer bir ilk saldırıda hayatta kalıp kalamayacağının ve ‘ikinci saldırı kabiliyeti’ olarak adlandırılan misilleme yapıp yapamayacağının belirsiz olduğu anlamına geliyor.

Jfjfj
Pakistan'ın Lahor kenti yakınlarında Hindistan saldırısında hasar gören hükümet sağlık ve eğitim kompleksinin yönetim binası önünde duran arama kurtarma görevlileri (Reuters)

Bu kabiliyet, nükleer gerilime yol açabilecek saldırganlığı önleyerek bir düşmanın ilk saldırı yoluyla nükleer bir savaşı kazanmaya çalışmasını engeller. Bu kabiliyet olmadan, teoride, bir tarafın diğerine savaş başlığı fırlatmasını engelleyecek hiçbir şey yoktur.

Keşmir anlaşmazlığın merkezinde

Hindistan ve Pakistan, her birinin bağımsızlığını kazandığı 1947'den bu yana Keşmir üzerinde hak iddia ediyor ve sınır çatışmaları on yıllardır bölgeyi istikrarsızlaştırıyor.

Keşmir, Hindistan yönetimine karşı direnen silahlı isyancıların bulunduğu, iki ülke arasında bölünmüş tartışmalı bir Himalaya bölgesidir.

Her iki ülke de Keşmir'in bir bölümünü kontrol ediyor. Bölge yoğun bir şekilde askerileştirilmiş bir sınırla bölünmüş durumda.

Ezeli rakipler üç savaşlarından ikisini de Keşmir için yapmışlardır.

Birçok Keşmirli Müslüman, isyancıların bölgeyi Pakistan yönetimi altında ya da bağımsız bir devlet olarak birleştirme hedefini destekliyor.

Hindistan kontrolündeki Keşmir'de yaşanan sınır çatışmaları ve militan saldırıları Yeni Delhi'nin İslamabad'a karşı giderek daha sert bir tutum takınmasına ve onu ‘terörizmle’ suçlamasına neden oldu.

Son çatışmada Hindistan, geçen ay gerçekleşen silahlı katliamla bağlantılı olarak Pakistan destekli militanlar tarafından kullanılan yerleri vurarak Pakistan'ı cezalandırdı.

Geleneksel askeri dengesizlik

Uluslararası Stratejik Araştırmalar Enstitüsü'nün (IISS) Askeri Denge Raporu'na göre Hindistan 2025 yılında 74,4 milyar dolar harcamayla dünyanın en büyük savunma harcaması yapan ülkesi ve dünyanın en büyük silah ithalatçılarından biri.

Pakistan ise geçen yıl 10 milyar dolar harcadı. Pakistan, komşusuna kıyasla iki kat daha fazla aktif silahlı kuvvete sahip olan zengin Hindistan'la asla boy ölçüşemez.

Hindistan'ın silahlı kuvvetleri geleneksel olarak Pakistan'a odaklanmış olsa da, mücadele etmesi gereken bir başka nükleer komşusu da Çin. Hindistan, Hint Okyanusu'ndaki deniz güvenliği konusunda giderek daha fazla endişe duyuyor.

Bunlar Pakistan'ın güvenlik modelinde dikkate almak zorunda olmadığı iki faktör.

Pakistan'ın uzun ve dar yapısı, ordunun dış politikadaki büyük rolü ile birleşince silahlı kuvvetlerin hareketli olmasını ve savunmaya öncelik vermesini kolaylaştırıyor.

Tırmanma ve gerilimi azaltma modeli

Ne Pakistan ne de Hindistan diğerine karşı askeri hamlelerini duyurmak için acele etmiyor. Mevcut düşmanlıkların alevlenmesinden de anlaşılacağı üzere, saldırıların ve misillemelerin teyit edilmesi biraz zaman alabilir.

Ancak her ikisi de diğerinin kontrolündeki topraklarda ve hava sahasında operasyonlar yürütüyor.

Bu operasyonlar bazen kontrol noktalarına, tesislere ya da militanlar tarafından kullanıldığı iddia edilen yerlere zarar vermeyi amaçlıyor. Aynı zamanda liderleri kamuoyunun baskısına boyun eğmeye ve yanlış hesaplama potansiyeline sahip bir şekilde karşılık vermeye zorlamak, onları utandırmak veya kışkırtmak da amaçlanıyor.

Bu faaliyetlerin çoğu Keşmir'i Hindistan ve Pakistan arasında bölen Kontrol Hattı boyunca gerçekleşiyor.

Jfjdj
Hindistan ile Pakistan arasındaki Wagah Sınır Kapısı yakınlarında duran Hindistan Sınır Güvenlik Güçleri (AFP)

Bu hattın medya ve kamuoyundan büyük ölçüde izole edilmiş olması, saldırı veya misilleme iddialarının bağımsız olarak doğrulanmasını zorlaştırıyor.

Bu tür olaylar, iki ülkenin nükleer kapasiteleri göz önüne alındığında uluslararası endişeleri arttırmakta, dikkatleri Hindistan ve Pakistan'a ve nihayetinde Keşmir üzerindeki rekabet eden iddialarına geri çekmektedir.

Her iki ülkenin de kaynaklar için rekabet etmesini gerektirecek bir durum söz konusu değil

Pakistan'ın muazzam bir maden zenginliği var, ancak Hindistan'ın bundan faydalanmak gibi bir arzusu yok. Hinduların çoğunlukta olduğu Hindistan ile Müslümanların çoğunlukta olduğu Pakistan arasında temel ideolojik farklılıklar olsa da birbirlerine hükmetmek ya da birbirlerini etkilemek gibi bir amaçları yok.

Keşmir dışında birbirlerinin topraklarında hak iddia etmek ya da hegemonya kurmak gibi bir niyetleri de yok.