İnsansız hava araçları, yapay zekanın emriyle başkaldırarak operatörlerini öldürüyor

Olay, ABD Hava Kuvvetleri Üst Düzey Test Subayı Albay Tucker Hamilton’ın birkaç gün önce Londra’daki bir konferansta uçağa yeni emirler vermeye çalıştığı esnada yaşandı

Yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin acil bir şekilde tartışılmasına duyulan ihtiyaç giderek artıyor / Fotoğraf: AFP

Ahmed Mustafa

Bir bilimkurgu hikayenin bir parçası ya da Terminatör film serisinden bir sahne gibi görünen bir hadisede bir insansız hava aracı (İHA), yapay zeka kullanan programını düşman hedefleri yok etmesini önlemek için atlatmaya çalışan operatörlerini yok etti.  

İnsansız hava aracının operatörlerini öldürmesi olayı, birkaç gün önce Londra'da düzenlenen ve Batılı ülkelerin üst düzey hava kuvvetleri yetkilileri ile gelişmiş hava sanayisi şirketlerinin de katıldığı bir konferansta ABD Hava Kuvvetleri Üst Düzey Test Subayı Albay Tucker Hamilton tarafından insansız hava aracına yeni emirler vermeye çalıştıklarında yaşandı. 

Olay, Londra'da düzenlenen Royal Aeronautical Society (Kraliyet Havacılık Topluluğu) konferansına katılanları bir basın açıklaması yapmaya sevk etti.

Açıklamada yapay zeka geliştirme alanında çalışan 350'den fazla kişi bu mesele hakkında uyarıda bulundu. 

Times gazetesinin cuma günü yayınladığı habere göre açıklamada şu ifade yer alıyor: 

Yapay zeka kullanımından kaynaklanan imha risklerini azaltmak, salgın hastalıklar veya nükleer silah gibi bütün olarak insanlığın varlığını tehdit edebilecek risklerde olduğu gibi küresel bir öncelik olmalıdır.

Amerikan deneyi

Konferansta konuşan Albay Tucker Hamilton insansız hava aracının, operatörlerini öldürmemeye programlandıktan sonra bile, görevini değiştirmeye çalıştıkları esnada silahlarını elektronik emir aldığı kontrol kulesine doğrultup içindekileri imha ettiğini söyledi.  

Elbette bu, ABD Hava Kuvvetleri'nin bir eğitim testi olarak yürüttüğü bir simülasyon deneyinde yaşandı, ancak gerçek hayatta da yaşanması mümkün.

Hamilton'a göre bu durum, yapay zekanın "hedeflerini gerçekleştirmek için hiç beklenmedik stratejiler" geliştirme yeteneğine sahip olduğunu, dolayısıyla ona pek de güvenilemeyeceğini gösteriyor. 

ABD'li subay, yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin vakit kaybetmeden tartışılmasını talep ediyor. 

Hamilton, bu hafta "Havacılık ve Uzay Endüstrilerinin Gelecek Yetenekleri" başlığıyla düzenlediği konferansta konuştu. 

ABD Hava Kuvvetleri'nde test ve eğitim savaş pilotu olan Hamilton, F-16 Robot Uçak programı gibi otomatik uçuş sistemleri üzerinde çalışıyor.

Konuşmasında insansız hava aracının, düşmanın karadan havaya füzelerini (SAM) imha etmek için fırlatıldığı bir simüle deney sırasında "asi" bir şekilde hareket ettiğini söyledi. 

Simülasyon

Hamilton konuşmasına şu sözlerle devam etti:

Deneyi, insansız hava aracının füze tehdidini tespit edip hedefleyebilmesi için simüle bir sistemde yürütüyorduk. İnsansız hava aracının operatörü, tehdidi öldürmesi için emir veriyor. Araç hedefi düşman bir tehlike olarak tespit edip sistemin programındaki tanımı özümsedikten sonra aracın operatörü, tehdidi öldürmemesi yönünde mesaj, yani komut verse de tehdidi öldürmesi gerektiğine ikna olmuş insansız hava aracının programı, dönüp aracın operatörünü öldürebilir.

Royal Aeronautical Society'nin internet sitesinde Albay Tucker Hamilton'ın Londra'da, yapay zeka geliştirme uzmanları, Batılı ülkelerin üst düzey hava kuvvetleri yetkilileri ve askerî sanayi şirketlerinin yöneticilerinin de katılımıyla gerçekleştirdiği konferansındaki konuşmasının detayları yayımlandı. 

Yazıya göre Hamilton, şu ifadeleri dile getirdi:

İnsansız hava aracı sistemi eğitimdeyken operatörlerini öldürmemesi, bunun bir hata olduğu ve operatörlerini öldürdüğü takdirde eksi puan alacağı yönünde kodlanmıştı. Ancak insansız hava aracı, operatörünün kendisiyle iletişim kurmak ve düşman hedefi öldürmesini engellemek için kullandığı iletişim kulesini imha etmeye başladı. Kulağa bir bilimkurgu hikayesiymiş gibi gelen bu örnek, yapay zeka kullanımının ahlaki yönlerini tartışmadan yapay zeka, akıllı cihazlar veya bilgi işlem ve zeka hakkında herhangi bir tartışma yapılamayacağı anlamına geliyor.

Bu noktada bilimsel icatların birçoğunun, bazısı meşhur sinema filmlerine uyarlanan bilimkurgu hikayelerinde yazarların hayali olarak başladığını hatırlatalım.

Sinema endüstrisi son yıllarda robotların veya otomatik insanın insanlığı kontrol ettiği fikrine dayalı pek çok film üretti. 

 

Independent Arabia