İnsansız hava araçları, yapay zekanın emriyle başkaldırarak operatörlerini öldürüyor

Olay, ABD Hava Kuvvetleri Üst Düzey Test Subayı Albay Tucker Hamilton’ın birkaç gün önce Londra’daki bir konferansta uçağa yeni emirler vermeye çalıştığı esnada yaşandı

Yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin acil bir şekilde tartışılmasına duyulan ihtiyaç giderek artıyor / Fotoğraf: AFP
Yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin acil bir şekilde tartışılmasına duyulan ihtiyaç giderek artıyor / Fotoğraf: AFP
TT

İnsansız hava araçları, yapay zekanın emriyle başkaldırarak operatörlerini öldürüyor

Yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin acil bir şekilde tartışılmasına duyulan ihtiyaç giderek artıyor / Fotoğraf: AFP
Yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin acil bir şekilde tartışılmasına duyulan ihtiyaç giderek artıyor / Fotoğraf: AFP

Ahmed Mustafa

Bir bilimkurgu hikayenin bir parçası ya da Terminatör film serisinden bir sahne gibi görünen bir hadisede bir insansız hava aracı (İHA), yapay zeka kullanan programını düşman hedefleri yok etmesini önlemek için atlatmaya çalışan operatörlerini yok etti.  

İnsansız hava aracının operatörlerini öldürmesi olayı, birkaç gün önce Londra'da düzenlenen ve Batılı ülkelerin üst düzey hava kuvvetleri yetkilileri ile gelişmiş hava sanayisi şirketlerinin de katıldığı bir konferansta ABD Hava Kuvvetleri Üst Düzey Test Subayı Albay Tucker Hamilton tarafından insansız hava aracına yeni emirler vermeye çalıştıklarında yaşandı. 

Olay, Londra'da düzenlenen Royal Aeronautical Society (Kraliyet Havacılık Topluluğu) konferansına katılanları bir basın açıklaması yapmaya sevk etti.

Açıklamada yapay zeka geliştirme alanında çalışan 350'den fazla kişi bu mesele hakkında uyarıda bulundu. 

Times gazetesinin cuma günü yayınladığı habere göre açıklamada şu ifade yer alıyor: 

Yapay zeka kullanımından kaynaklanan imha risklerini azaltmak, salgın hastalıklar veya nükleer silah gibi bütün olarak insanlığın varlığını tehdit edebilecek risklerde olduğu gibi küresel bir öncelik olmalıdır.

Amerikan deneyi

Konferansta konuşan Albay Tucker Hamilton insansız hava aracının, operatörlerini öldürmemeye programlandıktan sonra bile, görevini değiştirmeye çalıştıkları esnada silahlarını elektronik emir aldığı kontrol kulesine doğrultup içindekileri imha ettiğini söyledi.  

Elbette bu, ABD Hava Kuvvetleri'nin bir eğitim testi olarak yürüttüğü bir simülasyon deneyinde yaşandı, ancak gerçek hayatta da yaşanması mümkün.

Hamilton'a göre bu durum, yapay zekanın "hedeflerini gerçekleştirmek için hiç beklenmedik stratejiler" geliştirme yeteneğine sahip olduğunu, dolayısıyla ona pek de güvenilemeyeceğini gösteriyor. 

ABD'li subay, yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin vakit kaybetmeden tartışılmasını talep ediyor. 

Hamilton, bu hafta "Havacılık ve Uzay Endüstrilerinin Gelecek Yetenekleri" başlığıyla düzenlediği konferansta konuştu. 

ABD Hava Kuvvetleri'nde test ve eğitim savaş pilotu olan Hamilton, F-16 Robot Uçak programı gibi otomatik uçuş sistemleri üzerinde çalışıyor.

Konuşmasında insansız hava aracının, düşmanın karadan havaya füzelerini (SAM) imha etmek için fırlatıldığı bir simüle deney sırasında "asi" bir şekilde hareket ettiğini söyledi. 

Simülasyon

Hamilton konuşmasına şu sözlerle devam etti:

Deneyi, insansız hava aracının füze tehdidini tespit edip hedefleyebilmesi için simüle bir sistemde yürütüyorduk. İnsansız hava aracının operatörü, tehdidi öldürmesi için emir veriyor. Araç hedefi düşman bir tehlike olarak tespit edip sistemin programındaki tanımı özümsedikten sonra aracın operatörü, tehdidi öldürmemesi yönünde mesaj, yani komut verse de tehdidi öldürmesi gerektiğine ikna olmuş insansız hava aracının programı, dönüp aracın operatörünü öldürebilir.

Royal Aeronautical Society'nin internet sitesinde Albay Tucker Hamilton'ın Londra'da, yapay zeka geliştirme uzmanları, Batılı ülkelerin üst düzey hava kuvvetleri yetkilileri ve askerî sanayi şirketlerinin yöneticilerinin de katılımıyla gerçekleştirdiği konferansındaki konuşmasının detayları yayımlandı. 

Yazıya göre Hamilton, şu ifadeleri dile getirdi:

İnsansız hava aracı sistemi eğitimdeyken operatörlerini öldürmemesi, bunun bir hata olduğu ve operatörlerini öldürdüğü takdirde eksi puan alacağı yönünde kodlanmıştı. Ancak insansız hava aracı, operatörünün kendisiyle iletişim kurmak ve düşman hedefi öldürmesini engellemek için kullandığı iletişim kulesini imha etmeye başladı. Kulağa bir bilimkurgu hikayesiymiş gibi gelen bu örnek, yapay zeka kullanımının ahlaki yönlerini tartışmadan yapay zeka, akıllı cihazlar veya bilgi işlem ve zeka hakkında herhangi bir tartışma yapılamayacağı anlamına geliyor.

Bu noktada bilimsel icatların birçoğunun, bazısı meşhur sinema filmlerine uyarlanan bilimkurgu hikayelerinde yazarların hayali olarak başladığını hatırlatalım.

Sinema endüstrisi son yıllarda robotların veya otomatik insanın insanlığı kontrol ettiği fikrine dayalı pek çok film üretti. 

 

Independent Arabia



İran, Husiler ve İsrail: Washington karşısındaki üçlü ittifak

ABD Başkanı Donald Trump (AFP)
ABD Başkanı Donald Trump (AFP)
TT

İran, Husiler ve İsrail: Washington karşısındaki üçlü ittifak

ABD Başkanı Donald Trump (AFP)
ABD Başkanı Donald Trump (AFP)

Hüda Rauf

İran ile ABD arasındaki müzakereler, her iki müzakereci ve arabulucu tarafın iyimser ve olumlu açıklamalarıyla ilerleyen üç turdan sonra durdu. Dördüncü turun ertelenmesi, ABD-İran arasında geçici veya kalıcı bir anlaşmaya varılma şansı konusunda soru işaretlerine yol açtı.

Donald Trump'ın göreve gelmesinden bu yana tüm göstergeler, hem İran hem de Amerikan tarafının bir anlaşma imzalamaya hazır ve niyetli olduğuna işaret etse de, şimdilik görüşmelerin üçüncü turda durmasının -ama bu geçici ve yakında dördüncü turla devam edecek gibi görünüyor- her bir tarafın istediği şeyin teknik ayrıntılarından ibaret olmayan başka nedenleri de vardı. Nitekim Washington'daki bazı taraflar İran'ın nükleer programının tamamen ortadan kaldırılmasından bahsederken, diğerleri ise sıfır zenginleştirmeden bahsediyor ve İran her ikisini de reddediyor.

Trump yönetiminin İran ile müzakerelerdeki temsilcisi Steve Witkoff, Tahran'ın uranyumu yüzde 3.67 oranında zenginleştirme hakkı olduğunu söylese de, ertesi gün İran'ın uranyum zenginleştirmemesi gerektiğini açıkladı. Ardından Dışişleri Bakanı Marco Rubio, İran'ın uranyum zenginleştiren tek nükleer olmayan ülke olmak istediğini söyledi.

Öte yandan İran'ın yüzde 3.67 oranında uranyum zenginleştirme imkânına sahip olması durumunda bu oranın barışçıl amaçlarla uyumlu olmadığı belirtiliyor. Zira birkaç hafta içinde yüzde 20, sonra yüzde 60 ve en sonunda da yüzde 90 zenginleştirme oranına ulaşabilir ki bu da silah üretmek için gereken oran.

Her iki taraftan gelen belirsiz açıklamalara rağmen İran ve Washington'un çok yakında bir anlaşmaya varma noktasında olduğu kesin. Ancak görüşmelerdeki duraklamanın bölgesel bir başka gelişmeyle bağlantılı olduğu anlaşılıyor. İran'da Recai Limanı’nda ağır kayıplara yol açan ve etkileri halen devam eden bir patlama meydana gelirken, Husilerin İsrail hedeflerine yönelik saldırısı gerçekleşti. Husilere ait bir insansız hava aracı İsrail'deki enerji merkezini çevreleyen köprünün yakınına düşerek geniş çaplı bir hasara yol açtı. İsrail güvenlik birimlerinin yaptığı değerlendirmelerde, Husilerin Ben Gurion Havalimanı'na yeni tip bir füze fırlattığı belirtiliyor. Saldırı üzerine İsrail, İran’ı hedef alma ve eleştirme bahanesi bulma fırsatını kaçırmayarak, Tahran’ı Husi saldırısının arkasında olmakla suçladı.

İran'ın yıllardır Husilere askeri, mali ve lojistik destek sağladığı biliniyor. Ancak İsrail, bu olayı İran'ı eleştirmek ve Washington ile yürüttüğü müzakereler kapsamında ona baskı yapmak için kullandı. Öte yandan İran da Husi saldırılarını, Washington'u Kızıldeniz'deki saldırıları durdurmaları için Husileri etkileme gücüne sahip olduğuna ikna etmek amacıyla kullanıyor ve bu, İran'ın bilinen meseleleri birbirine bağlama politikasıyla örtüşüyor.

Daha sonra üçüncü tur görüşmelerin ardından müzakereler durdu, ama dördüncü tur görüşmeler yakın. Trump da Husiler ile Kızıldeniz'de ABD gemilerine yönelik saldırıların durdurulması ve ABD’nin Yemen'deki Husilere yönelik saldırılarının durması konusunda anlaşmaya vardıklarını duyurdu.

Bilhassa saldırılardan zarar gören Mısır ve Suudi Arabistan gibi Kızıldeniz'e kıyısı olan bölge ülkeleri olduğu için, iki taraf arasındaki saldırıların durması, bölgede sükunetin sağlanması ve gerginliğin azalması için olumlu bir gösterge. Suudi Arabistan, Yemen'de gerginliğin azaltılması ve Yemen krizinin barışçıl bir şekilde çözülmesi amacıyla bu anlaşmaya mutlaka destek verecektir. Ancak anlaşma diğer yandan, Trump'ın övünebileceği herhangi bir başarı elde etmek isteyen Washington'a baskı yaparak, İran ve İsrail'in çıkarları doğrultusunda birbirlerini nasıl kullandıklarını da ortaya koydu.

Kaldı ki Washington ile Husiler arasındaki anlaşmaya ilişkin soru işaretleri de gündemde; anlaşma Trump'ın bölge ziyareti bitene kadar geçici mi olacak, yoksa devam mı edecek? Yemenli isyancılar sadece İsrail gemilerine saldırmaya devam ederse ne olacak? Bu durum İsrail'in Gazze'ye yönelik saldırılarının durmasına yol açacak mı? Tüm bunlar önümüzdeki ziyaretten sonra cevapları daha da netleşebilecek sorular.

Şarku’l Avsat’ın Independent Arabia’dan aktardığı habere göre İran, İsrail ve Husiler, mevcut süreçte çıkarlarını korumak için Amerikan rolünü kullanmayı, ondan faydalanmayı başardılar. Ancak gelişmeler henüz şekillenme aşamasında ve bunların kısa sürede çökecek geçici düzenlemelerle mi yoksa daha uzun süre devam edecek düzenlemelerle mi sonuçlanacağı belirsiz.