Muhammed Mansur
Yapay zekâ (AI) çağında barış, artık yalnızca ateşkes anlaşmalarının imzalanmasına, sınırların gözetimine veya füze ve nükleer başlıkların yayılmasının sınırlandırılmasına bağlı değil. Ülkeler algoritmaları keşif, hedef belirleme, hava savunması ve askeri karar alma sistemlerine dahil etmek için yarışırken, geleneksel güvenlik düzenlemelerinin tek başına başa çıkamayacağı yeni bir risk katmanı ortaya çıkıyor.
Uydu görüntülerini analiz edebilen, iletişimleri kişilerin hareketleriyle ilişkilendirebilen, olası bir hedefi sınıflandırıp ardından saniyeler içinde bir saldırı önerebilen bir algoritma, yalnızca savaşma biçimini değiştirmekle kalmıyor, aynı zamanda savaştan kaçınma, tırmanışı kontrol altına alma ve işler ters gittiğinde sorumluluğu belirleme fırsatlarını da değiştiriyor.
Böylece mesele, ‘katil robotların’ geleceğinin ötesine geçerek, uluslararası düzeyde yapay zekâ yönetişiminin, küresel barışı korumak için giderek daha fazla önem kazanan bir şart haline gelmesiyle sonuçlanıyor.
Makinenin hızı ve siyasetin kapasitesi
2026 Küresel Barış Endeksi raporu, savaş alanlarının yaşadığı dönüşümün boyutunu ortaya koyuyor. Kayıtlara geçen insansız hava aracı (İHA) saldırılarının sayısı, 2018 yılında 364'ten 2025 yılında 42 binin üzerine yükseldi. Bu oran, yedi yıl içinde yaklaşık 115 kat artışa denk geliyor.
Bu rakamlar, tüm İHA’ların otonom şekilde çalıştığı veya yapay zekanın her saldırının hedeflerini seçtiği anlamına gelmiyor. Rusya-Ukrayna savaşı da bu artışın büyük bölümünü oluşturuyor. Ancak rakamlar, göz ardı edilmesi zor bir eğilimi ortaya koyuyor. Sensörler ucuzladı, saldırı platformları çoğaldı, askeri veriler yoğunlaştı ve hedefin tespiti ile vurulması arasındaki süre kısaldı.
Rapora göre hedefin tespiti ile saldırının gerçekleştirilmesi arasındaki süre, bazı sistemlerde yaklaşık bir tam günden sadece beş saniyeye indi.
Geleneksel olarak barış kavramı, silahların sınırlandırılması, saldırganlığın önlenmesi, çatışmaların çözülmesi ve devletler arasında güvenin inşası ile ilişkilendiriliyordu. Ancak yapay zeka bu unsurlara, savaş ve barış kararlarını etkileyen sistemlerin yönetim şekli boyutunu da ekliyor.
Bu hız, ordulara büyük bir askeri avantaj sağlayabilir, ancak aynı zamanda ciddi bir siyasi sorun da yaratıyor. Diplomasi, bilgileri doğrulamak, rakibin niyetlerini anlamak, iletişim kanallarını açmak ve aceleci tepkileri önlemek için zamana ihtiyaç duyar. Algoritma ise genellikle yanıt hızını iyileştirmek için tasarlanır, tereddüt veya müzakere için ek bir fırsat sunmak için değil.
Rakip iki tarafın uyarı ve hedef belirleme sistemleri, makinenin hızıyla çalışmaya başladığında, tırmanış liderlerin kavrayabileceğinden daha hızlı gerçekleşebilir. Bir algoritma, bir askeri hareketi veya radar sinyalini bir saldırı hazırlığı olarak yorumlayıp önleyici bir saldırı önerebilirken, diğer tarafın sistemi de benzer bir sonuca ulaşabilir.
Bu anda tehlike, bilimkurgu filmlerinde olduğu gibi makinelerin dünyaya hakim olması değil, insanların algoritmaların tasarladığı bir ortam içinde, sadece saniyeler içinde onay veya red vermelerine izin veren bir hızla kaderi belirleyen kararlar almasıdır.
Savaş yönetiminden barışın inşasına
Geleneksel olarak barış kavramı, silahların sınırlandırılması, saldırganlığın önlenmesi, çatışmaların çözülmesi ve devletler arasında güvenin inşası ile ilişkilendiriliyordu. Ancak yapay zeka bu unsurlara, savaş ve barış kararlarını etkileyen sistemlerin yönetim şekli boyutunu da ekliyor.
Artık yapay zekanın askeri kullanımı, ateş açmakla sınırlı kalmıyor; uydu görüntülerinin analizini, güçlerin hareketlerinin öngörülmesini, siber saldırıların tespitini, hedef listelerinin sıralanmasını, tehditlerin değerlendirilmesini ve liderlere önerilerin sunulmasını da kapsıyor.
İnsan resmi olarak ‘karar döngüsü içinde’ kalmaya devam edebilir, ancak varlığı gerçek bir denetim uyguladığı anlamına gelmiyor. Eğer sistem zaten sınıflandırılmış bir hedef sunuyor, tehlike derecesini belirliyor, uygun silahı seçiyor, ardından operatöre onay için sadece birkaç saniye tanıyorsa, insan kararı, makinenin yönlendirdiği bir sürecin şekli bir adımına dönüşür.
Sorun, ‘otomasyon önyargısı’ olarak bilinen olgu nedeniyle daha da büyüyor. Zira insanlar, özellikle zaman baskısı, yorgunluk ve korku altında bilgisayarın önerisine güvenme eğiliminde. Operatör, sistemin önerisi diğer göstergelerle çeliştiğinde bile, sistemin kendisinden daha isabetli olduğunu varsayabiliyor.
Askeri alanda yapay zekanın yönetişimi, yalnızca silah sayımına dayanamaz. Sisteme devredilen işlevlere, çalıştığı bağlama ve almasına izin verilen kararlara da dayanması gerekir.
Bu nedenle insan denetimi, yalnızca son düğmeye basan bir kişinin varlığıyla ölçülemez. Gerçek denetim, insanın önerinin dayanağını anlamasını, bağımsız bilgiye sahip olmasını, sistemin sınırlarını bilmesini ve saldırıya itiraz etme veya iptal etme konusunda gerçekçi bir fırsata sahip olmasını gerektirir.
Bu şartlar olmadan insan, karar alan bir kişi olmaktan çıkıp, algoritmanın aldığı bir seçime hukuki bir kılıf sağlayan biri haline gelebilir.
Silahın davranışını öngörmek
Geleneksel silahlanma denetim sistemleri, tank sayısı, füze menzili, kimyasal madde miktarları ve nükleer stokların büyüklüğü gibi görülüp sayılabilen unsurlara dayanıyordu.
Ancak yapay zeka çok daha zorlu; hızla kopyalanabilen, değiştirilebilen ve aktarılabilen bir yazılım niteliğinde. Aynı model, sivil ve askeri uygulamalarda da kullanılabiliyor. Mahsul görüntülerini analiz etmek için kullanılan bir algoritma, savaş alanı görüntülerini analiz etmek için de çalışabilir ya da nesneleri tanıma aracı, hedef seçim sisteminin bir parçasına dönüşebilir.
Bu nedenle askeri yapay zekanın yönetişimi, yalnızca silah sayımına dayanamaz; sisteme devredilen işlevlere, çalıştığı bağlama ve almasına izin verilen kararlara dayanması gerekir.
Çatışma sonrası siyasi uzlaşmalar, ihlalleri soruşturma, sorumluları tespit etme ve emri verenler veya uygulayanları hesap vermeye zorlama kapasitesine dayanıyor. Ancak yapay zeka bu görevi daha da karmaşık hale getirebilir.
Algoritma yargılanamaz, hapsedilemez veya kurbanlara tazminat ödemesi talep edilemez; devletler, liderler ve operatörler kuvvet kullanımından hukuki olarak sorumlu kalmaya devam ediyor. Ancak sorumluluk, modeli tasarlayan bir şirketten, verileri sağlayan başka bir şirkete, onu askeri bir platforma entegre eden bir müteahhide, ayarlarını düzenleyen bir orduya, çalışma bölgesini belirleyen bir komutana ve saldırıyı onaylayan bir operatöre kadar çok sayıda taraf arasında dağılabilir. Hatalı bir saldırı gerçekleştiğinde, her taraf belirleyici kararı kendisinin almadığını söyleyebilir.
Bu karmaşıklıklar, sorumluluğun ortadan kalktığı anlamına gelmiyor, ancak bunu kanıtlamayı daha da zorlaştırabilir. Sistemin aldığı verileri, kullanılan model sürümünü, sunulan güven derecesini, ortaya çıkan uyarıları ve verilen insani emirleri gösteren dijital kayıtlar olmadan, soruşturma, kapalı bir sistem içinde saniyenin küsuratında gerçekleşen bir kararı yeniden inşa etme girişimine dönüşebilir. Bu da yalnızca kurbanlara zarar vermeyen bir ‘sorumluluk boşluğu’ yaratırken barış fırsatlarını da zayıflatıyor. Çünkü bireylerinin nasıl öldürüldüğünü ve kimin sorumlu olduğunu bilmeyen toplumların uzlaşmayı kabul etmesi veya adalete güvenmesi zorlaşıyor.
Uluslararası insancıl hukuk ister tüfek ister füze ister yapay zekaya dayanan bir sistem olsun, tüm silahlara uygulanıyor. Ordular, siviller ile savaşçılar arasında ayrım yapmak, aşırı zararlardan kaçınmak ve sivilleri korumak için mümkün olan önlemleri almakla yükümlü olmaya devam ediyor.
Ancak sorun ilkelerin yokluğunda değil, kararlar hızlandıkça ve sistemler karmaşıklaştıkça bunların uygulanmasının zorlaşmasında yatıyor. Hukuk, komutanın hedefi doğrulaması gerektiğini söylüyor, ancak kendisine kaç saniye tanınması gerektiğini, hangi türde verilerin sunulması gerektiğini, modelin çalışma biçimini ne kadar anlaması gerektiğini veya sistemin kullanımını kabul edilemez hale getiren belirsizlik düzeyini her zaman belirlemiyor.
Askeri üstünlük teknolojisi, rakipleri onu edinmeye çalışmaya itiyor. Ancak yapay zeka, ordulara hedefleri daha az maliyetle ve daha kısa sürede tespit edip saldırma konusunda daha büyük bir kapasite vaat ettiği için silahlanma yarışını hızlandırabilir.
Bu yüzden Uluslararası Kızılhaç Komitesi, hukukun uygulanabilirliği ile yeterliliği arasında ayrım yapıyor. Mevcut kurallar, rastgele saldırıları önlemekte ve sivilleri koruyor. Ancak tek başına otonom silahlar ve askeri algoritmalar için gerekli tüm operasyonel sınırları sağlamıyor.
Komite, etkileri yeterince öngörülemeyen sistemlerin yasaklanmasını, insanları otonom şekilde hedef almak için tasarlanan veya kullanılan silahların yasaklanmasını çağırıyor. Bunun yanı sıra hedeflerin türü, coğrafi alan, çalışma süresi ve insanın müdahale ve devre dışı bırakma kapasitesini kapsayan diğer sistemlere sıkı kısıtlamalar getirilmesini talep ediyor.
Bunun anlamı, barışın eski hukukun değerini yitirmesi nedeniyle yeni bir hukuka ihtiyaç duymadığı, aksine teknolojinin hukuki ilkeleri içeriğinden boşaltmasını engelleyecek ayrıntılı kurallara ihtiyaç duyduğudur.
Silahlanma yarışını önlemenin bir parçası
Askeri üstünlük teknolojisi, rakipleri onu edinmeye çalışmaya itiyor; ancak yapay zeka, ordulara hedefleri daha az maliyetle ve daha kısa sürede tespit edip saldırma konusunda daha büyük bir kapasite vaat ettiği için silahlanma yarışını hızlandırabilir. Bu yüzden devletler tanıdık bir ikilemle karşı karşıya kalıyor: askeri otonominin risklerinden korksalar bile, bunu geliştirmemenin, geliştirmekten daha tehlikeli olduğunu düşünebilirler. Çünkü rakipler bunu daha önce elde edebilir.
Askeri alandaki yarış, testleri tamamlanmamış sistemlerin konuşlandırılmasına, güvenlik standartlarının düşürülmesine, kusur ve kazaların gizlenmesine yol açabilir. Burada uluslararası yönetişimin önemi ortaya çıkıyor. Sadece yasa dışı kullanımı önlemek için değil, aynı zamanda kısıtlamalara uymanın stratejik maliyetini azaltan ortak kırmızı çizgiler aracılığıyla rekabet baskısını hafifletmek için de.
Ancak müzakereler teknolojiden daha yavaş ilerliyor. Çoğu devlet, uluslararası hukukun uygulanması ve sorumluluğun insanda kalması konusunda anlaşsa da ‘insan denetimi’ kavramı ve gerekli kuralların bağlayıcı mı yoksa gönüllü mü olduğu konusunda anlaşmazlık devam ediyor. Bu gecikme, kısıtlamaların, sistemler yayıldıktan ve ordu doktrinleri ile tedarik zincirlerine entegre olduktan sonra gelmesine yol açma tehdidi taşıyor. Bu da bunların denetlenmesini daha da zorlaştırıyor.
Kimyasal ve biyolojik silahların yasaklanması ile mayınlar ve misket bombalarının kısıtlanmasına ilişkin anlaşmalardan yararlanılabilir; bunlar uluslararası standartlar oluşturma ve ihlal edenler için hukuki ve siyasi bir damga yaratma kapasitesini kanıtladı. Ancak yapay zeka farklı. Yasaklanabilecek bir madde veya sayılabilecek bir stok değil, çift kullanımlı bir teknoloji ve genellikle sivil şirketler ile üniversiteler içinde geliştiriliyor. Bu nedenle uygulanabilir herhangi bir anlaşmanın, teknolojinin kendisinden ziyade belirli işlevleri yasaklamaya odaklanması bekleniyor.
Bu, sistemlerin fiili insani hüküm olmadan insanları seçip saldırmasını engellemeyi, öngörülemez sistemleri yasaklamayı, yapay zekayı nükleer silah fırlatma kararlarından uzak tutmayı kapsayabilir; bunun yanı sıra zaman ve coğrafi sınırlamalar, devre dışı bırakma araçları, dijital kayıtlar, konuşlandırmadan önce testler ve hukuki incelemeler dayatılması da bunlara eklenebilir.
“Algoritmalar, fiyat artışı, yerinden edilme, kışkırtıcı söylem ve yerel şiddet göstergelerini analiz edebilir, gerginliğin bir savaşa dönüşmesinden önce erken uyarı sağlayabilir, arabuluculuk çabalarını destekleyebilir, ihlalleri belgeleyebilir, çatışmanın etkilerini analiz edebilir ve yardımları yönlendirebilir.
Artık savaşın geleceğini sadece hükümetler ve ordular çizmiyor. Teknoloji şirketleri de askeri uygulamaların dayandığı modelleri, çipleri, bulut altyapısını ve görü sistemlerini geliştirerek, uluslararası güvenlikte doğrudan bir rol üstleniyor. Kullanım biçimine dair olası bilgisizlikleri, riskleri değerlendirme, doğruluk sınırlarını ortaya koyma, veriyi koruma, kusurları bildirme ve hukuka aykırı kullanımları önleme sorumluluğundan kendilerini muaf kılmıyor. Bu yüzden sözleşmeler, ihracat denetimleri, güvenlik standartları ve bağımsız denetim yoluyla hesap verebilirlik sistemine dahil edilmeleri gerekiyor.
Zira dijital barış, bir modeli eğiten mühendisin, bir izleme aracı satan şirketin veya bir ürünün bir hedef belirleme sistemine dahil edilmesine izin veren bir yönetim kurulunun kararından etkilenebilir.
Hız her zaman tehlikeli değildir
Yönetişim, teknolojinin kapsamlı bir şekilde reddedilmesine dönüşmemeli. Zira yapay zeka sivilleri korumaya, yıkım görüntülerini analiz etmeye, mayınları tespit etmeye, füzeleri engellemeye, daha az zararlı bir silah seçmeye veya hedef yakınında sivil tespit edildikten sonra bir saldırıyı iptal etmeye yardımcı olabilir. Bir füze ile bir kent arasında yalnızca birkaç saniye bulunduğunda otomatik sistem gerekli olabilir.
Ancak temel fark, kontrol edilebilir bir ortamda belirli bir görevi otomatikleştirmek ile bir sistemin bir insanın hedef alınmayı hak edip etmediğini belirlemesine yetki devretmek arasında yer alıyor. Açık bir kapsam dahilinde uçan bir cismi engelleyen sistem, bir kişinin telefonuna, hareketlerine veya ilişkilerine dayanarak savaşçı olduğu sonucuna varan bir algoritmadan farklı.
Savaşta yapay zekanın kullanım alanları hızla genişlerken, çatışmaların önlenmesi ve barış inşası alanındaki uygulamaları sınırlı ve dağınık kalmaya devam etmesi, paradoks oluşturuyor.
Algoritmalar, fiyat artışı, yerinden edilme, kışkırtıcı söylem ve yerel şiddet göstergelerini analiz edebilir, gerginliğin bir savaşa dönüşmesinden önce erken uyarı sağlayabilir, arabuluculuk çabalarını destekleyebilir, ihlalleri belgeleyebilir, çatışmanın etkilerini analiz edebilir ve yardımları yönlendirebilir.
Ancak öngörü araçları da kendi payına gözetim ve baskı araçlarına, ya da tüm toplulukları tehlike kaynağı olarak sınıflandıran sistemlere dönüşebilir. Dolayısıyla ‘barış zekası’ da yönetişime ihtiyaç duyuyor. Bir çatışmayı öngörmek, devlete bir ihtimale dayanarak insanları tutuklama hakkı vermez. Nefret söyleminin analizi, tüm toplumun gözetlenmesini meşrulaştırmaz.
Devletlerin ayrıca soruşturulabilir dijital kayıtlar tutması, her operasyondan sorumlu bir insan komutan belirlemesi, ciddi kaza ve hataları bildirmesi, şirket ve müteahhitlerin sorumluluğuna ilişkin net kurallar oluşturması gerekiyor.
Algoritma bir örüntü tespit edebilir, ancak çatışmanın tarihini, adaletsizlik duygularını veya kimliğin karmaşıklığını tek başına anlayamaz; güven inşa edemez veya bir uzlaşma için müzakere yapamaz.
Yönetişim, her yazılım satırını gözden geçiren küresel bir kurum oluşturmak veya devletlerin teknolojiyi kullanmasını engellemek anlamına gelmiyor. Ancak yapay zekanın kalıcı bir istikrarsızlık faktörüne dönüşmesini engelleyecek bir dizi kural oluşturmak anlamına geliyor.
Mümkün olan asgari düzey, insanları hedef alma konusunda nihai kararı otonom sistemlere devretmeyi yasaklamayı, nükleer silah fırlatma kararında yapay zeka kullanımını önlemeyi, etkilerini öngöremeyen veya çalışma kapsamını belirleyemeyen sistemleri yasaklamayı kapsıyor.
Ayrıca konuşlandırmadan önce hukuki ve teknik incelemelerin dayatılmasını, gerçeğe benzer koşullarda bağımsız testleri, operatörlerin sistemin sınırlarını anlaması için eğitilmesini ve saldırıyı iptal etmek için etkili araçların sağlanmasını da kapsıyor.
Devletlerin ayrıca soruşturulabilir dijital kayıtlar tutması, her operasyondan sorumlu bir insan komutan belirlemesi, ciddi kaza ve hataları bildirmesi, şirket ve müteahhitlerin sorumluluğuna ilişkin net kurallar oluşturması gerekiyor.
Uluslararası düzeyde ise, ciddi kazalara ilişkin bilgi paylaşımı için kanallar oluşturulabilir, silahlı gruplara yayılmasının önüne geçilebilir, en yüksek risk taşıyan sistemlerin ihracatı düzenlenebilir, nükleer güçler arasındaki krizlerde uyarılara otomatik bağımlılığı engelleyecek düzenlemeler oluşturulabilir.
Bu tedbirler savaşı ortadan kaldırmayacak, ancak algoritmaların denetim veya hesap verebilirlik olmadan tırmanışa iten bir güce dönüşmesini engelleyebilir.
