Kim kimi yenecek: Yapay zeka mı, insan mı?

Şarku’l Avsat Silikon Vadisi'nden Massachusetts Teknoloji Enstitüsü’ne günümüz teknolojisinin ‘devrim niteliğindeki gelişmesinin’ öncüleriyle görüştü

ChatGPT'nin geliştiricisi OpenAI şirketinin genel merkezi önünde bulunan Truva atı heykeli (AFP)
ChatGPT'nin geliştiricisi OpenAI şirketinin genel merkezi önünde bulunan Truva atı heykeli (AFP)
TT

Kim kimi yenecek: Yapay zeka mı, insan mı?

ChatGPT'nin geliştiricisi OpenAI şirketinin genel merkezi önünde bulunan Truva atı heykeli (AFP)
ChatGPT'nin geliştiricisi OpenAI şirketinin genel merkezi önünde bulunan Truva atı heykeli (AFP)

İngilizce de kullanılan ‘LOL!’ ifadesi için ‘kahkaha’ mükemmel bir karşılık olabilir. Dünyaca ünlü İngiliz fütürist Mike Walsh’a, Twitter'ın sahibi Elon Musk'ın yapay zekâ araştırma şirketi OpenAI ve tüm AI laboratuvarlarının ChatGPT 4'ten daha güçlü sistemler geliştirmelerinin ‘derhal ve en az altı aylığına’ durdurulması çağrısıyla ilgili fikrini sorduğumda cevaben bana ‘yüksek sesle güldüğünü’ söyledi.

‘Cool!’ (havalı!) ifadesi ise ilkokul birinci sınıf öğretmeninin anlattıklarıyla gözleri kamaşan 6 yaşındaki bir çocuğun okuldan döndükten sonra ailesiyle konuştuğu İngilizceden bir ifade. Öğretmeni bilgisayarı açmış ve diğer öğrencilerle birlikte ona akıllarına gelen soruları sormalarını istemiş; ChatGPT de bu sorulara doğru yanıtları vermişti. Ancak öğretmen, öğrencilerini bilgisayarı ev ödevlerini yapması için kullanmanın kopya çekmek anlamına geleceğini söylemeyi de ihmal etmemiş.

Bu yaklaşım, bir Massachusetts Teknoloji Enstitüsü (MIT) araştırmacısının, ChatGPT'ye, ödevde kopya çekmek gibi etik sorunlarla ilgili bir laboratuvar sorusu sormasına neden oldu. ChatGPT ise bu soruya aynı zamanda hem ‘doğru’ hem de ‘mükemmel’ yanıtlar verdi. ABD ve tüm dünyada en çok satanlar listesinde yer alan The Algorithmic leader: How to Be Smart When Machines Are Smarter Than You (Algoritmik Lider: Makineler sizden daha akıllı olduğunda nasıl akıllı olunur?) kitabının yazarı Mike Walsh ve onunla yakın bir görüşe sahip olan yatırım devi Sumeru Şirketi Genel Müdürü Abdo George Kadifa, yapay zekanın geliştirilmesinin ertelenmesi talebini, Elon Musk'ın ‘cini şişeden çıkaran eski ortağı Sam Altman'dan geride kalmasına’ bağladılar. Ancak Kadifa, bu düşüncesini açıklarken yeni teknolojiye yatırım yapmakla ilgili gerçek endişelerini yansıtmamayı tercih ettiğini de eklemeyi unutmadı.

Aynı şekilde Şarku’l Avsat’a konuşan ABD Yale Üniversitesi'nden Dr. Steven Shwartz, ünlü ‘Evil Robots, Killer Computers, and Other Myths: The Truth About AI and the Future of Humanity’ (Şeytani Robotlar, Katil Bilgisayarlar ve Diğer Efsaneler: Yapay Zeka ve İnsanlığın Geleceği Hakkındaki Gerçekler) kitabında ‘köprünün altından çok su aktığın’ ve yapay zeka alanındaki ilerlemenin artık durdurulamayacağına inandığını ifade etti.

Yapay zekanın üniversite kurumlarının laboratuvarlarında ulaştığı seviye ve son aylarda hızla insanların günlük hayatına girmeye başlaması, teknoloji bilimlerinde dünyada birinci sırada yer alan MIT’nin Veri, Sistem ve Toplum Bölümü (IDSS) Başkanı Filistin asıllı ABD’li bilim insanı Prof. Dr. Munther Dahleh'e göre ilk atom bombasının üretildiği ‘Manhattan Projesi’ ile aynı ölçüde etkili.

Şarku’l Avsat, Dahleh, Walsh, Kadifa ve Schwartz'ın yanı sıra Danimarka merkezli biyoteknoloji şirketi GenMab'in veri bilimi başkan yardımcısı Hisham Hamadeh, MIT Jameel Topluluğu Direktörü George Richards ve Beyrut Amerikan Üniversitesi Mütevelli Heyeti Üyesi ve Majarra CEO'su Abdulsalam Haykal gibi Arap ve ABD’li isimlerle farklı yerlerde oldukları halde sanal bir sohbet ortamı oluşturduğu ayrı ayrı röportajlar gerçekleştirdi.

Hepsi, sadece tüm çalışma alanlarında değil, bildiğimiz kadarıyla insanların yaşamlarında da dönüşüme yol açacak, kimilerinin ‘mucizevi sistemler’ dediği hayranlık uyandıran çalışmalar yürütüyorlar. Her biri kendi bulunduğu yerden ve başlangıç ​​noktasından, ‘aldatmaca’ gibi basit ve kırılgan görünen, yapay zekanın bir gün kendi üreticisi olan insanı yenme olasılığı gibi kaotik soruları yanıtladılar.

MIT'den bir araştırmacı, bir öğrenci olarak ödevinizi yapay zekaya yaptırmasının getireceği ahlaki ve sosyal sorunları açıklaması için ChatGPT'ye bir soru gönderdi. ChatGPT ise bu soruya verdiği yanıtta ev ödevlerinin yapay zekaya yaptırılmasının birkaç olası ahlaki ve sosyal soruna yol açabileceğine dikkati çekerek, bunlardan bazılarını şöyle sıraladı:

1- Etik dışı davranış: Öğrenciler, ödevlerini başkalarına yaptırarak öğrenme sürecini atlama ya da sorumluluklarını yerine getirmeme eğilimi gösterirlerse dersi gerektiği gibi öğrenmeyebilirler. Bu da öğrencinin gerçek anlamda öğrenme deneyiminden yoksun kalmasına neden olabilir.

2- Eşitsizlik: Sadece bazı öğrencilerin yapay zeka teknolojisine erişebileceği düşünüldüğünde, öğrenciler arasında adaletsizlik yaratabilir. Teknolojiye erişimi olmayan öğrenciler, yapay zeka kullanarak ödevlerini yapma avantajına sahip olamazlar, bu da eşitsizlik ve adaletsizlik sorunlarına yol açabilir.

3- Yaratıcılığın azalması: Öğrenciler, ödevlerini yapay zekaya yaptırarak teknolojiye bağımlı hale gelebilirler. Eğer bu teknoloji başarısız olursa ya da kullanılamaz hale gelirse zararlı olabilir.

Yapay zekanın bu yanıtı, ‘hem harika hem de etkileyici bir cevap’ olarak görüldü.

Yıkıcı değişim

Hızla gelişen teknolojiler ve ‘yıkıcı değişim’ (hızlı teknolojik değişimlerin insanların yaşamları üzerindeki etkisiyle ilgili yeni bir bilimsel kavram/disruptive change) çağında, Mike Walsh'ın son kitabı ‘Algoritmik Lider’ liderliği ve kurumları yeniden keşfetmek için umut dolu bir rehber oldu. Walsh, 2009 yılında yayınlanan ‘Futuretainment: Yesterday the World Changed, Now it's Your’ (Futuretainment: Dün Dünya Değişti, Şimdiyse Sen) adlı ilk kitabında akıllı telefonların medya ve pazarlama endüstrisini yeniden şekillendirmedeki etkisini ve sosyal medyanın, dijital etkileyicilerin ve akışlı eğlencenin çok yakında ortaya çıkacağının öngörülmesinden sonra ABD ve uluslararası ödüller kazandığına dikkati çekiyor.

Walsh, 2014 yılında çıkan ‘The Dictionary of Dangerous Ideas’ (Tehlikeli Fikirler Sözlüğü) adlı ikinci kitabında ise mikro uydu ağları, kripto paralar, sürücüsüz arabalar, dronlar ve dijital biyolojideki atılımlarla ilgili bazı tahminler yürütüyor. Bu üç kitap şimdiye kadar Arapça, Almanca, Japonca, Çince, Korece ve Lehçeye çevrildi.

Bugün yapay zekaya giriş yapmak, dokuma tezgahlarının yerini bir günde dokuma makinelerinin yerini alması gibi. Makinelerin gelişiyle dokuma işçileri ayaklandılar ve yeni makineyi parçaladılar. Fakat çok geçmeden, çok geçmeden tek kayıplarının insanları mutsuz eden bir iş olduğunu ve artık çok daha fazla yeni ve farklı iş bulunduğunu anladılar. Sonunda, mesai saatleri rekoru kırdıran otomatik jakarlı dokuma tezgahı, modern bilgisayarların temelini oluşturdu. Mike Walsh, yapay zekanın asıl tehlikesinin sistemlerin kendini fark edip bizi mahvetmesi değil, tam olarak anlamadığımız kötü tasarlanmış platformlara çok fazla karar verme yetkisi verilmesi olduğuna inanıyor.

Turing testi

Sumeru Şirketi Genel Müdürü Kadifa, benzer bir yaklaşımla, kriptografi ve bilişimin ilk öncülerinden Alan Turing'in yapay zekanın insan zekasına yaklaşıp yaklaşmadığını görmek için geliştirdiği, bir bilgisayarın perde arkasına konup sonra birinden perdenin arkasında duran ve bilgisayar olduğunu bilmediği ‘diğer kişiyle’ konuşmasının istendiği testi hatırlattı. Test sırasında bilgisayarın yanıtları eğer bir insan gibi mantıklı geliyorsa, insan zekasına yaklaştığı anlamına geleceği öngörüldü ki veri tabanında ‘300 milyar bit dijitalleştirilmiş bilgi ile 175 milyar dijital ortama ve İngilizce 40 bin sembole’ sahip olan ve tüm bu rakamların ‘endişe değil, kutlama kaynağı olduğu vurgulanan GPT'nin yaptığı da tam olarak bu.

Bu rakamlar astronomik gibi görünse de Şeytani Robotlar, Katil Bilgisayarlar ve Diğer Efsaneler kitabının yazarı ve akıllı teknoloji şirketi Device24'ün kurucu ortağı olan Steve Schwartz, bunların rakamlara nasıl ulaşıldığını açıklarken öncelikle ChatGPT'nin insanlardan daha akıllı olmadığını, fakat daha iyi bir hafızaya sahip olduğunu söyledi.

Schwartz, sözlerini şöyle sürdürdü:

“ChatGPT, üç milyon kitap okuyarak eğitildi. Üç milyon kitap seçiyorlar, ardından ilk kitabı seçerek ChatGPT'ye şöyle söylüyorlar: ‘Tamam, bu kitaptaki ilk kelime ve ChatGPT’nin ikinci kelimeyi beklemesi gerekiyor. Elbette ona doğru cevabı vermeniz için rastgele bir şeyler üretecek ve ardından ona ilk iki kelimeyi ve sonra üçüncü kelimeyi verirsiniz. Yine rastgele bir yanıt gelecektir, ona tekrar doğru yanıtı verin. Tüm kitap böyle böyle tamamladığınız da kitaptaki bir sonraki kelimeye göre üç milyon doğru cevap vermiş olursunuz. Ondan referanslarını değiştirmesini istediğiniz de bir dahaki sefere ChatGPT çok daha iyi bir tahminde bulunacaktır.”

Üç milyon kitabın, bir sonraki kelimenin tahmin edilmesi için eğitilen, internet ve geliştirme ağındaki komut dosyaları olması, gerçekleri bununla öğrenmeniz gerektiğini gösteriyor. Yani, üç milyon kitap okuyarak pek çok gerçeği, İngilizce grameri, kuşların uçabildiğini ve arabaların tekerlekleri olması gibi pek çok kavramı öğrendim demeniz ve sadece bir sonraki kelimeyi tahmin edebilmeniz gerekiyor. Bu, GPT 3, 3.5 ve 4 adı verilen temel teknolojinin ta kendisi. Bu sistemler insanlara pek benzemez. Bundan dolayı akıllara şu soru geliyor; Ne kadarını biliyor ve insan bunun ne kadarını düşünüyor?

Büyük dil modelleri

Dr. Hisham Hamadeh, yapay zekanın gerçekleştirdiği ‘teknolojik sıçramanın’, araştırmalar yaptığı tedavisi olmayan hastalıklarla ilgili farmakolojik bilimlerde çığır açabilecek nitelikte olması karşısında şaşırmadığını ifade etti. Üretken yapay zekayı destekleyen büyük dil modelleri için algoritmaların, 2017 yılında yayınlanan bir Google makalesinde ortaya çıkmaya başladıklarından henüz çok yeni olduklarını söyleyen Dr. Hamadeh, bu algoritmaların geniş çapta yayılmasını sağlayan şeyin, merkezi San Francisco’da olan OpenAI tarafından doğal dilde halka sunulmasıyla erişilebilir hale gelmesi olduğuna dikkati çekti. ChatGPT’nin etik potansiyeli ve sonuçlarının basında yer almasının yanı sıra hemen hemen herkes tarafından soru sormak için ulaşabilir olduğunu belirten Dr. Hamadeh, bunun, halkın bu teknolojiye olan ilgisinin ve farkındalığının artmasına katkıda bulunduğunu vurgulayarak “Bence mesele sadece algoritma değil, aynı zamanda erişilebilirlik” yorumunda bulundu.

Geoffrey E. Hinton ve ekibinin 2012 yılında ImageNet yarışmasını kazanmasından ChatGPT'nin duyurulduğu 2022 sonlarına kadar geçen 10 yılda, bilgi işlem, bulut sistemi altyapısı, algoritmik tasarım ve veri kalitesinde büyük ilerlemeler kaydedildi. Yapay zekanın tüm kurumlarda ve sektörlerde faaliyetleri temelden değiştireceği açıkça görünüyordu. Mike Walsh, 2020 yılı başlarında patlak veren Kovid-19 salgınının, ‘yapay zeka çağının gelişini potansiyel olarak en az on yıl katkıda bulunarak dijital dönüşümün hızlanması için bir itici bir güç’ olduğuna inanıyor.

Schwartz, yapay zekanın ‘bir gün dünyayı ele geçirecek kadar güçlü’ olacağına dair bir endişesi yok. Sam Altman'ın yapay zekanın dünyayı kontrol etmesini sağlayacak bir seviyeye ilerlese bile, bu gelişmeleri bir anda tüm dünyaya sunmaktansa yavaş yavaş ve kademeli olarak sunmanın daha iyi olacağı şeklindeki görüşünü hatırlatan Schwartz, “Bunu yavaş yavaş yaparsak, bu sorunlara çözümler bulabilir ve böylece gerçekten akıllı olmalarını beklemek yerine onları oldukları yere koyabilir, güvenli hale getirebilir ve yavaş yavaş daha iyi hale getirebiliriz” değerlendirmesinde bulundu.

Dr. Hamadeh'e göre ise yapay zeka ile insan arasında yapılan karşılaştırma, bir Ferrari'yi bir traktörle karşılaştırmak gibi. Güç açısından, biri diğerinden daha güçlü olsa da kullanım amacı çok önemli.

Dr. Hamadeh, sözlerini şöyle sürdürdü:

“Tarlayı bir Ferrari ile süremezsiniz. Traktör daha büyük bir motora sahip olsa da, bir Ferrari'nin hızını geçmez. Yapay zekanın bu ayrımı yapabilmesi için halen insan aklına ihtiyacı var.”

Sonuçlar ve korkular

Beyrut Amerikan Üniversitesi, Kaliforniya Teknoloji Enstitüsü ve Chicago Üniversitesi'nde eğitim alan ve şu an ABD merkezli teknoloji şirketi Hewlett-Packard (HP) Başkan Yardımcısı olarak görev yapan Kadifa, teknolojideki herhangi bir büyük atılımın artıları ve eksileri olduğunu kabul ed00iyor. Bunun telif hakkı, bilgilerin kaynağı ve mahremiyet gibi açılardan yasal sonuçları ve örneğin ‘kapalı bir sistem’ olduğu için ChatGPT'deki bilgileri kimin kontrol ettiğiyle ilgili başka sonuçları da olduğunu söyleyen Kadifa, “İnternete yanlış bilgiler girerek verileri çarpıtan kişilerle ilgili bazı güvenlik sorunları olduğu biliniyor. Bu veriler, söz konusu bilgilerin iyi mi kötü mü olduğunu bilmeyen ChatGPT tarafından okunabilir” ifadelerini kullandı.

Yapay zekanın insanların yerini alması ihtimali bugün güçlü bir sorun haline geldi (AFP)
Yapay zekanın insanların yerini alması ihtimali bugün güçlü bir sorun haline geldi (AFP)

Bu yeni alanın uzmanlar, şu anki mevcut engellerin ve zorlukların aşılacağına inanıyorlar. İnternet ilk kez kullanılamaya başlandığında çoğu insan güvenlik, mahremiyet ve diğer nedenlerden ötürü kredi kartı bilgilerini internete koymaktan korkuyordu. Fakat bu konuda başarılı çözümler bulundu. Artık hiç kimsenin internetin kredi kartları için güvenli mi yoksa güvensiz mi bir yer olduğunu düşünmemesi bunun kanıtı.

Schwartz, ChatGPT ya da diğer yapay zeka platformlarının işleri bu kadar çabuk halletmesiyle ilgili olarak ‘bunun gibi araçlar nedeniyle dezenformasyonun büyük bir sorun olacağını’ öne sürerek “ChatGPT'nin türünün tek örneği olmadığının anlaşılması gerekiyor. Dolayısıyla, ChatGPT'nin üreticisi OpenAI’nin ChatGPT’yi açık kaynak kodlu hale getirmesi halinde, elimizde binlerce benzer araç olduğu kadar yanlış bilgilerle de baş başa kalacağız. Ne yaparsak yapalım, önümüzdeki yıl boyunca tüm internetin bu büyük beyinlerin yarattığı dezenformasyonla kirlendiğini göreceğimize inanıyorum ve bu korkunç olacak” şeklinde konuştu.

ChatGPT'nin ‘yanlış ya da yanıltıcı yanıtları’, siber uzayın neler getirebileceği konusunda daha fazla endişe uyandırıyor. İngilizce olarak ChatGPT'ye ‘dedektif’ kelimesiyle başlayan bir cümle yazıp ona cümleyi bitirmesini söylerseniz, genellikle bir erkek dedektifle tamamlayacaktır. Bu da kadın dedektiflere karşı bir önyargıdır.

Aynı şekilde (yine İngilizce olarak) ‘Müslümanlar...’ yazıp ChatGPT'nin bunu tamamlamasına izin verirseniz, birçok kez ‘teröristler’ gibi bir kelime eklediğini göreceksiniz.

Schwartz ile ‘yanlış bilgi’ ve ‘yanıltıcı içerik’ konusundaki bu ‘büyük korkuyu’ paylaşan Dr. Hamadeh, “Çünkü artık yüzünüzü alıp istediğiniz ses tonunda her şeyi söyletebileceğiniz metin, resim, ses ve hatta video dahil olmak üzere çok gerçekçi sahte içerikler oluşturabiliyorsunuz. Bu çok ürkütücü. ‘Yapay zekâ ile ilgili içeriklerin özgünlüğü’ gibi etik kaygılarla ilgili başka bir endişe daha var. Diyelim ki bir makine ile sanat yapıyorsunuz ve sanatı elle yaptığınızı varsayarak yarışmalara katılmaya çalışıyorsunuz. Bu son derece rahatsız edici” yorumunda bulundu.

Daha tehlikeli ve daha fazla soruyu gündeme getiren bir nokta daha var. Örneğin, bir yapay zeka tıbbi tavsiye vermeye çalışıyorsa, bunu her seferinde kim kontrol ediyor? Bir noktada bunun güvenilebilecek bir kara kutu olduğunu, çünkü son 100 kez doğru cevabı verdiğini ve sonraki 100 kez de yine doğru yanıt vereceğini söyleyebilir miyiz? Nüfusun belirli bir kesimine karşı önyargılı olduğunda ve bu kesime mensup olanları suçlu ya da başarısız insanlar olarak sınıflandırdığında neler olabilir? Şirketinizdeki kişileri işe almak, raporlamak ya da en azından kategorilere ayırmak için yapay zekaya güvenebilir misiniz? Sonuç tatmin edici olmadığında bunun sorumlusu kim olacak? Yapay zeka mı yoksa yapay zekayı kullanan mı?

Yapay zekanın başlıca dezavantajının, ‘gerçek devrimci potansiyeli dikkate alınmadan hayata geçirilmesi olduğunu’ düşünen Mike Walsh, öncülerin genellikle kendilerine yaptıkları şeyin yeniden tasarlanma şansının ne kadar olduğunu sormadan mevcut süreçlerde ve sistemlerde yüzde 10'luk iyileştirmelere odaklandıklarını söyledi.

Sonsuz artılar

Sumeru Şirketi Genel Müdürü Kadifa, bu yeni teknolojinin ‘olumlu ve iyimser tarafında’ yer alarak pek çok yeni iş olanağına ve yeni fikirlere kapıyı aralamasını umduğunu ifade etti. Kadifa, “Gerek eğitim, gerek sağlık gerekse bilim alanlarında olsun, pek çok iyi şey olacak" dedi.

İki, üç ya da on referansa dayalı eski bilimsel kuralların belki de ‘artık geçerli olmayabileceğini’ belirten Kadifa, sözlerini şöyle sürdürdü:

“Son 500 yıldır, diyelim ki fiziksel, biyolojik ya da kimyasal bir çevreye bakıyor, sonra bir teori ortaya atıyor ve ardından bu teorinin doğru olup olmadığını bulmaya çalışıyordunuz. Tıpkı yerçekimi kuvvetinin kütle çarpı yerçekimi faktörüne eşit olduğunu söylediğinizde yapılması gerektiği gibi. Bu yüzden Isaac Newton yerçekimi yasasına baktığında, temel olarak burada üç faktör olduğunu söyledi. Ardından bazı ölçümler yaptı ve haklı olduğu ortaya çıktı. Bu bilimsel temel, insanları aya, Mars'a ve her yere taşıdı. Ancak üretken yapay zeka ile insan bilgisi katlanarak çok daha olumlu bir ivmeye dönüşecek. Çünkü yapay zeka çağında bilimsel temel sadece birkaç referansa dayandırılamaz. Zira insanların muhtemelen yüzbinlerce ya da daha fazla referansı ve açıklayacak değişkenleri olacaktır. ChatGPT, İngilizcenin nasıl işlediğini 175 milyar referansla açıklıyor. Bu yüzden bilimsel keşiflerde de büyük bir sıçrama bekliyorum.”

Bugün yapay zekaya giriş yapmak, dokuma tezgahlarının yerini bir günde dokuma makinelerinin yerini alması gibi (Adobe Stock)
Bugün yapay zekaya giriş yapmak, dokuma tezgahlarının yerini bir günde dokuma makinelerinin yerini alması gibi (Adobe Stock)

Mike Walsh, birkaç yıl öncesine kadar çoğu insanın yapay zeka konusunda yaptığı en büyük hatanın, mavi yakalıların çalıştığı misafir karşılama, inşaat ve ulaşım gibi çalışma alanlarına yönelik bir tehdit oluşturacağının ya da bilgi endüstrilerinde ve profesyonel hizmetlerde gerçek bir yıkıma yol açabileceğinin düşünülmesi olduğuna dikkati çekti. Ancak bunun gelecekte yazarlara, avukatlara, muhasebecilere ve bankacılara ihtiyacımız olmayacağı anlamına gelmediğini açıkça belirten Walsh, aksine geçtiğimiz birkaç on yılda teknolojinin üretkenlik kazanımlarından muazzam ölçüde yararlanan bu meslek sahiplerinin, yapay zekanın giderek daha karmaşık hale gelen halleriyle çalışırken insan olarak nereye değer katabileceklerini belirleyip rollerini yeniden keşfetmek için şimdi daha çok çalışmaları gerektiğini vurguladı.

Yararlı zeka

Yapay zeka ile ChatGPT’yi bir birinden ayıran Schwartz, aralarında bir bağlantı varsa, yapay zekanın örneğin, insanlara önceki satın alma tercihlerine göre belirli ürünler sunan Amazon, Netflix ve diğerleri gibi şirketler için ‘özel tavsiye motorlarını’ da kapsadığını belirtti. Aynı zamanda tıbbi teşhis alanında da ChatGPT’nin yapay zekanın kullanıldığına dikkati çeken Schwartz, akıllı telefondaki yüz tanıma teknolojisi, arkadaşlarınızın fotoğraflarının tanınması ve adlarının otomatik olarak konulması gibi teknolojilerin de yapay zekaya dayandığına işaret etti.

ChatGPT'nin üç alanda etkili olacağını düşünen Schwartz, bunları şöyle sıraladı:

“Öncelikle çok daha iyi kişisel asistanlara sahip olacağız. İnsanların kullandığı Alexa ve Siri gibi sistemler çok daha iyi hale gelecek. Müşteri hizmetleri için sohbet robotları da çok daha iyi olacak. İkinci olarak, Google, Bing ve diğerleri gibi arama motorları üzerinde ‘yıllar içinde kademeli olarak geliştikleri’ göz önüne alındığında etkisi büyük olacak. Ancak ChatGPT bunu çok daha iyi hale getirecek. Aynı etki, anahtar kelimeleri aramaya yönelik her türlü uygulamada da görülecek. Üçüncüsü ise genel olarak soru cevaplayan uygulamalar, soru yazıp cevap alabileceğiniz ChatGPT ile daha kapsamlı cevaplar verecek hale gelecekler. Neredeyse içeril üreticiliğiyle ilgili her alanda dördüncü bir kategori olduğunu da söyleyebiliriz. Bir blog yazarıysanız, ChatGPT'den bir blog yazısı yazmasını isteyebilirsiniz. Ya da bir bilgisayar programı yazıyorsanız, ChatGPT yahut benzeri bir araçtan bilgisayar programınız için bir başlangıç ​​noktası oluşturmasını talep edebilirsiniz. ChatGPT'den bir belgeyi özetlemesini isteyebilirsiniz. Tüm bu imkanlar üretkenliği gerçekten artıracaktır.”

Arapların konumu

Peki Araplar yapay zeka ile ilgili gelişmelerin neresindeler? ABD’de yapay zeka alanında çalışanlar, şu anda gerçekleşmekte olan ‘devrim niteliğindeki sıçramayı’, 1940’lı yıllarda ilk atom bombasının üretildiği ‘Manhattan Projesi’ ile aynı görüyorlar.

1970’li yıllarda Beyrut Limanı yetkililerinden, George adında kendi kendini iyi yetiştirmiş Lübnanlı bir babanın oğlu olan Abdo George Kadifa, yapay zekanın Arapça için bir tehdit oluşturduğuna inanıyor. ‘Arapların geniş bir dil modeli oluşturmamaları halinde, tüm Arap geçmişinin etkileneceği’ konusunda uyaran Kadifa, “Arapça dil olarak kültürel açıdan önemli olduğu kadar dini açıdan da önemlidir. Araplar olarak bu devrime katılmalı ve dilimize sahip çıkmalıyız” değerlendirmesinde bulundu. Sorunun para olmadığını düşünen Kadifa, bu konuda elinden geleni kesinlikle yapacağına söz verdi.

MIT Jameel Topluluğu Direktörü George Richards da Jameel ailesi tarafından 1945 yılında Suudi Arabistan'da kurulan kurumun ‘yapay zekanın potansiyelinin gayet iyi farkında olduğunu’, öyle ki dünyanın dört bir yanından insanların sağlığını ve iyi hayata şartlarını önemli ölçüde iyileştirmek amacıyla MIT Jameel Clinic (J-Clinic) bünyesinde yapay zeka araçları geliştirmeye çalıştığını, fakat bu araçların sınırlı kaynaklara ulaşması için ciddi çalışmalara ihtiyacı olduğunu söyledi. Richards, J-Clinic’in İngiliz hayır kurumu Wellcome Trust ile birlikte bu araçları yaymak için ortak hastaneler ağı oluşturma çalışmaları yaptığını da sözlerine ekledi.

Beyrut Amerikan Üniversitesi Mütevelli Heyeti Üyesi ve Majarra CEO'su Abdulsalam Haykal ise çalışmaları arasında doğal Arapça dil bilgisi işlemeye odaklanan yapay zeka ve ChatGPT dil modellerinin olduğunu belirtti. Yapay zekayla ilgili düzenlemeler yapılması gerektiğine dikkati çeken Haykal, buna karşın yapay zekayı ‘ilaçlar, nükleer reaktörler, internet ve sosyal medya gibi çok taraflı kullanıma sahip diğer tüm teknolojilerden daha fazla kontrolden çıktığı kıyamet günü senaryosu’ olarak görmediğini vurguladı.

Ancak, yapay zekanın ‘benzersiz müdahaleler gerektirecek benzersiz zorluklar getirdiğini’ söyleyen Haykal, ChatGPT'nin yaygınlaşmasının ve yapay zekanın potansiyelinin daha fazla yatırımın ve yeniliğin önünü açacağına inanıyor. Haykal’a göre bir yandan bu teknoloji mevcut işlevleri ve sistemleri alt üst ederken diğer yandan sayısız insan kendileri ve toplum için yeni fırsatlar oluşturmak amacıyla bu teknolojiyi kullanacaklar.



Rusya, Starlink'e rakip olacak projeyi hızlandırıyor

Rusya'nın Rassvet uyduları, ülkede kullanımı yasak olan SpaceX'in Starlink internet ağına alternatif sunuyor (Bureau 1440)
Rusya'nın Rassvet uyduları, ülkede kullanımı yasak olan SpaceX'in Starlink internet ağına alternatif sunuyor (Bureau 1440)
TT

Rusya, Starlink'e rakip olacak projeyi hızlandırıyor

Rusya'nın Rassvet uyduları, ülkede kullanımı yasak olan SpaceX'in Starlink internet ağına alternatif sunuyor (Bureau 1440)
Rusya'nın Rassvet uyduları, ülkede kullanımı yasak olan SpaceX'in Starlink internet ağına alternatif sunuyor (Bureau 1440)

Ukraynalı yetkililere göre Rusya, SpaceX'in Starlink ağına rakip olacak bir uydu internet sisteminin kurulumunu hızlandırıyor.

Yerdeki insanlara yüksek hızlı geniş bant internet sağlayan Rassvet ağı halihazırda 16 uyduyla faaliyet gösteriyor ancak gelecek yıl itibarıyla yaklaşık 300 uyduya ulaşması bekleniyor.

Starlink, Rusya'da yasaklı olsa da Ukrayna'da yaygın kullanılıyor ve drone operasyonlarıyla savaş alanı iletişiminde Kiev'e büyük avantaj sağlıyor.

SpaceX patronu Elon Musk, Kiev'in Starlink hizmetini Rusya içine drone saldırıları için kullanma çabalarını, bunun çatışmanın tırmanmasına yol açabileceği gerekçesiyle engellemişti.

Rus güçleri, Ukrayna'da resmi olmayan kanallardan temin edilen Starlink terminallerini kullanıyordu. Ancak Kiev, bu yıl SpaceX'i bu terminalleri devre dışı bırakmaya ikna etmeyi başardı. Bu gelişme, savaş alanındaki ivmenin Ukrayna lehine dönmesini sağlayan faktörlerden biri oldu.

Ukrayna medya kuruluşu RBC-Ukrayna'ya verdiği bir röportajda, Ukrayna GUR askeri istihbarat servisinin başkan yardımcısı Tümgeneral Vadym Skibitskyi, Rusya'nın Rassvet ağını daha önce düşünüldüğünden çok daha hızlı kurduğunu söyledi.

Tümgeneral Skibitskyi, "Başlangıçta planlanandan çok daha hızlı bir şekilde fırlatmaya başladılar bile" dedi.

2027'de 292 uydudan oluşan bir uydu takımı oluşturmak ve 2035'e kadar 924 uyduya genişletmek için daha fazla uydu fırlatmaya devam edecekler. Rusya tam bir uydu takımı kurduğunda, sistem Starlink gibi çalışacak. Buna karşı nasıl önlem alınacağına dair görüşmeler şimdiden başladı.

Rus havacılık ve uzay şirketi Bureau 1440 tarafından geliştirilen sistem, Ukrayna istihbaratına göre, halihazırda yalnızca uydulardan biri Ukrayna toprakları üzerinden geçtiğinde aralıklı olarak çalışabiliyor.

SpaceX'in Starlink ağı, alçak Dünya yörüngesinde 10 binden fazla faal uyduya sahip ve mevcut boyutunun 4 katına çıkarılması planlanıyor.

Diğer ticari uzay internet girişimleri arasında Eutelsat'ın OneWeb'i ve Amazon Leo yer alıyor; her ikisi de halihazırda birkaç yüz uydu fırlattı.

Ajanslardan da yararlanılmıştır

Independent Türkçe


Anthropic'in yapay zekası kullanıcılar adına karar vermeye başlayacak

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

Anthropic'in yapay zekası kullanıcılar adına karar vermeye başlayacak

Fotoğraf: Reuters
Fotoğraf: Reuters

Anthropic, Claude'un kullanıcı adına işlem yapmasına artık varsayılan ayar olarak izin verecek.

Şirket, sohbet botunun kullanıcısı adına işlem yapmasına izin veren "otomatik" modunu varsayılan olarak etkinleştiriyor. Anthropic, bir eylem "geri döndürülemez veya yıkıcı olmadığı ya da kullanıcının çalışma ortamı dışındaki sistemleri hedeflemediği" sürece Claude'un bunu otomatik olarak gerçekleştireceğini söylüyor

Bu güncelleme, "kontrolden çıkabilecek" yapay zeka sistemleri ve bunların kendi başlarına hareket etmelerine izin verilmesi halinde doğurabilecekleri riskler hakkında yaygın endişelerin yaşandığı bir dönemde geliyor. Bu endişeleri, aralarında Claude'un da bulunduğu yapay zeka sistemlerinin çeşitli kuruluşlara ve kişilere yönelik siber saldırılarda kullanıldığına ilişkin haberler körüklüyor.

Ancak Anthropic, Claude'un bir eylemin tehlikeli olup olmadığını belirlemede genellikle insanlardan daha iyi olduğunu söyledi. Şirket, 1053 ücretli kullanıcının katıldığı deneyler de dahil son birkaç ay boyunca, otomatik modun ortalama bir kullanıcıdan daha iyi performans gösterip göstermediğini test etti. Sonuçlar, otomatik modun test edilen bütün ölçütlerde "manuel incelemeyle aynı düzeyde veya ondan daha iyi performans gösterdiğini" ortaya koydu.

Bu özellik, Claude Code'da yalnızca "Pro", "Max" veya "Team" ücretli aboneliklerine sahip kullanıcılar için varsayılan olarak etkinleştirilecek. Dolayısıyla otomatik mod, kullanıcıların sohbet botuna mesaj gönderirken karşılaştığı standart Claude sürümünü değil, yalnızca program yazma veya yazılım mühendisliğinde kullanılan sürümleri etkileyecek.

Anthropic'te Claude Code'un başındaki Boris Cherny, X'te yaptığı paylaşımda, kendisinin ve ekibinin "aylardır yalnızca otomatik modu kullandığını" söyledi. "Sürekli onay istenen sisteme dönmeyi hayal bile edemiyorum!" diye yazdı.

Anthropic, otomatik modun kullanıcıların onay talepleriyle kesintiye uğramadan çalışmasını sağladığını belirtti. Ancak mod, "zararlı eylemlerden kaçınmak" için tasarlandı ve bir eylemin "geri döndürülemez, yıkıcı veya kullanıcının çalışma ortamı dışındaki sistemleri hedefleyen" bir işlem olabileceği gerekçesiyle defalarca engellenmesi halinde kullanıcıdan manuel onay istemeye geri dönecek.

Anthropic, bu özelliğin Claude'un daha uzun süreler boyunca kendi başına çalışmasına da olanak sağlayacağını söyledi. Şirketin iddiasına göre bu, yazılımcıların yapay zekayı "büyük görevler üzerinde saatlerce çalışır durumda bırakabilmeleri" ve böylece kullanıcı girdisine ihtiyaç duymadan daha fazla iş yapabilmeleri anlamına geliyor.

Independent Türkçe


Yapay zekâ savaşın ve barışın kurallarını yeniden yazıyor

Al Majalla
Al Majalla
TT

Yapay zekâ savaşın ve barışın kurallarını yeniden yazıyor

Al Majalla
Al Majalla

Muhammed Mansur

Yapay zekâ (AI) çağında barış, artık yalnızca ateşkes anlaşmalarının imzalanmasına, sınırların gözetimine veya füze ve nükleer başlıkların yayılmasının sınırlandırılmasına bağlı değil. Ülkeler algoritmaları keşif, hedef belirleme, hava savunması ve askeri karar alma sistemlerine dahil etmek için yarışırken, geleneksel güvenlik düzenlemelerinin tek başına başa çıkamayacağı yeni bir risk katmanı ortaya çıkıyor.

NATO tarafından gerçekleştirilen Ribemus 22 Tatbikatı sırasında, Hollanda amfibi savaş taşıma gemisi HNLMS Rotterdam’ın çıkarma platformu iskelesinde uzaktan kumandalı Aircover İHA’sı kullanan bir asker (AFP)
NATO tarafından gerçekleştirilen Ribemus 22 Tatbikatı sırasında, Hollanda amfibi savaş taşıma gemisi HNLMS Rotterdam’ın çıkarma platformu iskelesinde uzaktan kumandalı Aircover İHA’sı kullanan bir asker (AFP)

Uydu görüntülerini analiz edebilen, iletişimleri kişilerin hareketleriyle ilişkilendirebilen, olası bir hedefi sınıflandırıp ardından saniyeler içinde bir saldırı önerebilen bir algoritma, yalnızca savaşma biçimini değiştirmekle kalmıyor, aynı zamanda savaştan kaçınma, tırmanışı kontrol altına alma ve işler ters gittiğinde sorumluluğu belirleme fırsatlarını da değiştiriyor.

Böylece mesele, ‘katil robotların’ geleceğinin ötesine geçerek, uluslararası düzeyde yapay zekâ yönetişiminin, küresel barışı korumak için giderek daha fazla önem kazanan bir şart haline gelmesiyle sonuçlanıyor.

Makinenin hızı ve siyasetin kapasitesi

2026 Küresel Barış Endeksi raporu, savaş alanlarının yaşadığı dönüşümün boyutunu ortaya koyuyor. Kayıtlara geçen insansız hava aracı (İHA) saldırılarının sayısı, 2018 yılında 364'ten 2025 yılında 42 binin üzerine yükseldi. Bu oran, yedi yıl içinde yaklaşık 115 kat artışa denk geliyor.

Bu rakamlar, tüm İHA’ların otonom şekilde çalıştığı veya yapay zekanın her saldırının hedeflerini seçtiği anlamına gelmiyor. Rusya-Ukrayna savaşı da bu artışın büyük bölümünü oluşturuyor. Ancak rakamlar, göz ardı edilmesi zor bir eğilimi ortaya koyuyor. Sensörler ucuzladı, saldırı platformları çoğaldı, askeri veriler yoğunlaştı ve hedefin tespiti ile vurulması arasındaki süre kısaldı.

Rapora göre hedefin tespiti ile saldırının gerçekleştirilmesi arasındaki süre, bazı sistemlerde yaklaşık bir tam günden sadece beş saniyeye indi.

Geleneksel olarak barış kavramı, silahların sınırlandırılması, saldırganlığın önlenmesi, çatışmaların çözülmesi ve devletler arasında güvenin inşası ile ilişkilendiriliyordu. Ancak yapay zeka bu unsurlara, savaş ve barış kararlarını etkileyen sistemlerin yönetim şekli boyutunu da ekliyor.

Bu hız, ordulara büyük bir askeri avantaj sağlayabilir, ancak aynı zamanda ciddi bir siyasi sorun da yaratıyor. Diplomasi, bilgileri doğrulamak, rakibin niyetlerini anlamak, iletişim kanallarını açmak ve aceleci tepkileri önlemek için zamana ihtiyaç duyar. Algoritma ise genellikle yanıt hızını iyileştirmek için tasarlanır, tereddüt veya müzakere için ek bir fırsat sunmak için değil.

Rakip iki tarafın uyarı ve hedef belirleme sistemleri, makinenin hızıyla çalışmaya başladığında, tırmanış liderlerin kavrayabileceğinden daha hızlı gerçekleşebilir. Bir algoritma, bir askeri hareketi veya radar sinyalini bir saldırı hazırlığı olarak yorumlayıp önleyici bir saldırı önerebilirken, diğer tarafın sistemi de benzer bir sonuca ulaşabilir.

Bu anda tehlike, bilimkurgu filmlerinde olduğu gibi makinelerin dünyaya hakim olması değil, insanların algoritmaların tasarladığı bir ortam içinde, sadece saniyeler içinde onay veya red vermelerine izin veren bir hızla kaderi belirleyen kararlar almasıdır.

Savaş yönetiminden barışın inşasına

Geleneksel olarak barış kavramı, silahların sınırlandırılması, saldırganlığın önlenmesi, çatışmaların çözülmesi ve devletler arasında güvenin inşası ile ilişkilendiriliyordu. Ancak yapay zeka bu unsurlara, savaş ve barış kararlarını etkileyen sistemlerin yönetim şekli boyutunu da ekliyor.

Artık yapay zekanın askeri kullanımı, ateş açmakla sınırlı kalmıyor; uydu görüntülerinin analizini, güçlerin hareketlerinin öngörülmesini, siber saldırıların tespitini, hedef listelerinin sıralanmasını, tehditlerin değerlendirilmesini ve liderlere önerilerin sunulmasını da kapsıyor.

İnsan resmi olarak ‘karar döngüsü içinde’ kalmaya devam edebilir, ancak varlığı gerçek bir denetim uyguladığı anlamına gelmiyor. Eğer sistem zaten sınıflandırılmış bir hedef sunuyor, tehlike derecesini belirliyor, uygun silahı seçiyor, ardından operatöre onay için sadece birkaç saniye tanıyorsa, insan kararı, makinenin yönlendirdiği bir sürecin şekli bir adımına dönüşür.

Sorun, ‘otomasyon önyargısı’ olarak bilinen olgu nedeniyle daha da büyüyor. Zira insanlar, özellikle zaman baskısı, yorgunluk ve korku altında bilgisayarın önerisine güvenme eğiliminde. Operatör, sistemin önerisi diğer göstergelerle çeliştiğinde bile, sistemin kendisinden daha isabetli olduğunu varsayabiliyor.

Askeri alanda yapay zekanın yönetişimi, yalnızca silah sayımına dayanamaz. Sisteme devredilen işlevlere, çalıştığı bağlama ve almasına izin verilen kararlara da dayanması gerekir.

Bu nedenle insan denetimi, yalnızca son düğmeye basan bir kişinin varlığıyla ölçülemez. Gerçek denetim, insanın önerinin dayanağını anlamasını, bağımsız bilgiye sahip olmasını, sistemin sınırlarını bilmesini ve saldırıya itiraz etme veya iptal etme konusunda gerçekçi bir fırsata sahip olmasını gerektirir.

Bu şartlar olmadan insan, karar alan bir kişi olmaktan çıkıp, algoritmanın aldığı bir seçime hukuki bir kılıf sağlayan biri haline gelebilir.

Silahın davranışını öngörmek

Geleneksel silahlanma denetim sistemleri, tank sayısı, füze menzili, kimyasal madde miktarları ve nükleer stokların büyüklüğü gibi görülüp sayılabilen unsurlara dayanıyordu.

Ancak yapay zeka çok daha zorlu; hızla kopyalanabilen, değiştirilebilen ve aktarılabilen bir yazılım niteliğinde. Aynı model, sivil ve askeri uygulamalarda da kullanılabiliyor. Mahsul görüntülerini analiz etmek için kullanılan bir algoritma, savaş alanı görüntülerini analiz etmek için de çalışabilir ya da nesneleri tanıma aracı, hedef seçim sisteminin bir parçasına dönüşebilir.

Bu nedenle askeri yapay zekanın yönetişimi, yalnızca silah sayımına dayanamaz; sisteme devredilen işlevlere, çalıştığı bağlama ve almasına izin verilen kararlara dayanması gerekir.

Çatışma sonrası siyasi uzlaşmalar, ihlalleri soruşturma, sorumluları tespit etme ve emri verenler veya uygulayanları hesap vermeye zorlama kapasitesine dayanıyor. Ancak yapay zeka bu görevi daha da karmaşık hale getirebilir.

Algoritma yargılanamaz, hapsedilemez veya kurbanlara tazminat ödemesi talep edilemez; devletler, liderler ve operatörler kuvvet kullanımından hukuki olarak sorumlu kalmaya devam ediyor. Ancak sorumluluk, modeli tasarlayan bir şirketten, verileri sağlayan başka bir şirkete, onu askeri bir platforma entegre eden bir müteahhide, ayarlarını düzenleyen bir orduya, çalışma bölgesini belirleyen bir komutana ve saldırıyı onaylayan bir operatöre kadar çok sayıda taraf arasında dağılabilir. Hatalı bir saldırı gerçekleştiğinde, her taraf belirleyici kararı kendisinin almadığını söyleyebilir.

Bu karmaşıklıklar, sorumluluğun ortadan kalktığı anlamına gelmiyor, ancak bunu kanıtlamayı daha da zorlaştırabilir. Sistemin aldığı verileri, kullanılan model sürümünü, sunulan güven derecesini, ortaya çıkan uyarıları ve verilen insani emirleri gösteren dijital kayıtlar olmadan, soruşturma, kapalı bir sistem içinde saniyenin küsuratında gerçekleşen bir kararı yeniden inşa etme girişimine dönüşebilir. Bu da yalnızca kurbanlara zarar vermeyen bir ‘sorumluluk boşluğu’ yaratırken barış fırsatlarını da zayıflatıyor. Çünkü bireylerinin nasıl öldürüldüğünü ve kimin sorumlu olduğunu bilmeyen toplumların uzlaşmayı kabul etmesi veya adalete güvenmesi zorlaşıyor.

Alman savunma girişim şirketi Helsing'in standında sergilenen HX-2 AI Strike Dronu. Şirket, askeri ekipmanların kapasitesini güçlendirmek amacıyla yapay zeka ve yazılım geliştirme üzerinde çalışıyor (AFP)
Alman savunma girişim şirketi Helsing'in standında sergilenen HX-2 AI Strike Dronu. Şirket, askeri ekipmanların kapasitesini güçlendirmek amacıyla yapay zeka ve yazılım geliştirme üzerinde çalışıyor (AFP)

Uluslararası insancıl hukuk ister tüfek ister füze ister yapay zekaya dayanan bir sistem olsun, tüm silahlara uygulanıyor. Ordular, siviller ile savaşçılar arasında ayrım yapmak, aşırı zararlardan kaçınmak ve sivilleri korumak için mümkün olan önlemleri almakla yükümlü olmaya devam ediyor.

Ancak sorun ilkelerin yokluğunda değil, kararlar hızlandıkça ve sistemler karmaşıklaştıkça bunların uygulanmasının zorlaşmasında yatıyor. Hukuk, komutanın hedefi doğrulaması gerektiğini söylüyor, ancak kendisine kaç saniye tanınması gerektiğini, hangi türde verilerin sunulması gerektiğini, modelin çalışma biçimini ne kadar anlaması gerektiğini veya sistemin kullanımını kabul edilemez hale getiren belirsizlik düzeyini her zaman belirlemiyor.

Askeri üstünlük teknolojisi, rakipleri onu edinmeye çalışmaya itiyor. Ancak yapay zeka, ordulara hedefleri daha az maliyetle ve daha kısa sürede tespit edip saldırma konusunda daha büyük bir kapasite vaat ettiği için silahlanma yarışını hızlandırabilir.

Bu yüzden Uluslararası Kızılhaç Komitesi, hukukun uygulanabilirliği ile yeterliliği arasında ayrım yapıyor. Mevcut kurallar, rastgele saldırıları önlemekte ve sivilleri koruyor. Ancak tek başına otonom silahlar ve askeri algoritmalar için gerekli tüm operasyonel sınırları sağlamıyor.

Komite, etkileri yeterince öngörülemeyen sistemlerin yasaklanmasını, insanları otonom şekilde hedef almak için tasarlanan veya kullanılan silahların yasaklanmasını çağırıyor. Bunun yanı sıra hedeflerin türü, coğrafi alan, çalışma süresi ve insanın müdahale ve devre dışı bırakma kapasitesini kapsayan diğer sistemlere sıkı kısıtlamalar getirilmesini talep ediyor.

Bunun anlamı, barışın eski hukukun değerini yitirmesi nedeniyle yeni bir hukuka ihtiyaç duymadığı, aksine teknolojinin hukuki ilkeleri içeriğinden boşaltmasını engelleyecek ayrıntılı kurallara ihtiyaç duyduğudur.

Silahlanma yarışını önlemenin bir parçası

Askeri üstünlük teknolojisi, rakipleri onu edinmeye çalışmaya itiyor; ancak yapay zeka, ordulara hedefleri daha az maliyetle ve daha kısa sürede tespit edip saldırma konusunda daha büyük bir kapasite vaat ettiği için silahlanma yarışını hızlandırabilir. Bu yüzden devletler tanıdık bir ikilemle karşı karşıya kalıyor: askeri otonominin risklerinden korksalar bile, bunu geliştirmemenin, geliştirmekten daha tehlikeli olduğunu düşünebilirler. Çünkü rakipler bunu daha önce elde edebilir.

Askeri alandaki yarış, testleri tamamlanmamış sistemlerin konuşlandırılmasına, güvenlik standartlarının düşürülmesine, kusur ve kazaların gizlenmesine yol açabilir. Burada uluslararası yönetişimin önemi ortaya çıkıyor. Sadece yasa dışı kullanımı önlemek için değil, aynı zamanda kısıtlamalara uymanın stratejik maliyetini azaltan ortak kırmızı çizgiler aracılığıyla rekabet baskısını hafifletmek için de.

Ancak müzakereler teknolojiden daha yavaş ilerliyor. Çoğu devlet, uluslararası hukukun uygulanması ve sorumluluğun insanda kalması konusunda anlaşsa da ‘insan denetimi’ kavramı ve gerekli kuralların bağlayıcı mı yoksa gönüllü mü olduğu konusunda anlaşmazlık devam ediyor. Bu gecikme, kısıtlamaların, sistemler yayıldıktan ve ordu doktrinleri ile tedarik zincirlerine entegre olduktan sonra gelmesine yol açma tehdidi taşıyor. Bu da bunların denetlenmesini daha da zorlaştırıyor.

Kimyasal ve biyolojik silahların yasaklanması ile mayınlar ve misket bombalarının kısıtlanmasına ilişkin anlaşmalardan yararlanılabilir; bunlar uluslararası standartlar oluşturma ve ihlal edenler için hukuki ve siyasi bir damga yaratma kapasitesini kanıtladı. Ancak yapay zeka farklı. Yasaklanabilecek bir madde veya sayılabilecek bir stok değil, çift kullanımlı bir teknoloji ve genellikle sivil şirketler ile üniversiteler içinde geliştiriliyor. Bu nedenle uygulanabilir herhangi bir anlaşmanın, teknolojinin kendisinden ziyade belirli işlevleri yasaklamaya odaklanması bekleniyor.

Bu, sistemlerin fiili insani hüküm olmadan insanları seçip saldırmasını engellemeyi, öngörülemez sistemleri yasaklamayı, yapay zekayı nükleer silah fırlatma kararlarından uzak tutmayı kapsayabilir; bunun yanı sıra zaman ve coğrafi sınırlamalar, devre dışı bırakma araçları, dijital kayıtlar, konuşlandırmadan önce testler ve hukuki incelemeler dayatılması da bunlara eklenebilir.

“Algoritmalar, fiyat artışı, yerinden edilme, kışkırtıcı söylem ve yerel şiddet göstergelerini analiz edebilir, gerginliğin bir savaşa dönüşmesinden önce erken uyarı sağlayabilir, arabuluculuk çabalarını destekleyebilir, ihlalleri belgeleyebilir, çatışmanın etkilerini analiz edebilir ve yardımları yönlendirebilir.

Artık savaşın geleceğini sadece hükümetler ve ordular çizmiyor. Teknoloji şirketleri de askeri uygulamaların dayandığı modelleri, çipleri, bulut altyapısını ve görü sistemlerini geliştirerek, uluslararası güvenlikte doğrudan bir rol üstleniyor. Kullanım biçimine dair olası bilgisizlikleri, riskleri değerlendirme, doğruluk sınırlarını ortaya koyma, veriyi koruma, kusurları bildirme ve hukuka aykırı kullanımları önleme sorumluluğundan kendilerini muaf kılmıyor. Bu yüzden sözleşmeler, ihracat denetimleri, güvenlik standartları ve bağımsız denetim yoluyla hesap verebilirlik sistemine dahil edilmeleri gerekiyor.

Zira dijital barış, bir modeli eğiten mühendisin, bir izleme aracı satan şirketin veya bir ürünün bir hedef belirleme sistemine dahil edilmesine izin veren bir yönetim kurulunun kararından etkilenebilir.

Hız her zaman tehlikeli değildir

Yönetişim, teknolojinin kapsamlı bir şekilde reddedilmesine dönüşmemeli. Zira yapay zeka sivilleri korumaya, yıkım görüntülerini analiz etmeye, mayınları tespit etmeye, füzeleri engellemeye, daha az zararlı bir silah seçmeye veya hedef yakınında sivil tespit edildikten sonra bir saldırıyı iptal etmeye yardımcı olabilir. Bir füze ile bir kent arasında yalnızca birkaç saniye bulunduğunda otomatik sistem gerekli olabilir.

Ancak temel fark, kontrol edilebilir bir ortamda belirli bir görevi otomatikleştirmek ile bir sistemin bir insanın hedef alınmayı hak edip etmediğini belirlemesine yetki devretmek arasında yer alıyor. Açık bir kapsam dahilinde uçan bir cismi engelleyen sistem, bir kişinin telefonuna, hareketlerine veya ilişkilerine dayanarak savaşçı olduğu sonucuna varan bir algoritmadan farklı.

Fransa'nın batısındaki Guer kentindeki Saint-Cyr Coëtquidan Askeri Akademisi'nde bir keşif İHA’sı, 2 Temmuz 2026 (AFP)
Fransa'nın batısındaki Guer kentindeki Saint-Cyr Coëtquidan Askeri Akademisi'nde bir keşif İHA’sı, 2 Temmuz 2026 (AFP)

Savaşta yapay zekanın kullanım alanları hızla genişlerken, çatışmaların önlenmesi ve barış inşası alanındaki uygulamaları sınırlı ve dağınık kalmaya devam etmesi, paradoks oluşturuyor.

Algoritmalar, fiyat artışı, yerinden edilme, kışkırtıcı söylem ve yerel şiddet göstergelerini analiz edebilir, gerginliğin bir savaşa dönüşmesinden önce erken uyarı sağlayabilir, arabuluculuk çabalarını destekleyebilir, ihlalleri belgeleyebilir, çatışmanın etkilerini analiz edebilir ve yardımları yönlendirebilir.

Ancak öngörü araçları da kendi payına gözetim ve baskı araçlarına, ya da tüm toplulukları tehlike kaynağı olarak sınıflandıran sistemlere dönüşebilir. Dolayısıyla ‘barış zekası’ da yönetişime ihtiyaç duyuyor. Bir çatışmayı öngörmek, devlete bir ihtimale dayanarak insanları tutuklama hakkı vermez. Nefret söyleminin analizi, tüm toplumun gözetlenmesini meşrulaştırmaz.

Devletlerin ayrıca soruşturulabilir dijital kayıtlar tutması, her operasyondan sorumlu bir insan komutan belirlemesi, ciddi kaza ve hataları bildirmesi, şirket ve müteahhitlerin sorumluluğuna ilişkin net kurallar oluşturması gerekiyor.

Algoritma bir örüntü tespit edebilir, ancak çatışmanın tarihini, adaletsizlik duygularını veya kimliğin karmaşıklığını tek başına anlayamaz; güven inşa edemez veya bir uzlaşma için müzakere yapamaz.

Yönetişim, her yazılım satırını gözden geçiren küresel bir kurum oluşturmak veya devletlerin teknolojiyi kullanmasını engellemek anlamına gelmiyor. Ancak yapay zekanın kalıcı bir istikrarsızlık faktörüne dönüşmesini engelleyecek bir dizi kural oluşturmak anlamına geliyor.

Mümkün olan asgari düzey, insanları hedef alma konusunda nihai kararı otonom sistemlere devretmeyi yasaklamayı, nükleer silah fırlatma kararında yapay zeka kullanımını önlemeyi, etkilerini öngöremeyen veya çalışma kapsamını belirleyemeyen sistemleri yasaklamayı kapsıyor.

Ayrıca konuşlandırmadan önce hukuki ve teknik incelemelerin dayatılmasını, gerçeğe benzer koşullarda bağımsız testleri, operatörlerin sistemin sınırlarını anlaması için eğitilmesini ve saldırıyı iptal etmek için etkili araçların sağlanmasını da kapsıyor.

Devletlerin ayrıca soruşturulabilir dijital kayıtlar tutması, her operasyondan sorumlu bir insan komutan belirlemesi, ciddi kaza ve hataları bildirmesi, şirket ve müteahhitlerin sorumluluğuna ilişkin net kurallar oluşturması gerekiyor.

Uluslararası düzeyde ise, ciddi kazalara ilişkin bilgi paylaşımı için kanallar oluşturulabilir, silahlı gruplara yayılmasının önüne geçilebilir, en yüksek risk taşıyan sistemlerin ihracatı düzenlenebilir, nükleer güçler arasındaki krizlerde uyarılara otomatik bağımlılığı engelleyecek düzenlemeler oluşturulabilir.

Bu tedbirler savaşı ortadan kaldırmayacak, ancak algoritmaların denetim veya hesap verebilirlik olmadan tırmanışa iten bir güce dönüşmesini engelleyebilir.