Google yapay zekasının silahlarda kullanılmasının önünü açtı

2018'de yapay zekasının silahlarda kullanımını yasaklayan şirket, geçen ay "genel zarar verme ihtimali olan" hiçbir şey için kullanılmayacağında ısrar etmişti.

Fotoğraf: AP
Fotoğraf: AP
TT

Google yapay zekasının silahlarda kullanılmasının önünü açtı

Fotoğraf: AP
Fotoğraf: AP

Google'ın daha önce yapay zeka sistemlerinin silah ve gözetimde kullanılmasını yasaklayan etik kurallarını kaldırdığı bildirildi.

Washington Post'un haberine göre teknoloji devi, daha 30 Ocak'ta yapay zekasının silah, gözetleme ve "genel zarara neden olan veya olması muhtemel" diğer teknolojilerde kullanılmayacağını söylemişti.

The Independent cevap hakkı için Google'la iletişime geçti.

Salı günü yapay zeka alanında çalışan üst düzey şirket yetkililerinin kaleme aldığı blog yazısında şirket, "giderek karmaşıklaşan jeopolitik ortamda yapay zeka liderliği için küresel rekabet yaşandığını" savundu.

Yazıda, "Demokrasilerin özgürlük, eşitlik ve insan haklarına saygı gibi temel değerlerin rehberliğinde yapay zeka gelişimine öncülük etmesi gerektiğine inanıyoruz" dendi.

Ve bu değerleri paylaşan şirketlerin, devletlerin ve kuruluşların insanları koruyan, küresel büyümeyi ve ulusal güvenliği destekleyen bir yapay zeka yaratmak için birlikte çalışması gerektiğine inanıyoruz.

2018'de şirket, ABD Savunma Bakanlığı'nın drone videolarını analiz etmek için Google teknolojisini kullanmak üzere yaptığı sözleşme nedeniyle şirket içi protestolarla karşılaştıktan sonra, yapay zekasının silahlarda kullanılmasını yasaklamıştı.

Görsel kaldırıldı.
Google, Pentagon için drone videolarını analiz eden geçmiş çalışmaları nedeniyle çalışanlarının protestolarıyla karşılaşmıştı (AP)

Google'da yaşandığı bildirilen değişiklikler, teknoloji endüstrisinde süregelen daha büyük bir değişimle paralellik gösteriyor. Elon Musk gibi birçok teknoloji lideri siyasi olarak sağa kayarken, ABD savunma ve gözetim yetkilileriyle ortaklık kurma isteğinde artış var.

Aralık ayında ChatGPT üreticisi OpenAI, drone'lara karşı askeri savunmada kullanılmak üzere teknoloji geliştirmek için bir başka teknoloji şirketi Anduril'le ortaklık kurduğunu duyurmuştu.

OpenAI daha önce teknolojisini askeri kullanımdan men etmişti ancak geçen yıl politikalarını değiştirerek bazı işbirliklerine izin verdi.

OpenAI, Wall Street Journal'a yaptığı açıklamada Anduril'le geliştirilen teknolojinin sadece savunma uygulamalarında kullanılacağını belirtmiş ve CEO Sam Altman, şirketinin "teknolojinin demokratik değerleri korumasını sağlamayı" amaçladığını söylemişti.

Bir başka büyük yapay zeka şirketi Anthropic, savunma kurumlarına hizmet vermek için teknoloji firması Palantir ve Amazon Web Services'le işbirliği yapıyor.

Palantir, Anduril, OpenAI, Saronic ve Scale AI'ın, Boeing ve Lockheed Marin gibi eski yüklenicilere meydan okumak amacıyla Pentagon'un ana sözleşmelerine teklif vermek üzere konsorsiyum oluşturmak için Musk'ın havacılık firması SpaceX'le görüşmelerde bulunduğu bildiriliyor.

Geçmişte Demokrat adaylarla aynı safta yer almasına rağmen, teknoloji sektörü yeni yönetimle birlikte çalışmak için yoğun çaba sarf ediyor. Teknoloji şirketleri Trump'ın göreve başlama fonuna milyon dolarlık bağışlarda bulundu ve Meta, Amazon, Apple ve Google CEO'ları geçen ay yemin törenine katıldı.

Bu değişimi kimse, geçmişte Demokratlara verdiği destekten vazgeçip Trump'a arka çıkmak için 290 milyon dolardan fazla para harcayan Musk'tan daha iyi temsil edemez. Artık Musk, maliyet düşürücü Hükümet Verimliliği Bakanlığı girişimi aracılığıyla federal hükümetin harcama öncelikleri üzerinde eşi benzeri görülmemiş bir etkiye sahip. Şirketlerinin federal hükümetle yaptığı milyonlarca dolarlık sözleşmeler göz önüne alındığında bu, etik kaygılara yol açıyor.

Teknoloji endüstrisi, DeepSeek'in piyasaya sürülmesi dahil Çin'in yapay zeka alanındaki hızlı ilerlemeleri göz önüne alındığında savunma kurumuyla daha yakın bir işbirliğinin gerekli olduğunu savunuyor. Çinli bir şirketin ABD'li rakipleriyle boy ölçüşen ancak maliyetinin çok altında geliştirilen yapay zeka asistanı DeepSeek'in piyasaya sürülmesi ABD hisselerinin çakılmasına neden olmuştu.

Independent Türkçe



Gazze, İsrail'in yapay zeka teknolojilerini test ettiği bir alana dönüştü

İsrail ordusunun Matzpen teknoloji birimi (Reuters)
İsrail ordusunun Matzpen teknoloji birimi (Reuters)
TT

Gazze, İsrail'in yapay zeka teknolojilerini test ettiği bir alana dönüştü

İsrail ordusunun Matzpen teknoloji birimi (Reuters)
İsrail ordusunun Matzpen teknoloji birimi (Reuters)

İnci Mecdi

İsrail tarafından geliştirilen ve 7 Ekim 2023 tarihinden bu yana Gazze’deki savaş sırasında Hamas liderlerinin yerini tespit etmek için kullanılan yapay zeka (AI) teknolojileri, özellikle de İsrail'e askeri bir avantaj sağlayan bu teknolojilerin kullanılmasının feci sonuçları göz önüne alındığında, giderek artan etik kaygılara yol açıyor.

İsrailli ve ABD’li yetkililerin ABD merkezli New York Times (NYT) gazetesine verdiği bilgilere göre İsrailli subaylar yapay zeka tabanlı askeri teknolojiyi ilk kez 2023 yılının sonlarında, 7 Ekim 2023 saldırılarının planlanmasına yardımcı olan Hamas’ın üst düzey liderlerinden İbrahim el-Bayari'ye suikast düzenlemek için kullandı. İsrail istihbaratı, Gazze Şeridi'nin altındaki tünellerde saklandığına inanılan Bayari’nin yerini başlangıçta tespit edemedi. Bu da on yıl önce savaşta kullanılmadan geliştirilmiş olan aracı geliştirmek için yeni bir teşvik sağladı. İçeridekilere göre Birim 8200 mühendisleri yapay zekayı bu araca dahil etmekte gecikmedi. İsrail kısa süre içinde Bayari'nin aramalarını dinleyebildi ve aramaların yapıldığı yerin yaklaşık konumunu veren sesli yapay zeka aracını test etti. İsrail bu bilgiyi kullanarak 31 Ekim 2023'te bölgeyi hedef alan hava saldırıları düzenledi ve Bayari'yi öldürdü.

“The Studio”

Ancak İsrail'in savaş sırasında kullandığı yapay zeka teknolojileri önemli sivil kayıplara yol açtı. Şarku’l Avsat’ın Londra merkezli çatışma izleme kuruluşu Airwars'tan aktardığı verilere göre Bayari'ye yapılan saldırıda 125'ten fazla sivil öldü. Kimliklerinin gizli kalması şartıyla NYT’ye konuşan ABD ve İsrailli dokuz yetkilinin açıklamalarına göre Bayari suikastı için düzenlenen hava saldırısında 125'ten fazla sivil öldürüldü. Bunun için kullanılan sonik araç, İsrail'in Gazze'deki savaşı yapay zeka destekli askeri teknolojileri dünyanın daha önce hiç görmediği bir hızda test etmek ve uygulamak için nasıl kullandığının sadece bir örneğiydi.

İsrail, geçtiğimiz 18 ay boyunca kısmen gizlenmiş ya da yaralanmış olan yüzleri gerçek kimliklerle eşleştirmek için yapay zekayı yüz tanıma yazılımına da entegre etti. Potansiyel hava saldırısı hedeflerini gruplandırmak için yapay zekayı kullandı. İki kaynağa göre, mesajları, sosyal medya gönderilerini ve Arapça diğer verileri toplayıp analiz edebilen bir sohbet robotunu güçlendirmek için Arapça bir yapay zeka modeli oluşturdu.

NYT'ye konuşan ve söz konusu teknolojiler hakkında bilgi sahibi olan kişilere göre bu çabaların çoğu Birim 8200'de görevlendirilen askerler ile Google, Microsoft ve Meta gibi teknoloji şirketlerinde çalışan yedek askerler arasında bir ortaklığın da önünü açtı. Kaynaklar, Birim 8200'ün bir inovasyon merkezi ve uzmanların yapay zeka projeleriyle eşleştirildiği bir yer olan The Studio'yu oluşturduğunu söyledi.

Yedek askerler

İsrailli yetkililer, Hamas'ın 7 Ekim 2023'te İsrail'e sınır ötesi saldırılar düzenleyerek bin 200'den fazla kişiyi öldürmesi ve 250’den fazla kişiyi rehin almasının ardından, Birim 8200 ile The Studio’daki yedek askerler arasındaki iş birliğinin hızla yeni yapay zeka teknolojileri geliştirmesine izin verildiğini açıkladı. Yatırımcıları şirketlerle buluşturan ve kâr amacı gütmeyen İsrailli bir kuruluş olan Startup Nation Central'ın CEO'su Avi Hasson, META, Google ve Microsoft'ta çalışan İsrailli yedek askerlerin insansız hava araçları (İHA) ve veri füzyonu (bilgi bütünleştirme) alanlarında inovasyonu teşvik eden kilit unsurlar haline geldiğini söyledi. Yedek subaylar teknik bilgi birikimi ve orduda bulunmayan kilit teknolojilere erişim sağladılar.

İsrail ordusu İHA filosunu güçlendirmek için de hızla yapay zekayı kullandı. İsrail ordusuyla birlikte çalışan bir yazılım ve yürüyüş şirketi olan XTEND’ın kurucusu ve CEO'su Aviv Shapira, hedefleri uzaktan tanımlayan ve takip eden İHA’lar geliştirmek için yapay zeka algoritmalarının kullanıldığını söyledi.

İsrailli ve ABD'li yetkililere göre İsrail yapay zeka tabanlı cephaneliğini geliştirmek için yarışırken bile, bu teknolojilerin kullanılması bazen yanlış kimliklere, tutuklamalara ve sivil ölümlerine yol açtı. Bazıları, gözetimin artmasına ve sivillerin öldürülmesine yol açabilecek yapay zekanın etik sonuçları hakkında tartışırken Avrupalı ve ABD'li savunma yetkilileri, başka hiçbir ülkenin mevcut savaşlar sırasında yapay zeka araçlarını denemede İsrail kadar aktif olmadığını ve bu teknolojilerin gelecekteki savaşlarda nasıl kullanılabileceğine ve nasıl başarısız olabileceklerine dair bir fikir verdiğini söyledi.

Geniş dil modeli

The Studio tarafından geliştirilen araçlardan biri de geniş dil modeli olarak bilinen Arapça yapay zeka modeliydi. Konuyla ilgili bilgi sahibi İsrailli subaylara göre ülkede onlarca yıldır Arapça konuşulan lehçelerde ele geçirilmiş kısa mesajlar (SMS), telefon görüşmeleri ve sosyal medya paylaşımları bulunuyor. Bu yüzden İsrailli subaylar savaşın ilk birkaç ayında geniş bir dil modeli oluşturdular ve Arapça sorgular yapmak için bir chatbot geliştirdiler. ABD’li ve İsrailli yetkililerin dördü, aracın multimedya veri tabanlarıyla entegre edilerek analistlerin görüntü ve videolar üzerinde karmaşık aramalar yapabilmelerinin sağlandığını söyledi.

İsrailli üç subaya göre İsrail geçtiğimiz eylül ayında Hizbullah lideri Hasan Nasrallah'a suikast düzenlediğinde, bahsi geçen chatbot Arap dünyasındaki tepkileri analiz etti. Teknoloji, halkın tepkilerini ölçmek için Lübnan'daki farklı lehçeleri ayırt ederek İsrail'in karşı saldırı başlatmak için kamuoyu baskısı olup olmadığını değerlendirmesine yardımcı oldu. Ancak iki subaydan biri, chatbotun bazen İngilizceden Arapçaya çevrilen bazı modern argo terimleri ve kelimeleri tanımlayamadığını, bunun da farklı lehçelerde uzman İsrailli istihbarat subaylarının çalışmasını gözden geçirip düzeltmesini gerektirdiğini belirtti.

İsrailli iki istihbarat yetkilisine göre chatbot bazen yanlış cevaplar verdi. Aynı yetkililer, chatbotun örneğin tüfekleri boru olarak gösterdiğini, ancak yapay zeka aracının araştırma ve analizi büyük ölçüde hızlandırdığını söylediler.

İsrail ayrıca 7 Ekim 2023 saldırılarından sonra Gazze Şeridi'nin kuzeyi ve güneyi arasında kurulan geçici kontrol noktalarına, Filistinlilerin yüksek çözünürlüklü görüntülerini tarayıp yapay zeka destekli yüz tanıma yazılımına gönderme özelliğine sahip kameralar yerleştirmeye başladı. Ancak sistem, zaman zaman yüzleri gizlenmiş kişileri tanımlamakta zorlandı. Bu durum, yüz tanıma sistemi tarafından yanlışlıkla teşhis edilen Filistinlilerin tutuklanmasına ve sorgulanmasına yol açtı.