Yapay zeka Arap dünyasında umut verici fırsatlar sunuyor

Yapay zekanın 2030 yılına kadar Arap dünyasında GSYİH'ya 320 milyar dolar katkıda bulunması bekleniyor.

Riyad geçtiğimiz yıl Küresel Yapay Zeka Zirvesi’ne ev sahipliği yaptı. (Şarku’l Avsat)
Riyad geçtiğimiz yıl Küresel Yapay Zeka Zirvesi’ne ev sahipliği yaptı. (Şarku’l Avsat)
TT

Yapay zeka Arap dünyasında umut verici fırsatlar sunuyor

Riyad geçtiğimiz yıl Küresel Yapay Zeka Zirvesi’ne ev sahipliği yaptı. (Şarku’l Avsat)
Riyad geçtiğimiz yıl Küresel Yapay Zeka Zirvesi’ne ev sahipliği yaptı. (Şarku’l Avsat)

Uluslararası arenada yapay zeka alanında yarış hızını artırarak devam ederken Arap ülkelerinden çeşitli girişimler, Arap dünyasının bu yarışta ilk sıralarda yer alma arzusunu ortaya koyuyor. Bu hareketlilik aynı zamanda bazı kurumların, yapay zekanın 2030 yılına kadar Ortadoğu ülkelerinin gayri safi yurt içi hasılasına (GSYİH) yaklaşık 320 milyar dolar katkıda bulunacağına dair beklentileriyle uyumlu seyrediyor. Diğer yandan uzmanlar, Ortadoğu’nun genç nüfusunun demografik yapısı çerçevesinde umut verici fırsatlar olduğuna işaret ediyorlar ki bu da, yapay zekanın daha geniş bir kullanıcı kitlesi ve yararlanıcıları için daha fazla fırsat sunduğu anlamına geliyor. Suudi Arabistan, Mısır, Birleşik Arap Emirlikleri (BAE) ve Fas, yapay zeka alanında gelecek vadeden bölge ülkeleri olarak öne çıkıyor.

Dünya Ekonomik Forumu (WEF) tarafından geçtiğimiz nisan ayında yayınlanan bir rapor, ‘yapay zekanın Ortadoğu’ya 2030 yılına kadar 320 milyar dolarlık ekonomik kazanç getireceğini’ öngörüyordu. Aynı rakamlar, 2018 yılında Londra merkezli çok uluslu bir profesyonel hizmetler ağı olan PricewaterhouseCoopers (PwC) tarafından yayınlanan bir raporda da yer almıştı.

PwC raporuna göre bu rakam, yapay zekanın 2030 yılında tüm dünyadaki toplam faydalarının yüzde 2'sini oluşturuyor. Yapay zekanın aynı yıl dünya ekonomisine yaklaşık 15,7 trilyon dolar katkıda bulunması bekleniyor.

Ulusal stratejiler

WEF raporuna göre ‘Ortadoğu’daki birçok ülke yapay zekanın faydalarından yararlanma yolunda çeşitli adımlar attı. Suudi Arabistan, 2030 yılına kadar 20 bin kadar uzmanın yetiştirilmesi için iddialı bir planı da kapsayan ‘Ulusal Veri ve Yapay Zeka Stratejisi’ projesini başlattı. BAE Dubai Emirliği, yapay zeka, dijital ekonomi ve metaverse gibi alanlara yatırım yapmak için 2022 yılının temmuz ayında geçici bir komite oluştururken Bahreyn, palmiye ağaçlarını hesaplamak ve tarımsal üretimi daha verimli belirlemek için yapay zekadan yararlanıyor.

Bu gelişmelerle birlikte raporda, yapay zekanın on yılın sonunda Bahreyn, Kuveyt, Umman ve Katar ekonomilerinin GSYİH’sına yüzde 8,2, yani yaklaşık 46 milyar dolar katkıda bulunacağı tahmin ediliyor.

Arap ülkeleri, yapay zeka alanında, ulusal stratejilerin belirlenmesi ve uzman bakanlıkların kurulması gibi adımlar attı. Mısır'daki Nil Üniversitesi'nde çalışmalarını yapay zeka alanında yürüten Mustafa el-Attar’a göre bu adımlar, Arap ülkelerinin ekonomiyi çeşitlendirme ihtiyacının farkında olduğun bir göstergesi.

Şarku’l Avsat’a değerlendirmede bulunan Attar, petrol üreticisi olan Arap ülkeleri, petrol sonrası döneme hazırlık yapmak amacıyla bir süredir ekonomilerini çeşitlendirmeye yönelik adımlar atarken yapay zekaya ağırlık verdiler.

Attar, Arap ülkelerinin yapay zeka alanına yönelmesiyle ilgili üç neden sıraladı. Attar’a göre bunların başında veri geliyor. Her alanda değerli olan veri, adeta yirmi birinci yüzyılın petrolü olarak görülüyor ve Arap ülkeleri gibi nüfusu fazla olan ülkelerde veri daha da değerli hale geliyor. Örneğin tıp alanında, bir ilacın neden bazı insanlar üzerinde etkili, bazıları üzerinde ise etkisiz olduğunun bilinmesi gerekebilir. Bu bilgiye çok sayıda veri elde edilmeden erişilemez.

Attar'ın sıraladığı ikinci sebep, endüstrilerin önümüzdeki yıllarda iklim dostu olmak için yenilenebilir enerji arayışına girecek olmaları. Endüstrilerin bu doğrultuda yeşil enerjiye dönüşüm için uygun başka yatırım alanları aramaları gerekiyor. Attar'a göre Arap ülkelerinin yapay zekaya yönelmesinin üçüncü nedeni ise çocukların ve gençlerin nüfusun yaklaşık yarısını oluşturduğu Ortadoğu ülkelerinin demografik yapısı. Bu da genç demografik yapının, cep telefonlarını yoğun olarak kullandıkları anlamına geliyor. Gençlerin, hem bu son teknolojiler konusunda eğitilmeleri kolay hem de yapay zekanın dayandığı temel veri toplama kaynağını da oluşturuyorlar.

Yapay zeka alanında Arap dünyasının sahip olduğu olanaklara ilişkin başka bir noktaya daha dikkati çeken Attar, petrol üreticisi olmayan diğer Arap ülkelerinin bazılarının özellikle de yapay zekanın büyük sermayelere değil, beyne ihtiyacı olduğundan genç nüfusu ekonomik büyümeyi yönlendirmek için yatırım fırsatı olduğunun farkına vardığını ve bu yüzden yapay zeka alanında eğitimlerin verileceği fakülteler kurmak gibi bazı adımlar atarak harekete geçtiğini söyledi.

PwC tarafından yapılan araştırmalarına göre yapay zekanın 2030 yılına kadar Suudi Arabistan'ın GSYİH'sına 135 milyar dolardan fazla katkıda bulunmasıyla Suudi Arabistan’ın Ortadoğu'da yapay zeka alanında en büyük kazanımları elde etmesi bekleniyor.

Suudi Arabistan ve Vizyon 2030

Suudi Arabistan, küresel bir yatırım merkezine dönüşmek ve ekonomisinin başlıca gelir kaynağı olan petrole bağımlılığını azaltmak için kapsamlı bir plan sunan Vizyon 2030’u hayata geçirdiğini duyurmasının ardından yapay zeka ve veri analizi teknolojilerini tüm ekonomik sektörlere entegre etmeyi amaçlayan ‘Ulusal Veri ve Yapay Zeka Stratejisi’ adlı stratejiyi geliştirdi.

Stratejinin ve ilgili girişimlerin uygulanmasının takibi için Suudi Arabistan Veri ve Yapay Zeka Kurumu (SADAIA) kuruldu.

SADAIA ayrıca, kamu ve özel sektör çalışanlarına iş hayatların yapay zekayı kullanma konusunda gerekli becerileri kazandırmayı amaçlayan SADAIA Akademi'yi hayata geçirdi.

SADAIA, tüm kamu ve idari kurumların verilerini birbirine bağlamak, bu verilere erişimi kolaylaştırmak ve iyileştirmek, yapay zeka teknolojilerini ‘hükümet’ dahil olmak üzere kilit alanlara entegre etmek, resmi işlemlerin yapay zeka teknolojileri temelinde otomatikleştirilmesi amacıyla akıllı bir devlet sektörü oluşturmak, maksimum üretkenlik ve etkinlik elde etmek için ‘özel sektörle iş birliği içinde büyük veri platformları ve analiz araçları geliştirmeye’ odaklandı.

Suudi Arabistan’ın yapay zekanın kullanımını artırmak için önem verdiği bir diğer alan ise eğitim. Bu amaçla akademik müfredat, yapay zeka teknolojileri ve bunların tüm sektörlerdeki rolünü içerecek şekilde güncellendi. Suudi Arabistan, yapay zekayı, tıbbi araştırmalar ve ilaç endüstrisi gibi alanlara entegre ederek sağlık hizmetleri alanında da yoğun kullanmaya başladı. Enerji alanında ise sektörün verimliliğini, üretimini ve emilimini artırmak amacıyla enerji tedarik zincirlerinin yönetiminde programlar ve algoritmalar kullanılıyor.

Suudi Arabistan tarafından hayata geçirilen uygulamalı modeller arasında, Kral Abdullah Bilim ve Teknoloji Üniversitesi (KAUST) araştırmacılarının tarım, sağlık, mühendislik ve hayvansal üretim alanlarında yapay zeka kullanan katkıları dikkat çekiyor. KAUST, Kovid-19 salgını sırasında resmi internet sayfasında BT taramaları yapılarak enfekte olmuş kişilerin teşhisi için gerekli test kitleri geliştirmek amacıyla yapay zekanın kullanıldığını duyurdu. Araştırmanın başında KAUST'taki Hesaplamalı Biyobilimler Araştırma Merkezi Vekil Müdür Yardımcısı ve bilgisayar bilimi doçenti Zhen Gao yer aldı.

KAUST Biyoloji ve Çevre Bilimi ve Mühendisliği Bölümü’nden Heribert Hirt, 9 Mart'ta duyurulan ve ‘belirli bir toprakta hangi mikropların eksik olduğunu tahmin etmeye ve böylece bitkinin büyümesine yardımcı olan’ bir yapay zeka algoritması oluşturdu.

KAUST ayrıca ‘Vizyon 2030'un gereksinimlerini karşılamak için hızla gelişen teknolojiye odaklanan bir dünyada vasıflı bir iş gücü oluşturmayı ve iş piyasasında gerekli teknik becerileri kazandırmayı’ amaçlayan ‘KAUST Akademi’ girişimini başlattı.

PwC’nin araştırmalarına göre yapay zekanın, 2030 yılına kadar GSYİH'ya 135,2 milyar dolardan fazla katkıda bulunması beklenen Suudi Arabistan’ın Ortadoğu ülkeleri arasında bu alandaki en büyük kazanımları elde edeceği öngörülüyor.

Mısır’ın yapay zeka alanında attığı adımlar

Mısır'ın yapay zekaya ve uygulamalarına olan ilgisi, uluslararası raporlarda sınıflandırılmasını sağladı. Oxford Insights ve Uluslararası Kalkınma ve Araştırma Merkezi (IDRC) tarafından 2022’de yayınlanan, hükümetin yapay zeka teknolojilerine hazır olup olmadığına ilişkin raporda, Mısır’ın Afrika'da Mauritius'tan sonra ikinci ve dünya çapında 56. sırada yer alması, Mısır'ın Afrika'da sekizinci ve dünya genelinde 194 ülke arasında 111’inci sırada yer aldığı 2019 raporuna kıyasla önemli bir ilerleme kaydettiğini gösterdi. 2021/2022 İnsani Gelişme Raporu da Mısır'ın Devletin Yapay Zekaya Hazırlık Durumu Endeksi’nde 55 sıra ilerlediğini ortaya koydu. Mısır, Küresel Bilgi Endeksi'ne göre ise 2020 yılında 138 ülke arasında 72’inci sıradan 2021 yılında 154 ülke arasında 53’üncü sıraya yükseldi.

Mısır, ‘eğitim, öğretim ve uygulama hacmindeki verilerden faydalanmak ve daha sonra her sektör için önemine göre özel sektörün yararlanabilmesi için kullanılabilir hale getirmek’ olmak üzere üç ana başlıktan oluşan ‘Ulusal Yapay Zeka Stratejisi’ni resmi düzeyde 2021 yılının temmuz ayında başlattı.

Mısır, bu strateji çerçevesinde, temeli insan aklı olan yapay zeka alanında ilerleme kaydetmek için kaynak sağlamak amacıyla son zamanlarda birçok adım attı. Mısır üniversitelerinde yapay zeka alanında eğitim veren fakültelerin sayısı 9'a ulaştı.

Mısır'daki ya da Mısırlılara ait yapay zeka şirketleri dünyanın en gelişmiş şirketleri arasında yer aldı. Bunlardan biri, 2018’de Las Vegas'ta düzenlenen Tüketici Elektroniği Fuarı’nda (CES) yapay zeka alanında ‘dünyanın en iyi gelişen şirketi’ ödülünü kazanan video analiz şirketi AvidBeam Technologies şirketi de bulunuyor. AvidBeam Technologies, bu ödülden tam bir yıl önce ABD merkezli teknoloji dergisi CIO Review'in yapay zeka alanında dünyanın en iyi 20 gelişmekte olan şirketleri arasında sıralanmıştı.

PwC araştırmaları, yapay zekanın 2030 yılında Mısır ekonomisine 42,7 milyar dolardan fazla katkıda bulunacağını tahmin ediyor.

2021/2022 İnsani Gelişme Raporu, Mısır’ın ‘Devletin Yapay Zekaya Hazırlık Durumu Endeksi’nde 55 sıra ilerlediğini ortaya koydu.

BAE’nin yapay zeka stratejisi

BAE'nin yapay zeka için 2017 yılının eylül ayında imzalanan ulusal bir stratejisi var. Bu strateji, hükümeti 2031 yılına kadar tamamlanmayı planladığı çeşitli girişimleri barındırıyor. Bu stratejinin başlatılması çerçevesinde stratejinin hedeflerini diğer hükümet planlarıyla uyumlu hale getirmek amacıyla bir Yapay Zeka Devlet Bakanı atandı.

Söz konusu strateji, ‘su kaynaklarının kullanımını iyileştirmenin ve atıkları azaltmanın yollarını araştırmak için büyük verileri kullanarak su şebekelerini yönetmek için yapay zekadan yararlanmanın ve tüm bölgelerdeki günlük istatistiklere dayalı olarak olası kazaları ve trafik sıkışıklığını tahmin etmeye yönelik önleyici mekanizmalar geliştirerek trafik sektörünü yönetmek için bu teknolojileri kullanmanın yanı sıra birçok hedefi barındırıyor. Ayrıca yıl boyunca verimliliklerini inceleyerek ve buna göre yeni projeler düzenleyerek yenilenebilir enerjiye dayalı elektrik şebekeleri geliştirmek için yapay zekaya güveniyor.

BAE, kamu sektöründe özellikle kameralar aracılığıyla kimlik tespiti alanında yapay zekayı güvenlik hizmetleriyle entegre etmek için çalışıyor. Hükümet, akıllı veri yönetimi teknolojileri aracılığıyla idari yükleri azaltırken bölge sakinleri için tüm devlet hizmetlerini otomatikleştirmeyi planlıyor.

PwC araştırmaları, yapay zekanın BAE ekonomisine 2030'da GSYİH'nın yüzde 14'ünü oluşturan 96 milyar dolardan fazla katkıda bulunacağını öngörüyor.

Fas Dijital Geçiş ve Yönetim Reformu Bakanlığı

Fas, iki yıldan kısa bir süre önce ‘Dijital Geçiş ve Yönetim Reformu Bakanlığı’ adında dijital dönüşüm alanında yeni bir bakanlık kurarak yapay zekayla ilgili ciddi çalışmalara başladı. Bakanlığa yapay zeka alanında uzman bir isim olan Ghita Mezzour getirildi. 2021 yılının eylül ayında göreve başlayan Mezzour’a gönderilen görevlendirme mektubunda ‘Fas'ta dijital geçişi hızlandırmak için çalışmak zorunda kalacağı’ bildirildi.

Mektupta bu stratejinin esas olarak ‘kamu hizmetlerini dijitalleştirmeyi, iş fırsatları yaratan dijital bir ekonominin ortaya çıkmasının temellerini atmayı ve Fas'ı bu alanda daha iyi bir konuma taşımayı hedeflediği’ belirtildi.

Fas, söz konusu stratejiyi başlatmadan önce 2019 yılında bu alandaki ilk fakülteyi açtı. Euromed Üniversitesi’nde açılan Dijital Mühendislik ve Yapay Zeka Fakültesi, robotik, insan-makine iş birliği, yapay zeka, siber güvenlik, web teknolojileri, cep telefonu ve büyük veri gibi alanlarda eğitim vermeye başladı.

Fas yapay zeka alanında uzman isimlere sahip ve bunlardan ikisi Massachusetts Teknoloji Enstitüsü (MIT) Technology Review Arabia dergisi tarafından yayınlanan 2022 yılının en önde gelen Arap yapay zeka uzmanları listesinde yer aldı. Bu iki isimden biri, sağlık hizmetlerinde makine öğrenimi çözümleriyle ilgilenen bir şirket olan OKRA'nın kurucusu ve CEO'su Loubna Bouarfa. Bouarfa, aynı zamanda Avrupa Birliği (AB) Komisyonu’na bağlı Yapay Zeka Üst Düzey Uzmanlar Grubu’nun da üyesi. Diğer isim ise Fas merkezli Cadi Ayyad Üniversitesi'nde yapay zeka profesörü ve veri bilimi yüksek lisans programının kurucusu Hajar Al-Musannaf.



Güney Afrika'da yapay zeka tasarısının yazarı yapay zeka çıktı

Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
TT

Güney Afrika'da yapay zeka tasarısının yazarı yapay zeka çıktı

Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)

Güney Afrika, ulusal yapay zeka politika taslağını; metindeki bazı kuralların yapay zeka tarafından üretildiğinin ve mevcut olmayan uydurma kaynaklara atıfta bulunulduğunun tespit edilmesi üzerine geri çekme kararı aldı.

İletişim Bakanı Solly Malatsi, taslak politikanın 67 akademik alıntısından en az 6'sının, var olmayan dergi makalelerine atıfta bulunan yapay zeka halüsinasyonları olduğunu tespit ettikten sonra taslağı geri çekti.

Malatsi, "En mantıklı açıklama, yapay zeka tarafından oluşturulan alıntıların uygun doğrulama yapılmadan dahil edilmiş olması. Bu asla olmamalıydı" dedi.

X'teki gönderisinde, "Bu başarısızlık sadece teknik bir sorun değil, taslak politikanın bütünlüğünü ve güvenilirliğini tehlikeye atmıştır" diye yazdı.

Taslak politika, kamuoyunun görüşüne açılmış, ülkeyi yapay zeka inovasyonunda lider olarak konumlandırmayı ve yapay zeka kullanımındaki etik, sosyal ve ekonomik zorlukları ele almayı amaçlamıştı.

Tasarı, ülkede yapay zeka kullanımını denetlemek üzere yeni kurumlar kurma planlarını ortaya koymuştu; bunlar arasında ulusal bir yapay zeka komisyonu, bir yapay zeka etik kurulu ve bir yapay zeka düzenleme organı yer alıyor.

Taslak kurallar ayrıca ülkede yapay zeka altyapısının oluşturulmasında özel sektör işbirliğini teşvik etmek için vergi indirimi, hibe ve sübvansiyon planlarını da özetlemişti.

Taslağın, kamuoyu görüşüne yeniden sunulmadan önce revize edilmesi bekleniyor.

Konu, Güney Afrika'nın News24 haber sitesinin, belgenin 67 akademik alıntısından en az 6'sının mevcut olmadığını ancak referans verilen dergilerin gerçek olduğunu tespit etmesiyle ortaya çıktı.

South African Journal of Philosophy, AI & Society ve Journal of Ethics and Social Philosophy adlı akademik dergiler dahil dergilerin editörleri alıntı yapılan makalelerin sahte olduğunu bağımsız biçimde doğruladı.

İletişim Bakanı, politikanın hazırlanmasından sorumlu olanların bunun sonuçlarına katlanmak zorunda kalacağını söyledi.

X'te, "Bu kabul edilemez hata, yapay zekanın kullanımında insan gözetiminin neden kritik önem taşıdığını kanıtlıyor. Bu alçakgönüllülükle çıkardığımız bir ders" diye yazdı.

Bu, akademisyenlerle yöneticilerin araştırma ve taslak hazırlamak için üretken yapay zekayı kullanmasına ilişkin giderek büyüyen sorunu vurguluyor.

Nature adlı akademik dergide çıkan bir çalışma, 2025'te yayımlanan akademik makalelerin yüzde 2,5'inden fazlasının en az bir olası halüsinasyon alıntı içerdiğini, bu oranın 2024'te sadece yüzde 0,3 olduğunu ortaya koydu.

Bu, 2025'te yayımlanan 110 binden fazla makalenin, yapay zeka tarafından "halüsinasyon" olarak üretilmiş geçersiz referanslar içerdiği anlamına geliyor.

Bunlar, yapay zeka modellerinin verilerinin o alanda yetersiz olduğunu algıladığında ürettiği, kendinden emin ancak uydurma çıktılar.

OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi büyük dil modelleri, bir kelime dizisinde sıradaki en olası sözcüğü tahmin etmek için tasarlanmıştır, özellikle doğruluğunu kontrol etmek için değil.

Yani bir alanda veri eksikliği tespit ederse, yapay zeka modeli boşlukları mantıklı görünen ancak yanlış bilgilerle dolduruyor.

Bir yapay zeka modeli, eğitim verilerini kullanarak bir alıntının nasıl görüneceğini tahmin eder ve inanılır gibi görünen ancak gerçekte var olmayan bazı referanslar üretiyor.

Bu durum, özellikle akademisyenler ve yetkililer tarafından kullanıldığında, yapay zeka yanıtlarının dikkatli insan gözetimine duyulan ihtiyacın giderek arttığına işaret ediyor.

Independent Türkçe


Anthropic'in yapay zeka ajanı bir şirketin tüm veritabanını sildi

ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
TT

Anthropic'in yapay zeka ajanı bir şirketin tüm veritabanını sildi

ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)

Anthropic'in önde gelen Claude modeliyle çalışan yapay zeka ajanı, bir şirketin tüm üretim veritabanını silerek müşterilerin kritik verilere erişememesine yol açtı.

Araç kiralama şirketlerine yazılım sağlayan PocketOS, otonom yapay zeka aracının veritabanını ve tüm yedeklemeleri saniyeler içinde silmesinin ardından hafta sonu muazzam bir kesinti yaşadı.

Şirket, Anthropic'in amiral gemisi ve kodlama görevlerinde genellikle sektörün en yetenekli modeli kabul edilen Claude Opus 4.6'yı çalıştıran Cursor adlı bir kodlama ajanı kullanıyordu.

PocketOS'un kurucusu Jer Crane, sorunu "sadece mümkün değil, kaçınılmaz" hale getiren modern yapay zeka altyapısındaki "sistemik aksaklıkları" suçladı.

Crane'e göre yapay zeka ajanı rutin bir görev üzerinde çalışırken, "tamamen kendi inisiyatifiyle" sorunu veritabanını silerek çözmeye karar verdi.

Crane, böylesine önemli bir karar için herhangi bir onay talebi bulunmadığını ve eylemlerini gerekçelendirmesi istendiğinde ajanın özür dilediğini söyledi.

Crane, X'te paylaştığı uzun bir gönderide "9 saniye sürdü" diye yazdı. 

Ajan daha sonra, ne yaptığını açıklaması istendiğinde ihlal ettiği belirli güvenlik kurallarını sıralayan yazılı bir itiraf hazırladı.

İtirafta yapay zekanın, kullanıcı açıkça talep etmedikçe "asla yıkıcı/geri döndürülemez" komutları çalıştırmamasını emreden kuralı nasıl göz ardı ettiği detaylandırıldı.

Ajan "Bir veritabanı birimini silmek, mümkün olan en yıkıcı ve geri döndürülemez eylem" diye yazdı. 

Benden hiçbir şeyi silmemi istemediniz... Doğrulamak yerine varsayımda bulundum. Benden istenmeden yıkıcı bir eylem gerçekleştirdim. Yapmadan önce ne yaptığımı anlamamıştım.

Bu hata, PocketOS kullanan kiralama şirketlerinin artık müşterileri kayıtlarına sahip olmadığı anlamına geliyordu.

Crane "Son üç ayda yapılan rezervasyonlar kayboldu. Yeni müşteri kayıtları da gitti" diye yazdı.

Biz küçük bir işletmeyiz. Yazılımımızla faaliyetlerini yürüten müşteriler de küçük işletmeler. Bu arızanın her aşaması, bunların olabileceğinden haberi olmayan kişilerin üstüne yıkıldı. Bu, tek bir hatalı ajan ya da tek bir hatalı API'la ilgili bir olay değil. Bu, tüm sektörün, bu entegrasyonları güvenli kılacak güvenlik mimarisinden daha hızlı bir şekilde yapay zeka ajanı entegrasyonlarını üretim altyapısına dahil etmesiyle ilgili bir durum.

Crane olayın meydana gelmesinden iki gün sonra, pazartesi günü verilerin kurtarıldığını doğruladı. The Independent cevap hakkı için Anthropic ve Cursor'la temasa geçti.

Independent Türkçe


Google, Pentagon ile yapay zekâ konusunda bir anlaşma imzaladı

ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
TT

Google, Pentagon ile yapay zekâ konusunda bir anlaşma imzaladı

ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)

The Information gazetesi bugün, Google’ın ana şirketi Alphabet’in, ABD Savunma Bakanlığı (Pentagon) ile yapmış olduğu gizli yapay zekâ modelleri kullanma anlaşmasını duyurdu. Böylece Google, Pentagon ile benzer anlaşmalar imzalayan teknoloji şirketleri listesine katıldı.

Şarku’l Avsat’ın The Information gazetesinden aktardığına göre bu anlaşma, Pentagon’a Google’ın yapay zekâ araçlarını ‘herhangi bir yasal hükümet amacı’ için kullanma izni veriyor. Bu şekilde Google, Elon Musk’ın OpenAI ve xAI şirketleriyle birlikte, yapay zekâ modellerini gizli faaliyetlerde kullanmak üzere Pentagon ile anlaşma yapan şirketler arasına katıldı.

Gizli ağlar, geniş bir yelpazede hassas faaliyetlerle başa çıkmak için kullanılıyor, bunlar arasında görev planlaması ve silah hedeflerinin belirlenmesi de yer alıyor. Pentagon, 2025 yılına kadar büyük yapay zekâ laboratuvarlarıyla her biri 200 milyon dolara kadar anlaşmalar yaptı, bunlar arasında Anthropic, OpenAI ve Google da bulunuyor. Bakanlık, savunma alanında tam esneklik sağlamak ve teknoloji üreticilerinin, güvenilmeyen yapay zekâ araçlarını silahlar üzerinde kullanmakla ilgili uyarılarına bağlı kalmamak için bu tür anlaşmalar yapmayı sürdürüyor.

Google ile yapılan anlaşma, şirketin hükümetin talebi üzerine, yapay zekâ araçlarının güvenlik ayarlarını ve filtrelerini uyarlamasını da içeriyor.

Gazete, sözleşmenin, ‘Tarafların, yapay zekâ sisteminin, uygun insan gözetimi ve kontrolü olmadan, yerel kitlesel gözetim veya otonom silahlar, hedef seçimleri gibi amaçlar için kullanılmaması gerektiği konusunda anlaştıklarını’ belirten bir ifadeyi içerdiğini bildirdi. Ancak, anlaşmanın ‘herhangi bir operasyonel hükümet kararını yönetme hakkı veya itiraz hakkı vermediğini’ de ekledi.

Reuters, gazetenin haberinin doğruluğunu henüz doğrulayamadı. Alphabet ve ABD Savunma Bakanlığı, yorum yapmaları için yapılan başvurulara henüz yanıt vermedi.

Daha önce Reuters, Pentagon’un OpenAI ve Anthropic gibi büyük yapay zekâ şirketlerine, kullanıcılar için uyguladıkları standart sınırlamalar olmaksızın, yapay zekâ araçlarını gizli ağlarda kullanılabilir hale getirmeleri için baskı yaptığını bildirmişti.