Google yapay zekasının silahlarda kullanılmasının önünü açtı

2018'de yapay zekasının silahlarda kullanımını yasaklayan şirket, geçen ay "genel zarar verme ihtimali olan" hiçbir şey için kullanılmayacağında ısrar etmişti.

Fotoğraf: AP
Fotoğraf: AP
TT

Google yapay zekasının silahlarda kullanılmasının önünü açtı

Fotoğraf: AP
Fotoğraf: AP

Google'ın daha önce yapay zeka sistemlerinin silah ve gözetimde kullanılmasını yasaklayan etik kurallarını kaldırdığı bildirildi.

Washington Post'un haberine göre teknoloji devi, daha 30 Ocak'ta yapay zekasının silah, gözetleme ve "genel zarara neden olan veya olması muhtemel" diğer teknolojilerde kullanılmayacağını söylemişti.

The Independent cevap hakkı için Google'la iletişime geçti.

Salı günü yapay zeka alanında çalışan üst düzey şirket yetkililerinin kaleme aldığı blog yazısında şirket, "giderek karmaşıklaşan jeopolitik ortamda yapay zeka liderliği için küresel rekabet yaşandığını" savundu.

Yazıda, "Demokrasilerin özgürlük, eşitlik ve insan haklarına saygı gibi temel değerlerin rehberliğinde yapay zeka gelişimine öncülük etmesi gerektiğine inanıyoruz" dendi.

Ve bu değerleri paylaşan şirketlerin, devletlerin ve kuruluşların insanları koruyan, küresel büyümeyi ve ulusal güvenliği destekleyen bir yapay zeka yaratmak için birlikte çalışması gerektiğine inanıyoruz.

2018'de şirket, ABD Savunma Bakanlığı'nın drone videolarını analiz etmek için Google teknolojisini kullanmak üzere yaptığı sözleşme nedeniyle şirket içi protestolarla karşılaştıktan sonra, yapay zekasının silahlarda kullanılmasını yasaklamıştı.

Görsel kaldırıldı.
Google, Pentagon için drone videolarını analiz eden geçmiş çalışmaları nedeniyle çalışanlarının protestolarıyla karşılaşmıştı (AP)

Google'da yaşandığı bildirilen değişiklikler, teknoloji endüstrisinde süregelen daha büyük bir değişimle paralellik gösteriyor. Elon Musk gibi birçok teknoloji lideri siyasi olarak sağa kayarken, ABD savunma ve gözetim yetkilileriyle ortaklık kurma isteğinde artış var.

Aralık ayında ChatGPT üreticisi OpenAI, drone'lara karşı askeri savunmada kullanılmak üzere teknoloji geliştirmek için bir başka teknoloji şirketi Anduril'le ortaklık kurduğunu duyurmuştu.

OpenAI daha önce teknolojisini askeri kullanımdan men etmişti ancak geçen yıl politikalarını değiştirerek bazı işbirliklerine izin verdi.

OpenAI, Wall Street Journal'a yaptığı açıklamada Anduril'le geliştirilen teknolojinin sadece savunma uygulamalarında kullanılacağını belirtmiş ve CEO Sam Altman, şirketinin "teknolojinin demokratik değerleri korumasını sağlamayı" amaçladığını söylemişti.

Bir başka büyük yapay zeka şirketi Anthropic, savunma kurumlarına hizmet vermek için teknoloji firması Palantir ve Amazon Web Services'le işbirliği yapıyor.

Palantir, Anduril, OpenAI, Saronic ve Scale AI'ın, Boeing ve Lockheed Marin gibi eski yüklenicilere meydan okumak amacıyla Pentagon'un ana sözleşmelerine teklif vermek üzere konsorsiyum oluşturmak için Musk'ın havacılık firması SpaceX'le görüşmelerde bulunduğu bildiriliyor.

Geçmişte Demokrat adaylarla aynı safta yer almasına rağmen, teknoloji sektörü yeni yönetimle birlikte çalışmak için yoğun çaba sarf ediyor. Teknoloji şirketleri Trump'ın göreve başlama fonuna milyon dolarlık bağışlarda bulundu ve Meta, Amazon, Apple ve Google CEO'ları geçen ay yemin törenine katıldı.

Bu değişimi kimse, geçmişte Demokratlara verdiği destekten vazgeçip Trump'a arka çıkmak için 290 milyon dolardan fazla para harcayan Musk'tan daha iyi temsil edemez. Artık Musk, maliyet düşürücü Hükümet Verimliliği Bakanlığı girişimi aracılığıyla federal hükümetin harcama öncelikleri üzerinde eşi benzeri görülmemiş bir etkiye sahip. Şirketlerinin federal hükümetle yaptığı milyonlarca dolarlık sözleşmeler göz önüne alındığında bu, etik kaygılara yol açıyor.

Teknoloji endüstrisi, DeepSeek'in piyasaya sürülmesi dahil Çin'in yapay zeka alanındaki hızlı ilerlemeleri göz önüne alındığında savunma kurumuyla daha yakın bir işbirliğinin gerekli olduğunu savunuyor. Çinli bir şirketin ABD'li rakipleriyle boy ölçüşen ancak maliyetinin çok altında geliştirilen yapay zeka asistanı DeepSeek'in piyasaya sürülmesi ABD hisselerinin çakılmasına neden olmuştu.

Independent Türkçe



Çin'in yapay zeka atılımı: "Düşünebilen model, OpenAI'yı geride bıraktı"

ABD, gelişmiş yapay zeka teknolojilerinin Çin'e girmesini daha sıkı kontrol etme hazırlığı yapıyor (Reuters)
ABD, gelişmiş yapay zeka teknolojilerinin Çin'e girmesini daha sıkı kontrol etme hazırlığı yapıyor (Reuters)
TT

Çin'in yapay zeka atılımı: "Düşünebilen model, OpenAI'yı geride bıraktı"

ABD, gelişmiş yapay zeka teknolojilerinin Çin'e girmesini daha sıkı kontrol etme hazırlığı yapıyor (Reuters)
ABD, gelişmiş yapay zeka teknolojilerinin Çin'e girmesini daha sıkı kontrol etme hazırlığı yapıyor (Reuters)

Çin merkezli teknoloji şirketi DeepSeek, yeni yapay zeka modelini açık kaynaklı olarak yayımladı. Şirket yeni araçlarının, OpenAI'ın benzer modellerini geride bıraktığını öne sürüyor.

DeepSeek, Kasım 2024'te önizleme versiyonunu kullanıma sunduğu R1 serisini, açık bir MIT lisansı altında 20 Ocak Pazartesi günü piyasaya sürdü. 

MIT lisansı sayesinde yapay zeka modelinin kodu incelenebiliyor, değiştirilebiliyor ve ticari olarak kullanılabiliyor. 

R1, OpenAI'ın geçen yıl çıkan o1 serisi gibi "düşünebilen" veya "mantık yürüten" yapay zeka sınıfında yer alıyor. 

ChatGPT gibi geniş dil modellerinden farklı çalışan bu araçlar, verdikleri yanıtların doğruluğunu kontrol ediyor ve bu nedenle cevap vermeleri biraz daha zaman alıyor. Ancak hata yapma ihtimalini azaltan "düşünce zinciri" sistemi, özellikle bilimsel çalışmalarda ciddi fayda sağlıyor. 

DeepSeek, R1'in matematik, kelime problemleri ve programlama gibi testlerde OpenAI'ın o1'inden daha iyi performans gösterdiğini bildiriyor. Şirketin verilerine göre R1'in geride kaldığı testlerde bile iki model arasında çok az fark var.

Diğer yandan Ars Technica, yapay zeka testlerinin gerçek performansı her zaman yeterince iyi yansıtmadığını ve bu sonuçların henüz bağımsız bir şekilde doğrulanmadığını ifade ediyor.

R1 ailesinin en gelişmiş versiyonu 671 milyar parametre içeriyor. Parametreler temelde modelin problem çözme becerilerinin ne kadar iyi olduğunu gösteriyor. 

Şirket, R1'in 1,5 milyarla 70 milyar parametre arasında değişen "damıtılmış" versiyonlarını da yayımladı. Bunların en küçüğü dizüstü bilgisayarda çalışabilirken, en gelişmiş versiyonu daha güçlü bir donanım gerektiriyor. 

TechCrunch'a göre DeepSeek'in yeni yapay zeka ailesi, performansının yanı sıra o1'den yüzde 90 civarında daha ucuza satılmasıyla da öne çıkıyor. Ayrıca açık kaynaklı modeller genellikle o1 gibi muadillerinin gerisinde kaldığı için R1, teknoloji meraklılarının dikkatini çekti. 

George Mason Üniversitesi'nde yapay zeka alanında çalışan Dean Ball, X'teki gönderisinde şöyle yazdı:

DeepSeek'in damıtılmış modellerinin etkileyici performansı, çok yetenekli muhakeme cihazlarının yaygın bir şekilde çoğalmaya devam edeceği ve yukarıdan aşağıya herhangi bir kontrol rejiminin gözünden uzakta, yerel donanımlarda çalıştırılabileceği anlamına geliyor.

Yeni yapay zeka modelinin, Çin merkezli diğer araçlar gibi karşılaştığı bir sorun var. Asya ülkesindeki yasalara göre "temel sosyalist değerleri içermesi" gereken araçlar, Tayvan'ın özerkliği gibi belirli konular hakkında yanıt vermiyor. Ancak model bulutta değil, Çin dışında yerel olarak çalıştırıldığında böyle bir sınırlama yaşanmıyor. 

ABD ve Çin arasındaki yapay zeka yarışı

DeepSeek'in son serisi, ABD'nin yapay zeka teknolojilerini Çin'e satışına daha fazla kısıtlama getirmeyi düşündüğü bir dönemde çıktı. 

Çin'deki şirketlerin gelişmiş yapay zeka çipleri satın alması daha önce engellenmişti. Ancak görevden ayrılan Joe Biden yönetiminin teklif ettiği yeni düzenlemeler yürürlüğe girerse kısıtlamaların kapsamı genişleyecek. Uzmanlar bu değişikliğin, Çin'in özellikle Ortadoğu'daki ülkeler aracılığıyla ABD çiplerine erişmesini engellemeyi amaçladığını söylüyor. 20 Ocak'ta göreve başlayan Donald Trump, bu teklifle ilgili henüz yorum yapmadı.

Ancak son gelişmelere bakılırsa ABD'nin kısıtlamaları Çin merkezli teknolojilerin önüne geçemiyor. 

TechCrunch, DeepSeek'in yanı sıra Çin merkezli Alibaba ve Kimi'nin de o1'i geride bıraktığı öne sürülen yapay zeka modelleri geliştirdiğini aktarıyor. 

Ayrıca DeepSeek, Aralık 2024'te DeepSeek-V3 adlı başka bir yapay zeka modelini piyasaya sürmüştü. ChatGPT'ye rakip olan araç, GPT-4o ve Anthropic'in Claude Sonnet 3.5'ini yakalamış, Meta ve Alibaba teknolojilerini geride bırakmıştı. 

Şirket, V3'ü sadece iki ayda 5,5 milyon dolara geliştirdiğini öne sürüyor. Uzmanlar bu miktarın, Silikon Vadisi'nde üretilen araçlara harcananın çok altında kaldığını ifade ediyor.

New York Times'a göre ABD'nin kısıtlamalarının, Çinli bilim insanlarını daha yaratıcı yöntemler bulmaya itmesiyle gelişmiş teknolojiler ortaya çıkıyor olabilir. 

ChatGPT'nin eğitim verilerini işlemek için 10 bin Nvidia GPU'ya ihtiyaç duyduğu tahmin edilirken, DeepSeek mühendisleri V3'ün sadece 2 bin çiple eğitildiğini söylüyor.

OpenAI'ın stratejik ortaklarından Microsoft'un CEO'su Satya Nadella, bu hafta İsviçre'nin Davos kentinde düzenlenen Dünya Ekonomik Forumu'nda "Çin'deki gelişmeleri çok ama çok ciddiye almalıyız" ifadelerini kullandı.

Independent Türkçe, TechCrunch, Ars Technica, Live Science, New York Times, CNN