OpenAI, ABD ordusuna yapay zeka desteği sunacak

Ortaklık, Silikon Vadisi'nin savunma ortaklarıyla çalışmaya açıklığının artışına işaret ediyor

Ortaklık, drone savunma sistemlerine odaklanacak (AP)
Ortaklık, drone savunma sistemlerine odaklanacak (AP)
TT

OpenAI, ABD ordusuna yapay zeka desteği sunacak

Ortaklık, drone savunma sistemlerine odaklanacak (AP)
Ortaklık, drone savunma sistemlerine odaklanacak (AP)

ChatGPT'nin yaratıcısı OpenAI ve yüksek teknolojili savunma girişimi Anduril Industries, orduda kullanılmak üzere yapay zeka destekli teknolojiler geliştirmek için işbirliği yapacaklarını duyurdu.

Şirketler çarşamba günü paylaştıkları açıklamada "ABD ve müttefik güçler, hem yeni ortaya çıkan insansız sistemlerle hem de eski insanlı platformlarla hızla gelişerek tahribata yol açabilen, altyapıya zarar verebilen ve can alabilen bir dizi hava tehdidiyle karşı karşıya" yazdı.

Anduril ve OpenAI'ın stratejik işbirliği, ülkenin karşı insansız hava aracı sistemlerini (CUAS) ve bunların ölümcül olma riski taşıyan hava tehditlerini gerçek zamanlı tespit etme, değerlendirme ve bunlara yanıt verme becerileri geliştirmeye odaklanacak.

Şirketler işbirliğini, Çin'le yapay zeka yarışında "kritik bir dönemde" Amerika'nın teknik üstünlüğünü güvence altına almanın bir yolu olduğunu ifade etti. Mali koşulları açıklamadılar.

Ortaklık, dünyanın en değerli yapay zeka şirketiyle yeni savunma girişimlerinin en önde gelen firmalarından biri olan Anduril'i bir araya getiriyor. Şirket, insansız hava araçları, askeri yazılımlar ve yaklaşan insansız hava araçlarını tespit eden sensör kuleleri üretiyor.

OpenAI geçmişte teknolojisinin askeri kullanımını yasaklamış ancak ocakta bazı işbirliklerine izin vermek üzere kurallarını değiştirmişti. OpenAI, The Wall Street Journal'a yaptığı açıklamada Anduril'le geliştirilen teknolojinin sadece savunma amaçlı uygulamalarda kullanılacağını ve CEO Sam Altman'ın, şirketinin "teknolojinin demokratik değerlere bağlı kalmasını sağlamaya çalıştığını" söyledi.

Anlaşma, teknoloji dünyasında Pentagon'la çalışmaya yönelik ilginin artışına da işaret ediyor. Askeri endüstriyel kompleks, internet ve bilgisayar teknolojilerinin gelişiminde tarih boyunca büyük rol oynamış ve teknoloji devleri, savunma kurumlarıyla büyük bilişim sözleşmeleri imzalamış olsa da Silikon Vadisi'nin önde gelen şirketleri ve yeni girişimleri geçmişte savaş alanı teknolojilerinde orduyla doğrudan çalışma konusunda temkinli davranıyordu.

Bu durum, bir dereceye kadar teknoloji dünyasında tartışmalara yol açmayı sürdürüyor. 2018'de Google çalışanları, Pentagon'un drone videolarındaki kişileri tespit etmesine yardımcı olma girişimi Project Maven'ı çokça eleştirmiş ve teknoloji şirketi sonraki yıl ortaklığa devam etmeyi reddetmişti. Bu yıl, Gazze'de savaş devam ederken şirketin yaptığı bulut sözleşmesini protesto etmek için New York ve Kaliforniya'daki ofislerde oturma eylemi düzenleyen çok sayıda Google çalışanı işten çıkarılmıştı.

Yapay zeka dengeleri değiştirmiş gibi görünüyor.

Kasımda OpenAI'ın rakibi Anthropic, ABD Savunma Bakanlığı'na yapay zeka algoritmaları vermek için Amazon ve Palantir'le ortaklık kuracağını duyurmuştu.

Anlaşmalar muhafazakar siyaset, büyük teknoloji ve askeri teknoloji arasındaki artan bağa da işaret ediyor.

Anduril'in kurucu ortağı Palmer Lucky, teknoloji dünyasında Donald Trump'ın erken ve güçlü bir destekçisiydi ve kendisi Elon Musk'la da yakın.

Musk, OpenAI'ın kurucularından biriydi ancak 2018'de ayrılarak kendine ait bir yapay zeka laboratuvarı kurmuştu. Musk ayrıca Altman'la kamuoyu önünde kavga ederek OpenAI'a dava açmıştı. Donald Trump'ın en etkili ve görünür müttefiklerinden biri haline gelen Musk trilyonlarca dolar devlet harcamasını yönlendirmeyi amaçlayan Kamu Verimliliği Bakanlığı danışma komisyonunu da yürütecek.

Müstakbel başkan yardımcısı JD Vance ise, askeri yapay zeka alanında faaliyet gösteren başka bir şirket olan Palantir'in kurucularından yatırımcı Peter Thiel'in desteklediği isimlerden biri.
Independent Türkçe



Starship, Teksas'tan yeni bir test uçuşuyla fırlatıldı

Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)
Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)
TT

Starship, Teksas'tan yeni bir test uçuşuyla fırlatıldı

Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)
Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)

Amerikalı milyarder Elon Musk'ın sahibi olduğu SpaceX, dün Teksas'taki Starbase'den Starship uzay aracının on birinci uçuşunu gerçekleştirdi. Bu test görevi, yeniden kullanılabilir uzay aracının uydu fırlatma ve nihayetinde insanları Ay ve Mars'a taşıma yeteneğini test etmeyi amaçlıyor.

Bir Süper Ağır itici roketin üzerine monte edilmiş Starship üst kademesinden oluşan uzay aracı, SpaceX'in Starbase'deki tesislerinden yaklaşık 23:20 GMT'de fırlatıldı. Starship üst kademesini uzaya gönderdikten sonra, Süper Ağır itici roket fırlatmadan yaklaşık 10 dakika sonra Meksika Körfezi'ne yumuşak bir iniş gerçekleştirdi.

SpaceX Başkanı Gwynne Shotwell, geçen ay Paris'te düzenlenen bir konferansta, "11. test uçuşunu başarılı kılmak için elimizden gelen her şeyi yaptık," dedi. "Ama bildiğiniz gibi, kimse ne olacağını bilmiyor, bu yüzden göreceğiz." Starship'in, 2027 yılına kadar NASA astronotlarını Ay'a indirmesi planlanıyor.

Roket, SpaceX'in mobil geniş bant internet sağlama hedefinde hayati rol oynayan daha büyük Starlink uydularının fırlatılması için büyük önem arzediyor. Bu uydular, Musk'ın Mars'a insan ve kargo gönderme vizyonunun temelini oluşturuyor.


"Arka kapı" tehlikesi: 250 dosya ChatGPT'yi zehirlemeye yetiyor

(Unsplash)
(Unsplash)
TT

"Arka kapı" tehlikesi: 250 dosya ChatGPT'yi zehirlemeye yetiyor

(Unsplash)
(Unsplash)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi yapay zeka modellerinin, eğitim verilerine yalnızca küçük bir bozulmuş veri örneği eklenerek "zehirlenebileceği" uyarısını yaptı.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü, Alan Turing Enstitüsü ve yapay zeka firması Anthropic'in ortak yürüttüğü çalışma, 250 kadar az sayıda belgenin büyük dil modellerinin (LLM'ler) anlamsız metinler üretmesine yol açan bir "arka kapı" zafiyeti oluşturabileceğini ortaya koydu.

Bu açık özellikle endişe verici çünkü en popüler LLM'ler, kişisel internet siteleri ve blog yazıları da dahil internetteki herkese açık metinlerle önceden eğitiliyor. Bu da herhangi birinin yapay zeka modelinin eğitim verilerine dahil olabilecek içerik üretmesini mümkün kılıyor.

Anthropic, konuyu detaylandıran blog yazısında "Kötü niyetli aktörler, zehirlenme diye bilinen süreçte modelin istenmeyen veya tehlikeli davranışları öğrenmesini sağlamak için bu yayınlara belirli bir metin enjekte edebilir" dedi.

Arka kapı eklemek de bu saldırı türünden. Arka kapılar, modelden normalde gizli kalacak belirli bir davranışı tetikleyen özel ifadelerdir. Örneğin bir saldırgan komut isteminde olduğu gibi rasgele bir tetikleyici ifade içerdiğinde LLM'ler hassas verileri dışarı sızdıracak şekilde zehirlenebilir.

Bulgular yapay zeka güvenliğine dair endişelere yol açarken araştırmacılar, bunun teknolojinin hassas uygulamalarda kullanılma potansiyelini sınırladığını söylüyor.

Alan Turing Enstitüsü'nden Dr. Vasilios Mavroudis ve Dr. Chris Hicks, "Sonuçlarımız şaşırtıcı ve endişe vericiydi: Bir LLM'yi zehirlemek için gereken kötü niyetli belge sayısı (yaklaşık 250), modelin veya eğitim verilerinin boyutundan bağımsız olarak neredeyse sabitti" diye yazdı.

Başka bir deyişle, veri zehirleme saldırıları daha önce sanılandan daha uygulanabilir olabilir. Bir saldırgan için örneğin 250 zehirli Wikipedia makalesi yaratmak nispeten kolay olacaktır.

Riskler, "Poisoning attacks on LLMs require a near-constant number of poison samples" (LLM'lere yönelik zehirleme saldırıları neredeyse sabit sayıda zehir örneği gerektiriyor) başlıklı, hakem kontrolünden geçmemiş makalede detaylandırıldı.

The Independent yorum için Google ve OpenAI'la iletişime geçti.

Independent Türkçe, independent.co.uk/tech


Elon Musk, Twitter davasında uzlaşmaya gitti

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

Elon Musk, Twitter davasında uzlaşmaya gitti

Fotoğraf: Reuters
Fotoğraf: Reuters

Teknoloji milyarderi Elon Musk, kıdem tazminatlarıyla ilgili anlaşmazlıkta kendisine 128 milyon dolardan fazla tazminat istemiyle dava açan işten çıkarılmış Twitter yöneticileriyle uzlaşmaya vardı.

Musk, Ekim 2022'de Twitter'ı satın aldığında CEO Parag Agrawal, Finans Direktörü Ned Segal, Hukuk Direktörü Vijaya Gadde ve Baş Hukuk Müşaviri Sean Edgett dahil çalışanlar arasında büyük bir tasfiye gerçekleştirmişti.

Bu eski yöneticiler Mart 2024'te, Musk'a ve yeniden markalaştırdığı X sosyal medya platformuna, kendilerine ödenmesi gerektiğine inandıkları kıdem tazminatını karşılamak üzere 128 milyon dolardan fazla toplu bir meblağ için dava açmıştı.

Geçen hafta teslim edilen ve ilk olarak çarşamba günü The Verge tarafından haberleştirilen mahkeme belgelerinde, Musk ve X'in davada "belirli koşulların yerine getirilmesini gerektiren" bir uzlaşmaya vardığı ortaya çıktı.

Belgelerde uzlaşma miktarına yer verilmedi. The Independent yorum için Musk ve davacıların avukatlarına ulaştı.

Musk, Nisan 2022'de Twitter'ı satın almayı kabul etmiş ancak birkaç ay sonra satın alma işleminden vazgeçeceğini söylemişti. Twitter, anlaşmayı tamamlamaya zorlamak için teknoloji devine dava açacak kadar ileri gitmişti.

Musk o sonbaharda 44 milyar dolarlık anlaşmayı tamamladıktan sonra Agrawal ve diğer üst düzey çalışanları hızla kovmuştu. Davaya göre yöneticiler Musk'ı, "özel bir öfke" duyduğu bir grubun kıdem tazminatları için daha fazla para ödemekten kaçınmaya çalışmakla suçladı.

Grup davada, "Musk Davacıların kıdem tazminatlarını ödemek istemediğine karar verdiği için, onları sebepsiz yere işten çıkardı, ardından sahte bir neden uydurdu ve çeşitli şirketlerinin çalışanlarını kararını onaylamaları için atadı" dedi.

asdfer
Musk, başlangıçta anlaşmadan caymaya çalıştıktan sonra Twitter'ı satın almayı kabul etmişti (AFP)

Dava, Walter Isaacson'ın Musk hakkındaki biyografisine atıfta bulunuyor. Biyografide teknoloji devinin Twitter anlaşmasını yöneticilerin hisse senedi opsiyonlarını hak etmelerini önlemek için bir gün erken sonuçlandırdığını söylüyor.

Isaacson, Musk'ın "bu gece sonuçlandırmakla yarın sabah yapmak arasında kurabiye kavanozundaki farkın 200 milyon dolar" olduğunu söylediğini aktarıyor.

Ağustosta Musk ve X'in işten çıkarılan yaklaşık 6 bin işçinin kıdem tazminatı konusunda 500 milyon dolarlık davada "prensipte" uzlaşmaya vardığı açıklanmıştı.

Reuters'ın haberine göre, Twitter'ın yan haklar programlarını denetleyen Courtney McMillian ve operasyon müdürü Ronald Cooper tarafından açılan davada, çoğu çalışanın temel ücretlerinin iki ayını ve işte geçirdikleri her tam yıl için bir haftalık ücret almaları beklenirken, en fazla bir aylık kıdem tazminatı teklif edildiği, işten çıkarılan pek çok işçiye ise hiçbir ek ödeme yapılmadığı öne sürülmüştü.

Independent Türkçe