AB en fazla dezenformasyonu X'te buldu

Avrupa Birliği (AB), sosyal medya platformları arasında en fazla yanlış bilgi ve dezenformasyonun X'te yer aldığını bildirdi

(AA)
(AA)
TT

AB en fazla dezenformasyonu X'te buldu

(AA)
(AA)

AB Komisyonu Başkan Yardımcısı Vera Jourova, büyük çevrim içi platformların dezenformasyona karşı gönüllü uygulama kuralları kapsamındaki taahhütlerine ilişkin sundukları raporlar hakkında Brüksel'de basın toplantısı düzenledi.

AB'nin dezenformasyona karşı hazırladığı kuralları içeren uygulama kodunun Facebook, Google, YouTube, TikTok ve LinkedIn de dahil olmak üzere 44 platform tarafından kabul edildiğine işaret eden Jourova, platformların, çevrim içi dezenformasyonla mücadele çabaları hakkında 6 ayı kapsayan verileri rapor ettiklerini anlattı.

Jourova, platformların AB dezenformasyon kurallarını uygulamak için yaptıkları çalışmaların farkında olduğunu ve bu çabaları takdir ettiğini belirtti.

"Dezenformasyon yeni değil ve yalnızca çevrim içi platformlarda da yapılmıyor" diyen Jourova, dijitalleşmenin artmasıyla birlikte kötü niyetli aktörlerin demokrasilere zarar vermek için yeni yollar bulduklarını söyledi.

Jourova, dijital platformların Rusya-Ukrayna savaşı ve gelecek yıl yapılacak AB seçimlerinde dezenformasyon riskinin farkında olması gerektiğini vurguladı.

Özellikle, Rusya'nın bilgi kirliliği ortaya koymak için fikri savaş yürüttüğünü, yarı gerçek ve yarı yalanlar içeren içerikler paylaştığını hatırlatan Jourova, "Çok büyük platformların bu riski ele alması gerekiyor. Kremlin ve bazı aktörler Avrupa seçimleri öncesinde daha fazla faaliyette bulunacaklar" yorumunu yaptı.

Jourova, AB kurallarına uyma taahhüdünde bulunan platformların dezenformasyona karşı önlemler almasının önemine işaret ederek, uygulama kurallarını dezenformasyon risklerini ele almaya yönelik küresel düzenleyici çerçevenin bir parçasını oluşturabilecek bir davranış kurallarına dönüştürmek istediklerini anlattı.

"X, yanlış veya dezenformasyon paylaşımlarının en fazla olduğu platform" diyen Jourova, pilot çalışmalarda, dezenformasyon faaliyetinde bulunanların, dezenformasyon yapmayan muadillerine göre daha fazla takipçiye sahip olduğunu belirlediklerini söyledi.

AB'nin, Kovid-19 salgını ve Rusya-Ukrayna savaşı ile birlikte artan dezenformasyona karşı hazırladığı yeni uygulama kodu, geçen yıl haziran ayında 30'un üzerinde platform tarafından imzalanmıştı.

Meta, Google, Twitter, TikTok ve Microsoft gibi büyük platformlar tarafından imzalanan yeni kod, çevrim içi dezenformasyona karşı daha geniş taahhütler ve önlemler içeriyordu.

Dijital platformlar, dezenformasyona karşı daha fazla mücadele etme taahhüdünde bulunmuştu.

Güçlendirilmiş uygulama kodu 40'tan fazla taahhüt ve 100'ün üzerinde özel önlem içeriyor. Dezenformasyon yayanların reklam gelirlerinden faydalanamaması, sahte hesaplar, botlar veya yapay montaj video ile manipülasyonun önlenmesi, dezenformasyonu tanımlamak ve işaretlemek için daha iyi araçlar sağlanması, doğruluk kontrolünün artırılması, siyasi reklamların şeffaflaştırılması, reklam sponsorlarının açıkça belirtilmesi, platformların taahhütleri uygulamalarının raporlanması, koda uyumu değerlendirecek merkez kurulması önlemler arasında yer alıyordu.

Twitter, AB'nin gönüllü kurallarından ayrılma kararı almıştı.

Dijital Hizmetler Yasası kapsamında Twitter'ın da aralarında yer aldığı platformlar 25 Ağustos'tan itibaren AB tarafından daha katı kurallara tabi tutulmaya, sıkı denetlenmeye başlandı.



Anthropic'in yapay zeka ajanı bir şirketin tüm veritabanını sildi

ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
TT

Anthropic'in yapay zeka ajanı bir şirketin tüm veritabanını sildi

ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)

Anthropic'in önde gelen Claude modeliyle çalışan yapay zeka ajanı, bir şirketin tüm üretim veritabanını silerek müşterilerin kritik verilere erişememesine yol açtı.

Araç kiralama şirketlerine yazılım sağlayan PocketOS, otonom yapay zeka aracının veritabanını ve tüm yedeklemeleri saniyeler içinde silmesinin ardından hafta sonu muazzam bir kesinti yaşadı.

Şirket, Anthropic'in amiral gemisi ve kodlama görevlerinde genellikle sektörün en yetenekli modeli kabul edilen Claude Opus 4.6'yı çalıştıran Cursor adlı bir kodlama ajanı kullanıyordu.

PocketOS'un kurucusu Jer Crane, sorunu "sadece mümkün değil, kaçınılmaz" hale getiren modern yapay zeka altyapısındaki "sistemik aksaklıkları" suçladı.

Crane'e göre yapay zeka ajanı rutin bir görev üzerinde çalışırken, "tamamen kendi inisiyatifiyle" sorunu veritabanını silerek çözmeye karar verdi.

Crane, böylesine önemli bir karar için herhangi bir onay talebi bulunmadığını ve eylemlerini gerekçelendirmesi istendiğinde ajanın özür dilediğini söyledi.

Crane, X'te paylaştığı uzun bir gönderide "9 saniye sürdü" diye yazdı. 

Ajan daha sonra, ne yaptığını açıklaması istendiğinde ihlal ettiği belirli güvenlik kurallarını sıralayan yazılı bir itiraf hazırladı.

İtirafta yapay zekanın, kullanıcı açıkça talep etmedikçe "asla yıkıcı/geri döndürülemez" komutları çalıştırmamasını emreden kuralı nasıl göz ardı ettiği detaylandırıldı.

Ajan "Bir veritabanı birimini silmek, mümkün olan en yıkıcı ve geri döndürülemez eylem" diye yazdı. 

Benden hiçbir şeyi silmemi istemediniz... Doğrulamak yerine varsayımda bulundum. Benden istenmeden yıkıcı bir eylem gerçekleştirdim. Yapmadan önce ne yaptığımı anlamamıştım.

Bu hata, PocketOS kullanan kiralama şirketlerinin artık müşterileri kayıtlarına sahip olmadığı anlamına geliyordu.

Crane "Son üç ayda yapılan rezervasyonlar kayboldu. Yeni müşteri kayıtları da gitti" diye yazdı.

Biz küçük bir işletmeyiz. Yazılımımızla faaliyetlerini yürüten müşteriler de küçük işletmeler. Bu arızanın her aşaması, bunların olabileceğinden haberi olmayan kişilerin üstüne yıkıldı. Bu, tek bir hatalı ajan ya da tek bir hatalı API'la ilgili bir olay değil. Bu, tüm sektörün, bu entegrasyonları güvenli kılacak güvenlik mimarisinden daha hızlı bir şekilde yapay zeka ajanı entegrasyonlarını üretim altyapısına dahil etmesiyle ilgili bir durum.

Crane olayın meydana gelmesinden iki gün sonra, pazartesi günü verilerin kurtarıldığını doğruladı. The Independent cevap hakkı için Anthropic ve Cursor'la temasa geçti.

Independent Türkçe


Google, Pentagon ile yapay zekâ konusunda bir anlaşma imzaladı

ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
TT

Google, Pentagon ile yapay zekâ konusunda bir anlaşma imzaladı

ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)

The Information gazetesi bugün, Google’ın ana şirketi Alphabet’in, ABD Savunma Bakanlığı (Pentagon) ile yapmış olduğu gizli yapay zekâ modelleri kullanma anlaşmasını duyurdu. Böylece Google, Pentagon ile benzer anlaşmalar imzalayan teknoloji şirketleri listesine katıldı.

Şarku’l Avsat’ın The Information gazetesinden aktardığına göre bu anlaşma, Pentagon’a Google’ın yapay zekâ araçlarını ‘herhangi bir yasal hükümet amacı’ için kullanma izni veriyor. Bu şekilde Google, Elon Musk’ın OpenAI ve xAI şirketleriyle birlikte, yapay zekâ modellerini gizli faaliyetlerde kullanmak üzere Pentagon ile anlaşma yapan şirketler arasına katıldı.

Gizli ağlar, geniş bir yelpazede hassas faaliyetlerle başa çıkmak için kullanılıyor, bunlar arasında görev planlaması ve silah hedeflerinin belirlenmesi de yer alıyor. Pentagon, 2025 yılına kadar büyük yapay zekâ laboratuvarlarıyla her biri 200 milyon dolara kadar anlaşmalar yaptı, bunlar arasında Anthropic, OpenAI ve Google da bulunuyor. Bakanlık, savunma alanında tam esneklik sağlamak ve teknoloji üreticilerinin, güvenilmeyen yapay zekâ araçlarını silahlar üzerinde kullanmakla ilgili uyarılarına bağlı kalmamak için bu tür anlaşmalar yapmayı sürdürüyor.

Google ile yapılan anlaşma, şirketin hükümetin talebi üzerine, yapay zekâ araçlarının güvenlik ayarlarını ve filtrelerini uyarlamasını da içeriyor.

Gazete, sözleşmenin, ‘Tarafların, yapay zekâ sisteminin, uygun insan gözetimi ve kontrolü olmadan, yerel kitlesel gözetim veya otonom silahlar, hedef seçimleri gibi amaçlar için kullanılmaması gerektiği konusunda anlaştıklarını’ belirten bir ifadeyi içerdiğini bildirdi. Ancak, anlaşmanın ‘herhangi bir operasyonel hükümet kararını yönetme hakkı veya itiraz hakkı vermediğini’ de ekledi.

Reuters, gazetenin haberinin doğruluğunu henüz doğrulayamadı. Alphabet ve ABD Savunma Bakanlığı, yorum yapmaları için yapılan başvurulara henüz yanıt vermedi.

Daha önce Reuters, Pentagon’un OpenAI ve Anthropic gibi büyük yapay zekâ şirketlerine, kullanıcılar için uyguladıkları standart sınırlamalar olmaksızın, yapay zekâ araçlarını gizli ağlarda kullanılabilir hale getirmeleri için baskı yaptığını bildirmişti.


ABD'de yapay zeka kaygısı artıyor

16 Şubat 2024'te Paris'te OpenAI'ın tanıttığı Sora yapay zeka aracı tarafından oluşturulan videodan bir kare (AFP)
16 Şubat 2024'te Paris'te OpenAI'ın tanıttığı Sora yapay zeka aracı tarafından oluşturulan videodan bir kare (AFP)
TT

ABD'de yapay zeka kaygısı artıyor

16 Şubat 2024'te Paris'te OpenAI'ın tanıttığı Sora yapay zeka aracı tarafından oluşturulan videodan bir kare (AFP)
16 Şubat 2024'te Paris'te OpenAI'ın tanıttığı Sora yapay zeka aracı tarafından oluşturulan videodan bir kare (AFP)

Yeni bir rapora göre insanlar, yapay zeka ve onun hayatları üzerindeki etkisi konusunda giderek daha fazla endişe duyuyor.

Stanford Üniversitesi'nin 2026 Yapay Zeka Endeksi Raporu'nda ankete katılanların yarısından fazlası, yapay zeka kullanan ürünlerin kendilerini tedirgin hissettirdiğini söylerken, teknolojiye yönelik heyecan son birkaç yıldır azalıyor.

Rapora göre yapay zeka hakkındaki kamuoyu, uzmanların ve sektör içindekilerin görüşlerinden giderek daha fazla kopuyor; insanlar yapay zekanın işlerden ekonomiye, seçimlerden ilişkilere kadar her şeye zarar vereceğinden endişe ediyor.

Rapor ayrıca, yapay zeka güvenliğinin yapay zeka gelişmelerine ayak uyduramadığını ve ChatGPT'nin 2022'de kullanıma sunulmasından bu yana yapay zeka kaynaklı olayların üç kattan fazla arttığını ortaya koydu.

Raporun yazarları, "Bu zorluğa ek olarak, son araştırmalar, yapay zekanın güvenlik gibi sorumlu boyutunu iyileştirmenin, doğruluk gibi başka bir boyutu zayıflatabileceğini ortaya koydu" diye yazdı.

vfdb

Rapor, özellikle gençlerin yapay zekadan duyduğu hayal kırıklığıyla birlikte, yapay zekaya yönelik olumsuz duyguların arttığı bir dönemde yayımlandı.

Gallup'un yakın zamanlı bir anketi, Z kuşağının yapay zekaya yönelik heyecanının geçen yıldan bu yana yüzde 36'dan sadece yüzde 22'ye düştüğünü, öfkeninse yüzde 22'den yüzde 31'e yükseldiğini ortaya koydu.

Yapay zekaya karşı tepkinin, teknoloji liderlerinin sürekli olarak uyardığı teorik bir yapay zeka süper zekası korkusundan ziyade, teknolojinin toplum üzerindeki etkisinden kaynaklandığı görülüyor.

ABD'de yaşayan davranış bilimci Caroline Orr Bueno, "Bence birçok yapay zeka lideri halktan kopuk ve Skynet korkusunun öncelikle yapay zeka karşıtı duyguları yönlendiren unser olmadığını fark etmiyorlar" dedi.

Elbette bu korkular var ancak çoğu kişi maaş çekleri ve faturalarla çok daha fazla ilgileniyor.

Yapay zekaya ilişkin hayal kırıklıkları, onu geliştiren şirketlere karşı doğrudan eylemlerin arttığı bir eğilimi beraberinde getirdi.

Geliştirmenin durdurulmasını talep eden çevrimiçi gruplar son aylarda popülerlik kazanıyor. Bazı üyeler yapay zeka karşıtı bir gündemi savunurken aşırı eylemlerde bulunuyor.

Yakın zamanda, OpenAI CEO'su Sam Altman'ın Kaliforniya'daki evinin, biri molotof kokteyli, diğeri ateşli silahla olmak üzere iki ayrı olayda hedef alındığı iddia edildi.

Independent Türkçe