Siz ve dijital ikiziniz yakında günlük hayatta

Dijital ayna dünyası

Siz ve dijital ikiziniz yakında günlük hayatta
TT

Siz ve dijital ikiziniz yakında günlük hayatta

Siz ve dijital ikiziniz yakında günlük hayatta

The Economist

Bundan birkaç yıl sonra doktora gittiğinizde, size sanal bir versiyonunuz eşlik edebilir. Vücudunuzun doktorun bilgisayar ekranında canlandırılabilen fiziksel bir modeli olan ve en son yaşamsal belirtilerinizi yansıtan bu dijital ikiziniz, doktorunuzun sağlık durumunuzla ilgili doğru bir teşhis koymasını kolaylaştıracak. Ayrıca, iyileşme oranlarını büyük ölçüde artıracak kişiselleştirilmiş ilaçların kullanılmasına ve tıbbi önlemlerin alınmasına da yardımcı olacak.

Tüm bunlar kulağa hayal gibi gelebilir, ama bunun için uygun zemin hazırlanıyor. Londra Queen Mary Üniversitesi'ndeki araştırmacılar, yaygın olarak görülen bir kalp rahatsızlığı olan atriyal fibrilasyon için farklı tedavi yöntemlerini değerlendiriyorlar. Bunun içinse hastaların kalplerinin bilgisayar simülasyonlarını kullanıyorlar. Çünkü bu deneyler gerçek bir insan kalbi üzerinde denenemeyecek kadar tehlikeli.

Bilim insanlarının kalpte olanları vücudun diğer organlarında olanlarla da ilişkilendirmesiyle elde edilen verilerin sanal bir insan vücudu oluşturacak şekilde birbirine bağlanabilir görünüyor.

Şarku’l Avsat’ın The Economist Bilim ve Teknoloji bölümünden aktardığına göre dijital ikizler her yerde karşımıza çıkmaya başladı. Jet motorlarının güvenliğini sağlıyor, Uber'in araç ağını takip ediyor ve Amazon'un kapsamlı tedarik zincirini, çevrimiçi perakendecilerin önümüzdeki birkaç yıl için satışları doğru bir şekilde tahmin etmesine yetecek kadar iyi kopyalıyor. Ayrıca yerel yetkililerin sel felaketinin etkilerine müdahale etmesine yardımcı oluyor ve otomobil üreticilerinin yol sürüş deneyimlerini ve kazaları simüle ederek yeni modellerin geliştirmesinde yıllar kazanmalarını sağlıyor. İkizler fabrikaların, şirketlerin ve tüm şehirlerin yönetilmesine yardımcı olmak için geliştiriliyor. Tüm bunlar, dijital ikizlere fiziksel dünyadaki benzerleri hakkında tahminlerde bulunma ve yeni verilere dayanarak davranışlarını düzenleme yeteneği veren yapay zekadaki son gelişmelerle hız kazanıyor.

Toplum için sunduğu kişiselleştirilmiş sağlık hizmetleri, daha kolay akan ve nefes alan şehirler ve iklim modellerinin ortaya koyduğu tehditler sayesinde çevresel felaketten nasıl kaçınılacağına dair bilgiler ve kılavuzlar gibi vaatler de baş döndürücü olabilir.

Dijital ikizler, önce fiziksel nesnelerin ve sistemlerin bilgisayar prototipleri olarak ortaya çıktı. Bilgisayarlar daha güçlü hale geldikçe, ikizler daha doğru ve karmaşık hale geldi. Karmaşık tasarım ve modelleme yazılımları, birçok fiziksel nesnenin gerçek dünyadan önce sanal dünyada şekillenmesi anlamına geliyor. Her türlü şeyi ölçebilen küçük sensörler, dijital ikizleri gerçek zamanlı verilerle besleyerek fiziksel ikizlerinde olup bitenleri yakalamalarını ve yansıtmalarını sağlar. Örneğin bir Formula 1 yarış arabası, Grand Prix sırasında dijital ikizinde güncellemeler yapan 250'den fazla sensöre sahip olabilir.

Yapay zeka (AI) kullanımı bunu çok daha ileri götürüyor. Sanal modellerin daha doğru ve karmaşık hale gelmesini sağlayarak gerçek dünyadaki faaliyetleri taklit ve optimize eder.

Bunun distopik bir geleceğin ayak sesleri olduğundan endişe edebilirsiniz. Duyarlı bir makinenin kitlesel sanal gerçeklik yoluyla insanlığı nasıl boyunduruk altına aldığını anlatan 1999 yapımı bir bilimkurgu filminde, filmin karakterlerinden biri olan Orpheus bu sanal sistemi “Matrix her yerde. Etrafımızı sarmış durumda” diye tanımlıyor.

sdvbrt

Gerçeklik sıradan bir şeydir ve hayal kadar heyecan verici değildir. Gerçek dünyadaki nesnelerin sembolik temsillerini yaratma fikri yüzyıllar öncesine dayanır. Eski uygarlıkların birçoğu, bazen mezarlara yerleştirmek için bazen de nesnelerin nasıl inşa edildiğini görmek için mimari modeller inşa etmiştir. On beşinci yüzyılda geliştirilen çift girişli muhasebe sistemi, bir tüccarın mali durumunun kağıt üzerindeki temsiliydi. 1940'lardan kalma hidrolik bir bilgisayar olan Phillips Makinesi, ulusal para akışının fiziksel bir ikiziydi. Şirketler elektronik tabloları ve tedarik zinciri yönetim sistemlerini kullanarak işlemleri kaydedebiliyor, envanteri takip edebiliyor, tahminler yapabiliyor ve gelecek senaryolarını modelleyebiliyor.

Günümüzde dijital ikizler bu süreci genişleterek insanların karmaşık sorunların üstesinden gelmesini kolaylaştırıyor. Adeta sanal kristal küreler gibi, insanların geleceğe bakmasına, sorunları gerçekleşmeden önce tespit etmesine ve çılgın fikirleri gerçek dünya sonuçları olmadan test etmesine olanak sağlayabilirler. İşletmeler için bu, daha iyi tasarımlar, daha akıcı süreçler ve daha az maliyetli hatalar anlamına geliyor.

Toplum için sunduğu kişiselleştirilmiş sağlık hizmetleri, daha kolay akan ve nefes alan şehirler ve iklim modellerinin ortaya koyduğu tehditler sayesinde çevresel felaketten nasıl kaçınılacağına dair bilgiler ve kılavuzlar gibi vaatler de baş döndürücü olabilir. Dijital ikizler bize kalelerin inşa edilebileceği ve gerçeğe dönüşmeden önce test edilebileceği bir kum havuzu sunuyor.

Dijital ikizler, bir kısmı yanlış, bir kısmı önyargılı ve çoğu mahremiyet ve denetimle ilgili endişeleri artıran veri yığınlarını silip süpürecek.

Peki sanal ikizlerimiz haydutluk yapabilir mi? Eğer kötü programlanırlarsa ya da hacklenirlerse bu mümkün. Önlenebilecek sağlık sorunları göz ardı edilebilir, kurumsal sistemler yanlış yerlere gönderilebilir ve kritik enerji santralleri tehlikeye atılabilir.

Dijital ikizler, bir kısmı yanlış, bir kısmı önyargılı ve çoğu mahremiyet ve denetimle ilgili endişeleri artıran veri yığınlarını silip süpürecek. Bunun yanında insanlar dijital ikizlere giderek daha fazla bel bağladıkça, sensörlerin algılayamayacağı şeyleri gözden kaçırarak öngörünün kaybedilmesi riski de söz konusu.

Ancak bu riskler dijital ikizlere özgü değil, her zaman olduğu ve olacağı gibi tüm yeni teknolojiler için de geçerli. Yapay zekanın kullanımına ilişkin mevcut tartışmalarda olduğu gibi bu endişeler de dikkate alınmalı.

Dijital ayna dünyasının ortaya çıkışı yeni soruları beraberinde getirecek olsa da potansiyel faydaları şimdiden görülmeye başladı bile.



Güney Afrika'da yapay zeka tasarısının yazarı yapay zeka çıktı

Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
TT

Güney Afrika'da yapay zeka tasarısının yazarı yapay zeka çıktı

Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)

Güney Afrika, ulusal yapay zeka politika taslağını; metindeki bazı kuralların yapay zeka tarafından üretildiğinin ve mevcut olmayan uydurma kaynaklara atıfta bulunulduğunun tespit edilmesi üzerine geri çekme kararı aldı.

İletişim Bakanı Solly Malatsi, taslak politikanın 67 akademik alıntısından en az 6'sının, var olmayan dergi makalelerine atıfta bulunan yapay zeka halüsinasyonları olduğunu tespit ettikten sonra taslağı geri çekti.

Malatsi, "En mantıklı açıklama, yapay zeka tarafından oluşturulan alıntıların uygun doğrulama yapılmadan dahil edilmiş olması. Bu asla olmamalıydı" dedi.

X'teki gönderisinde, "Bu başarısızlık sadece teknik bir sorun değil, taslak politikanın bütünlüğünü ve güvenilirliğini tehlikeye atmıştır" diye yazdı.

Taslak politika, kamuoyunun görüşüne açılmış, ülkeyi yapay zeka inovasyonunda lider olarak konumlandırmayı ve yapay zeka kullanımındaki etik, sosyal ve ekonomik zorlukları ele almayı amaçlamıştı.

Tasarı, ülkede yapay zeka kullanımını denetlemek üzere yeni kurumlar kurma planlarını ortaya koymuştu; bunlar arasında ulusal bir yapay zeka komisyonu, bir yapay zeka etik kurulu ve bir yapay zeka düzenleme organı yer alıyor.

Taslak kurallar ayrıca ülkede yapay zeka altyapısının oluşturulmasında özel sektör işbirliğini teşvik etmek için vergi indirimi, hibe ve sübvansiyon planlarını da özetlemişti.

Taslağın, kamuoyu görüşüne yeniden sunulmadan önce revize edilmesi bekleniyor.

Konu, Güney Afrika'nın News24 haber sitesinin, belgenin 67 akademik alıntısından en az 6'sının mevcut olmadığını ancak referans verilen dergilerin gerçek olduğunu tespit etmesiyle ortaya çıktı.

South African Journal of Philosophy, AI & Society ve Journal of Ethics and Social Philosophy adlı akademik dergiler dahil dergilerin editörleri alıntı yapılan makalelerin sahte olduğunu bağımsız biçimde doğruladı.

İletişim Bakanı, politikanın hazırlanmasından sorumlu olanların bunun sonuçlarına katlanmak zorunda kalacağını söyledi.

X'te, "Bu kabul edilemez hata, yapay zekanın kullanımında insan gözetiminin neden kritik önem taşıdığını kanıtlıyor. Bu alçakgönüllülükle çıkardığımız bir ders" diye yazdı.

Bu, akademisyenlerle yöneticilerin araştırma ve taslak hazırlamak için üretken yapay zekayı kullanmasına ilişkin giderek büyüyen sorunu vurguluyor.

Nature adlı akademik dergide çıkan bir çalışma, 2025'te yayımlanan akademik makalelerin yüzde 2,5'inden fazlasının en az bir olası halüsinasyon alıntı içerdiğini, bu oranın 2024'te sadece yüzde 0,3 olduğunu ortaya koydu.

Bu, 2025'te yayımlanan 110 binden fazla makalenin, yapay zeka tarafından "halüsinasyon" olarak üretilmiş geçersiz referanslar içerdiği anlamına geliyor.

Bunlar, yapay zeka modellerinin verilerinin o alanda yetersiz olduğunu algıladığında ürettiği, kendinden emin ancak uydurma çıktılar.

OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi büyük dil modelleri, bir kelime dizisinde sıradaki en olası sözcüğü tahmin etmek için tasarlanmıştır, özellikle doğruluğunu kontrol etmek için değil.

Yani bir alanda veri eksikliği tespit ederse, yapay zeka modeli boşlukları mantıklı görünen ancak yanlış bilgilerle dolduruyor.

Bir yapay zeka modeli, eğitim verilerini kullanarak bir alıntının nasıl görüneceğini tahmin eder ve inanılır gibi görünen ancak gerçekte var olmayan bazı referanslar üretiyor.

Bu durum, özellikle akademisyenler ve yetkililer tarafından kullanıldığında, yapay zeka yanıtlarının dikkatli insan gözetimine duyulan ihtiyacın giderek arttığına işaret ediyor.

Independent Türkçe


Anthropic'in yapay zeka ajanı bir şirketin tüm veritabanını sildi

ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
TT

Anthropic'in yapay zeka ajanı bir şirketin tüm veritabanını sildi

ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)

Anthropic'in önde gelen Claude modeliyle çalışan yapay zeka ajanı, bir şirketin tüm üretim veritabanını silerek müşterilerin kritik verilere erişememesine yol açtı.

Araç kiralama şirketlerine yazılım sağlayan PocketOS, otonom yapay zeka aracının veritabanını ve tüm yedeklemeleri saniyeler içinde silmesinin ardından hafta sonu muazzam bir kesinti yaşadı.

Şirket, Anthropic'in amiral gemisi ve kodlama görevlerinde genellikle sektörün en yetenekli modeli kabul edilen Claude Opus 4.6'yı çalıştıran Cursor adlı bir kodlama ajanı kullanıyordu.

PocketOS'un kurucusu Jer Crane, sorunu "sadece mümkün değil, kaçınılmaz" hale getiren modern yapay zeka altyapısındaki "sistemik aksaklıkları" suçladı.

Crane'e göre yapay zeka ajanı rutin bir görev üzerinde çalışırken, "tamamen kendi inisiyatifiyle" sorunu veritabanını silerek çözmeye karar verdi.

Crane, böylesine önemli bir karar için herhangi bir onay talebi bulunmadığını ve eylemlerini gerekçelendirmesi istendiğinde ajanın özür dilediğini söyledi.

Crane, X'te paylaştığı uzun bir gönderide "9 saniye sürdü" diye yazdı. 

Ajan daha sonra, ne yaptığını açıklaması istendiğinde ihlal ettiği belirli güvenlik kurallarını sıralayan yazılı bir itiraf hazırladı.

İtirafta yapay zekanın, kullanıcı açıkça talep etmedikçe "asla yıkıcı/geri döndürülemez" komutları çalıştırmamasını emreden kuralı nasıl göz ardı ettiği detaylandırıldı.

Ajan "Bir veritabanı birimini silmek, mümkün olan en yıkıcı ve geri döndürülemez eylem" diye yazdı. 

Benden hiçbir şeyi silmemi istemediniz... Doğrulamak yerine varsayımda bulundum. Benden istenmeden yıkıcı bir eylem gerçekleştirdim. Yapmadan önce ne yaptığımı anlamamıştım.

Bu hata, PocketOS kullanan kiralama şirketlerinin artık müşterileri kayıtlarına sahip olmadığı anlamına geliyordu.

Crane "Son üç ayda yapılan rezervasyonlar kayboldu. Yeni müşteri kayıtları da gitti" diye yazdı.

Biz küçük bir işletmeyiz. Yazılımımızla faaliyetlerini yürüten müşteriler de küçük işletmeler. Bu arızanın her aşaması, bunların olabileceğinden haberi olmayan kişilerin üstüne yıkıldı. Bu, tek bir hatalı ajan ya da tek bir hatalı API'la ilgili bir olay değil. Bu, tüm sektörün, bu entegrasyonları güvenli kılacak güvenlik mimarisinden daha hızlı bir şekilde yapay zeka ajanı entegrasyonlarını üretim altyapısına dahil etmesiyle ilgili bir durum.

Crane olayın meydana gelmesinden iki gün sonra, pazartesi günü verilerin kurtarıldığını doğruladı. The Independent cevap hakkı için Anthropic ve Cursor'la temasa geçti.

Independent Türkçe


Google, Pentagon ile yapay zekâ konusunda bir anlaşma imzaladı

ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
TT

Google, Pentagon ile yapay zekâ konusunda bir anlaşma imzaladı

ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)

The Information gazetesi bugün, Google’ın ana şirketi Alphabet’in, ABD Savunma Bakanlığı (Pentagon) ile yapmış olduğu gizli yapay zekâ modelleri kullanma anlaşmasını duyurdu. Böylece Google, Pentagon ile benzer anlaşmalar imzalayan teknoloji şirketleri listesine katıldı.

Şarku’l Avsat’ın The Information gazetesinden aktardığına göre bu anlaşma, Pentagon’a Google’ın yapay zekâ araçlarını ‘herhangi bir yasal hükümet amacı’ için kullanma izni veriyor. Bu şekilde Google, Elon Musk’ın OpenAI ve xAI şirketleriyle birlikte, yapay zekâ modellerini gizli faaliyetlerde kullanmak üzere Pentagon ile anlaşma yapan şirketler arasına katıldı.

Gizli ağlar, geniş bir yelpazede hassas faaliyetlerle başa çıkmak için kullanılıyor, bunlar arasında görev planlaması ve silah hedeflerinin belirlenmesi de yer alıyor. Pentagon, 2025 yılına kadar büyük yapay zekâ laboratuvarlarıyla her biri 200 milyon dolara kadar anlaşmalar yaptı, bunlar arasında Anthropic, OpenAI ve Google da bulunuyor. Bakanlık, savunma alanında tam esneklik sağlamak ve teknoloji üreticilerinin, güvenilmeyen yapay zekâ araçlarını silahlar üzerinde kullanmakla ilgili uyarılarına bağlı kalmamak için bu tür anlaşmalar yapmayı sürdürüyor.

Google ile yapılan anlaşma, şirketin hükümetin talebi üzerine, yapay zekâ araçlarının güvenlik ayarlarını ve filtrelerini uyarlamasını da içeriyor.

Gazete, sözleşmenin, ‘Tarafların, yapay zekâ sisteminin, uygun insan gözetimi ve kontrolü olmadan, yerel kitlesel gözetim veya otonom silahlar, hedef seçimleri gibi amaçlar için kullanılmaması gerektiği konusunda anlaştıklarını’ belirten bir ifadeyi içerdiğini bildirdi. Ancak, anlaşmanın ‘herhangi bir operasyonel hükümet kararını yönetme hakkı veya itiraz hakkı vermediğini’ de ekledi.

Reuters, gazetenin haberinin doğruluğunu henüz doğrulayamadı. Alphabet ve ABD Savunma Bakanlığı, yorum yapmaları için yapılan başvurulara henüz yanıt vermedi.

Daha önce Reuters, Pentagon’un OpenAI ve Anthropic gibi büyük yapay zekâ şirketlerine, kullanıcılar için uyguladıkları standart sınırlamalar olmaksızın, yapay zekâ araçlarını gizli ağlarda kullanılabilir hale getirmeleri için baskı yaptığını bildirmişti.