Metaverse’teki Dark Web sürümü ‘hacklenemez’ olabilir

Metaverse’teki Dark Web sürümü ‘hacklenemez’ olabilir
TT

Metaverse’teki Dark Web sürümü ‘hacklenemez’ olabilir

Metaverse’teki Dark Web sürümü ‘hacklenemez’ olabilir

Polis ve güvenlik teşkilatları önümüzdeki yıllarda ‘Metaverse’ oluşumunun tamamlanmasıyla birlikte ‘Deepverse’ dünyasındaki suç faaliyetlerini önlemekte zorlanabilir. Yapılan değerlendirmelere göre şu an siber dünyayı etkileyen sorunların birçoğu sanal alemde yayılmaya başlayabilir.

San Francisco'da 26 Nisan'da düzenlenen ve yılda yaklaşık 45 bin kişinin katıldığı bilgi teknolojisi güvenliği konulu bir dizi seminerin verildiği ‘RSE 2023 Konferansı’nda Japonya merkezli bir bilgisayar yazılımı şirketi Trend Micro’dan iki araştırmacı, yeni bir DeepVerse sürümünün bu tehditlerin en büyüklerinden biri olduğunu, çünkü suçluların şu an Dark Web’te yaptıklarından daha büyük bir cezasızlık ve tehlikeyle hareket edebildiklerini söylediler.

Suç işlenen Metaverse

Metaverse, gerçek dünyanın bilgisayar tarafından oluşturulmuş bir versiyonu. Bu, tıpkı çevrimiçi çok oyunculu oyunların, kullanıcılara kendi sanal karakterlerini oluşturmalarına ve sanal dünyalarında diğer oyuncularla etkileşim kurmalarına izin vermesi gibi, insanların başkalarıyla ve kuruluşlarla etkileşime girdiği sanal bir dünyayı tanımlamak için kullanılan bir ifade. Metaverse tamamlandığında kullanıcılarının gerçek dünyanın sanal bir versiyonunda alışveriş yapmasına, çalışmasına, sosyalleşmesine ve diğer birçok aktiviteye izin verecek.

Araştırmacılar, aynı fenomenin siber suç dünyasının bodrum katlarında da meydana geleceği konusunda uyardılar. Dark Web’in de Deep Web’den fark edilmeyen bir derinlikte var olduğunu belirten araştırmacılar, Deepverse’teki Darkverse’te işlenecek suçların kolluk kuvvetleri ona nüfuz edemeyeceği kadar tespit edilemez olacağını vurguladılar. Bu alanlar suç, radikalizm, çocuk pornografisi ve cinsel istismarcılar için güvenli bir sığınak sağlayacağına işaret ettiler.

Şarku’l Avsat’ın edindiği bilgilere göre Trend Micro'nun kıdemli tehdit araştırmacıları Numaan Huq ve Philippe Lin, geçtiğimiz yıl Metaverse kullanıcıları arttıkça Metaverse’teki güvenlik ve gizlilik risklerinin ortaya çıkışı ve bu risklerin gelişimi hakkında bir rapor kaleme aldılar. Raporda birçok tehditten bahseden Huq ve Lin, en başta sosyal mühendislik, finansal dolandırıcılık ve mahremiyet riskleri gibi sayıları giderek artan mevcut sorunlar ve takas edilemez tokenlerle ilgili tehlikeler gibi yeni ortaya çıkan sorunların hem fiziksel hem de siber dünyaları aynı anda etkileyen tehditlere işaret ettiler.

Darkverse sağlamlığı

Darkreading.com sitesine konuşan Huq ve Lin, tehditlerin doğrulanmaya çok yakın olduğunu söylediler. Dark Web'tekilerin Metaverse'den nasıl yararlanacaklarını tartışmaya başladıklarını belirten Lin, dijital varlıkların tehditleri görmezden gelmeleri ve bu tehdileri yakında ortadan kaldırmak için hiçbir yatırım yapmamaları halinde gelecekte çok şey kaybedebilecekleri konusunda uyardı.

Trend Micro Şirketi, Metaverse'ü ‘kullanıcıların cihazlardan erişebilecekleri sürükleyici, çoklu etkileşimli, çok sayıda satıcının olduğu bir ortam’ olarak tanımlıyor. Metaverse’ün mevcut internet ortamının yanı sıra etkileşimli bir katman sağlamak için Web 2.0 ve Web 3.0 teknolojilerini kullanacağına işaret eden şirkete göre Metaverse, genişletilmiş sanal gerçeklik ortamında çalışmak ve oynamak için açık bir platformun yanı sıra akıllı şehir cihazları için bir iletişim katmanı sunuyor.

Şirketin tanımına göre Darkverse ise bugün var olan Dark Web gibi, ifade özgürlüğü için güvenli bir alan sağlamak adına sanal dünyada var olacak karanlık bir alandır. Ancak aynı zamanda geniş bir kitleye hitap eden pazarlarla yasa dışı ve suç faaliyetleri için de bir platform olacak.

Lin, Darkverse’ü çok tehlikeli bir yer haline getirecek noktanın, kolluk kuvvetlerinin Darkverse’de işlenecek suçlara müdahale etmeye çalışırken karşılaşacağı zorluklar olacağını düşünüyor. Huq’a göre ise suçluların Metaverse’teki alanlara erişimi kontrol etmek için kimlik doğrulama belirteçleri kullanmasını umuyor. Huq, kullanıcıların kimliklerine ilişkin bilgileri elde etmek için belirli bir zaman dilimi içinde fiziki dünyadaki belirli yerlere girmelerini isteyerek başkalarının bu belirteçlere erişmesini engelleyebileceklerini de belirtti.

Ancak suçluların, Metaverse’teki alanlara erişim izni için konum ve mesafeye dayalı kontroller uygulamaya çalışabileceğine işaret eden Huq, bu tür bir yöntemin, sunucuları kilitlemek ve URL'yi engellemekle aynı şey olmadığı için kolluk kuvvetlerinin bu faaliyetlere karşı önlem almasını zorlaştırabileceğini kaydetti.

Yeni tehditler

Darkverse'in önemli bir tehdit oluşturacağına şüphe olmasa da kolluk kuvvetlerinin Metaverse’de uğraşmak zorunda kalacağı tek sorun bu olmayacak. Huq ve Lin, önümüzdeki birkaç yıl içinde şirketlerin Metaverse'ü daha sık kullanmaya başlayacağını tahmin ediyorlar. Huq, örneğin Metaverse’ün New York'taki bir şirkette çalışan bir mühendisin Arizona'daki bir tesisteki destek sorunlarını sanki oradaymış gibi çözmesine olanak tanımasının altyapı operatörlerinin operasyonel teknolojiler ve endüstriyel kontrol sistemi ortamları için dijital ikizler oluşturabileceğini ya da bir perakendecinin, müşterilerin sanki gerçek bir mağazadaymış gibi sürükleyici bir şekilde alışveriş yapabilecekleri dijital mağazalar kurabileceğini belirtti.

Söz konusu vakalar yayıldıkça ve genişledikçe riskler de artacaktır. Huq ve Lin, saldırganların bu ortamlara sızmak için yeni yollar bulacağını, casusluk, hırsızlık ve kaos yayma gibi hedefler uğruna bu ortamları bozacaklarını ve bu tür saldırılardan bazılarının Metaverse sunucularını ve altyapısını hedef alacağını, diğerlerinin ise kullanıcıların sanal dünyaya ve içindeki nesnelere erişmek için taktığı bir başlık gibi Metaverse’e özgü öğeleri hedef alabileceklerini tahmin ediyorlar.



Google tarih vererek uyardı: Tüm şifreler tehlikeye girecek

Kuantum bilgisayarlar, klasik bilgisayarların aksine 0 ve 1 (bit) yerine, aynı anda her ikisi olabilen kübit (kuantum bit) birimlerini kullanıyor (Reuters)
Kuantum bilgisayarlar, klasik bilgisayarların aksine 0 ve 1 (bit) yerine, aynı anda her ikisi olabilen kübit (kuantum bit) birimlerini kullanıyor (Reuters)
TT

Google tarih vererek uyardı: Tüm şifreler tehlikeye girecek

Kuantum bilgisayarlar, klasik bilgisayarların aksine 0 ve 1 (bit) yerine, aynı anda her ikisi olabilen kübit (kuantum bit) birimlerini kullanıyor (Reuters)
Kuantum bilgisayarlar, klasik bilgisayarların aksine 0 ve 1 (bit) yerine, aynı anda her ikisi olabilen kübit (kuantum bit) birimlerini kullanıyor (Reuters)

Google, kuantum bilgisayarların 2029'a kadar şifreli sistemleri ele geçirebileceği uyarısında bulundu.

Alphabet'in sahibi olduğu şirketin internet sitesindeki blog paylaşımında, kuantum bilgisayarların 2020'lerin sonuna kadar "mevcut şifreleme standartları için ciddi bir tehdit oluşturacağı" belirtildi.

Teknoloji devinin çarşamba günkü paylaşımında şu ifadelere yer verildi:

Bilgilerin gizli ve güvenli tutulması için kullanılan mevcut şifreleme sistemleri, önümüzdeki yıllarda büyük ölçekli bir kuantum bilgisayar tarafından kolayca kırılabilir. Kuantum bilgisayarlar mevcut şifreleme standartları, özellikle de dijital imzalar için ciddi bir tehdit oluşturacak.

Banka, devlet ve teknoloji hizmeti sağlayıcılarının kuantum bilgisayar korsanlarına karşı hazırlıklı olması gerektiği de vurgulandı.

Google, kendi şifreleme ve güvenlik sistemlerinin de bu tehditlere karşı güncellediğini bildirdi.

Cambridge merkezli kuantum teknolojisi şirketi Riverlane'in eski ürün geliştirme direktörü Leonie Mueck, depolanan gizli bilgilerin kuantum bilgisayar saldırılarına karşı korunabilmesi için uzun süredir çalışıldığını belirtiyor:

İstihbarat camiasında muhtemelen 10 yıldan fazladır bu tehdide karşı çalışmalar yapıldığını görüyoruz. Bugün gizli olarak sınıflandırılan belgelerin, 10 yıl sonra bir kuantum bilgisayarın şifresini çözemeyeceği şekilde depolanması gerekir.

Birleşik Krallık'ın (BK) siber güvenlik kurumu Ulusal Siber Güvenlik Merkezi'nden geçen yıl yapılan açıklamada, kuruluşların 2035'e kadar sistemlerini kuantum bilgisayar korsanlarına karşı daha güvenli hale getirmesi istenmişti.

BK ve ABD'deki üniversiteler, kuantum bilgisayarları son derece karmaşık matematiksel hesaplamalar yapmak için kullanıyor.

Ancak uzmanlara göre, kuantum mekaniğinin ilkeleriyle çalışan bu sistemlerin gelişmesiyle bilinen şifreleme modelleri de tehlikeye girebilir.

Teknoloji camiasında "Q Günü" diye de adlandırılan bu senaryoda, kuantum bilgisayarların mevcut tüm şifreleme sistemlerini aşarak kapsamlı siber saldırılarla küresel çapta felakete yol açabileceği öngörülüyor.

Independent Türkçe, Guardian, Gizmodo


Yapay zeka güvenliğinde çığır açan gelişme: Nöron dondurma

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
TT

Yapay zeka güvenliğinde çığır açan gelişme: Nöron dondurma

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)

Yapay zeka araştırmacıları, ChatGPT ve diğer popüler sohbet botlarını daha güvenli hale getirmek için yenilikçi bir teknik geliştirdi.

"Nöron dondurma" adı verilen bu yöntem, kullanıcıların yapay zeka araçlarının temelindeki büyük dil modellerine (BDM) yerleştirilen güvenlik filtrelerini atlatmasını engelliyor.

Bu BDM'ler halihazırda güvenliği, bir yanıt oluşturmaya başlarken ikili bir kontrol noktası olarak ele alıyor; bir sorgu güvenli görünüyorsa yapay zeka devam ediyor ancak tehlikeli görünüyorsa yanıt vermeyi reddediyor.

Kullanıcılar, zararlı komutları farklı bağlamlarda sunarak bu kontrolleri atlatmanın yollarını bulmayı başarıyor. Örneğin geçen yıl yapılan bir araştırma, kötü niyetli bir komutun şiir biçiminde yeniden yazılmasıyla yapay zeka güvenlik önlemlerinin atlatılabileceğini saptamıştı.

Bu atlatma yöntemlerinin düzeltilmesi için aracın yeniden eğitilmesi veya tek tek yamalar yapılması gerekiyor ancak yeni araştırma, kötüye kullanımı önlemek için etik sınırları BDM'lere kalıcı olarak kodlamanın yolunu sunuyor.

North Carolina Eyalet Üniversitesi'nden bir ekibin geliştirdiği çığır açıcı yöntem, sinir ağı içindeki güvenlik açısından kritik öneme sahip belirli "nöronları" tespit edip kullanıcı görevi nasıl tanımlarsa tanımlasın, modelin güvenlik özelliklerini koruyacak şekilde bu nöronları sabitlemeyi içeriyor.

North Carolina Eyalet Üniversitesi'nden araştırmayı yöneten doktora öğrencisi Jianwei Li, "Bu çalışmadaki amacımız, mevcut güvenlik uyumu sorunlarını daha iyi anlayarak BDM'ler için yüzeysel olmayan bir güvenlik uyumunun nasıl uygulanacağına dair yeni bir rota çizmekti" diyor.

İnce ayar sürecinde belirli nöronları 'dondurmanın', modelin spesifik bir alandaki yeni görevlere adapte olurken orijinal modelin güvenlik özelliklerini korumasına olanak tanıdığını tespit ettik.

North Carolina Eyalet Üniversitesi'nde bilgisayar bilimi alanında yardımcı doçent olan Jung-Eun Kim şöyle ekliyor: 

Buradaki genel tablo şu: BDM'lerde güvenlik uyumuyla ilgili zorlukları anlamada kavramsal bir çerçeve görevi gören bir hipotez geliştirdik, bu çerçeveyi kullanarak bu zorluklardan birini çözmemizi sağlayacak bir teknik belirledik ve ardından bu tekniğin işe yaradığını gösterdik.

Araştırmacılar, bu çalışmanın yapay zeka modellerinin yanıt üretirken akıl yürütmelerinin güvenli olup olmadığını sürekli değerlendirebilmesini sağlayacak yeni tekniklerin geliştirilmesine temel oluşturmasını umuyor.

Bu çığır açıcı gelişme, gelecek ay Brezilya'da düzenlenecek 14. Uluslararası Öğrenme Temsilleri Konferansı'nda (ICLR2026) sunulacak "Superficial safety alignment hypothesis" (Yüzeysel güvenlik uyumu hipotezi) başlıklı makalede detaylandırılıyor.

Independent Türkçe


Yapay zeka güvenliğinde çığır açan gelişme: "Nöron dondurma"

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
TT

Yapay zeka güvenliğinde çığır açan gelişme: "Nöron dondurma"

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)
Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi uygulamalara güç veren büyük dil modelleri için yeni bir güvenlik önlemi yöntemi keşfetti (Unsplash)

Yapay zeka araştırmacıları, ChatGPT ve diğer popüler sohbet botlarını daha güvenli hale getirmek için yenilikçi bir teknik geliştirdi.

"Nöron dondurma" adı verilen bu yöntem, kullanıcıların yapay zeka araçlarının temelindeki büyük dil modellerine (BDM) yerleştirilen güvenlik filtrelerini atlatmasını engelliyor.

Bu BDM'ler halihazırda güvenliği, bir yanıt oluşturmaya başlarken ikili bir kontrol noktası olarak ele alıyor; bir sorgu güvenli görünüyorsa yapay zeka devam ediyor ancak tehlikeli görünüyorsa yanıt vermeyi reddediyor.

Kullanıcılar, zararlı komutları farklı bağlamlarda sunarak bu kontrolleri atlatmanın yollarını bulmayı başarıyor. Örneğin geçen yıl yapılan bir araştırma, kötü niyetli bir komutun şiir biçiminde yeniden yazılmasıyla yapay zeka güvenlik önlemlerinin atlatılabileceğini saptamıştı.

Bu atlatma yöntemlerinin düzeltilmesi için aracın yeniden eğitilmesi veya tek tek yamalar yapılması gerekiyor ancak yeni araştırma, kötüye kullanımı önlemek için etik sınırları BDM'lere kalıcı olarak kodlamanın yolunu sunuyor.

North Carolina Eyalet Üniversitesi'nden bir ekibin geliştirdiği çığır açıcı yöntem, sinir ağı içindeki güvenlik açısından kritik öneme sahip belirli "nöronları" tespit edip kullanıcı görevi nasıl tanımlarsa tanımlasın, modelin güvenlik özelliklerini koruyacak şekilde bu nöronları sabitlemeyi içeriyor.

North Carolina Eyalet Üniversitesi'nden araştırmayı yöneten doktora öğrencisi Jianwei Li, "Bu çalışmadaki amacımız, mevcut güvenlik uyumu sorunlarını daha iyi anlayarak BDM'ler için yüzeysel olmayan bir güvenlik uyumunun nasıl uygulanacağına dair yeni bir rota çizmekti" diyor.

İnce ayar sürecinde belirli nöronları 'dondurmanın', modelin spesifik bir alandaki yeni görevlere adapte olurken orijinal modelin güvenlik özelliklerini korumasına olanak tanıdığını tespit ettik.

North Carolina Eyalet Üniversitesi'nde bilgisayar bilimi alanında yardımcı doçent olan Jung-Eun Kim şöyle ekliyor: 

Buradaki genel tablo şu: BDM'lerde güvenlik uyumuyla ilgili zorlukları anlamada kavramsal bir çerçeve görevi gören bir hipotez geliştirdik, bu çerçeveyi kullanarak bu zorluklardan birini çözmemizi sağlayacak bir teknik belirledik ve ardından bu tekniğin işe yaradığını gösterdik.

Araştırmacılar, bu çalışmanın yapay zeka modellerinin yanıt üretirken akıl yürütmelerinin güvenli olup olmadığını sürekli değerlendirebilmesini sağlayacak yeni tekniklerin geliştirilmesine temel oluşturmasını umuyor.

Bu çığır açıcı gelişme, gelecek ay Brezilya'da düzenlenecek 14. Uluslararası Öğrenme Temsilleri Konferansı'nda (ICLR2026) sunulacak "Superficial safety alignment hypothesis" (Yüzeysel güvenlik uyumu hipotezi) başlıklı makalede detaylandırılıyor.

Independent Türkçe