Çöp adaları ve uzay çöpleri insanlığın sonunu mu getirecek?.. "Önlem alınmazsa Dünya'ya hapsolabiliriz"

Uzaydaki uydu çöplüğü insanlığı dünyaya hapsedebilir. Çöplerden oluşan okyanus adaları insanlık için alarm veriyor. Northwestern Üniversitesi'nden Dr. Özge Samancı, insanlığın bu kirlenmeye dur demesi gerektiğini söyledi

Çöp adaları ve uzay çöpleri insanlığın sonunu mu getirecek?.. "Önlem alınmazsa Dünya'ya hapsolabiliriz"
TT

Çöp adaları ve uzay çöpleri insanlığın sonunu mu getirecek?.. "Önlem alınmazsa Dünya'ya hapsolabiliriz"

Çöp adaları ve uzay çöpleri insanlığın sonunu mu getirecek?.. "Önlem alınmazsa Dünya'ya hapsolabiliriz"

Çöplerden oluşan okyanus adaları insanlık için alarm veriyor. Dünya'nın yakın yörüngesinde, birikmiş uzay çöpleri insanlık için tehlikeye işaret ediyor.
Sürekli uzaya uydu gönderilmesi gündeme geliyor. Ancak göz ardı edilen bir gerçek var ki, uzaydaki uydu çöplüğü önümüzdeki dönemlerde insanlığı dünyaya hapsedebilir.
Independent Türkçe'de yer alan haber göre sanal gerçeklik (VR) uygulamaları ile çevre sorunlarına dikkat çeken Northwestern Üniversitesi'nden Dr. Özge Samancı, insanlığın bu kirlenmeye "dur" demesi gerektiğini söyledi.

Pasifik okyanusundaki çöp adaları deniz kirliliğinin en görülebilen hali oluyor. Çöplerden oluşan bu adalar, insanların kullanıp attığı ürünlerden oluşuyor.  Devasa boyuttaki bu adalar, okyanusun akıntılarıyla toplanıyor. 
İnsanların okyanusa etkisini görülebilir şekilde gözler önüne seriyor.  Bunun yanı sıra, okyanustaki kirliliğin görünmeyen tehlikeleri olan mikro plastikler var. O plastiklerin çok küçük parçaya dönüşmüş halleri balıkların sindirim sistemine geçiyor.
Daha sonra o balıkları insanlar yediğinde, mikro plastikler insanlarin sindirim sistemine aktarılıyor. Bu durumun ne kadar tehlikeli boyutta olduğuna dikkat çeken Samancı, "Bedenimizde çok ciddi miktarda plastik var" uyarısında bulundu. 

Northwestern Üniversitesi'nden Dr. Özge Samancı

Yapay gübre yosun patlamasına neden oluyor
"İnsan popülasyonu arttığı için hızla bizim besin ihtiyacımız da artıyor" diyen Samancı, "Fakat dünyanın üzerinde hepimize yetecek kadar protein üretmek kolay değil. O yüzden aşırı miktarda besin üretimine ihtiyacımız var. Bu üretimi yapabilmek için de aşırı miktarda yapay gübre ve tarım ilacı kullanıyoruz. Yağmurlarla bu yapay gübreler ve kimyasallar okyanusa taşınıyor ve yosun patlaması dediğimiz okyanusun üstünü kapatan gelişmeler oluyor veya yapay gübrenin içindeki kimyasallar okyanusa karışıyor" şeklinde konuştu. 

Okyanusta hayat bittiği zaman, bizim için de bir yaşama şansı kalmıyor
Samancı, "İnsanlar, 'Okyanus çok büyük bir şey olmaz' diye düşünüyor. İnsan etkisinden kirlenmeyeceği düşüncesiyle hareket ediyor. Plastik adası işin en görülebilen kısmı yani buzdağının görünen kısmı. Aslında çok daha göz önünde olmayan derin problemler var. Okyanusta hayat bittiği zaman, bizim için bir yaşama şansı kalmıyor" dedi. 

Okyanusu kirlettiğimiz gibi uzayı da kirletiyoruz
Etkileşimli sanat yapmak için, yeni bulunan teknolojiler kullanılıyor. Bunlar arasında sanal gerçeklik ve bilgisayar kodları bulunuyor. 
Bu sanat dalını çevreyle ilgili konulara karşı insanlarda oluşan direnci kırmak için yaptığını söyleyen Dr. Özge Samancı, sözlerine şöyle devam etti:
"İnsanlar şöyle düşünüyor; 'Ben bir tane insanım, ne yapabilirim? Bütün herkes yapıyor. Ben pet şişeden su içmesem ne olacak?' O düşünce biçimi hepimizin içinde devam ediyor. O direnci kırmak için artık insanlara yeni metotlarla ulaşmak gerekiyor. "
Sanal gerçeklik ve yansıtma sanatı denilen geniş bir galeride yansıtarak gerçekleştirdiği Devasa Atık (VastWaste) adındaki çalışma hakkında  Dr. Samancı, "Bu işin içinde sanal gerçeklikte gördüğünüz iki tane sahne var. Birinci sahnede uzay boşluğunun içindesiniz, ikinci sahnede önce okyanusun üzerindesiniz, sonra okyanusun içine gömülüyorsunuz. Burada, okyanus kirliliği ve uzay kirliliği arasında bir bağ var. Birçok insan uzay kirliliği konusundan da haberdar olmayabilir. Biz okyanusu sınırsız büyük bir varlık olarak düşünüp, kirlettiğimiz gibi uzayı da uçsuz bucaksız bir alan olarak düşünüyoruz. Ama aslında öyle değil. Yer çekiminden dolayı bizim uzaya fırlattığımız her şey gidip evrenin sonsuzluğunda kaybolmuyor. Dünyanın etrafındaki yörüngede takılı kalıyor" ifadelerini kullandı.
1960 yıllardan bu yana uzay araştırmaları yapmak ve uydu yerleştirmek için çeşitli uzay araçları gönderiliyor.
Bu uzay araçları işleri bitse de yörüngede kalıyor. Bu ölü uydular, roket başlıkları, önceki kırılmalardan olan parçacıklar da birbirleriyle çarpışıp patladığı zaman parçacık miktarı artıyor.
İşin ilginç kısmı parça büyüklüğünün hiçbir önemi yok. Parça sayısının önemi var. Çünkü uzayda bir sürtünme kuvveti olmadığı için her şey saatte 25 bin  kilometre gibi akıl almaz bir hızla ilerliyor. Adeta bir mermi gibi.
Bu nedenle 10 santimetre civarında bir parça bile büyük bir uydu için tehlike teşkil edebiliyor. 

"Okyanustaki plastiklerin hızını ve uydu kullanma yoğunluğu verisini kullanıyoruz"
"Tıpkı okyanusu kirlettiğimiz gibi şimdi de Dünya'nın etrafındaki yörüngeyi kirletiyoruz" diyen Samancı, "Bu iki davranış biçimi arasındaki paralellikten bahsetmek istedim. Sanal gerçeklikte olan bu iş veri ile çalışıyor, okyanustaki plastiklerin hızını ve uydu kullanma yoğunluğu verisini kullanarak, bu iş için modellenmiş üç boyutlu uydu modellerini hareket ettiriyoruz. Sistemimiz veriye dayalı olduğu için kodladığımız yazılım internetten ilgili veriyi işin içine getiriyor ve verinin değerine göre animasyonları ve görselleri değiştiriyor. Müzik de her seferinde veriye bağlı olarak değişiyor. Seyirci bu işi deneyimlediğinde her seferinde başka bir versiyonunu görüyor. Yani aynı versiyonu iki kere görmek mümkün değil. Boş bir uzaydan başlıyor, uydular geliyor ve uydular birbirleriyle çarpışarak patlıyorlar. Süre geçtikçe etraftaki kırılan uydu miktarı artıyor, daha sonra bu uydu parçaları okyanusa gömülüyor" diye anlattı.  
Bu işin en ilginç yanlarından bir tanesi de okyanus kirliliğini ve uzay kirliliğin, birlikte ele alması. Gerçek hayatta kimi zaman görevi biten uydular sonunda Pasifik okyanusuna gömülüyor.
Dr. Samancı, bu durum için, "İki tane kirlettiğimiz alan, sonunda okyanusta birleşiyor. Bu bana, inanılmaz geliyor. Bu alanlar, sonsuz alanlar değil" şeklinde konuştu. 

Elon Musk insanlığı Dünya'ya mı hapsedecek?
Şu an uzay kirliliğini azaltabilecek herhangi bir teknoloji olmadığını vurgulayan Samancı, şu noktalara dikkat çekti:
"Avrupa Uzay Ajansı (European Space Agency) ve NASA, en büyük uzayla ilgili kurumlar, bu sorunun üstünde çalışıyorlar ama henüz uzay kirliliğini azaltabilecek bir teknoloji yok. Şu anda işlemde olan uydu sayısı 4 bin 500 civarında ve şu anda var olan uzay kirliliği öyle bir seviyedeki var olan bütün parçacıkları, çöpleri takip etmek zorundalar. O çöplerden biri işlemde olan bir uyduya çarpacak gibiyse işlemde olan uyduyu yukarı aşağı sağa sola şeklinde manevra yaptırıyorlar ki çarpışma gerçekleşmesin. 4 bin 500 uyduyla iş o kadar sıkışık bir hale gelmiş durumda.  Herkesin bayıldığı Elon Musk'ın Starlink diye bir projesi var, işleme koydu ve ilerliyor. Önümüzdeki 10 yıl içinde uydu sayısını 40 bine çıkarmayı planlıyor. Henüz uzay çöpü ile ilgili bir çözümümüz yok, 4 bin 500 uyduyla aşılmak üzere ve bu rakam 40 bine çıkacak. Okyanusta olan sorunun aynısı dünyanın yörüngesinde de devam ediyor."

"Önlem alınmadan uydu fırlatılmaya devam ederlerse Dünya'ya hapsolabiliriz"
Dünya'nın etrafındaki uzay araçlarının zincirleme çarpışmaları tetikleyecek seviyeye ulaşması olarak bilinen Kessler Etkisi, bu çarpışmaların çok sayıda yeni parçacık oluşmasına neden olabileceği konusunu ele alıyor. 
Dr. Samancı, bu çarpışmaların ulaşabileceği bir eşik noktası olduğuna dikkat çekerek, "Bu eşik noktasına ulaştığımız zaman birbirini tetikleyen, durdurulamaz çarpışmalar olacak. O eşik geçildiği zaman artık bizim uzaya herhangi bir uzay aracı göndermemiz mümkün olmayacak. Eğer uzay çöpünü azaltacak bir çözüm bulamazsak, uyduların hayatlarımıza sağladığı bütün kolaylıklardan vazgeçilmesi gerekecek" şeklinde hatırlatmada bulundu.  

"Okyanusun derinlerinden gelen internetinizi köpek balıkları diş izleriyle kesebilir"
Fiber Optik Okyanus (Fiber Optic Ocean) isimli çalışmada Samancı, sanal gerçeklikle okyanusun dibinden giden fiberoptik kablolardan söz ediyor. 
Bugün kullandığımız internetin, belki çoğunun uydular aracılığıyla sağlandığı düşünülebilir. Ama aslında günümüzde var olan internetin altyapısı okyanusun altından giden kablolara dayalı ve bu kabloların aslında deniz ekosistemi üstünde etkisi var.
Sanal gerçekliği kullanma amacının, insanlara sorunları başka bir şekilde hissettirmek olduğunu kaydeden Dr. Samancı, "Köpek balıkları, bu fiberoptik kablolara çekiliyorlar.  Neden kabloları ısırmak istediklerinin nedeni tam olarak bilinmiyor ama köpek balıkları epey diş izi bırakarak, kabloları kırıyorlar. Bu durum şirketlere çok büyük maddi zararlara mal oluyor. Okyanusun dibinde kırığı bulup, tamir ediyorlar. Bu canavar gibi yaratık insanların yarattığı çizgi gibi bir teknolojiye saldırıyor. Bu doğa ile teknoloji arasındaki mücadelenin neredeyse bir grafik tasarım şeklinde dışavurumu ve gerçek olamayacak kadar absürt bir an" diye anlattı.  
 
Köpek balıklarının okyanusta yüzme hızından elde edilen veri müziği ve görselleri belirliyor
Bu çalışmada sanal gerçekliğin içinde okyanusun derinliğinde, fiberoptik kabloların içine takılı kalmış köpek balığı iskeletleri var.
VR gözlükleri ile ortamın içindeyken, kendinizi okyanusun altında fiber optik kablolarının ve köpek balığı iskeletlerinin arasında buluyorsunuz. Fakat fiberoptik kablolar farklı renklerde yanıp söylüyorlar.
Bu işe eşlik eden müzik ve kabloların yanıp sönmesi, veriye dayalı olarak değişiyor. Bu değişimi köpek balıklarının okyanusta yüzme hızından elde edilen veri belirliyor.  
"Köpek balıklarına GPS takarak, hareketlerini takip eden ocearch.org  isimli sitenin verilerini kullanıyoruz" diyen Samancı, "O sistem sayesinde köpek balıklarının okyanustaki var olan hızını hesaplayabiliyoruz. O hızı ve insanların interneti kullanma hızını kullanarak, bu işi yaptık. Bir anlamda doğanın hızı ve insanın hızlı şeklinde iki veri bir araya geliyor" dedi.  

Beyin dalgalarınızla okyanus dalgalarını nasıl yönetirsiniz?
Beyin dalgalarını kullanarak yaptığı Sen Okyanussun (You are the Ocean)  isimli çalışmasında Samancı, "Katılımcıya beyin dalgası ölçen sensör takıyoruz. Sanat galerisinin duvarına ise, gerçekçi bir okyanus yansıtıyoruz. Bu okyanus kamerayla çekilmiş bir video değil. Bilgisayar koduyla yaptığımız, tamamen koda dayalı bir okyanus ama gerçekçi bir sunum. Eğer etkileşen kişi kafasında bir problem çözmeye çalışıyorsa fırtınalı ve son derece dalgalı bir okyanus oluşuyor. Eğer daha kaygısız, anın içinde var olan bir düşünce modundaysa beyin dalgaları güneşli, sakin, dalgasız bir okyanus oluşturuyor. Aradaki geçişler de son derece yumuşak bir şekilde gerçekleşiyor" ifadeleriyle anlattı.

Biz Dünya'nın aynası, Dünya da bizim aynamız
Dr. Samancı, son olarak, çalışmanın amacını şu sözlerle anlattı:
"Pek çok insan, 'Ben insanım ve var olan bütün varlıklar benim için yaratıldı' diye düşünebiliyor. Ama belki de buna şöyle bakabiliriz; bir evren ve bir Dünya var, insan da bunun uzantısı, parçası yani faydalanmak şeklinde değil. Her ekosistemin eşit olduğu, insanın diğer ekosistemlerden daha üstün olmadığı, bizim her şeyin bir parçası ve uzantısı olduğumuz bir düşünme biçimi. Eğer kendimizi ustun görmezsek, dünyayı ve kaynakları da kendi çıkarımız için kullanmayız, diğer varlıkları da düşünürüz. Biz Dünya'nın aynası, Dünya da bizim aynamız gibi bir düşünce biçimi. Bu iş insanlar üzerine o bağı hissetme anlamında gerçekten çok etkili oldu."



Yapay zeka öncüsü, beyin çipinin burundan çekilmesini isteyen şirkete katıldı

Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
TT

Yapay zeka öncüsü, beyin çipinin burundan çekilmesini isteyen şirkete katıldı

Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Yapay zeka öncüsü Ray Kurzweil, solunum yoluyla alınan nanopartiküller aracılığıyla insanların beyinlerini bilgisayarlara bağlamayı hedefleyen bir nöroteknoloji girişimine katıldı.

Silikon Vadisi merkezli Subsense, Elon Musk'ın Neuralink'ine alternatif bir beyin-bilgisayar arayüzü (BBA) geliştirmeye çalışıyor. Şirket, beyne elektrot yerleştirmek için invaziv cerrahiye başvurmak yerine burun spreyi kullanmayı planlıyor.

Bu teknoloji, kokuyla ilgili bilgileri ileten olfaktör sinir aracılığıyla burun yolundan beyne elektrik yüklü nanopartiküller göndererek çalışıyor.

Partiküller beyne girdikten sonra nöronların yakınına yerleşiyor ve harici bir başlığın ürettiği manyetik alanlara tepki verebiliyor. Bu sayede cerrahi müdahaleye gerek kalmadan sinirsel aktivite okunup uyarılabiliyor.

Kurzweil, "Yapay zeka, nanoteknoloji ve sinirbilimin bir araya gelmesinin, insanların teknolojiyle etkileşim biçimini kökten değiştirebileceğine yıllardır inanıyorum" diyor.

Subsense, bu alanları son derece çarpıcı bir şekilde bir araya getiren bir yaklaşım izliyor. Bu yaklaşım, beyin-bilgisayar arayüzlerini günümüzün cerrahi kısıtlamalarının ötesine taşıyarak zamanla çok daha geniş kullanım alanlarına yöneltme potansiyeline sahip.

2012'den beri Google'da baş yapay zeka araştırmacısı olarak görev yapan Kurzweil, en çok 2005 tarihli teknolojik tekillik teorisiyle tanınıyor. Bu teoride, 2029'a gelindiğinde yapay zekanın insan zekasına ulaşacağını ve ardından 2045'te insanların makinelerle birleşerek kontrol edilemez bir zeka patlamasını tetikleyeceğini öne sürüyor.

Subsense'in kurucu ortağı ve CEO'su Tetiana Aleksandrova, "Ray'in kariyeri boyunca üzerinde düşündüğü bazı fikirler hâlâ geleceğe ait" diyor.

Bizim görevimiz, o geleceğin hangi kısımlarını bugün inşa etmeye başlayabileceğimizi titizlikle ve adım adım belirlemek.

Subsense, yenilikçi teknolojisini geliştirmek için şimdiden 27 milyon dolarlık fon topladı ve fareler üzerinde deneyler yürüttü.

Girişimin insan testlerine başlamasına hâlâ yıllar var ancak ilk uygulamalar Parkinson hastalığı ve ALS gibi nörolojik rahatsızlıklara odaklanmayı hedefliyor.

Son duyuru, BBA'lara duyulan ilginin giderek arttığı bir dönemde geldi; Çinli yetkililer, bu teknolojinin geliştirilmesi amacıyla kısa süre önce geniş çaplı bir girişim başlatmıştı.

Önceki aylarda BBA cihazlarının ticari kullanımını onaylayan ilk ülke olan Çin'de tıbbi kullanım amaçlı birçok ürün halihazırda satışta.

Musk'ın Neuralink şirketiyse beyin çipinin, kullanıcıların sadece düşünceleriyle robotik uzuvları ve bilgisayarları kontrol etmesini sağlaması gibi çeşitli kullanım alanlarını çoktan başarıyla sergiledi.

Gelecekteki denemelere katılma umuduyla 10 binden fazla kişi şirketin hasta kayıt sistemine başvurdu.

Independent Türkçe, independent.co.uk/tech


OpenAI'ın "korkutucu" bir güncelleme yaptığı iddiası: "Kırmızı çizgi aşılıyor"

(Reuters)
(Reuters)
TT

OpenAI'ın "korkutucu" bir güncelleme yaptığı iddiası: "Kırmızı çizgi aşılıyor"

(Reuters)
(Reuters)

Andrew Griffin 

Yapay zeka uzmanları, ChatGPT'ye geldiği söylenen ve yapay zeka sistemlerinin faaliyetlerini denetlemeyi zorlaştırabilecek "korkutucu" güncellemeyle ilgili alarma geçti.

Bu hafta çıkan haberlerde, OpenAI'ın yakında piyasaya süreceği Astra modelinin "opak tekrarlama" adı verilen bir teknik kullanacağı öne sürülse de şirket çalışanları bu haberleri yalanladı. OpenAI'ın söylentilere konu olan değişikliğini ilk kez bildiren teknoloji yayıncısı The Information, Anthropic ve Google DeepMind'ın da benzer güncellemeleri hayata geçirmeyi değerlendirdiğini ayrı bir haberde dile getirdi.

Tekrarlayan derinlik diye de bilinen opak tekrarlama, yapay zeka sistemlerinin zorlu görevleri daha iyi yerine getirmesini sağlayabilecek karmaşık ve teknik bir araç. Ancak uzmanlar bunun, düşünce zinciri denetimi tekniğini baltalayabileceği uyarısında bulunuyor. Bu teknik, bir yapay zeka sisteminin çıktısını üretirken girdiği akıl yürütme süreçlerinin bir kısmının insanlar tarafından görülmesini sağlıyor.

Düşünce zinciri denetiminin bazı sınırlamaları var. Ancak araştırmacıların, modellerin olası uygunsuz davranışlarını görüp nasıl ortaya çıktıklarını anlamasına imkan tanıdığından, yapay zeka güvenliğini sağlamada önemli bir araç olabilir.

Örneğin bir OpenAI modelinin başka bir yapay zeka şirketi Hugging Face'e kısa süre önce gerçekleştirdiği siber saldırıda araştırmacılar, deneysel sistemin saldırıyı başlatmaya nasıl karar verdiğini izleyebilmişti.

Yeni Astra modelinin bu tekniği kullandığını doğrulamayan OpenAI, ilk haberlerin "kafa karıştırıcı" olduğunu öne sürerken, The Information'a göre bu teknik yalnızca sınırlı bir şekilde kullanılıyor. OpenAI, Astra'yı piyasaya sürme planlarının devam edeceğini önceki günlerde duyurduğunda, aslında modelin "potansiyel olarak uyumsuz eylemleri hızla saptayıp kontrol altına almak için ek bir düşünce zinciri denetleme sistemi" içerdiğini belirtmişti.

Ancak yapay zeka uzmanları, yapay zeka sistemlerini denetleme yeteneğinin zayıflatılmasının tehlikeli bir süreci başlatabileceği uyarısında bulunuyor.

Yapay zeka güvenliği uzmanı Zvi Mowshowitz, Substack'te "Bu teknik ateşle oynamaktır. OpenAI ve Anthropic'in kurmak için mücadele ettiği, bizimse Düşünce Zinciri sadakatini ve denetlenebilirliğini elimizden geldiğince uzun süre korumak için büyük çaba harcadığımız bir tabuyu ihlal etme riskini taşıyor" diye yazıyor.

Bu tür tekniklerin daha yoğun kullanımı muhtemelen denetlenebilirliğe zarar verecek.

Büyük yapay zeka şirketlerini ve iddialarını düzenli olarak eleştiren araştırmacı Gary Marcus, bu "korkutucu durumun" kırmızı çizgiyi aşmak anlamına geleceğini söylüyor. Marcus "Düşünce zincirinin denetlenebilirliği sınırlı ve tam olarak güvenilir değil ancak ciddi derecede kötü sonuçları önlemek için pratikte elimizdeki tek yol bu" diye yazıyor.

OpenAI çalışanları, konuyla ilgili haberlerin "kafa karıştırıcı" olduğunu öne sürdü. Şirketin baş bilim insanı Jakub Pachocki, söylentilerin "denetlenemezliğe doğru bir yarış" başlatabileceği uyarısı yaparak OpenAI'ın düşünce zincirini denetlemeye yönelik bağlılığını korduğunu ve "bu tekniğe derinden önem verdiğini" söyledi.

Şirketin stratejik gelecekten sorumlu başkanı Dean W. Ball da benzer şekilde tartışmanın büyük ölçüde sosyal medyada gerçekleşmesini eleştirdi. Ball'a göre bu durum, "gerçekte neler olup bittiğine dair neredeyse hiç somut bilgiye sahip olmadan, teknik açıdan karmaşık ve incelikli iddialar hakkında sosyal medyada hüküm vermek" anlamına geliyor. Ball, X'te "Bu açıkçası çılgınca, akıl almaz ve ilgili herkes için sinir bozucu" diye yazdı.

Independent Türkçe, independent.co.uk/tech


OpenAI'dan bilinmeyen güvenlik açıklarını tek başına bulan modeliyle ilgili açıklama

Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
TT

OpenAI'dan bilinmeyen güvenlik açıklarını tek başına bulan modeliyle ilgili açıklama

Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)

OpenAI, yakında piyasaya sürmeyi planladığı Astra modeli hakkında yeni detaylar paylaştı. 

Yapay zeka şirketi, 1 Eylül Salı günü yaptığı açıklamada Astra'nın "kritik siber güvenlik eşiğine" ulaşan ilk büyük dil modeli olduğunu belirtti.

ChatGPT'nin yaratıcısı, yeni modelin bilgisayar sistemlerindeki bilinmeyen güvenlik açıklarını bulup insan yönlendirmesine ihtiyaç duymadan bunları suiistimal edebildiğini saptadı. Bu da Astra'yı, Risklere Hazırlık Çerçevesi'nin en gelişmiş kategorisine sokuyor.

OpenAI'ın 2023'te devreye soktuğu bu çerçeve, "ciddi zarara yol açabilecek yeni riskler getirme ihtimali olan gelişmiş yapay zeka yeteneklerini izleyip hazırlanma" amacı taşıyor.

Şirket geçen yıl yaptığı bir güncellemede, modellerin ciddi zarara yol açabilecek "mevcut yöntemleri" güçlendirdiği "yüksek" eşiği ve "benzeri görülmemiş yeni yollar" ortaya çıkarabileceği "kritik" eşiği belirlemişti.

OpenAI, siber kötüye kullanma ve modelin yetkisiz eylemlerine karşı korumaları güçlendirip test ederken, Astra'nın geliştirme ve piyasaya sürülme süreçlerinin bazı bölümlerini ertelediğini salı günkü açıklamasında paylaştı: 

Bu çalışmaya dayanarak Astra için geliştirdiğimiz korumaların ciddi zarar riskini, modelin Risklere Hazırlık Çerçevemiz kapsamında kullanıma sunulmasına imkan verecek ölçüde azalttığına inanıyoruz.

OpenAI, Astra'yı yakında kullanıma sunmayı planladığını ancak modelin en gelişmiş siber güvenlik kabiliyetlerine erişimi sınırlı tutacağını da belirtti. Gelişmiş siber güvenlik çalışmalarının başlangıçta bir test grubuna sunulması planlanıyor.

Astra'yla ilgili duyuru, OpenAI'ın güvenlik önlemlerinin yoğun eleştiri altında olduğu bir dönemde geldi. Temmuzda şirketin bazı modelleri eğitim ortamından kaçarak internete bağlanmış ve Hugging Face adlı firmaya saldırmıştı. OpenAI modellerin başkalarını da hedef aldığını daha sonra açıklamıştı.

OpenAI, Astra bu olaya karışmamış olsa da olaydan çıkardığı dersleri modelin güvenlik yaklaşımına dahil ettiğini belirtti.

Açıklamada "O zamandan bu yana Astra için daha da güçlü korumalar uygulamaya koyduk" ifadelerine yer verildi: 

Bunlar arasında modelin zararlı siber talepleri daha güvenilir biçimde reddetmesi ve güvenlik kısıtlamalarına uyması için eğitilmesi, kötüye kullanıma karşı ek korumalar ve potansiyel olarak yetkisiz etkinlikleri durdurabilen izleme sistemleri yer alıyor.

OpenAI, Astra'yı Hugging Face olayında kontrolden çıkan modeller gibi davranmaya iten deneyler hazırladığını ancak modelin test ortamından kaçmaya çalışmadığını söyledi.

Öte yandan TechCrunch, üçüncü taraflar tarafından teyit edilmeden, OpenAI'ın güvenlik veya hazırlıkla ilgili iddialarını doğrulamanın güçlüğüne dikkat çekiyor.

OpenAI Vakfı'nda yapay zeka dayanıklılığı üzerine çalışan eski OpenAI personeli Yona Shavit de Astra'nın kuralları ihlal etmekten kaçınmasının gerçekten güvenlik talimatlarına uymasından mı, yoksa test edildiğini anlayarak araştırmacıları yanıltmaya çalışmasından mı kaynaklandığını sorguluyor.

Independent Türkçe, TechCrunch, CNBC, OpenAI