Jack Dorsey'nin desteklediği Web3 uygulaması Damus'a dair tüm bilinenler

Bitcoin'le entegre edilen yeni merkeziyetsiz uygulama, Çin'de yasaklanmasıyla şimdiden gündem yarattı.

İnternete erişimin daha güvenli ve sansürsüz yolları arandıkça Damus gibi yeni uygulamalar hızla ortaya çıkabilir (Independent Türkçe / Midjourney)
İnternete erişimin daha güvenli ve sansürsüz yolları arandıkça Damus gibi yeni uygulamalar hızla ortaya çıkabilir (Independent Türkçe / Midjourney)
TT

Jack Dorsey'nin desteklediği Web3 uygulaması Damus'a dair tüm bilinenler

İnternete erişimin daha güvenli ve sansürsüz yolları arandıkça Damus gibi yeni uygulamalar hızla ortaya çıkabilir (Independent Türkçe / Midjourney)
İnternete erişimin daha güvenli ve sansürsüz yolları arandıkça Damus gibi yeni uygulamalar hızla ortaya çıkabilir (Independent Türkçe / Midjourney)

Twitter'ın kurucusu Jack Dorsey'nin de yatırımcıları aralarında yer aldığı merkeziyetsiz uygulama geliştiricisi Nostr'ın iddialı projesi piyasaya çıktı.
Kolay arayüzü ve Twitter'a benzerliğiyle dikkat çeken Damus adlı platform, Apple ve Google'ın uygulama mağazalarında yerini aldı.
Web3 altyapısı üzerine kurulu uygulama, Bitcoin'in ödeme sistemiyle entegre olmasıyla da dikkat çekiyor.
Nostr bu merkeziyetsiz platform konusunda o kadar iddialı ki onu "Twitter katili" diye tanıtıyor.

Damus nasıl bir uygulama?
Damus, Web3 tabanlı sosyal ağları teşvik edebilecek kolaylıkta bir uygulama olarak görülüyor.
Ara yüzü Twitter'la epey benzer olan uygulamayı mobilden değil de örneğin bilgisayardan kullanmak isteyenler için "iris.to" ve "snort.social" gibi siteler geliştirilmiş durumda.
Platformda tıpkı Twitter gibi iletiler yazıp, bunlara yorum yapmak veya bunları yeniden paylaşmak mümkün. Ancak merkeziyetsiz olmasının da yanında çok önemli bir farkı var: Damus'ta karakter sınırı yok.

Neden merkeziyetsiz deniyor?
Platformun en önemli yönü ise açık kaynaklı Nostr protokolü üzerine kurulmuş olması. Bazılarına göre bu merkeziyetsiz yazılım protokolü internetin geleceğini değiştirmeye oynuyor.
Merkeziyetsizlik kavramı kabaca, kontrol ve karar verme yetkisinin merkezi bir varlıktan (birey, kuruluş veya grup) alınıp bir ağa dağıtılması anlamına geliyor. 
Twitter, Facebook ve Instagram gibi popüler platformlar, tek merkezden (şirketin yöneticileri) ve tek sunucu üzerinde yönelitiliyor. Dolayısıyla tüm kullanıcıların verileri bu merkezin elinde tutuluyor.
Bu merkez, kullanıcının hoşlanmayacağı değişiklikleri yapabilirken, aynı zamanda kullanıcının hesabını tamamen silebiliyor, verileri reklam şirketlerine satabiliyor ve bunlar üzerinden kazandığı parayı tamamıyla kendisine saklıyor.
Merkeziyetsiz platformlarda ise adından da anlaşılacağı üzere tek bir merkez yok. Bunlar, aslında iç içe geçmiş bir dizi ağdan oluşuyor. Bu ağlara Türkçede aktarıcı anlamına gelen "relay" adı veriliyor.
Nostr'ın açılımı da "Aktarıcılar Tarafından Aktarılan Notlar ve Diğer Öğeler" (Notes and Other Stuff Transmitted by Relays).
Diğer bir deyişle, Damus kullanıcılarının paylaştığı her bir ileti, bu iç içe geçmiş ağlara veri aktarılmasıyla sonuçlanıyor.

Web3'ün farkı: Mastodon'un aksine tek bir sunucuya bağlı değilsiniz
Elon Musk'ın Ekim 2022'de Twitter'ı resmen satın alması ve kullanıcıların hoşlanmayabileceği bir dizi değişikliğe gitmesi yeni platform arayışını beraberinde getirmişti.
Twitter'ın dışına çıkmak isteyen kullanıcıların yöneldiği ilk platform Mastodon olmuştu.
Mastodon da tıpkı Damus gibi merkeziyetsiz bir platform. Bu da iç içe geçmiş bir dizi ağdan oluşuyor. Örneğin Twitter'da tek bir ağ, Mastodon'da ise 5 binden fazla ağ var. Bunlara "sunucu" adı veriliyor.
Ancak Mastodon Web3 değil, Web2 tabanlı. Web2, bugün kullanıcıların deneyimlediği internete deniyor. Bu, kişisel veriler karşılığında hizmet sağlayan şirketlerin hakim olduğu bir ortam. Ancak Mastodon, dağıtık sunucular aracılığıyla Web2'de de merkeziyetsizliğin mümkün olduğunu savunan bir uygulama.
Web3 ise blok zinciri üzerinde inşa edilen, merkeziyetsiz uygulamaların hüküm sürdüğü yeni bir internet hayali.
 
Bu noktada akla şu soru geliyor: Damus'un Mastodon'dan ne farkı var?
En dikkat çeken farklılık, Mastodon'daki her bir sunucunun bir moderatörünün olması. Diğer bir deyişle, Mastodon'daki yaklaşık 5 bin sunucunun her biri bir sosyal medya platformu gibi davranıyor. Bu sunucuları kuran kişilerin, sunucuya kayıtlı kullanıcıyı engelleme, hesabını silme ve hatta mesajlarını okuyabilme olanağı bile var.
Öte yandan kullanıcılar bir moderatör tarafından engellenirse bir başka sunucuya hesabını taşıyarak veya bir başka sunucuda hesap açarak yine Mastodon ekosisteminde var olabilir. Mastodon'un Twitter karşısındaki en sık dile getirilen avantajı da bu.
Ancak Mastodon'un mantığı gereği platforma kaydolmak isteyen kullanıcının önce tek bir sunucuyu seçmesi ve ardından burada hesap açması gerekiyor. Örneğin Twitter anlaşmasından sonra Türkiye'den de Mastodon'a önemli bir akış olmuş ve bunun üzerine Berkay Çağır adlı genç bir yazılımcı "mastodon.com.tr" diye bir sunucu kurmuştu. Halihazırda Türk kullanıcıların önemli bir kısmı bu sunucu üzerine kayıtlı ve Çağır'ın koyduğu kurallara tabii.
Başka sunuculardan kullanıcıları takip etmek ve onlarla iletişim kurmak da sunucular arası veri aktarımıyla mümkün oluyor.
Damus'ta ise kullanıcının tek bir sunucuya bağlı kalmasına gerek yok. Kullanıcılar aynı anda 10 kadar "relay" seçebiliyor ve veri aktarımı bunlar üzerinden sağlanıyor. Yani kullanıcı hesaplarının engellenmesi mümkün değil.
Geliştiricilere göre bu, Web3 altyapısının en önemli özelliği. Bu merkeziyetsiz sistem sayesinde uygulama DDoS gibi tehlikeli siber saldırılara karşı da önemli bir korumaya sahip.

Sansüre çok daha dirençli, uçtan uca şifreli
Bu durum, Damus'un sansüre daha dirençli ve daha merkeziyetsiz bir yapıya sahip olduğu anlamına geliyor.
Kullanıcıların mesajları uçtan uca şifreli olduğu için üçüncü kişilerin bu yazıları okuması mümkün değil. Yani mesajlaşmalar hem Twitter hem de Mastodon'dan daha gizli.
Bunun yanı sıra kullanıcıların uygulamaya kaydolması için mail adresi veya telefon numarası gibi kimlik bilgilerini paylaşmasına gerek yok.
Kayıt olmak isteyenlerin yalnızca "yeni anahtar oluştur" (create a new key) seçeneğine tıklaması yeterli. Böylece hesap otomatik olarak açılıyor. Profil ve kapak fotoğrafı ayarlarken de telefon ya da bilgisayardan dosya yüklemek gerekmiyor. İnternet ortamında var olan herhangi bir görselin paylaşım linkini yapıştırarak profili süslemek mümkün.

Açık ve gizli anahtarlar
Damus'a kaydolan kullanıcılara iki anahtar veriliyor: Açık (public) ve kapalı (close) anahtarlar. Bunlar aslında çok uzun ve rastgele sıralanmış rakam ve harflerden oluşuyor.
Açık anahtar, kullanıcıların birbirini bulmak için kullandığı, bir nevi kullanıcı adı oluyor. Çünkü Damus'a kaydolmak için kimlik, e-mail veya telefon numarası bilgisi paylaşmak yerine bu anahtarları oluşturmak yeterli.
Tıpkı Mastodon gibi, burada da farklı relay'leri kullanan kişilerin birbirini bulması zor olabiliyor. Farklı relay'leri seçen kullanıcıları bulmanın tek yolu arama penceresine bu açık anahtarı yazmak.
Gizli anahtar ise kullanıcının uygulamaya ve profiline erişmek için kullandığı şifre. Bu da yine sistem tarafından oluşturuluyor. Bu yüzden uygulamaya hem kaydolmak hem de giriş yapmak son derece kolay. Çünkü açılan pencereye gizli anahtarınızı kopyalayıp yapıştırmanız yetiyor.

Dananın kuyruğunun koptuğu yer: Bitcoin
Uygulamanın Bitcoin'le ilişkisi hem çok övülen hem de en kafa karıştırıcı özelliklerden biri. Sistem Bitcoin Yıldırım Ağı'nı (Lightning Network) kullanarak bireylerin birbirine bahşiş vermesini, beğendiği iletilere bağış yapmasını mümkün kılıyor.
Yıldırım Ağı, ödeme işlemlerini hızlandıran ve işlem ücretlerini azaltan bir Bitcoin ödeme aracı.
Bu noktada akla şu soru geliyor: Damus'u kullanmak için Bitcoin cüzdanı mı gerekiyor?
Damus'ta beğenilen içeriklere kripto parayla bağış yapmak, bahsi geçen sistem sayesinde çok kolay. Ancak bağış yapma zorunluluğu yok. Yani Damus'u kullanmak isteyenlerin herhangi bir kripto cüzdanı olması gerekmiyor.

Dolandırıcılık riskine dikkat
Benzer şekilde uygulamayı kullanmak isteyenlerin Damus'a ait herhangi bir token alması da gerekmiyor. Ancak kripto paraların çoğu internet kullanıcısı tarafından karmaşık görülmesi dolandırıcılık riskini de artırıyor.
Örneğin daha şimdiden Damus'la ilgili dolandırıcılık girişimleri oldu. Kimliği belirsiz bir grup, DAMUS adlı bir token oluşturarak bunları uygulama adına satmaya başladı.
Uygulamanın resmi Twitter hesabından yapılan açıklamada konuyla ilgili şu ifadelere yer verildi:
"Damus'un token'ı yok ve asla olmayacak. Bir $DAMUS tokenı satın aldıysanız, dolandırıldınız demektir."

Sistemde güvenlik zaafiyeti olabilir
Bunun yanı sıra bazı uzmanlara göre uygulamanın işleyişi, kripto para takası yapan kullanıcılar için güvenlik zaafiyeti yaratabilir.
Nostr'da hesabın güvenliği sadece gizli anahtara bağlı. Bu anahtar çözüldükten sonra tüm hesabı ve dolayısıyla yapılan bağışları kontrol etmeleri mümkün oluyor.
Öte yandan, Web3 tabanlı uygulama geliştiriciler bu tür olası zaafiyetleri telafi etmek için de yeni yöntemler geliştirmeye devam ediyor.

Destekçileri arasında Snowden da var
Uygulama şimdiden Twitter kullanıcıları arasında konuşulmaya ve hatta indirilmeye başladı. Bunda Jack Dorsey'nin yanı sıra Edward Snowden'ın da payı var.
Jack Dorsey, Nostr'ı "açık kaynaklı protokoller için bir dönüm noktası" diye nitelerken Snowden da uygulamadaki yerini aldı.
CIA'in internet üzerinden tüm vatandaşları gözetlemek üzere bir sistem geliştirdiğini ortaya çıkaran ve ifşalarının ardından Rusya'ya sığınan Snowden, Damus için şunları yazdı:
"Platform sahibinin kimin konuşacağına ve neyin duyulacağına karar verdiği eski sosyal medya 'platformlarının' aksine #nostr açık kaynaklı. Platformlar bir su deposu ise protokoller bir nehirdir. Hiç kimse onların sahibi olamaz ve herkes yüzmekte özgür."
Dorsey de Nostr'ın geliştirilme sürecini finanse etmek için 14 BTC (yaklaşık 6 milyon lira) bağış yapmıştı.

Uygulama Çin’de yasaklandı
Öte yandan Çin hükümeti dün (4 Şubat) aldığı ani bir kararla Damus'u uygulama mağazalarından kaldırttı.
Yabancı servislerin ülkede faaliyet göstermesine karşı çıkan ve pek çok şirketin yasaklı olduğu Çin'in Siber Uzay İdaresi uygulamanın ulusal konuşma yasalarını ihlal ettiğini söylüyor.



Yapay zeka öncüsü, beyin çipinin burundan çekilmesini isteyen şirkete katıldı

Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
TT

Yapay zeka öncüsü, beyin çipinin burundan çekilmesini isteyen şirkete katıldı

Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Yapay zeka öncüsü Ray Kurzweil, solunum yoluyla alınan nanopartiküller aracılığıyla insanların beyinlerini bilgisayarlara bağlamayı hedefleyen bir nöroteknoloji girişimine katıldı.

Silikon Vadisi merkezli Subsense, Elon Musk'ın Neuralink'ine alternatif bir beyin-bilgisayar arayüzü (BBA) geliştirmeye çalışıyor. Şirket, beyne elektrot yerleştirmek için invaziv cerrahiye başvurmak yerine burun spreyi kullanmayı planlıyor.

Bu teknoloji, kokuyla ilgili bilgileri ileten olfaktör sinir aracılığıyla burun yolundan beyne elektrik yüklü nanopartiküller göndererek çalışıyor.

Partiküller beyne girdikten sonra nöronların yakınına yerleşiyor ve harici bir başlığın ürettiği manyetik alanlara tepki verebiliyor. Bu sayede cerrahi müdahaleye gerek kalmadan sinirsel aktivite okunup uyarılabiliyor.

Kurzweil, "Yapay zeka, nanoteknoloji ve sinirbilimin bir araya gelmesinin, insanların teknolojiyle etkileşim biçimini kökten değiştirebileceğine yıllardır inanıyorum" diyor.

Subsense, bu alanları son derece çarpıcı bir şekilde bir araya getiren bir yaklaşım izliyor. Bu yaklaşım, beyin-bilgisayar arayüzlerini günümüzün cerrahi kısıtlamalarının ötesine taşıyarak zamanla çok daha geniş kullanım alanlarına yöneltme potansiyeline sahip.

2012'den beri Google'da baş yapay zeka araştırmacısı olarak görev yapan Kurzweil, en çok 2005 tarihli teknolojik tekillik teorisiyle tanınıyor. Bu teoride, 2029'a gelindiğinde yapay zekanın insan zekasına ulaşacağını ve ardından 2045'te insanların makinelerle birleşerek kontrol edilemez bir zeka patlamasını tetikleyeceğini öne sürüyor.

Subsense'in kurucu ortağı ve CEO'su Tetiana Aleksandrova, "Ray'in kariyeri boyunca üzerinde düşündüğü bazı fikirler hâlâ geleceğe ait" diyor.

Bizim görevimiz, o geleceğin hangi kısımlarını bugün inşa etmeye başlayabileceğimizi titizlikle ve adım adım belirlemek.

Subsense, yenilikçi teknolojisini geliştirmek için şimdiden 27 milyon dolarlık fon topladı ve fareler üzerinde deneyler yürüttü.

Girişimin insan testlerine başlamasına hâlâ yıllar var ancak ilk uygulamalar Parkinson hastalığı ve ALS gibi nörolojik rahatsızlıklara odaklanmayı hedefliyor.

Son duyuru, BBA'lara duyulan ilginin giderek arttığı bir dönemde geldi; Çinli yetkililer, bu teknolojinin geliştirilmesi amacıyla kısa süre önce geniş çaplı bir girişim başlatmıştı.

Önceki aylarda BBA cihazlarının ticari kullanımını onaylayan ilk ülke olan Çin'de tıbbi kullanım amaçlı birçok ürün halihazırda satışta.

Musk'ın Neuralink şirketiyse beyin çipinin, kullanıcıların sadece düşünceleriyle robotik uzuvları ve bilgisayarları kontrol etmesini sağlaması gibi çeşitli kullanım alanlarını çoktan başarıyla sergiledi.

Gelecekteki denemelere katılma umuduyla 10 binden fazla kişi şirketin hasta kayıt sistemine başvurdu.

Independent Türkçe, independent.co.uk/tech


OpenAI'ın "korkutucu" bir güncelleme yaptığı iddiası: "Kırmızı çizgi aşılıyor"

(Reuters)
(Reuters)
TT

OpenAI'ın "korkutucu" bir güncelleme yaptığı iddiası: "Kırmızı çizgi aşılıyor"

(Reuters)
(Reuters)

Andrew Griffin 

Yapay zeka uzmanları, ChatGPT'ye geldiği söylenen ve yapay zeka sistemlerinin faaliyetlerini denetlemeyi zorlaştırabilecek "korkutucu" güncellemeyle ilgili alarma geçti.

Bu hafta çıkan haberlerde, OpenAI'ın yakında piyasaya süreceği Astra modelinin "opak tekrarlama" adı verilen bir teknik kullanacağı öne sürülse de şirket çalışanları bu haberleri yalanladı. OpenAI'ın söylentilere konu olan değişikliğini ilk kez bildiren teknoloji yayıncısı The Information, Anthropic ve Google DeepMind'ın da benzer güncellemeleri hayata geçirmeyi değerlendirdiğini ayrı bir haberde dile getirdi.

Tekrarlayan derinlik diye de bilinen opak tekrarlama, yapay zeka sistemlerinin zorlu görevleri daha iyi yerine getirmesini sağlayabilecek karmaşık ve teknik bir araç. Ancak uzmanlar bunun, düşünce zinciri denetimi tekniğini baltalayabileceği uyarısında bulunuyor. Bu teknik, bir yapay zeka sisteminin çıktısını üretirken girdiği akıl yürütme süreçlerinin bir kısmının insanlar tarafından görülmesini sağlıyor.

Düşünce zinciri denetiminin bazı sınırlamaları var. Ancak araştırmacıların, modellerin olası uygunsuz davranışlarını görüp nasıl ortaya çıktıklarını anlamasına imkan tanıdığından, yapay zeka güvenliğini sağlamada önemli bir araç olabilir.

Örneğin bir OpenAI modelinin başka bir yapay zeka şirketi Hugging Face'e kısa süre önce gerçekleştirdiği siber saldırıda araştırmacılar, deneysel sistemin saldırıyı başlatmaya nasıl karar verdiğini izleyebilmişti.

Yeni Astra modelinin bu tekniği kullandığını doğrulamayan OpenAI, ilk haberlerin "kafa karıştırıcı" olduğunu öne sürerken, The Information'a göre bu teknik yalnızca sınırlı bir şekilde kullanılıyor. OpenAI, Astra'yı piyasaya sürme planlarının devam edeceğini önceki günlerde duyurduğunda, aslında modelin "potansiyel olarak uyumsuz eylemleri hızla saptayıp kontrol altına almak için ek bir düşünce zinciri denetleme sistemi" içerdiğini belirtmişti.

Ancak yapay zeka uzmanları, yapay zeka sistemlerini denetleme yeteneğinin zayıflatılmasının tehlikeli bir süreci başlatabileceği uyarısında bulunuyor.

Yapay zeka güvenliği uzmanı Zvi Mowshowitz, Substack'te "Bu teknik ateşle oynamaktır. OpenAI ve Anthropic'in kurmak için mücadele ettiği, bizimse Düşünce Zinciri sadakatini ve denetlenebilirliğini elimizden geldiğince uzun süre korumak için büyük çaba harcadığımız bir tabuyu ihlal etme riskini taşıyor" diye yazıyor.

Bu tür tekniklerin daha yoğun kullanımı muhtemelen denetlenebilirliğe zarar verecek.

Büyük yapay zeka şirketlerini ve iddialarını düzenli olarak eleştiren araştırmacı Gary Marcus, bu "korkutucu durumun" kırmızı çizgiyi aşmak anlamına geleceğini söylüyor. Marcus "Düşünce zincirinin denetlenebilirliği sınırlı ve tam olarak güvenilir değil ancak ciddi derecede kötü sonuçları önlemek için pratikte elimizdeki tek yol bu" diye yazıyor.

OpenAI çalışanları, konuyla ilgili haberlerin "kafa karıştırıcı" olduğunu öne sürdü. Şirketin baş bilim insanı Jakub Pachocki, söylentilerin "denetlenemezliğe doğru bir yarış" başlatabileceği uyarısı yaparak OpenAI'ın düşünce zincirini denetlemeye yönelik bağlılığını korduğunu ve "bu tekniğe derinden önem verdiğini" söyledi.

Şirketin stratejik gelecekten sorumlu başkanı Dean W. Ball da benzer şekilde tartışmanın büyük ölçüde sosyal medyada gerçekleşmesini eleştirdi. Ball'a göre bu durum, "gerçekte neler olup bittiğine dair neredeyse hiç somut bilgiye sahip olmadan, teknik açıdan karmaşık ve incelikli iddialar hakkında sosyal medyada hüküm vermek" anlamına geliyor. Ball, X'te "Bu açıkçası çılgınca, akıl almaz ve ilgili herkes için sinir bozucu" diye yazdı.

Independent Türkçe, independent.co.uk/tech


OpenAI'dan bilinmeyen güvenlik açıklarını tek başına bulan modeliyle ilgili açıklama

Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
TT

OpenAI'dan bilinmeyen güvenlik açıklarını tek başına bulan modeliyle ilgili açıklama

Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)

OpenAI, yakında piyasaya sürmeyi planladığı Astra modeli hakkında yeni detaylar paylaştı. 

Yapay zeka şirketi, 1 Eylül Salı günü yaptığı açıklamada Astra'nın "kritik siber güvenlik eşiğine" ulaşan ilk büyük dil modeli olduğunu belirtti.

ChatGPT'nin yaratıcısı, yeni modelin bilgisayar sistemlerindeki bilinmeyen güvenlik açıklarını bulup insan yönlendirmesine ihtiyaç duymadan bunları suiistimal edebildiğini saptadı. Bu da Astra'yı, Risklere Hazırlık Çerçevesi'nin en gelişmiş kategorisine sokuyor.

OpenAI'ın 2023'te devreye soktuğu bu çerçeve, "ciddi zarara yol açabilecek yeni riskler getirme ihtimali olan gelişmiş yapay zeka yeteneklerini izleyip hazırlanma" amacı taşıyor.

Şirket geçen yıl yaptığı bir güncellemede, modellerin ciddi zarara yol açabilecek "mevcut yöntemleri" güçlendirdiği "yüksek" eşiği ve "benzeri görülmemiş yeni yollar" ortaya çıkarabileceği "kritik" eşiği belirlemişti.

OpenAI, siber kötüye kullanma ve modelin yetkisiz eylemlerine karşı korumaları güçlendirip test ederken, Astra'nın geliştirme ve piyasaya sürülme süreçlerinin bazı bölümlerini ertelediğini salı günkü açıklamasında paylaştı: 

Bu çalışmaya dayanarak Astra için geliştirdiğimiz korumaların ciddi zarar riskini, modelin Risklere Hazırlık Çerçevemiz kapsamında kullanıma sunulmasına imkan verecek ölçüde azalttığına inanıyoruz.

OpenAI, Astra'yı yakında kullanıma sunmayı planladığını ancak modelin en gelişmiş siber güvenlik kabiliyetlerine erişimi sınırlı tutacağını da belirtti. Gelişmiş siber güvenlik çalışmalarının başlangıçta bir test grubuna sunulması planlanıyor.

Astra'yla ilgili duyuru, OpenAI'ın güvenlik önlemlerinin yoğun eleştiri altında olduğu bir dönemde geldi. Temmuzda şirketin bazı modelleri eğitim ortamından kaçarak internete bağlanmış ve Hugging Face adlı firmaya saldırmıştı. OpenAI modellerin başkalarını da hedef aldığını daha sonra açıklamıştı.

OpenAI, Astra bu olaya karışmamış olsa da olaydan çıkardığı dersleri modelin güvenlik yaklaşımına dahil ettiğini belirtti.

Açıklamada "O zamandan bu yana Astra için daha da güçlü korumalar uygulamaya koyduk" ifadelerine yer verildi: 

Bunlar arasında modelin zararlı siber talepleri daha güvenilir biçimde reddetmesi ve güvenlik kısıtlamalarına uyması için eğitilmesi, kötüye kullanıma karşı ek korumalar ve potansiyel olarak yetkisiz etkinlikleri durdurabilen izleme sistemleri yer alıyor.

OpenAI, Astra'yı Hugging Face olayında kontrolden çıkan modeller gibi davranmaya iten deneyler hazırladığını ancak modelin test ortamından kaçmaya çalışmadığını söyledi.

Öte yandan TechCrunch, üçüncü taraflar tarafından teyit edilmeden, OpenAI'ın güvenlik veya hazırlıkla ilgili iddialarını doğrulamanın güçlüğüne dikkat çekiyor.

OpenAI Vakfı'nda yapay zeka dayanıklılığı üzerine çalışan eski OpenAI personeli Yona Shavit de Astra'nın kuralları ihlal etmekten kaçınmasının gerçekten güvenlik talimatlarına uymasından mı, yoksa test edildiğini anlayarak araştırmacıları yanıltmaya çalışmasından mı kaynaklandığını sorguluyor.

Independent Türkçe, TechCrunch, CNBC, OpenAI