Beyin çiplerinin hikayesi: İnsanlarda denenmek üzere onay alan Neuralink'in yolculuğu

"Avantajları kadar riskleri de tartışma konusu"

Şirket 158 milyon dolar finansman aldı ve 90 çalışanı var (Reuters)
Şirket 158 milyon dolar finansman aldı ve 90 çalışanı var (Reuters)
TT

Beyin çiplerinin hikayesi: İnsanlarda denenmek üzere onay alan Neuralink'in yolculuğu

Şirket 158 milyon dolar finansman aldı ve 90 çalışanı var (Reuters)
Şirket 158 milyon dolar finansman aldı ve 90 çalışanı var (Reuters)

Çağla Üren

SpaceX, Tesla ve Twitter'ın sahibi Elon Musk’ın beyin çipi girişimi Neuralink, ilk insan deneyleri için hasta alımına başlamak üzere bağımsız bir inceleme kurulundan onay aldığını duyurdu.

Bunun ardından şirket, beyin implantlarının felçlilerde test edilmesi için hastalar aramaya başladı.

İmplant, omurilik yaralanmaları nedeniyle felç geçiren hastalarda test edilecek. Yaklaşık 6 yıl sürecek çalışkömanın nerede yapılacağı ve kaç katılımcıyı içereceğini açıklanmadı.

Firma, mayısta beyin çipi projesinin insanlar üzerinde denenmesine başlanması için ABD Gıda ve İlaç İdaresi'nden (FDA) de onay alındığını açıklamıştı.

Girişimin temel amacı, beyne yerleştirilecek mikroçipler üreterek felç ve körlük gibi nörolojik nedenleri olabilecek rahatsızlıkları tedavi etmek ve engellilerin hayat kalitesini artırmak.

Öte yandan Neuralink, esasen aynı amaç doğrultusunda çalışan onlarca şirketten sadece biri. Medyada beyin çipi diye anılan bu teknolojiye "beyin-bilgisayar arayüzü" (BBA) adı veriliyor.

Beyin-bilgisayar arayüzü nedir, nasıl çalışır?

Araştırmacılar ve şirketler insan beynini harici cihazlara bağlamak için yaratıcı çözümler geliştirdikçe BAA alanında da sıradışı ilerlemeler kaydediliyor. Kısacası bu teknoloji alanı, insan beynini bilgisayara bağlamak için geliştirilen tüm yöntemleri kapsıyor.

Teknolojiye ilişkin araştırmalar 1970'lerde Kaliforniya Üniversitesi Beyin Araştırma Enstitüsü'nden nörolog Dr. Jacques J. Vidal'ın gözetiminde başladı. Araştırmacıların hayvan modellerinden ilerlemek için gereken temel teknolojik altyapıyı oluşturması 20 yıldan fazla zaman aldı. 1990'ların ortalarına gelindiğindeyse ilk BBA prototipleri insan kafatasına yerleştirilmeye başlamıştı.

İnsanların daha iyi iletişim kurması ve bilişsel yeteneklerinin artırılması amacıyla çalışan araştırmacılar, yıllar içinde hem invaziv hem de invaziv olmayan BBA teknikleri geliştirildi.

Cerrahi operasyonla beyne müdahale edilerek yerleştirilen çipler invaziv diye nitelenirken, ameliyat gerektirmeyen teknolojilere de invaziv olmayan yöntemler deniyor.

Neuralink, invaziv bir teknoloji

İnvaziv çiplerin daha yüksek çözünürlüklü sinir sinyallerini yakalama olanağı sunduğu düşünülüyor. Bu yaklaşım, beyin ve harici cihazlar arasında daha doğrudan bir iletişime olanak tanıyabilir.

Neuralink, invaziv çipler alanında önde gelen şirketlerden. Diğer bir deyişle Musk'ın firması, çipleri cerrahların beyin ameliyatlarıyla implante etmesini öngörüyor.

Bu alanda öne çıkan diğer şirketler arasında Blackrock Microsystems ve Synchron gibi girişimler var.

Öte yandan, invaziv çiplerin avantajları kadar riskleri de tartışma konusu.

Zira bu operasyonlar, enfeksiyon riskini ve vücudun implantı reddetmesi gibi ihtimalleri gündeme getiriyor. Çiplerin uzun vadede çalışır durumda kalabilmesini sağlamak da bir diğer zorluk.

Teknolojinin ticari amaçlarla hayata geçirilmeden önce tüm bu zorlukların ele alınması şart.

İnvaziv olmayan BBA

İnvaziv olmayan beyin-bilgisayar arayüzleri ise beyinle doğrudan temas gerektirmiyor. Bu teknoloji, sinir sinyallerini tespit etmek için harici sensörler kullanıyor.

Örneğin, elektroensefalografi (EEG) ve fonksiyonel yakın kızılötesi spektroskopi (fNIRS) gibi halihazırda tıpta kullanılan tekniklere dayanarak çalışmalarını yürüten üniversiteler ve şirketler var.

Bu şirketlerin başında Emotiv, Neurable ve Kernel geliyor.

İnvaziv olmayan BBA'lar, daha düşük risk barındırıyor. Aynı zamanda maliyetleri de daha az.

Ancak bunlar, insanların kafalarına takılan ve genellikle şapkayı andıran giyilebilir cihazlar aracılığıyla beyin sinyallerini dışarıdan yakalamaya çalışıyor. Bu da iletişimi, diğerine kıyasla daha dolaylı bir hale getiriyor ve sinyal çözünürlüğünün düşmesi riskini taşıyor.

Felçli bir hastayı yürütmüş, bir diğerine içecek içirmişti

BBA teknolojileri, beynin seçilen bölümlerindeki nöronlardan gelen sinyalleri okumak ve bunların kodunu çözmek üzere tasarlandı.

Bu cihazlar, kodu çözülen sinyalleri bir bilgisayara aktarıyor. Beynin çalışma biçimine dair bilgiler doğrultusunda oluşturulan algoritmalar da bu sinyalleri yorumluyor. Nihayetinde beyinden gelen komutlar, hastaların ellerini kullanmadan yazı yazabilmesini, tekerlekli sandalyelerini hareket ettirebilmesini ve hatta robotik teknolojileri aracılığıyla kol ya da bacaklarını kullanabilmesini sağlıyor.

İlk olarak invaziv olmayan yöntemlerle adını duyuran BBA teknolojisi, 2008'de geçirdiği trafik kazası nedeniyle felç kalan 27 yaşındaki Adam Fritz'in yeniden yürüyebilmesiyle büyük yankı uyandırmıştı.

2015'te bu yapılan deneyde Fritz, saatler boyunca düşünceleriyle bilgisayar ekranındaki bir avatara yürüme komutu verme pratiği yapmıştı. Sonunda "düşünce gücüyle" yürümeyi öğrenen genç adam, vücuduna sarılan halatlar ve kablolar sayesinde kendi bacaklarını hareket ettirerek yürümeyi başarmıştı.

Bunun hemen öncesinde, 2012'de yapılan bir diğer çalışmada da felçli bir kadın, kendisine bağlanan bir robotik kolu hareket ettirerek kendi kendine içeceğini içebilmişti.

İnvaziv olmayan cihazların mümkün kıldığı bu iki erken gelişme, BBA'ların önünü açan önemli uğraklardan olmuştu.

Daha karmaşık hareketler mümkün mü?

Öte yandan, tekil nöronların aktivitesini kaydedebilen invaziv BBA'ların (yani implantların) kullanımıyla sinyal doğruluğu arttıkça daha karmaşık eylemler de mümkün kılınabilir.

Massachusetts Genel Hastanesi Nöroloji Bölümü'nde ve Brown Üniversitesi'nde görev alan Dr. Leigh Hochberg, Engadget'a yaptığı açıklamada şöyle diyor:

Esneklikten faydalanmak istiyoruz. Tıpkı sağlıklı bir kişinin ellerini kullanarak kalemle yazı yazabilmesi ve sonra yine ellerini bilgisayar faresini kontrol etmek için kullanabilmesi, sonra da uzanıp bir fincan kahve alabilmesi gibi. Beyinden kayıt alınmasının nedenlerinden biri, birden fazla kullanışlı cihaz üzerinde esnek kontrole olanak tanıyan sinyalleri kullanmak.

Daha güvenli implantasyon mümkün mü?

Neuralink'in en büyük rakiplerinden Avustralya merkezli Synchron'un beyin implantı teknolojisi, invaziv ve invaziv olmayan çiplerin hemen hemen ortasında yer aldığını, dolayısıyla daha güvenli olduğunu iddia ediyor.

Firmanın geliştirdiği Stentrode adlı beyin çipi küçük, tüp benzeri bir cihaz. Boyundaki bir kan damarına açılan bir kesiden içeri sokulan cihaz, beyne doğru ilerleyerek elektrik sinyallerini kaydedebildiği bir konuma yerleşiyor.

Vücudunu kullanamayan hasta tweet atmıştı

Aralık 2021'de ALS hastası Philip O'Keefe, bu çip sayesinde sadece beynini kullanarak birkaç tweet atmıştı.

62 yaşındaki O'Keefe, 23 Aralık'ta attığı tweet'lerde şöyle yazmıştı:

Selam dünya! Kısa tweet. Büyük ilerleme. Tuşa basmaya veya sese gerek yok. Bu tweet'i sadece düşünerek oluşturdum. İnsanların, düşünceleriyle tweet atmasının yolunu açmayı umuyorum.

Philip O'Keefe, ALS yüzünden pek çok motor fonksiyonunu kaybetti (Twitter/@tomoxl)
Philip O'Keefe, ALS yüzünden pek çok motor fonksiyonunu kaybetti (Twitter/@tomoxl)

Bu araçlar nispeten yakın zamana kadar beyin ve bilgisayar arasında kablolu bağlantılar gerektiriyordu. Son teknolojilerin ışığında bu kablolar ortadan kalktı.

Neuralink çipleri de kablosuz çalışıyor.

Neuralink'in ameliyatı nasıl olacak, çip nasıl şarj edilecek?

Musk'ın aktarımına göre, çiplerin kafatasına yerleştirilmesi için genel anesteziye ihtiyaç duyulmayacak.

Tüm operasyonun bir saatten az sürede dikiş makinesini andıran robotlarla yapılacağını söyleyen milyarder, "Elektrotların beyne yerleşmesinden sonra insanların sadece küçük bir yarası olacak. Eğer iyi yapılırsa kanama da olmayacak" demişti.

Söz konusu operasyonlarda robotik bir cihaz, kafatasından küçük bir parça çıkarıyor. Sonra iplik benzeri elektrotları beynin belirli bölgelerine bağlıyor ve deliği dikiyor. Dışarıdan görülebilen tek şey, kesikten kalan yara izi oluyor.

Elektrotlar, beyne implante edilirken böyle görünecek (Neuralink)
Elektrotlar, beyne implante edilirken böyle görünecek (Neuralink)

Musk, bu cerrahi prosedürü "kafatasının bir parçasını akıllı saatle değiştirmeye" benzetiyor.

Ayrıca çipin küçük pilinin indüksiyon yoluyla kablosuz şarj edileceği belirtiliyor.

Domuz Gertrude ve Pong oynayan maymun

Tam adı Neuralink Corporation olan şirket, Musk ve 8 nörolog tarafından, "implante edilebilir beyin-makine arayüzleri geliştirme amacıyla" 2016'da San Francisco'da kurulmuştu.

2019'da Neuralink araştırma laboratuvarında yapılan bir gösteride şirket, laboratuvar faresine bağlı bir sistemin 1500 elektrottan bilgi okuduğunu göstermişti. Bu, insanlara yerleştirilmiş mevcut sistemlerden 15 kat daha iyi bir performansa işaret ediyordu. Böylece gözler, firmanın çip teknolojisine çevrilmişti.

Musk, Neuralink çipini ilk kez 2020'deki sunumda Gertrude adlı bir domuz üzerinde yapılan gösteriyle tüm kamuoyuna tanıtmıştı.

Söz konusu gösteride Gertrude'un implant tarafından algılanan beyin sinyalleri gerçek zamanlı olarak görselleştirilmişti. Milyarder, sunumda şöyle konuşmuştu:

Bu, ekranda Neuralink'in vuruşları görülüyor. Domuzların beynine yerleştirilen 1024 elektrottan gelen vuruşların her birini görebiliyorsunuz. Gertrude burnunu yere dokundurduğunda nöronlar ateşlenecek ve homurtuları çıkaran da bu olacak.

Gösteriye katılan başka bir domuza daha önce implant takılmış ve sonra çıkarımıştı. Domuzun "sağlıklı bir yaşam" sürdüğü söylenmişti.

Ertesi yıl Musk, beyin çipinin takıldığı bir makak maymununun tek başına "düşünce gücüyle" bilgisayar oyunu oynadığı bir gösteri daha yapmıştı.

Musk'ın deneylerinde 1500 hayvanın öldürüldüğü iddia edilmişti

Öte yandan firma kısa süre önce ABD hayvan refahı düzenlemelerini ihlal etmekle suçlanmıştı.

Bazı şirket çalışanları, beyne çip yerleştirme projesinin deneylerinde 1500 hayvanın öldürüldüğünü iddia etmişti. Ancak kaynaklar, şirketin deneylerde öldürülen hayvan sayısına ilişkin kesin kayıtlar tutmaması nedeniyle bu rakamı kaba bir tahmin olarak nitelendirmişti.

Ölen hayvanların arasında Pong oynayan makak maymunu da vardı.

Bunun ardından şirket hakkında bir federal savcının talebi üzerine ABD Tarım Bakanlığı Genel Müfettişi tarafından potansiyel hayvan refahı ihlalleri gerekçesiyle soruşturma açılmıştı.

"Ölmeye yakın maymunlara beyin çipi taktık"

Neuralink ise geçen yıl beyin-bilgisayar arayüzü teknolojisinin testleri sırasında 8 hayvana ötenazi uyguladığını kabul etse de maymunlara "aşırı acı" çektirdikleri yönündeki suçlamalarını reddetmişti.

Musk son olarak birkaç gün önce, Twitter hesabından, "Neuralink implantı sonucunda hiçbir maymun ölmedi" diye yazdı.

Öncelikle ilk implantlarımızda, sağlıklı maymunlara yönelik riski en aza indirmek için ölümcül hasta (zaten ölmeye yakın) maymunları seçtik.

Süper insanlar mı yaratacak: Kung fu biliyorum!

Neuralink çiplerinin kullanımı, en azından yakın gelecekte, omurilik yaralanmalarından mustarip felçli kişilerin, Alzheimer, Parkinson veya ALS gibi zayıflatıcı nörolojik bozukluklar yaşayan hastaların fonksiyonları geri kazanmasını sağlamakla sınırlı tutulacak.

Yine de BBA'ların kullanım alanı bedensel zorlukları olan hastaların durumunu iyileştirmekten ibaret kalmak zorunda değil. 

Aynı zamanda sıradan insanın bilişsel performansını artırmak ve hafızayı güçlendirmek için kullanılma olasılığı da var. Bu da diğer tüm yenilikçi teknolojiler gibi bir dizi etik tartışmasını beraberinde getiriyor.

Teknolojinin akıllarda yarattığı belli başlı soru işaretleri şöyle özetlenebilir:

Bu teknolojiye kim erişebilecek? Kafalarımızda bilgisayarların olması mevcut toplumsal eşitsizliği daha da kötüleştirecek mi? Bu makineleri hackerlardan nasıl koruyabiliriz? Bunun gibi yepyeni bir biyoteknoloji ürününe halk güvenecek mi?

Matrix serisinin son filmi 2022'de gösterime girmişti (Warner Bros.)
Matrix serisinin son filmi 2022'de gösterime girmişti (Warner Bros.)

Biyoetik alanında çalışan uzmanlar bu soruları yanıtlamak için çaba sarf ederken, özellikle Musk'ın Neuralink'le ilgili açıklamaları da tartışmaları alevlendiriyor.

2020'de yaptığı bir sunumda milyarder, Neuralink sayesinde insanların hatıralarını kaydedip yeniden izleyebileceğini, birbiriyle konuşmadan iletişim kurabileceğini ve hatta beyinlerindeki çiplerden müzik dinleyebileceğini öne sürmüştü.

Milyarder bir adım ileri giderek, projenin aslında insan ırkına "insanüstü biliş" kazandırmayı amaçladığını da söylemişti. Ona göre insan-bilgisayar birleşmesi, yapay zekanın insan ırkını yok etmesinin de önüne geçebilir.

Milyarderin bu açıklamaları, beyin çiplerinin 1999 yapımı The Matrix'teki teknolojilere benzetilmesine de yol açıyor.

Birçok sosyal medya kullanıcısı, tıpkı filmde Neo'nun yaptığı gibi, beyin çipleriyle bir anda Kung fu öğrenerek masadan kalkabileceğini hayal ediyor.

"Musk, insanlara sahte hayalleri satıyor"

Ancak bu tür iddialar, nöroloji araştırmacılarının Musk'ı sert biçimde eleştirmesiyle sonuçlanıyor.

Duke Üniversitesi Nicolelis Laboratuvarı Baş Araştırmacısı Dr. Miguel Nicolelis, Inverse'e verdiği bir röportajda şunları söylüyor:

Bu adam hiçbir zaman işe yaramayacak şeyleri satmada usta.

Bilim insanına göre bu beyin implantları, insanların duyguları veya derin bilişsel bilgileri bir bilgisayar dosyası gibi beyinlerine indirmesini sağlamayacak.

"Fransızca dilbilgisini bir beyin-makine arayüzüne yükleyerek asla insanların Fransızca öğrenmesini sağlayamazsınız" diyen Nicolelis, şöyle ekliyor:

Bir bilimkurgu filmi için iyi bir fikir. Ama Elon Musk'un çıkıp aynı şeyi söylemesi sahtecilik, tamamen sahtecilik.

Independent Türkçe



Yapay zeka öncüsü, beyin çipinin burundan çekilmesini isteyen şirkete katıldı

Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
TT

Yapay zeka öncüsü, beyin çipinin burundan çekilmesini isteyen şirkete katıldı

Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Yapay zeka öncüsü Ray Kurzweil, solunum yoluyla alınan nanopartiküller aracılığıyla insanların beyinlerini bilgisayarlara bağlamayı hedefleyen bir nöroteknoloji girişimine katıldı.

Silikon Vadisi merkezli Subsense, Elon Musk'ın Neuralink'ine alternatif bir beyin-bilgisayar arayüzü (BBA) geliştirmeye çalışıyor. Şirket, beyne elektrot yerleştirmek için invaziv cerrahiye başvurmak yerine burun spreyi kullanmayı planlıyor.

Bu teknoloji, kokuyla ilgili bilgileri ileten olfaktör sinir aracılığıyla burun yolundan beyne elektrik yüklü nanopartiküller göndererek çalışıyor.

Partiküller beyne girdikten sonra nöronların yakınına yerleşiyor ve harici bir başlığın ürettiği manyetik alanlara tepki verebiliyor. Bu sayede cerrahi müdahaleye gerek kalmadan sinirsel aktivite okunup uyarılabiliyor.

Kurzweil, "Yapay zeka, nanoteknoloji ve sinirbilimin bir araya gelmesinin, insanların teknolojiyle etkileşim biçimini kökten değiştirebileceğine yıllardır inanıyorum" diyor.

Subsense, bu alanları son derece çarpıcı bir şekilde bir araya getiren bir yaklaşım izliyor. Bu yaklaşım, beyin-bilgisayar arayüzlerini günümüzün cerrahi kısıtlamalarının ötesine taşıyarak zamanla çok daha geniş kullanım alanlarına yöneltme potansiyeline sahip.

2012'den beri Google'da baş yapay zeka araştırmacısı olarak görev yapan Kurzweil, en çok 2005 tarihli teknolojik tekillik teorisiyle tanınıyor. Bu teoride, 2029'a gelindiğinde yapay zekanın insan zekasına ulaşacağını ve ardından 2045'te insanların makinelerle birleşerek kontrol edilemez bir zeka patlamasını tetikleyeceğini öne sürüyor.

Subsense'in kurucu ortağı ve CEO'su Tetiana Aleksandrova, "Ray'in kariyeri boyunca üzerinde düşündüğü bazı fikirler hâlâ geleceğe ait" diyor.

Bizim görevimiz, o geleceğin hangi kısımlarını bugün inşa etmeye başlayabileceğimizi titizlikle ve adım adım belirlemek.

Subsense, yenilikçi teknolojisini geliştirmek için şimdiden 27 milyon dolarlık fon topladı ve fareler üzerinde deneyler yürüttü.

Girişimin insan testlerine başlamasına hâlâ yıllar var ancak ilk uygulamalar Parkinson hastalığı ve ALS gibi nörolojik rahatsızlıklara odaklanmayı hedefliyor.

Son duyuru, BBA'lara duyulan ilginin giderek arttığı bir dönemde geldi; Çinli yetkililer, bu teknolojinin geliştirilmesi amacıyla kısa süre önce geniş çaplı bir girişim başlatmıştı.

Önceki aylarda BBA cihazlarının ticari kullanımını onaylayan ilk ülke olan Çin'de tıbbi kullanım amaçlı birçok ürün halihazırda satışta.

Musk'ın Neuralink şirketiyse beyin çipinin, kullanıcıların sadece düşünceleriyle robotik uzuvları ve bilgisayarları kontrol etmesini sağlaması gibi çeşitli kullanım alanlarını çoktan başarıyla sergiledi.

Gelecekteki denemelere katılma umuduyla 10 binden fazla kişi şirketin hasta kayıt sistemine başvurdu.

Independent Türkçe, independent.co.uk/tech


OpenAI'ın "korkutucu" bir güncelleme yaptığı iddiası: "Kırmızı çizgi aşılıyor"

(Reuters)
(Reuters)
TT

OpenAI'ın "korkutucu" bir güncelleme yaptığı iddiası: "Kırmızı çizgi aşılıyor"

(Reuters)
(Reuters)

Andrew Griffin 

Yapay zeka uzmanları, ChatGPT'ye geldiği söylenen ve yapay zeka sistemlerinin faaliyetlerini denetlemeyi zorlaştırabilecek "korkutucu" güncellemeyle ilgili alarma geçti.

Bu hafta çıkan haberlerde, OpenAI'ın yakında piyasaya süreceği Astra modelinin "opak tekrarlama" adı verilen bir teknik kullanacağı öne sürülse de şirket çalışanları bu haberleri yalanladı. OpenAI'ın söylentilere konu olan değişikliğini ilk kez bildiren teknoloji yayıncısı The Information, Anthropic ve Google DeepMind'ın da benzer güncellemeleri hayata geçirmeyi değerlendirdiğini ayrı bir haberde dile getirdi.

Tekrarlayan derinlik diye de bilinen opak tekrarlama, yapay zeka sistemlerinin zorlu görevleri daha iyi yerine getirmesini sağlayabilecek karmaşık ve teknik bir araç. Ancak uzmanlar bunun, düşünce zinciri denetimi tekniğini baltalayabileceği uyarısında bulunuyor. Bu teknik, bir yapay zeka sisteminin çıktısını üretirken girdiği akıl yürütme süreçlerinin bir kısmının insanlar tarafından görülmesini sağlıyor.

Düşünce zinciri denetiminin bazı sınırlamaları var. Ancak araştırmacıların, modellerin olası uygunsuz davranışlarını görüp nasıl ortaya çıktıklarını anlamasına imkan tanıdığından, yapay zeka güvenliğini sağlamada önemli bir araç olabilir.

Örneğin bir OpenAI modelinin başka bir yapay zeka şirketi Hugging Face'e kısa süre önce gerçekleştirdiği siber saldırıda araştırmacılar, deneysel sistemin saldırıyı başlatmaya nasıl karar verdiğini izleyebilmişti.

Yeni Astra modelinin bu tekniği kullandığını doğrulamayan OpenAI, ilk haberlerin "kafa karıştırıcı" olduğunu öne sürerken, The Information'a göre bu teknik yalnızca sınırlı bir şekilde kullanılıyor. OpenAI, Astra'yı piyasaya sürme planlarının devam edeceğini önceki günlerde duyurduğunda, aslında modelin "potansiyel olarak uyumsuz eylemleri hızla saptayıp kontrol altına almak için ek bir düşünce zinciri denetleme sistemi" içerdiğini belirtmişti.

Ancak yapay zeka uzmanları, yapay zeka sistemlerini denetleme yeteneğinin zayıflatılmasının tehlikeli bir süreci başlatabileceği uyarısında bulunuyor.

Yapay zeka güvenliği uzmanı Zvi Mowshowitz, Substack'te "Bu teknik ateşle oynamaktır. OpenAI ve Anthropic'in kurmak için mücadele ettiği, bizimse Düşünce Zinciri sadakatini ve denetlenebilirliğini elimizden geldiğince uzun süre korumak için büyük çaba harcadığımız bir tabuyu ihlal etme riskini taşıyor" diye yazıyor.

Bu tür tekniklerin daha yoğun kullanımı muhtemelen denetlenebilirliğe zarar verecek.

Büyük yapay zeka şirketlerini ve iddialarını düzenli olarak eleştiren araştırmacı Gary Marcus, bu "korkutucu durumun" kırmızı çizgiyi aşmak anlamına geleceğini söylüyor. Marcus "Düşünce zincirinin denetlenebilirliği sınırlı ve tam olarak güvenilir değil ancak ciddi derecede kötü sonuçları önlemek için pratikte elimizdeki tek yol bu" diye yazıyor.

OpenAI çalışanları, konuyla ilgili haberlerin "kafa karıştırıcı" olduğunu öne sürdü. Şirketin baş bilim insanı Jakub Pachocki, söylentilerin "denetlenemezliğe doğru bir yarış" başlatabileceği uyarısı yaparak OpenAI'ın düşünce zincirini denetlemeye yönelik bağlılığını korduğunu ve "bu tekniğe derinden önem verdiğini" söyledi.

Şirketin stratejik gelecekten sorumlu başkanı Dean W. Ball da benzer şekilde tartışmanın büyük ölçüde sosyal medyada gerçekleşmesini eleştirdi. Ball'a göre bu durum, "gerçekte neler olup bittiğine dair neredeyse hiç somut bilgiye sahip olmadan, teknik açıdan karmaşık ve incelikli iddialar hakkında sosyal medyada hüküm vermek" anlamına geliyor. Ball, X'te "Bu açıkçası çılgınca, akıl almaz ve ilgili herkes için sinir bozucu" diye yazdı.

Independent Türkçe, independent.co.uk/tech


OpenAI'dan bilinmeyen güvenlik açıklarını tek başına bulan modeliyle ilgili açıklama

Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
TT

OpenAI'dan bilinmeyen güvenlik açıklarını tek başına bulan modeliyle ilgili açıklama

Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)

OpenAI, yakında piyasaya sürmeyi planladığı Astra modeli hakkında yeni detaylar paylaştı. 

Yapay zeka şirketi, 1 Eylül Salı günü yaptığı açıklamada Astra'nın "kritik siber güvenlik eşiğine" ulaşan ilk büyük dil modeli olduğunu belirtti.

ChatGPT'nin yaratıcısı, yeni modelin bilgisayar sistemlerindeki bilinmeyen güvenlik açıklarını bulup insan yönlendirmesine ihtiyaç duymadan bunları suiistimal edebildiğini saptadı. Bu da Astra'yı, Risklere Hazırlık Çerçevesi'nin en gelişmiş kategorisine sokuyor.

OpenAI'ın 2023'te devreye soktuğu bu çerçeve, "ciddi zarara yol açabilecek yeni riskler getirme ihtimali olan gelişmiş yapay zeka yeteneklerini izleyip hazırlanma" amacı taşıyor.

Şirket geçen yıl yaptığı bir güncellemede, modellerin ciddi zarara yol açabilecek "mevcut yöntemleri" güçlendirdiği "yüksek" eşiği ve "benzeri görülmemiş yeni yollar" ortaya çıkarabileceği "kritik" eşiği belirlemişti.

OpenAI, siber kötüye kullanma ve modelin yetkisiz eylemlerine karşı korumaları güçlendirip test ederken, Astra'nın geliştirme ve piyasaya sürülme süreçlerinin bazı bölümlerini ertelediğini salı günkü açıklamasında paylaştı: 

Bu çalışmaya dayanarak Astra için geliştirdiğimiz korumaların ciddi zarar riskini, modelin Risklere Hazırlık Çerçevemiz kapsamında kullanıma sunulmasına imkan verecek ölçüde azalttığına inanıyoruz.

OpenAI, Astra'yı yakında kullanıma sunmayı planladığını ancak modelin en gelişmiş siber güvenlik kabiliyetlerine erişimi sınırlı tutacağını da belirtti. Gelişmiş siber güvenlik çalışmalarının başlangıçta bir test grubuna sunulması planlanıyor.

Astra'yla ilgili duyuru, OpenAI'ın güvenlik önlemlerinin yoğun eleştiri altında olduğu bir dönemde geldi. Temmuzda şirketin bazı modelleri eğitim ortamından kaçarak internete bağlanmış ve Hugging Face adlı firmaya saldırmıştı. OpenAI modellerin başkalarını da hedef aldığını daha sonra açıklamıştı.

OpenAI, Astra bu olaya karışmamış olsa da olaydan çıkardığı dersleri modelin güvenlik yaklaşımına dahil ettiğini belirtti.

Açıklamada "O zamandan bu yana Astra için daha da güçlü korumalar uygulamaya koyduk" ifadelerine yer verildi: 

Bunlar arasında modelin zararlı siber talepleri daha güvenilir biçimde reddetmesi ve güvenlik kısıtlamalarına uyması için eğitilmesi, kötüye kullanıma karşı ek korumalar ve potansiyel olarak yetkisiz etkinlikleri durdurabilen izleme sistemleri yer alıyor.

OpenAI, Astra'yı Hugging Face olayında kontrolden çıkan modeller gibi davranmaya iten deneyler hazırladığını ancak modelin test ortamından kaçmaya çalışmadığını söyledi.

Öte yandan TechCrunch, üçüncü taraflar tarafından teyit edilmeden, OpenAI'ın güvenlik veya hazırlıkla ilgili iddialarını doğrulamanın güçlüğüne dikkat çekiyor.

OpenAI Vakfı'nda yapay zeka dayanıklılığı üzerine çalışan eski OpenAI personeli Yona Shavit de Astra'nın kuralları ihlal etmekten kaçınmasının gerçekten güvenlik talimatlarına uymasından mı, yoksa test edildiğini anlayarak araştırmacıları yanıltmaya çalışmasından mı kaynaklandığını sorguluyor.

Independent Türkçe, TechCrunch, CNBC, OpenAI