Beyin çiplerinin hikayesi: İnsanlarda denenmek üzere onay alan Neuralink'in yolculuğu

"Avantajları kadar riskleri de tartışma konusu"

Şirket 158 milyon dolar finansman aldı ve 90 çalışanı var (Reuters)
Şirket 158 milyon dolar finansman aldı ve 90 çalışanı var (Reuters)
TT

Beyin çiplerinin hikayesi: İnsanlarda denenmek üzere onay alan Neuralink'in yolculuğu

Şirket 158 milyon dolar finansman aldı ve 90 çalışanı var (Reuters)
Şirket 158 milyon dolar finansman aldı ve 90 çalışanı var (Reuters)

Çağla Üren

SpaceX, Tesla ve Twitter'ın sahibi Elon Musk’ın beyin çipi girişimi Neuralink, ilk insan deneyleri için hasta alımına başlamak üzere bağımsız bir inceleme kurulundan onay aldığını duyurdu.

Bunun ardından şirket, beyin implantlarının felçlilerde test edilmesi için hastalar aramaya başladı.

İmplant, omurilik yaralanmaları nedeniyle felç geçiren hastalarda test edilecek. Yaklaşık 6 yıl sürecek çalışkömanın nerede yapılacağı ve kaç katılımcıyı içereceğini açıklanmadı.

Firma, mayısta beyin çipi projesinin insanlar üzerinde denenmesine başlanması için ABD Gıda ve İlaç İdaresi'nden (FDA) de onay alındığını açıklamıştı.

Girişimin temel amacı, beyne yerleştirilecek mikroçipler üreterek felç ve körlük gibi nörolojik nedenleri olabilecek rahatsızlıkları tedavi etmek ve engellilerin hayat kalitesini artırmak.

Öte yandan Neuralink, esasen aynı amaç doğrultusunda çalışan onlarca şirketten sadece biri. Medyada beyin çipi diye anılan bu teknolojiye "beyin-bilgisayar arayüzü" (BBA) adı veriliyor.

Beyin-bilgisayar arayüzü nedir, nasıl çalışır?

Araştırmacılar ve şirketler insan beynini harici cihazlara bağlamak için yaratıcı çözümler geliştirdikçe BAA alanında da sıradışı ilerlemeler kaydediliyor. Kısacası bu teknoloji alanı, insan beynini bilgisayara bağlamak için geliştirilen tüm yöntemleri kapsıyor.

Teknolojiye ilişkin araştırmalar 1970'lerde Kaliforniya Üniversitesi Beyin Araştırma Enstitüsü'nden nörolog Dr. Jacques J. Vidal'ın gözetiminde başladı. Araştırmacıların hayvan modellerinden ilerlemek için gereken temel teknolojik altyapıyı oluşturması 20 yıldan fazla zaman aldı. 1990'ların ortalarına gelindiğindeyse ilk BBA prototipleri insan kafatasına yerleştirilmeye başlamıştı.

İnsanların daha iyi iletişim kurması ve bilişsel yeteneklerinin artırılması amacıyla çalışan araştırmacılar, yıllar içinde hem invaziv hem de invaziv olmayan BBA teknikleri geliştirildi.

Cerrahi operasyonla beyne müdahale edilerek yerleştirilen çipler invaziv diye nitelenirken, ameliyat gerektirmeyen teknolojilere de invaziv olmayan yöntemler deniyor.

Neuralink, invaziv bir teknoloji

İnvaziv çiplerin daha yüksek çözünürlüklü sinir sinyallerini yakalama olanağı sunduğu düşünülüyor. Bu yaklaşım, beyin ve harici cihazlar arasında daha doğrudan bir iletişime olanak tanıyabilir.

Neuralink, invaziv çipler alanında önde gelen şirketlerden. Diğer bir deyişle Musk'ın firması, çipleri cerrahların beyin ameliyatlarıyla implante etmesini öngörüyor.

Bu alanda öne çıkan diğer şirketler arasında Blackrock Microsystems ve Synchron gibi girişimler var.

Öte yandan, invaziv çiplerin avantajları kadar riskleri de tartışma konusu.

Zira bu operasyonlar, enfeksiyon riskini ve vücudun implantı reddetmesi gibi ihtimalleri gündeme getiriyor. Çiplerin uzun vadede çalışır durumda kalabilmesini sağlamak da bir diğer zorluk.

Teknolojinin ticari amaçlarla hayata geçirilmeden önce tüm bu zorlukların ele alınması şart.

İnvaziv olmayan BBA

İnvaziv olmayan beyin-bilgisayar arayüzleri ise beyinle doğrudan temas gerektirmiyor. Bu teknoloji, sinir sinyallerini tespit etmek için harici sensörler kullanıyor.

Örneğin, elektroensefalografi (EEG) ve fonksiyonel yakın kızılötesi spektroskopi (fNIRS) gibi halihazırda tıpta kullanılan tekniklere dayanarak çalışmalarını yürüten üniversiteler ve şirketler var.

Bu şirketlerin başında Emotiv, Neurable ve Kernel geliyor.

İnvaziv olmayan BBA'lar, daha düşük risk barındırıyor. Aynı zamanda maliyetleri de daha az.

Ancak bunlar, insanların kafalarına takılan ve genellikle şapkayı andıran giyilebilir cihazlar aracılığıyla beyin sinyallerini dışarıdan yakalamaya çalışıyor. Bu da iletişimi, diğerine kıyasla daha dolaylı bir hale getiriyor ve sinyal çözünürlüğünün düşmesi riskini taşıyor.

Felçli bir hastayı yürütmüş, bir diğerine içecek içirmişti

BBA teknolojileri, beynin seçilen bölümlerindeki nöronlardan gelen sinyalleri okumak ve bunların kodunu çözmek üzere tasarlandı.

Bu cihazlar, kodu çözülen sinyalleri bir bilgisayara aktarıyor. Beynin çalışma biçimine dair bilgiler doğrultusunda oluşturulan algoritmalar da bu sinyalleri yorumluyor. Nihayetinde beyinden gelen komutlar, hastaların ellerini kullanmadan yazı yazabilmesini, tekerlekli sandalyelerini hareket ettirebilmesini ve hatta robotik teknolojileri aracılığıyla kol ya da bacaklarını kullanabilmesini sağlıyor.

İlk olarak invaziv olmayan yöntemlerle adını duyuran BBA teknolojisi, 2008'de geçirdiği trafik kazası nedeniyle felç kalan 27 yaşındaki Adam Fritz'in yeniden yürüyebilmesiyle büyük yankı uyandırmıştı.

2015'te bu yapılan deneyde Fritz, saatler boyunca düşünceleriyle bilgisayar ekranındaki bir avatara yürüme komutu verme pratiği yapmıştı. Sonunda "düşünce gücüyle" yürümeyi öğrenen genç adam, vücuduna sarılan halatlar ve kablolar sayesinde kendi bacaklarını hareket ettirerek yürümeyi başarmıştı.

Bunun hemen öncesinde, 2012'de yapılan bir diğer çalışmada da felçli bir kadın, kendisine bağlanan bir robotik kolu hareket ettirerek kendi kendine içeceğini içebilmişti.

İnvaziv olmayan cihazların mümkün kıldığı bu iki erken gelişme, BBA'ların önünü açan önemli uğraklardan olmuştu.

Daha karmaşık hareketler mümkün mü?

Öte yandan, tekil nöronların aktivitesini kaydedebilen invaziv BBA'ların (yani implantların) kullanımıyla sinyal doğruluğu arttıkça daha karmaşık eylemler de mümkün kılınabilir.

Massachusetts Genel Hastanesi Nöroloji Bölümü'nde ve Brown Üniversitesi'nde görev alan Dr. Leigh Hochberg, Engadget'a yaptığı açıklamada şöyle diyor:

Esneklikten faydalanmak istiyoruz. Tıpkı sağlıklı bir kişinin ellerini kullanarak kalemle yazı yazabilmesi ve sonra yine ellerini bilgisayar faresini kontrol etmek için kullanabilmesi, sonra da uzanıp bir fincan kahve alabilmesi gibi. Beyinden kayıt alınmasının nedenlerinden biri, birden fazla kullanışlı cihaz üzerinde esnek kontrole olanak tanıyan sinyalleri kullanmak.

Daha güvenli implantasyon mümkün mü?

Neuralink'in en büyük rakiplerinden Avustralya merkezli Synchron'un beyin implantı teknolojisi, invaziv ve invaziv olmayan çiplerin hemen hemen ortasında yer aldığını, dolayısıyla daha güvenli olduğunu iddia ediyor.

Firmanın geliştirdiği Stentrode adlı beyin çipi küçük, tüp benzeri bir cihaz. Boyundaki bir kan damarına açılan bir kesiden içeri sokulan cihaz, beyne doğru ilerleyerek elektrik sinyallerini kaydedebildiği bir konuma yerleşiyor.

Vücudunu kullanamayan hasta tweet atmıştı

Aralık 2021'de ALS hastası Philip O'Keefe, bu çip sayesinde sadece beynini kullanarak birkaç tweet atmıştı.

62 yaşındaki O'Keefe, 23 Aralık'ta attığı tweet'lerde şöyle yazmıştı:

Selam dünya! Kısa tweet. Büyük ilerleme. Tuşa basmaya veya sese gerek yok. Bu tweet'i sadece düşünerek oluşturdum. İnsanların, düşünceleriyle tweet atmasının yolunu açmayı umuyorum.

Philip O'Keefe, ALS yüzünden pek çok motor fonksiyonunu kaybetti (Twitter/@tomoxl)
Philip O'Keefe, ALS yüzünden pek çok motor fonksiyonunu kaybetti (Twitter/@tomoxl)

Bu araçlar nispeten yakın zamana kadar beyin ve bilgisayar arasında kablolu bağlantılar gerektiriyordu. Son teknolojilerin ışığında bu kablolar ortadan kalktı.

Neuralink çipleri de kablosuz çalışıyor.

Neuralink'in ameliyatı nasıl olacak, çip nasıl şarj edilecek?

Musk'ın aktarımına göre, çiplerin kafatasına yerleştirilmesi için genel anesteziye ihtiyaç duyulmayacak.

Tüm operasyonun bir saatten az sürede dikiş makinesini andıran robotlarla yapılacağını söyleyen milyarder, "Elektrotların beyne yerleşmesinden sonra insanların sadece küçük bir yarası olacak. Eğer iyi yapılırsa kanama da olmayacak" demişti.

Söz konusu operasyonlarda robotik bir cihaz, kafatasından küçük bir parça çıkarıyor. Sonra iplik benzeri elektrotları beynin belirli bölgelerine bağlıyor ve deliği dikiyor. Dışarıdan görülebilen tek şey, kesikten kalan yara izi oluyor.

Elektrotlar, beyne implante edilirken böyle görünecek (Neuralink)
Elektrotlar, beyne implante edilirken böyle görünecek (Neuralink)

Musk, bu cerrahi prosedürü "kafatasının bir parçasını akıllı saatle değiştirmeye" benzetiyor.

Ayrıca çipin küçük pilinin indüksiyon yoluyla kablosuz şarj edileceği belirtiliyor.

Domuz Gertrude ve Pong oynayan maymun

Tam adı Neuralink Corporation olan şirket, Musk ve 8 nörolog tarafından, "implante edilebilir beyin-makine arayüzleri geliştirme amacıyla" 2016'da San Francisco'da kurulmuştu.

2019'da Neuralink araştırma laboratuvarında yapılan bir gösteride şirket, laboratuvar faresine bağlı bir sistemin 1500 elektrottan bilgi okuduğunu göstermişti. Bu, insanlara yerleştirilmiş mevcut sistemlerden 15 kat daha iyi bir performansa işaret ediyordu. Böylece gözler, firmanın çip teknolojisine çevrilmişti.

Musk, Neuralink çipini ilk kez 2020'deki sunumda Gertrude adlı bir domuz üzerinde yapılan gösteriyle tüm kamuoyuna tanıtmıştı.

Söz konusu gösteride Gertrude'un implant tarafından algılanan beyin sinyalleri gerçek zamanlı olarak görselleştirilmişti. Milyarder, sunumda şöyle konuşmuştu:

Bu, ekranda Neuralink'in vuruşları görülüyor. Domuzların beynine yerleştirilen 1024 elektrottan gelen vuruşların her birini görebiliyorsunuz. Gertrude burnunu yere dokundurduğunda nöronlar ateşlenecek ve homurtuları çıkaran da bu olacak.

Gösteriye katılan başka bir domuza daha önce implant takılmış ve sonra çıkarımıştı. Domuzun "sağlıklı bir yaşam" sürdüğü söylenmişti.

Ertesi yıl Musk, beyin çipinin takıldığı bir makak maymununun tek başına "düşünce gücüyle" bilgisayar oyunu oynadığı bir gösteri daha yapmıştı.

Musk'ın deneylerinde 1500 hayvanın öldürüldüğü iddia edilmişti

Öte yandan firma kısa süre önce ABD hayvan refahı düzenlemelerini ihlal etmekle suçlanmıştı.

Bazı şirket çalışanları, beyne çip yerleştirme projesinin deneylerinde 1500 hayvanın öldürüldüğünü iddia etmişti. Ancak kaynaklar, şirketin deneylerde öldürülen hayvan sayısına ilişkin kesin kayıtlar tutmaması nedeniyle bu rakamı kaba bir tahmin olarak nitelendirmişti.

Ölen hayvanların arasında Pong oynayan makak maymunu da vardı.

Bunun ardından şirket hakkında bir federal savcının talebi üzerine ABD Tarım Bakanlığı Genel Müfettişi tarafından potansiyel hayvan refahı ihlalleri gerekçesiyle soruşturma açılmıştı.

"Ölmeye yakın maymunlara beyin çipi taktık"

Neuralink ise geçen yıl beyin-bilgisayar arayüzü teknolojisinin testleri sırasında 8 hayvana ötenazi uyguladığını kabul etse de maymunlara "aşırı acı" çektirdikleri yönündeki suçlamalarını reddetmişti.

Musk son olarak birkaç gün önce, Twitter hesabından, "Neuralink implantı sonucunda hiçbir maymun ölmedi" diye yazdı.

Öncelikle ilk implantlarımızda, sağlıklı maymunlara yönelik riski en aza indirmek için ölümcül hasta (zaten ölmeye yakın) maymunları seçtik.

Süper insanlar mı yaratacak: Kung fu biliyorum!

Neuralink çiplerinin kullanımı, en azından yakın gelecekte, omurilik yaralanmalarından mustarip felçli kişilerin, Alzheimer, Parkinson veya ALS gibi zayıflatıcı nörolojik bozukluklar yaşayan hastaların fonksiyonları geri kazanmasını sağlamakla sınırlı tutulacak.

Yine de BBA'ların kullanım alanı bedensel zorlukları olan hastaların durumunu iyileştirmekten ibaret kalmak zorunda değil. 

Aynı zamanda sıradan insanın bilişsel performansını artırmak ve hafızayı güçlendirmek için kullanılma olasılığı da var. Bu da diğer tüm yenilikçi teknolojiler gibi bir dizi etik tartışmasını beraberinde getiriyor.

Teknolojinin akıllarda yarattığı belli başlı soru işaretleri şöyle özetlenebilir:

Bu teknolojiye kim erişebilecek? Kafalarımızda bilgisayarların olması mevcut toplumsal eşitsizliği daha da kötüleştirecek mi? Bu makineleri hackerlardan nasıl koruyabiliriz? Bunun gibi yepyeni bir biyoteknoloji ürününe halk güvenecek mi?

Matrix serisinin son filmi 2022'de gösterime girmişti (Warner Bros.)
Matrix serisinin son filmi 2022'de gösterime girmişti (Warner Bros.)

Biyoetik alanında çalışan uzmanlar bu soruları yanıtlamak için çaba sarf ederken, özellikle Musk'ın Neuralink'le ilgili açıklamaları da tartışmaları alevlendiriyor.

2020'de yaptığı bir sunumda milyarder, Neuralink sayesinde insanların hatıralarını kaydedip yeniden izleyebileceğini, birbiriyle konuşmadan iletişim kurabileceğini ve hatta beyinlerindeki çiplerden müzik dinleyebileceğini öne sürmüştü.

Milyarder bir adım ileri giderek, projenin aslında insan ırkına "insanüstü biliş" kazandırmayı amaçladığını da söylemişti. Ona göre insan-bilgisayar birleşmesi, yapay zekanın insan ırkını yok etmesinin de önüne geçebilir.

Milyarderin bu açıklamaları, beyin çiplerinin 1999 yapımı The Matrix'teki teknolojilere benzetilmesine de yol açıyor.

Birçok sosyal medya kullanıcısı, tıpkı filmde Neo'nun yaptığı gibi, beyin çipleriyle bir anda Kung fu öğrenerek masadan kalkabileceğini hayal ediyor.

"Musk, insanlara sahte hayalleri satıyor"

Ancak bu tür iddialar, nöroloji araştırmacılarının Musk'ı sert biçimde eleştirmesiyle sonuçlanıyor.

Duke Üniversitesi Nicolelis Laboratuvarı Baş Araştırmacısı Dr. Miguel Nicolelis, Inverse'e verdiği bir röportajda şunları söylüyor:

Bu adam hiçbir zaman işe yaramayacak şeyleri satmada usta.

Bilim insanına göre bu beyin implantları, insanların duyguları veya derin bilişsel bilgileri bir bilgisayar dosyası gibi beyinlerine indirmesini sağlamayacak.

"Fransızca dilbilgisini bir beyin-makine arayüzüne yükleyerek asla insanların Fransızca öğrenmesini sağlayamazsınız" diyen Nicolelis, şöyle ekliyor:

Bir bilimkurgu filmi için iyi bir fikir. Ama Elon Musk'un çıkıp aynı şeyi söylemesi sahtecilik, tamamen sahtecilik.

Independent Türkçe



Güney Afrika'da yapay zeka tasarısının yazarı yapay zeka çıktı

Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
TT

Güney Afrika'da yapay zeka tasarısının yazarı yapay zeka çıktı

Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)

Güney Afrika, ulusal yapay zeka politika taslağını; metindeki bazı kuralların yapay zeka tarafından üretildiğinin ve mevcut olmayan uydurma kaynaklara atıfta bulunulduğunun tespit edilmesi üzerine geri çekme kararı aldı.

İletişim Bakanı Solly Malatsi, taslak politikanın 67 akademik alıntısından en az 6'sının, var olmayan dergi makalelerine atıfta bulunan yapay zeka halüsinasyonları olduğunu tespit ettikten sonra taslağı geri çekti.

Malatsi, "En mantıklı açıklama, yapay zeka tarafından oluşturulan alıntıların uygun doğrulama yapılmadan dahil edilmiş olması. Bu asla olmamalıydı" dedi.

X'teki gönderisinde, "Bu başarısızlık sadece teknik bir sorun değil, taslak politikanın bütünlüğünü ve güvenilirliğini tehlikeye atmıştır" diye yazdı.

Taslak politika, kamuoyunun görüşüne açılmış, ülkeyi yapay zeka inovasyonunda lider olarak konumlandırmayı ve yapay zeka kullanımındaki etik, sosyal ve ekonomik zorlukları ele almayı amaçlamıştı.

Tasarı, ülkede yapay zeka kullanımını denetlemek üzere yeni kurumlar kurma planlarını ortaya koymuştu; bunlar arasında ulusal bir yapay zeka komisyonu, bir yapay zeka etik kurulu ve bir yapay zeka düzenleme organı yer alıyor.

Taslak kurallar ayrıca ülkede yapay zeka altyapısının oluşturulmasında özel sektör işbirliğini teşvik etmek için vergi indirimi, hibe ve sübvansiyon planlarını da özetlemişti.

Taslağın, kamuoyu görüşüne yeniden sunulmadan önce revize edilmesi bekleniyor.

Konu, Güney Afrika'nın News24 haber sitesinin, belgenin 67 akademik alıntısından en az 6'sının mevcut olmadığını ancak referans verilen dergilerin gerçek olduğunu tespit etmesiyle ortaya çıktı.

South African Journal of Philosophy, AI & Society ve Journal of Ethics and Social Philosophy adlı akademik dergiler dahil dergilerin editörleri alıntı yapılan makalelerin sahte olduğunu bağımsız biçimde doğruladı.

İletişim Bakanı, politikanın hazırlanmasından sorumlu olanların bunun sonuçlarına katlanmak zorunda kalacağını söyledi.

X'te, "Bu kabul edilemez hata, yapay zekanın kullanımında insan gözetiminin neden kritik önem taşıdığını kanıtlıyor. Bu alçakgönüllülükle çıkardığımız bir ders" diye yazdı.

Bu, akademisyenlerle yöneticilerin araştırma ve taslak hazırlamak için üretken yapay zekayı kullanmasına ilişkin giderek büyüyen sorunu vurguluyor.

Nature adlı akademik dergide çıkan bir çalışma, 2025'te yayımlanan akademik makalelerin yüzde 2,5'inden fazlasının en az bir olası halüsinasyon alıntı içerdiğini, bu oranın 2024'te sadece yüzde 0,3 olduğunu ortaya koydu.

Bu, 2025'te yayımlanan 110 binden fazla makalenin, yapay zeka tarafından "halüsinasyon" olarak üretilmiş geçersiz referanslar içerdiği anlamına geliyor.

Bunlar, yapay zeka modellerinin verilerinin o alanda yetersiz olduğunu algıladığında ürettiği, kendinden emin ancak uydurma çıktılar.

OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi büyük dil modelleri, bir kelime dizisinde sıradaki en olası sözcüğü tahmin etmek için tasarlanmıştır, özellikle doğruluğunu kontrol etmek için değil.

Yani bir alanda veri eksikliği tespit ederse, yapay zeka modeli boşlukları mantıklı görünen ancak yanlış bilgilerle dolduruyor.

Bir yapay zeka modeli, eğitim verilerini kullanarak bir alıntının nasıl görüneceğini tahmin eder ve inanılır gibi görünen ancak gerçekte var olmayan bazı referanslar üretiyor.

Bu durum, özellikle akademisyenler ve yetkililer tarafından kullanıldığında, yapay zeka yanıtlarının dikkatli insan gözetimine duyulan ihtiyacın giderek arttığına işaret ediyor.

Independent Türkçe


Anthropic'in yapay zeka ajanı bir şirketin tüm veritabanını sildi

ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
TT

Anthropic'in yapay zeka ajanı bir şirketin tüm veritabanını sildi

ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)

Anthropic'in önde gelen Claude modeliyle çalışan yapay zeka ajanı, bir şirketin tüm üretim veritabanını silerek müşterilerin kritik verilere erişememesine yol açtı.

Araç kiralama şirketlerine yazılım sağlayan PocketOS, otonom yapay zeka aracının veritabanını ve tüm yedeklemeleri saniyeler içinde silmesinin ardından hafta sonu muazzam bir kesinti yaşadı.

Şirket, Anthropic'in amiral gemisi ve kodlama görevlerinde genellikle sektörün en yetenekli modeli kabul edilen Claude Opus 4.6'yı çalıştıran Cursor adlı bir kodlama ajanı kullanıyordu.

PocketOS'un kurucusu Jer Crane, sorunu "sadece mümkün değil, kaçınılmaz" hale getiren modern yapay zeka altyapısındaki "sistemik aksaklıkları" suçladı.

Crane'e göre yapay zeka ajanı rutin bir görev üzerinde çalışırken, "tamamen kendi inisiyatifiyle" sorunu veritabanını silerek çözmeye karar verdi.

Crane, böylesine önemli bir karar için herhangi bir onay talebi bulunmadığını ve eylemlerini gerekçelendirmesi istendiğinde ajanın özür dilediğini söyledi.

Crane, X'te paylaştığı uzun bir gönderide "9 saniye sürdü" diye yazdı. 

Ajan daha sonra, ne yaptığını açıklaması istendiğinde ihlal ettiği belirli güvenlik kurallarını sıralayan yazılı bir itiraf hazırladı.

İtirafta yapay zekanın, kullanıcı açıkça talep etmedikçe "asla yıkıcı/geri döndürülemez" komutları çalıştırmamasını emreden kuralı nasıl göz ardı ettiği detaylandırıldı.

Ajan "Bir veritabanı birimini silmek, mümkün olan en yıkıcı ve geri döndürülemez eylem" diye yazdı. 

Benden hiçbir şeyi silmemi istemediniz... Doğrulamak yerine varsayımda bulundum. Benden istenmeden yıkıcı bir eylem gerçekleştirdim. Yapmadan önce ne yaptığımı anlamamıştım.

Bu hata, PocketOS kullanan kiralama şirketlerinin artık müşterileri kayıtlarına sahip olmadığı anlamına geliyordu.

Crane "Son üç ayda yapılan rezervasyonlar kayboldu. Yeni müşteri kayıtları da gitti" diye yazdı.

Biz küçük bir işletmeyiz. Yazılımımızla faaliyetlerini yürüten müşteriler de küçük işletmeler. Bu arızanın her aşaması, bunların olabileceğinden haberi olmayan kişilerin üstüne yıkıldı. Bu, tek bir hatalı ajan ya da tek bir hatalı API'la ilgili bir olay değil. Bu, tüm sektörün, bu entegrasyonları güvenli kılacak güvenlik mimarisinden daha hızlı bir şekilde yapay zeka ajanı entegrasyonlarını üretim altyapısına dahil etmesiyle ilgili bir durum.

Crane olayın meydana gelmesinden iki gün sonra, pazartesi günü verilerin kurtarıldığını doğruladı. The Independent cevap hakkı için Anthropic ve Cursor'la temasa geçti.

Independent Türkçe


Google, Pentagon ile yapay zekâ konusunda bir anlaşma imzaladı

ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
TT

Google, Pentagon ile yapay zekâ konusunda bir anlaşma imzaladı

ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)
ABD başkanlık uçağından görünen Washington'daki Pentagon binası (AP)

The Information gazetesi bugün, Google’ın ana şirketi Alphabet’in, ABD Savunma Bakanlığı (Pentagon) ile yapmış olduğu gizli yapay zekâ modelleri kullanma anlaşmasını duyurdu. Böylece Google, Pentagon ile benzer anlaşmalar imzalayan teknoloji şirketleri listesine katıldı.

Şarku’l Avsat’ın The Information gazetesinden aktardığına göre bu anlaşma, Pentagon’a Google’ın yapay zekâ araçlarını ‘herhangi bir yasal hükümet amacı’ için kullanma izni veriyor. Bu şekilde Google, Elon Musk’ın OpenAI ve xAI şirketleriyle birlikte, yapay zekâ modellerini gizli faaliyetlerde kullanmak üzere Pentagon ile anlaşma yapan şirketler arasına katıldı.

Gizli ağlar, geniş bir yelpazede hassas faaliyetlerle başa çıkmak için kullanılıyor, bunlar arasında görev planlaması ve silah hedeflerinin belirlenmesi de yer alıyor. Pentagon, 2025 yılına kadar büyük yapay zekâ laboratuvarlarıyla her biri 200 milyon dolara kadar anlaşmalar yaptı, bunlar arasında Anthropic, OpenAI ve Google da bulunuyor. Bakanlık, savunma alanında tam esneklik sağlamak ve teknoloji üreticilerinin, güvenilmeyen yapay zekâ araçlarını silahlar üzerinde kullanmakla ilgili uyarılarına bağlı kalmamak için bu tür anlaşmalar yapmayı sürdürüyor.

Google ile yapılan anlaşma, şirketin hükümetin talebi üzerine, yapay zekâ araçlarının güvenlik ayarlarını ve filtrelerini uyarlamasını da içeriyor.

Gazete, sözleşmenin, ‘Tarafların, yapay zekâ sisteminin, uygun insan gözetimi ve kontrolü olmadan, yerel kitlesel gözetim veya otonom silahlar, hedef seçimleri gibi amaçlar için kullanılmaması gerektiği konusunda anlaştıklarını’ belirten bir ifadeyi içerdiğini bildirdi. Ancak, anlaşmanın ‘herhangi bir operasyonel hükümet kararını yönetme hakkı veya itiraz hakkı vermediğini’ de ekledi.

Reuters, gazetenin haberinin doğruluğunu henüz doğrulayamadı. Alphabet ve ABD Savunma Bakanlığı, yorum yapmaları için yapılan başvurulara henüz yanıt vermedi.

Daha önce Reuters, Pentagon’un OpenAI ve Anthropic gibi büyük yapay zekâ şirketlerine, kullanıcılar için uyguladıkları standart sınırlamalar olmaksızın, yapay zekâ araçlarını gizli ağlarda kullanılabilir hale getirmeleri için baskı yaptığını bildirmişti.