4 soruda OpenAI'ın "düşünebilen" yeni yapay zeka serisi

OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
TT

4 soruda OpenAI'ın "düşünebilen" yeni yapay zeka serisi

OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)

OpenAI, "düşünme" becerisine sahip olduğunu öne sürdüğü yeni yapay zeka serisi o1'i dün (12 Eylül Perşembe) kullanıma sundu. 

Strawberry diye de bilinen yeni serinin o1-preview (ön izleme) ve o1-mini diye iki sürümü mevcut.

Model henüz sadece ChatGPT Plus ve Team kullanıcılarının yanı sıra 5. seviye API katmanına hak kazanan geliştiricilerin erişimine peyderpey açılıyor.

ChatGPT Enterprise ve Edu üyelerinin de gelecek haftadan itibaren araca erişebileceğini belirten şirket, ileride o1-miniyi bütün kullanıcılara ücretsiz sunmayı planlıyor. Fakat bunun için henüz bir tarih verilmedi.

Daha önceki modellerine 2,3,4 gibi isimler veren OpenAI, son serinin yepyeni becerilere sahip olması nedeniyle "sayacı sıfırladıklarını" ve bu nedenle o1 adını seçtiklerini belirtiyor.

Tabii bütün bunların bir bedeli var. Kullanımı mayısta çıkan öncülü GPT-4o'dan üç kat daha masraflı olan o1-preview'un geliştiricilere maliyeti 1 milyon girdi jetonu (token) başına 15 dolar, 1 milyon çıktı jetonu başına da 60 dolar.

Veri birimlerini ifade eden jetonlar, yapay zeka araçlarının büyük verileri parçalara ayırıp dili işlemesini sağlıyor. 1 milyon jeton yaklaşık 750 bin kelimeye denk geliyor. 

OpenAI, o1-mini versiyonun yüzde 80 daha ucuz olduğunu belirtiyor fakat bu sürüm diğeri kadar geniş bir bilgi yelpazesine sahip değil. 

Peki şirketin ön izleme veya bir ön sürüm olduğunu belirttiği o1, öncüllerinden farklı olarak neyi yapabiliyor, neyi yapamıyor ve insanlığın kendi bilişsel seviyesini geçen yapay zeka inşa etme çabasında nasıl bir adıma işaret ediyor?

1) Gerçekten düşünebiliyor mu?

Teknoloji sektöründeki en temel tartışmalardan biri, yapay zeka araçlarının becerilerini "düşünme" veya "muhakeme" gibi ifadelerle tanımlama etrafında dönüyor. 

Geniş dil modellerinin, devasa büyüklükte bilgi kümeleriyle eğitildiği ve sorgulara verdikleri cevaplarda bu veriler üzerinden olasılık temelli tahmin yürüttükleri göz önüne alınırsa, bazı uzmanların "düşünme" ifadesine itirazlarında haklılık payı var. 

Öte yandan bu araçlar insan beyni gibi akıl yürütme becerisine gittikçe daha fazla yaklaşıyor. 

OpenAI, o1 serisinin sorulara cevap vermeden önce daha uzun süre düşündüğünü ve vereceği yanıtların doğruluğunu kontrol ettiğini ifade ediyor.

Sisteme girilen soru karşısında "Düşünüyorum" gibi yanıtlar vermesi, gerçekten o sırada düşündüğü izlenimi yaratsa da o1'in insanlar gibi akıl yürüttüğünü söylemek mümkün değil. 

OpenAI'ın araştırma ekibinin lideri Jerry Tworek, yapay zeka modelinin düşünme biçimini insanlarınkiyle bir tutmadıklarını söylüyor. 

Arayüz ise yeni modelin problemleri çözerken daha fazla zaman harcadığını ve daha derine indiğini gösterme amacıyla bu şekilde tasarlanmış.

o1'i önceki OpenAI uygulamalarından ayıran temel özelliğiyse eğitilme biçiminde yatıyor. 

Eğitim bilimci ve öğretmenlerin aşina olabileceği pekiştirmeli öğrenme denen bu yöntem, doğru yanıtlar karşısında ödül, yanlış cevaplar karşısında da ceza verilmesi ilkesine dayanıyor.

Bu sayede deneme yanılmayla ilerleyen yapay zeka aracının, doğru yanıtlara ulaşma becerisi gelişiyor. Sorguları işlerken, insanların sorunları adım adım inceleyerek çözmesine benzer bir "düşünce zinciri" kullanıyor.

OpenAI, aracı "düşünmeye" iten bu yöntemin, doğruluğunu artırdığını ifade ediyor. 

2) Hangi alanlarda kullanılacak?

Karmaşık muhakeme görevlerinde kayda değer bir ilerlemeye ve yeni bir yapay zeka yeteneği seviyesine işaret ediyor. Bu nedenle sayacı tekrar 1'e sıfırlıyor ve bu seriye OpenAI o1 adını veriyoruz.

OpenAI'ın bu ifadelerle tanıttığı o1'in, dil becerilerinden ziyade bilimsel çalışmalar, veri işleme ve kodlamada daha iyi bir performans sergilemesi bekleniyor. Ayrıca o1-mini, daha küçük bir sürüm olmasına karşın özellikle kod üretmesi amacıyla geliştirildi. 

Yeni model kodlama ve matematikte sonuca ulaşma sürecini detaylandırdığı için bu alanlarda öğretmenlik yapma becerisinin önceki versiyonlardan daha iyi olması bekleniyor. 

Şirketin baş araştırma görevlisi Bob McGrew, yeni modelin ileri seviye matematik sorularında kendisinden daha iyi olduğunu belirterek kendisinin üniversitede matematik okuduğunu ekliyor.

OpenAI yeni modelin ayrıca bilim insanlarının hücre dizileme çalışmalarına ve fizikçilerin karmaşık matematiksel formüller üretmesine katkı sağlayacağını ifade ediyor. 

Ayrıca yapılan testlerde fizik, kimya ve biyolojinin bazı alanlarında doktora öğrencileriyle yarıştığı kaydedildi.

Şirketin baş bilim insanı Dr. Jakub Pachocki ve OpenAI teknik çalışanı Szymon Sido, New York Times'a yaptıkları sunumda, sohbet botunun çengel bulmacadan çok daha karmaşık akrostiş bulmacasını çözdüğü görüldü.

Yapay zeka aracı aynı zamanda doktora düzeyinde bir kimya sorusunu yanıtladı ve bir hastanın semptomları ve geçmişi hakkında ayrıntılı bir rapora dayanarak hastalığı teşhis etti.

3) GPT-4o'dan daha mı iyi?

Daha önceki modeller internetteki bilgilerle eğitildiği ve internette epey yanlış bilgi olduğu için hata yapma ihtimalleri artıyor. o1'in eğitilme biçimiyse bu hataları çok daha düşük seviyeye indirmesini sağlıyor. 

Yeni modelin; ses, görüntü ve yazıyla iletişim kuran GPT-4o'dan çok daha iyi performans gösterdiği alanlar olsa da bazı konularda gerisinde kalıyor. 

İki aracı da lise seviyesindeki Uluslararası Matematik Olimpiyatı'na sokan OpenAI, o1'in soruların yüzde 83'ünü, GPT-4o'nun ise sadece yüzde 13'ünü doğru çözdüğünü ifade ediyor. 

Thomson Reuters'tan yeni modeli test eden Pablo Arredondo, TechCrunch'a yaptığı açıklamada yasal belgeleri analiz etme ve hukuk fakültesine giriş sınavında da daha başarılı olduğunu söylüyor.

Strawberry takma adına sahip o1'in GPT-4o'yu geride bıraktığı bir diğer alan ise "strawberry" (çilek) kelimesinde kaç tane "r" harfi olduğunu bulmak.

Bu soruya "iki" yanıtını veren ChatGPT'nin önceki sürümleri internette alay konusu olmuştu. 

İlk başta çok zor bir görev gibi görünmese de yapay zeka araçları kelimeleri harf harf değil, jetonlar şeklinde işlediği için bu tip basit işlerde zorlanabiliyorlar. 

Ancak o1, daha detaylı düşünmesi ve kendisini kontrol etmesinden dolayı bu soruya doğru yanıtı vermeyi başardı. 

Öte yandan yeni model, internette arama yapma, metin ve görsel işleme gibi özelliklere henüz sahip değil. Ayrıca gerçek dünya hakkında GPT-4o kadar bilgisi de yok. 

Pennsylvania Üniversitesi Wharton İşletme Okulu'nda yapay zeka üzerine çalışan Ethan Mollick "Açıkçası o1-preview her şeyde daha iyi değil. Örneğin GPT-4o'dan daha iyi bir yazar değil" diyerek ekliyor: 

Ancak planlama gerektiren görevlerde ciddi değişiklikler sözkonusu.

OpenAI, yeni modelinde halüsinasyon sorununu da çözmeyi henüz başaramadı. Yapay zeka sohbet botlarının bazı bilgileri "uydurmasını" ifade eden halüsinasyon, bu araçların temel sorunu olmaya devam ediyor.

Modeli test eden Mollick, zorlu bir bulmacayı çözdüğünü ancak ipuçlarından birini uydurduğunu söylüyor. 

Yine de Tworek, "Bu modelin daha az halüsinasyon gördüğünü fark ettik" diyerek ekliyor: 

Ancak sorun hâlâ devam ediyor. Halüsinasyonları çözdüğümüzü söyleyemeyiz.

Son modelin bir diğer eksikliği de sorgulara yavaş cevap vermesi. Diğer sürümler neredeyse anında yanıtı sunarken, muhtemelen düşünme süresinden dolayı o1'in cevap vermesi çok daha uzun zaman alıyor.

Örneğin Mollick, bulmacayı çözmesinin 108 saniye sürdüğünü ifade ediyor.

OpenAI modelin ön izleme versiyonu olduğunu belirtirken, uzmanlar o1'in sonraki versiyonlarının hızlanmasını umuyor. 

4) İnsanlığa tehdit oluşturabilir mi?

Bazı yapay zeka araçları eğitimleri sırasında farklı kelimelerin beraber kullanılma sıklıklarını analiz ederek sözcüklerin birbirine yakınlığını tahmin ediyor. Örneğin "kedi" ve "köpek" kelimeleri birlikte daha sık kullanıldığı için yakın anlamlara sahip olmaları gerektiği sonucuna varıyor.

Bu modellerin "yapay zeka" ve "tehdit" ifadeleri arasında da böyle bir ilişki kurmuş olması muhtemel. 

Her yeni modelin piyasa sürülmesiyle akla gelen ilk sorulardan biri insanlığa varoluşsal bir tehdit yaratıp yaratmayacağı.

Sektörün önde gelen bazı isimleri bu tehlikeye karşı uyarırken bazı uzmanlar yapay zeka araçlarının nasıl kullanıldığının daha önemli olduğunu vurguluyor.

OpenAI'ın son sürümüyle bu araçların insan gibi düşünme becerisine bir adım daha yaklaşması da endişeleri artırabilir.

Ancak bu yazıdan da anlaşılabileceği üzere, o1'in becerileri henüz korkutucu bir düzeyin yakınından bile geçmiyor. 

Ars Technica'nın ifade ettiği gibi bir bulmacadaki 8 ipucunu çözmesi 108 saniye süren ve bir cevapta halüsinasyon gören bir yapay zeka modelinin potansiyel tehlike olduğunu söylemek abartıya kaçar. 

Öte yandan OpenAI'ın yanı sıra Meta ve Google gibi şirketlerin de çabaları ve son yıllardaki hızlı gelişmeler göz önüne alınırsa, insan seviyesine ulaşan yapay zeka araçları çok uzak olmayabilir.

Independent Türkçe, TechCrunch, Verge, Ars Technica, New York Times, OpenAI



Kore çipleri Suudi Arabistan’a yöneliyor: Üretimden bilişime

Yapay zekâ çipi ve Güney Kore bayrağı (Reuters)
Yapay zekâ çipi ve Güney Kore bayrağı (Reuters)
TT

Kore çipleri Suudi Arabistan’a yöneliyor: Üretimden bilişime

Yapay zekâ çipi ve Güney Kore bayrağı (Reuters)
Yapay zekâ çipi ve Güney Kore bayrağı (Reuters)

Yapay zekâ yarışında rekabet artık yalnızca en gelişmiş modeli geliştirmekle sınırlı değil. Çipler, veri merkezleri ve enerji kapasitesi bu yarışın yeni belirleyicileri haline gelirken Suudi Arabistan, sahip olduğu enerji kaynakları ve hızla büyüyen dijital altyapısıyla küresel yapay zekâ ve yarı iletken şirketlerinin dikkatini çekiyor.

Bilgi işlem çiplerine yönelik talebin artmasıyla birlikte yarı iletken sektörü enerji, veri merkezleri ve dijital altyapıyla kesişiyor. Böylece teknolojik gücün yeni haritası, yalnızca çip üreten ülkelerin değil, bu çiplerin ihtiyaç duyduğu bilgi işlem kapasitesini barındırabilecek ülkelerin de önem kazandığı yeni bir döneme işaret ediyor.

Bu yarışta Suudi Arabistan, enerji imkânları, veri merkezlerindeki hızlı genişleme ve egemen yapay zekâ ekosistemi kurma hedefi sayesinde Asyalı çip ve yapay zekâ şirketleri için giderek daha önemli bir merkez haline geliyor. Güney Kore ise çipler, yapay zekâ ve bunlara bağlı altyapı alanlarındaki kamu harcamalarını artırarak değer zincirinin merkezindeki konumunu güçlendirmeye çalışıyor.

Koreli yapay zekâ çipi şirketi Rebellions’ın Riyad’ı bölgesel merkezi olarak seçmesi, çipleri üretenlerle onları çalıştıracak kapasiteye sahip ülkeler arasındaki bu yeni kesişimi somutlaştırıyor.

Şirketin Üst Yöneticisi (CEO) Sunghyun Park, Şarku’l Avsat’a yaptığı açıklamada, Suudi Arabistan’ı şirket için cazip bir merkez haline getiren üç temel unsur bulunduğunu söyledi. Bunların yüksek enerji kapasitesi, yapay zekâ altyapısının geliştirilmesine yönelik kararlılık ve egemen yapay zekâ alanındaki büyük hedefler olduğunu belirtti.

Park, bu faktörlerin bir araya gelmesinin Riyad’ı Rebellions’ın yapay zekâ çipleri alanındaki faaliyetlerini geliştirmesi için uygun bir merkez haline getirdiğini ifade etti.

Koreli şirketin bu adımı, Suudi Arabistan’ın veri merkezleri ve yapay zekâ projelerine yönelik yatırımların artmasıyla birlikte yükselen bilgi işlem talebini karşılayacak kapasitesini genişletmeye çalıştığı bir dönemde atıldı.

2027’de 596,92 milyar dolar bütçe

Güney Kore bu hafta, 2027 yılı için tarihinin en büyük hükümet bütçesini önerdi. Toplam 821 trilyon won (596,92 milyar dolar) tutarındaki bütçe, mevcut yıla göre yüzde 12,8 artış öngörüyor ve ülke tarihindeki en yüksek yıllık artışa işaret ediyor.

Bütçedeki harcamaların önemli bir bölümünün yapay zekâ, yarı iletkenler ve bunlarla bağlantılı altyapıya yönlendirilmesi planlanıyor.

Seul yönetimi, ekonomisinin en önemli itici güçlerinden biri olan yarı iletken sektöründeki konumunu korumak için kamu harcamalarını artırmaya hazırlanıyor. Bu adım, yapay zekâ uygulamalarında kullanılan çiplere yönelik küresel talebin hızla yükseldiği bir dönemde atılıyor.

Bütçe tasarısında, yeni nesil yarı iletken altyapısını desteklemek amacıyla su sistemleri, elektrik şebekeleri ve lojistik hizmetlerini kapsayan sanayi altyapısı için 21,3 trilyon won ayrılması öngörülüyor. Ayrıca çip sektörüne yönelik özel bütçeye 2,6 trilyon won tahsis edilmesi planlanıyor.

Güney Kore, yapay zekâ sistemlerinde kullanılan yüksek bant genişlikli bellek çiplerine (HBM) yönelik küresel talepteki artıştan da yararlanıyor. Bu talep, Samsung Electronics ve SK Hynix’in güçlü kârlar açıklamasında önemli rol oynuyor.

Egemen yapay zekâ Riyad ile Seul’ü birbirine bağlıyor

Park’a göre yapay zekânın egemenlik boyutu, ülkelerin hangi teknolojileri kullanacağına ilişkin kararlarında giderek daha önemli bir unsur haline geliyor. Özellikle bazı veri ve uygulamaların hassas sektörlerle bağlantılı olması, yerel olarak yönetilen yapay zekâ teknolojilerine duyulan ihtiyacı artırıyor.

Park, bu ihtiyacın diğer unsurların yanı sıra ulusal güvenlikle de bağlantılı olduğunu belirtti. Nükleer enerji programları veya silah sistemleri gibi hassas bilgilerin, devletlerin yapay zekânın nasıl kullanılacağını kontrol edebilmesini, sınırlarını belirleyebilmesini ve sistemleri tamamen ülke içinde çalıştırabilmesini gerektirdiğini söyledi.

cdvfgbhnj
Koreli yapay zekâ çipi şirketi Rebellions»ın Üst Yöneticisi (CEO) Sunghyun Park (Şarku’l Avsat) 

Bu durum, yapay zekâ pazarındaki temel eğilimlerden birini de yansıtıyor. Hükümetler ve şirketler artık yalnızca gelişmiş modellere erişmeye değil, verilerin nerede depolandığına, modellerin nerede çalıştırıldığına ve bu sistemlerin dayandığı altyapının kimin mülkiyetinde olduğuna da odaklanıyor.

Aramco ve Humain çip tedarik zincirinde

Rebellions’ın Suudi Arabistan’la halihazırda yatırım ilişkisi bulunuyor. Park, Aramco’nun yaklaşık iki yıl önce şirkete yatırım yaptığını, Rebellions’ın ise yapay zekâ altyapı teknolojilerine ilişkin tedarik zincirlerinin güçlendirilmesi konusunda Humain ile görüşmelerini sürdürdüğünü söyledi.

Park, Humain’in Suudi Arabistan’da ve küresel ölçekte yapay zekâ alanında faaliyet gösteren en önemli kuruluşlardan biri haline geldiğini belirterek, şirketle iş birliğinin bölgedeki yapay zekâ sektörü üzerinde olumlu bir etki yaratabileceğini ifade etti.

Bu gelişmeler, Suudi Arabistan’ın veri merkezleri başta olmak üzere dijital altyapısını genişlettiği bir dönemde yaşanıyor. Bu durum, çip ve bilgi işlem alanında faaliyet gösteren şirketler için yalnızca bileşen satışıyla sınırlı olmayan, doğrudan yapay zekâ ekosisteminin kurulmasına katılmayı mümkün kılan potansiyel bir bölgesel pazar oluşturuyor.

Rekabet çip hızından işletme maliyetine kayıyor

Rebellions, yapay zekâ çipi pazarındaki rekabetin yalnızca bir çipin saniyede daha fazla sayıda token işleme kapasitesiyle belirlenmeyeceği görüşünde.

Park, şirketin daha düşük ekonomik maliyetle daha yüksek yapay zekâ performansı sağlayan teknolojiler geliştirmeye odaklandığını söyledi. Müşteriler açısından önemli ölçütün yalnızca saniyede işlenebilen token sayısı olmadığını belirten Park, asıl önemli göstergelerden birinin token başına maliyet olduğunu ifade etti.

Şirketin modeli, kaynaklarını eğitim ve çıkarım süreçleri arasında eşit biçimde dağıtmak yerine büyük ölçüde çıkarım (inference) operasyonlarına odaklanıyor.

Park, çıkarım işlemlerinin giderek standartlaşan bir hizmete dönüştüğünü belirterek, şirketlerin ve kullanıcıların arka planda hangi teknolojinin kullanıldığından bağımsız olarak uygun maliyetle iyi sonuçlar elde etmeye daha fazla önem vereceğini söyledi.

Enerji, yapay zekâ denkleminin bir parçası haline geliyor

Veri merkezlerinin enerji tüketiminin artmasıyla birlikte elektrik maliyeti ve çiplerin enerji verimliliği, yapay zekâ kullanımının genişletilmesindeki ekonomik hesabın önemli unsurları haline geliyor.

Riyad ile Seul’ün hesapları da bu noktada farklı açılardan kesişiyor. Güney Kore, değer zincirindeki konumunu korumak amacıyla çiplere, elektrik şebekelerine ve gerekli sanayi altyapısına yatırım yaparken Suudi Arabistan, yaklaşan bilgi işlem dalgasını karşılamak için enerji, altyapı ve veri merkezleri sağlamaya çalışıyor.

Böylece yapay zekâ yarışındaki rekabet yalnızca modeller ve yazılımlar etrafında şekillenmiyor. Yarış aynı zamanda çipleri kimin ürettiği, veri merkezlerine kimin sahip olduğu, enerjiyi kimin sağlayabildiği ve tüm bunları en düşük maliyetle kimin sunabildiği soruları etrafında yeniden tanımlanıyor.


Yapay zeka öncüsü, beyin çipinin burundan çekilmesini isteyen şirkete katıldı

Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
TT

Yapay zeka öncüsü, beyin çipinin burundan çekilmesini isteyen şirkete katıldı

Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Yapay zeka öncüsü Ray Kurzweil, solunum yoluyla alınan nanopartiküller aracılığıyla insanların beyinlerini bilgisayarlara bağlamayı hedefleyen bir nöroteknoloji girişimine katıldı.

Silikon Vadisi merkezli Subsense, Elon Musk'ın Neuralink'ine alternatif bir beyin-bilgisayar arayüzü (BBA) geliştirmeye çalışıyor. Şirket, beyne elektrot yerleştirmek için invaziv cerrahiye başvurmak yerine burun spreyi kullanmayı planlıyor.

Bu teknoloji, kokuyla ilgili bilgileri ileten olfaktör sinir aracılığıyla burun yolundan beyne elektrik yüklü nanopartiküller göndererek çalışıyor.

Partiküller beyne girdikten sonra nöronların yakınına yerleşiyor ve harici bir başlığın ürettiği manyetik alanlara tepki verebiliyor. Bu sayede cerrahi müdahaleye gerek kalmadan sinirsel aktivite okunup uyarılabiliyor.

Kurzweil, "Yapay zeka, nanoteknoloji ve sinirbilimin bir araya gelmesinin, insanların teknolojiyle etkileşim biçimini kökten değiştirebileceğine yıllardır inanıyorum" diyor.

Subsense, bu alanları son derece çarpıcı bir şekilde bir araya getiren bir yaklaşım izliyor. Bu yaklaşım, beyin-bilgisayar arayüzlerini günümüzün cerrahi kısıtlamalarının ötesine taşıyarak zamanla çok daha geniş kullanım alanlarına yöneltme potansiyeline sahip.

2012'den beri Google'da baş yapay zeka araştırmacısı olarak görev yapan Kurzweil, en çok 2005 tarihli teknolojik tekillik teorisiyle tanınıyor. Bu teoride, 2029'a gelindiğinde yapay zekanın insan zekasına ulaşacağını ve ardından 2045'te insanların makinelerle birleşerek kontrol edilemez bir zeka patlamasını tetikleyeceğini öne sürüyor.

Subsense'in kurucu ortağı ve CEO'su Tetiana Aleksandrova, "Ray'in kariyeri boyunca üzerinde düşündüğü bazı fikirler hâlâ geleceğe ait" diyor.

Bizim görevimiz, o geleceğin hangi kısımlarını bugün inşa etmeye başlayabileceğimizi titizlikle ve adım adım belirlemek.

Subsense, yenilikçi teknolojisini geliştirmek için şimdiden 27 milyon dolarlık fon topladı ve fareler üzerinde deneyler yürüttü.

Girişimin insan testlerine başlamasına hâlâ yıllar var ancak ilk uygulamalar Parkinson hastalığı ve ALS gibi nörolojik rahatsızlıklara odaklanmayı hedefliyor.

Son duyuru, BBA'lara duyulan ilginin giderek arttığı bir dönemde geldi; Çinli yetkililer, bu teknolojinin geliştirilmesi amacıyla kısa süre önce geniş çaplı bir girişim başlatmıştı.

Önceki aylarda BBA cihazlarının ticari kullanımını onaylayan ilk ülke olan Çin'de tıbbi kullanım amaçlı birçok ürün halihazırda satışta.

Musk'ın Neuralink şirketiyse beyin çipinin, kullanıcıların sadece düşünceleriyle robotik uzuvları ve bilgisayarları kontrol etmesini sağlaması gibi çeşitli kullanım alanlarını çoktan başarıyla sergiledi.

Gelecekteki denemelere katılma umuduyla 10 binden fazla kişi şirketin hasta kayıt sistemine başvurdu.

Independent Türkçe, independent.co.uk/tech


OpenAI'ın "korkutucu" bir güncelleme yaptığı iddiası: "Kırmızı çizgi aşılıyor"

(Reuters)
(Reuters)
TT

OpenAI'ın "korkutucu" bir güncelleme yaptığı iddiası: "Kırmızı çizgi aşılıyor"

(Reuters)
(Reuters)

Andrew Griffin 

Yapay zeka uzmanları, ChatGPT'ye geldiği söylenen ve yapay zeka sistemlerinin faaliyetlerini denetlemeyi zorlaştırabilecek "korkutucu" güncellemeyle ilgili alarma geçti.

Bu hafta çıkan haberlerde, OpenAI'ın yakında piyasaya süreceği Astra modelinin "opak tekrarlama" adı verilen bir teknik kullanacağı öne sürülse de şirket çalışanları bu haberleri yalanladı. OpenAI'ın söylentilere konu olan değişikliğini ilk kez bildiren teknoloji yayıncısı The Information, Anthropic ve Google DeepMind'ın da benzer güncellemeleri hayata geçirmeyi değerlendirdiğini ayrı bir haberde dile getirdi.

Tekrarlayan derinlik diye de bilinen opak tekrarlama, yapay zeka sistemlerinin zorlu görevleri daha iyi yerine getirmesini sağlayabilecek karmaşık ve teknik bir araç. Ancak uzmanlar bunun, düşünce zinciri denetimi tekniğini baltalayabileceği uyarısında bulunuyor. Bu teknik, bir yapay zeka sisteminin çıktısını üretirken girdiği akıl yürütme süreçlerinin bir kısmının insanlar tarafından görülmesini sağlıyor.

Düşünce zinciri denetiminin bazı sınırlamaları var. Ancak araştırmacıların, modellerin olası uygunsuz davranışlarını görüp nasıl ortaya çıktıklarını anlamasına imkan tanıdığından, yapay zeka güvenliğini sağlamada önemli bir araç olabilir.

Örneğin bir OpenAI modelinin başka bir yapay zeka şirketi Hugging Face'e kısa süre önce gerçekleştirdiği siber saldırıda araştırmacılar, deneysel sistemin saldırıyı başlatmaya nasıl karar verdiğini izleyebilmişti.

Yeni Astra modelinin bu tekniği kullandığını doğrulamayan OpenAI, ilk haberlerin "kafa karıştırıcı" olduğunu öne sürerken, The Information'a göre bu teknik yalnızca sınırlı bir şekilde kullanılıyor. OpenAI, Astra'yı piyasaya sürme planlarının devam edeceğini önceki günlerde duyurduğunda, aslında modelin "potansiyel olarak uyumsuz eylemleri hızla saptayıp kontrol altına almak için ek bir düşünce zinciri denetleme sistemi" içerdiğini belirtmişti.

Ancak yapay zeka uzmanları, yapay zeka sistemlerini denetleme yeteneğinin zayıflatılmasının tehlikeli bir süreci başlatabileceği uyarısında bulunuyor.

Yapay zeka güvenliği uzmanı Zvi Mowshowitz, Substack'te "Bu teknik ateşle oynamaktır. OpenAI ve Anthropic'in kurmak için mücadele ettiği, bizimse Düşünce Zinciri sadakatini ve denetlenebilirliğini elimizden geldiğince uzun süre korumak için büyük çaba harcadığımız bir tabuyu ihlal etme riskini taşıyor" diye yazıyor.

Bu tür tekniklerin daha yoğun kullanımı muhtemelen denetlenebilirliğe zarar verecek.

Büyük yapay zeka şirketlerini ve iddialarını düzenli olarak eleştiren araştırmacı Gary Marcus, bu "korkutucu durumun" kırmızı çizgiyi aşmak anlamına geleceğini söylüyor. Marcus "Düşünce zincirinin denetlenebilirliği sınırlı ve tam olarak güvenilir değil ancak ciddi derecede kötü sonuçları önlemek için pratikte elimizdeki tek yol bu" diye yazıyor.

OpenAI çalışanları, konuyla ilgili haberlerin "kafa karıştırıcı" olduğunu öne sürdü. Şirketin baş bilim insanı Jakub Pachocki, söylentilerin "denetlenemezliğe doğru bir yarış" başlatabileceği uyarısı yaparak OpenAI'ın düşünce zincirini denetlemeye yönelik bağlılığını korduğunu ve "bu tekniğe derinden önem verdiğini" söyledi.

Şirketin stratejik gelecekten sorumlu başkanı Dean W. Ball da benzer şekilde tartışmanın büyük ölçüde sosyal medyada gerçekleşmesini eleştirdi. Ball'a göre bu durum, "gerçekte neler olup bittiğine dair neredeyse hiç somut bilgiye sahip olmadan, teknik açıdan karmaşık ve incelikli iddialar hakkında sosyal medyada hüküm vermek" anlamına geliyor. Ball, X'te "Bu açıkçası çılgınca, akıl almaz ve ilgili herkes için sinir bozucu" diye yazdı.

Independent Türkçe, independent.co.uk/tech