4 soruda OpenAI'ın "düşünebilen" yeni yapay zeka serisi

OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
TT

4 soruda OpenAI'ın "düşünebilen" yeni yapay zeka serisi

OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)

OpenAI, "düşünme" becerisine sahip olduğunu öne sürdüğü yeni yapay zeka serisi o1'i dün (12 Eylül Perşembe) kullanıma sundu. 

Strawberry diye de bilinen yeni serinin o1-preview (ön izleme) ve o1-mini diye iki sürümü mevcut.

Model henüz sadece ChatGPT Plus ve Team kullanıcılarının yanı sıra 5. seviye API katmanına hak kazanan geliştiricilerin erişimine peyderpey açılıyor.

ChatGPT Enterprise ve Edu üyelerinin de gelecek haftadan itibaren araca erişebileceğini belirten şirket, ileride o1-miniyi bütün kullanıcılara ücretsiz sunmayı planlıyor. Fakat bunun için henüz bir tarih verilmedi.

Daha önceki modellerine 2,3,4 gibi isimler veren OpenAI, son serinin yepyeni becerilere sahip olması nedeniyle "sayacı sıfırladıklarını" ve bu nedenle o1 adını seçtiklerini belirtiyor.

Tabii bütün bunların bir bedeli var. Kullanımı mayısta çıkan öncülü GPT-4o'dan üç kat daha masraflı olan o1-preview'un geliştiricilere maliyeti 1 milyon girdi jetonu (token) başına 15 dolar, 1 milyon çıktı jetonu başına da 60 dolar.

Veri birimlerini ifade eden jetonlar, yapay zeka araçlarının büyük verileri parçalara ayırıp dili işlemesini sağlıyor. 1 milyon jeton yaklaşık 750 bin kelimeye denk geliyor. 

OpenAI, o1-mini versiyonun yüzde 80 daha ucuz olduğunu belirtiyor fakat bu sürüm diğeri kadar geniş bir bilgi yelpazesine sahip değil. 

Peki şirketin ön izleme veya bir ön sürüm olduğunu belirttiği o1, öncüllerinden farklı olarak neyi yapabiliyor, neyi yapamıyor ve insanlığın kendi bilişsel seviyesini geçen yapay zeka inşa etme çabasında nasıl bir adıma işaret ediyor?

1) Gerçekten düşünebiliyor mu?

Teknoloji sektöründeki en temel tartışmalardan biri, yapay zeka araçlarının becerilerini "düşünme" veya "muhakeme" gibi ifadelerle tanımlama etrafında dönüyor. 

Geniş dil modellerinin, devasa büyüklükte bilgi kümeleriyle eğitildiği ve sorgulara verdikleri cevaplarda bu veriler üzerinden olasılık temelli tahmin yürüttükleri göz önüne alınırsa, bazı uzmanların "düşünme" ifadesine itirazlarında haklılık payı var. 

Öte yandan bu araçlar insan beyni gibi akıl yürütme becerisine gittikçe daha fazla yaklaşıyor. 

OpenAI, o1 serisinin sorulara cevap vermeden önce daha uzun süre düşündüğünü ve vereceği yanıtların doğruluğunu kontrol ettiğini ifade ediyor.

Sisteme girilen soru karşısında "Düşünüyorum" gibi yanıtlar vermesi, gerçekten o sırada düşündüğü izlenimi yaratsa da o1'in insanlar gibi akıl yürüttüğünü söylemek mümkün değil. 

OpenAI'ın araştırma ekibinin lideri Jerry Tworek, yapay zeka modelinin düşünme biçimini insanlarınkiyle bir tutmadıklarını söylüyor. 

Arayüz ise yeni modelin problemleri çözerken daha fazla zaman harcadığını ve daha derine indiğini gösterme amacıyla bu şekilde tasarlanmış.

o1'i önceki OpenAI uygulamalarından ayıran temel özelliğiyse eğitilme biçiminde yatıyor. 

Eğitim bilimci ve öğretmenlerin aşina olabileceği pekiştirmeli öğrenme denen bu yöntem, doğru yanıtlar karşısında ödül, yanlış cevaplar karşısında da ceza verilmesi ilkesine dayanıyor.

Bu sayede deneme yanılmayla ilerleyen yapay zeka aracının, doğru yanıtlara ulaşma becerisi gelişiyor. Sorguları işlerken, insanların sorunları adım adım inceleyerek çözmesine benzer bir "düşünce zinciri" kullanıyor.

OpenAI, aracı "düşünmeye" iten bu yöntemin, doğruluğunu artırdığını ifade ediyor. 

2) Hangi alanlarda kullanılacak?

Karmaşık muhakeme görevlerinde kayda değer bir ilerlemeye ve yeni bir yapay zeka yeteneği seviyesine işaret ediyor. Bu nedenle sayacı tekrar 1'e sıfırlıyor ve bu seriye OpenAI o1 adını veriyoruz.

OpenAI'ın bu ifadelerle tanıttığı o1'in, dil becerilerinden ziyade bilimsel çalışmalar, veri işleme ve kodlamada daha iyi bir performans sergilemesi bekleniyor. Ayrıca o1-mini, daha küçük bir sürüm olmasına karşın özellikle kod üretmesi amacıyla geliştirildi. 

Yeni model kodlama ve matematikte sonuca ulaşma sürecini detaylandırdığı için bu alanlarda öğretmenlik yapma becerisinin önceki versiyonlardan daha iyi olması bekleniyor. 

Şirketin baş araştırma görevlisi Bob McGrew, yeni modelin ileri seviye matematik sorularında kendisinden daha iyi olduğunu belirterek kendisinin üniversitede matematik okuduğunu ekliyor.

OpenAI yeni modelin ayrıca bilim insanlarının hücre dizileme çalışmalarına ve fizikçilerin karmaşık matematiksel formüller üretmesine katkı sağlayacağını ifade ediyor. 

Ayrıca yapılan testlerde fizik, kimya ve biyolojinin bazı alanlarında doktora öğrencileriyle yarıştığı kaydedildi.

Şirketin baş bilim insanı Dr. Jakub Pachocki ve OpenAI teknik çalışanı Szymon Sido, New York Times'a yaptıkları sunumda, sohbet botunun çengel bulmacadan çok daha karmaşık akrostiş bulmacasını çözdüğü görüldü.

Yapay zeka aracı aynı zamanda doktora düzeyinde bir kimya sorusunu yanıtladı ve bir hastanın semptomları ve geçmişi hakkında ayrıntılı bir rapora dayanarak hastalığı teşhis etti.

3) GPT-4o'dan daha mı iyi?

Daha önceki modeller internetteki bilgilerle eğitildiği ve internette epey yanlış bilgi olduğu için hata yapma ihtimalleri artıyor. o1'in eğitilme biçimiyse bu hataları çok daha düşük seviyeye indirmesini sağlıyor. 

Yeni modelin; ses, görüntü ve yazıyla iletişim kuran GPT-4o'dan çok daha iyi performans gösterdiği alanlar olsa da bazı konularda gerisinde kalıyor. 

İki aracı da lise seviyesindeki Uluslararası Matematik Olimpiyatı'na sokan OpenAI, o1'in soruların yüzde 83'ünü, GPT-4o'nun ise sadece yüzde 13'ünü doğru çözdüğünü ifade ediyor. 

Thomson Reuters'tan yeni modeli test eden Pablo Arredondo, TechCrunch'a yaptığı açıklamada yasal belgeleri analiz etme ve hukuk fakültesine giriş sınavında da daha başarılı olduğunu söylüyor.

Strawberry takma adına sahip o1'in GPT-4o'yu geride bıraktığı bir diğer alan ise "strawberry" (çilek) kelimesinde kaç tane "r" harfi olduğunu bulmak.

Bu soruya "iki" yanıtını veren ChatGPT'nin önceki sürümleri internette alay konusu olmuştu. 

İlk başta çok zor bir görev gibi görünmese de yapay zeka araçları kelimeleri harf harf değil, jetonlar şeklinde işlediği için bu tip basit işlerde zorlanabiliyorlar. 

Ancak o1, daha detaylı düşünmesi ve kendisini kontrol etmesinden dolayı bu soruya doğru yanıtı vermeyi başardı. 

Öte yandan yeni model, internette arama yapma, metin ve görsel işleme gibi özelliklere henüz sahip değil. Ayrıca gerçek dünya hakkında GPT-4o kadar bilgisi de yok. 

Pennsylvania Üniversitesi Wharton İşletme Okulu'nda yapay zeka üzerine çalışan Ethan Mollick "Açıkçası o1-preview her şeyde daha iyi değil. Örneğin GPT-4o'dan daha iyi bir yazar değil" diyerek ekliyor: 

Ancak planlama gerektiren görevlerde ciddi değişiklikler sözkonusu.

OpenAI, yeni modelinde halüsinasyon sorununu da çözmeyi henüz başaramadı. Yapay zeka sohbet botlarının bazı bilgileri "uydurmasını" ifade eden halüsinasyon, bu araçların temel sorunu olmaya devam ediyor.

Modeli test eden Mollick, zorlu bir bulmacayı çözdüğünü ancak ipuçlarından birini uydurduğunu söylüyor. 

Yine de Tworek, "Bu modelin daha az halüsinasyon gördüğünü fark ettik" diyerek ekliyor: 

Ancak sorun hâlâ devam ediyor. Halüsinasyonları çözdüğümüzü söyleyemeyiz.

Son modelin bir diğer eksikliği de sorgulara yavaş cevap vermesi. Diğer sürümler neredeyse anında yanıtı sunarken, muhtemelen düşünme süresinden dolayı o1'in cevap vermesi çok daha uzun zaman alıyor.

Örneğin Mollick, bulmacayı çözmesinin 108 saniye sürdüğünü ifade ediyor.

OpenAI modelin ön izleme versiyonu olduğunu belirtirken, uzmanlar o1'in sonraki versiyonlarının hızlanmasını umuyor. 

4) İnsanlığa tehdit oluşturabilir mi?

Bazı yapay zeka araçları eğitimleri sırasında farklı kelimelerin beraber kullanılma sıklıklarını analiz ederek sözcüklerin birbirine yakınlığını tahmin ediyor. Örneğin "kedi" ve "köpek" kelimeleri birlikte daha sık kullanıldığı için yakın anlamlara sahip olmaları gerektiği sonucuna varıyor.

Bu modellerin "yapay zeka" ve "tehdit" ifadeleri arasında da böyle bir ilişki kurmuş olması muhtemel. 

Her yeni modelin piyasa sürülmesiyle akla gelen ilk sorulardan biri insanlığa varoluşsal bir tehdit yaratıp yaratmayacağı.

Sektörün önde gelen bazı isimleri bu tehlikeye karşı uyarırken bazı uzmanlar yapay zeka araçlarının nasıl kullanıldığının daha önemli olduğunu vurguluyor.

OpenAI'ın son sürümüyle bu araçların insan gibi düşünme becerisine bir adım daha yaklaşması da endişeleri artırabilir.

Ancak bu yazıdan da anlaşılabileceği üzere, o1'in becerileri henüz korkutucu bir düzeyin yakınından bile geçmiyor. 

Ars Technica'nın ifade ettiği gibi bir bulmacadaki 8 ipucunu çözmesi 108 saniye süren ve bir cevapta halüsinasyon gören bir yapay zeka modelinin potansiyel tehlike olduğunu söylemek abartıya kaçar. 

Öte yandan OpenAI'ın yanı sıra Meta ve Google gibi şirketlerin de çabaları ve son yıllardaki hızlı gelişmeler göz önüne alınırsa, insan seviyesine ulaşan yapay zeka araçları çok uzak olmayabilir.

Independent Türkçe, TechCrunch, Verge, Ars Technica, New York Times, OpenAI



Microsoft kesintisi... Daha fazla bağlantı kurarken iletişim kurma becerimizi mi kaybediyoruz?

 Teknik arızalar, alışageldiğimiz uygulamaların dışında insanlarla iletişim kurabilme kapasitemize ilişkin soru işaretleri doğuruyor (Adobe)
Teknik arızalar, alışageldiğimiz uygulamaların dışında insanlarla iletişim kurabilme kapasitemize ilişkin soru işaretleri doğuruyor (Adobe)
TT

Microsoft kesintisi... Daha fazla bağlantı kurarken iletişim kurma becerimizi mi kaybediyoruz?

 Teknik arızalar, alışageldiğimiz uygulamaların dışında insanlarla iletişim kurabilme kapasitemize ilişkin soru işaretleri doğuruyor (Adobe)
Teknik arızalar, alışageldiğimiz uygulamaların dışında insanlarla iletişim kurabilme kapasitemize ilişkin soru işaretleri doğuruyor (Adobe)

Hayal edin: Her zamanki gibi bir iş gününe başlıyorsunuz ancak e-posta gönderemediğinizi, iş arkadaşlarınızla Teams üzerinden iletişim kuramadığınızı veya ihtiyaç duyduğunuz dosyalara erişemediğinizi fark ediyorsunuz. Bilgisayarınız çalışıyor, internet bağlantınız kesilmemiş; ancak işlerinizi yürütmek için ihtiyaç duyduğunuz hizmetler cevap vermiyor. Hatta iletişim kurabileceğiniz pek çok araç bulunmasına rağmen, alışık olduğunuz platformun dışında ihtiyaç duyduğunuz kişiye nasıl ulaşacağınızı bilemediğinizi fark ediyorsunuz.

12 Kasım 2026'da Microsoft hizmetlerinde meydana gelen ve etkileri ertesi güne de uzanan geniş çaplı kesinti, teknik sorunun ötesinde bir soruyu yeniden gündeme getirdi: İletişim araçlarının çoğalması bizi birbirimizle iletişim kurma konusunda daha mı yetkin hâle getirdi, yoksa bu sistemleri sağlayan altyapılara daha mı bağımlı kıldı?

Outlook ve Teams'in yanı sıra Microsoft 365 ekosistemine bağlı diğer uygulamalar da kesintiden etkilendi. Bu durum, yazışma, toplantı ve bilgi paylaşımı için söz konusu hizmetlere güvenen kullanıcıların ve kurumların işleyişini aksattı.

Her zaman bağlantıdayız... Ama tek bir platform üzerinden

Son yıllarda iş hayatında iletişim hiç olmadığı kadar kolaylaştı. Farklı ülkelerde çalışanlar saniyeler içinde toplantı düzenleyebiliyor, dosyaları anında paylaşabiliyor, yazışmaları ve projeleri tek bir cihaz üzerinden takip edebiliyor.

Ancak bu kolaylık, dikkat çekici bir çelişkiyi de beraberinde getiriyor. Birden fazla uygulama kullandığımızı ve farklı seçeneklere sahip olduğumuzu düşünüyoruz. Oysa bu uygulamaların tamamı ortak bir teknolojik altyapıya dayanabiliyor. Söz konusu altyapı devre dışı kaldığında, aynı anda birden fazla iletişim aracını kaybedebiliyoruz.

Artık mesele yalnızca e-postanın kesilmesi değil. İşlerimizin ve mesleki ilişkilerimizin, çalışması veya yeniden devreye alınması üzerinde doğrudan kontrol sahibi olmadığımız hizmetlere ne ölçüde bağlı olduğu da önem taşıyor.

Birbirimize nasıl ulaşacağımızı biliyor muyuz?

Yıllardır bir iş arkadaşımızla Teams üzerinden iletişim kurduğumuzu düşünelim. Peki, telefon numarasına sahip miyiz? Mesajlaşma platformu aniden devre dışı kalırsa çalışma ekibimiz nasıl hareket edeceğini biliyor mu? Ya iletişim listesi ve kesinti sırasında yapılması gerekenlere ilişkin talimatlar, tam da erişilemeyen sistemin içinde kayıtlıysa?

Bunlar geçmişe dönme çağrısı değil. Aksine, her gün kullandığımız uygulamalardan bağımsız iletişim kanallarını koruyabilme kapasitemize ilişkin sorular.

Başkalarına ulaşmak, çoğu zaman alternatif iletişim araçlarından ziyade onların dijital hesaplarına bağlı hâle geldi. Bir mesaj gönderiyor ve yerine ulaşacağını varsayıyoruz. Toplantı planlıyor ve bağlantının çalışacağına güveniyoruz. Bilgilerimizi ise sürekli erişilebilir olacağını düşündüğümüz platformlarda saklıyoruz.

Oysa iletişim bir uygulamayla başlamaz ve onunla sona ermez. Bir kişiye ulaşabilmek, onunla bilgi paylaşabilmek ve alışılmış iletişim yöntemi kullanılamadığında harekete geçebilmek, her türlü mesleki ve insani ilişkinin temel unsurları olmaya devam ediyor.

Kolaylık ne zaman bağımlılığa dönüşüyor?

Dijital platformların çalışma biçimimizi geliştirdiği, mesafeleri ortadan kaldırmaya ve zamandan tasarruf etmeye yardımcı olduğu tartışılmaz. Ancak bu hizmetler birbirleriyle daha fazla entegre oldukça, tek bir arızanın birden fazla işlevi etkileme ihtimali de artıyor.

Yapay zekânın e-posta, toplantı, dosya yönetimi ve görevlerin yürütülmesi gibi alanlara girmesiyle bu bağımlılık ağı daha da genişliyor. Temel bir hizmetin devre dışı kalması, tamamen farklı işlevlere sahip olsa bile ona dayanan diğer araçların da çalışmasını engelleyebiliyor.

Bu, çözümün daha fazla uygulama kullanmak olduğu anlamına gelmiyor. Çünkü farklı arayüzlere sahip olmak, bunların üzerinde çalıştığı altyapıların birbirinden bağımsız olduğunu garanti etmiyor. Aynı şekilde teknolojiden vazgeçmek de gerekmiyor. Önemli olan, alternatifleri önceden düşünmek ve temel hizmetler devre dışı kaldığında nelerin çalışmaya devam edebileceğini bilmek.

İletişim teknolojiden daha fazlasıdır

Microsoft kesintisi, teknik ekiplerin müdahalesiyle giderilen ve hizmetlerin yeniden normale dönmesiyle sona eren geçici bir operasyonel sorun olarak değerlendirilebilir. Ancak bu olay, başkalarıyla iletişim kurma biçimimizi nasıl şekillendirdiğimiz üzerine düşünmek için de bir fırsat sunuyor.

Teknolojik ilerleme, insanlara ulaşma hızımızı daha önce görülmemiş ölçüde artırdı. Ancak bu kapasitenin her koşulda kullanılabilir kalacağını garanti etmiyor. Onlarca uygulamaya sahip olmakla ihtiyaç duyduğumuz insanlara ulaşabileceğimiz gerçek bir iletişim kanalını korumak arasında, ancak hizmetler durduğunda farkına vardığımız önemli bir ayrım olabilir.

Belki de bu kesintinin ardından sorulması gereken en önemli soru, e-postanın veya çevrim içi toplantıların ne zaman yeniden çalışacağı değil, çok daha basit bir şey: Yarın kullandığımız uygulamalar devre dışı kalırsa, kaç kişiye hâlâ ulaşabiliriz?


Apple, Siri'yi hayatınızı yönetecek bir araca dönüştürmeyi planlıyor

20 Eylül 2024'te New York'taki Apple Store'da çekilmiş iPhone fotoğrafı (AFP)
20 Eylül 2024'te New York'taki Apple Store'da çekilmiş iPhone fotoğrafı (AFP)
TT

Apple, Siri'yi hayatınızı yönetecek bir araca dönüştürmeyi planlıyor

20 Eylül 2024'te New York'taki Apple Store'da çekilmiş iPhone fotoğrafı (AFP)
20 Eylül 2024'te New York'taki Apple Store'da çekilmiş iPhone fotoğrafı (AFP)

Yeni haberlere göre Apple, Siri'yi hayatınızı yönetebilecek bir yapay zeka ajanına dönüştürmeyi planlıyor.

iPhone üreticisinin bu yıl duyurduğu yeni güncellemeyle sesli asistan baştan aşağı yenilendi ve yapay zeka destekli bir dizi yeni özellik kazandı. Artık Siri, örneğin kullanıcıların kişisel bağlamlarından bilgi alabilmenin yanı sıra dünyayla ilgili soruları da yanıtlayabiliyor.

Ancak Bloomberg'ün yeni haberine göre Apple, sahibi adına hareket edebilmesi için araca daha fazla güncelleme eklemeyi planlıyor. Haberde, bu değişikliklerin gelecek yıl hayata geçebileceği öne sürülüyor.

Bu hamle, Apple'ın OpenAI, SpaceXAI ve Muse'un son zamanlarda sunduğu güncellemelerle rekabet etmesini sağlayabilir. Muse, sohbet botu aracılığıyla çalışan ancak bilet rezervasyonu yapmak veya toplantıların tarihini değiştirmek gibi işlemlerde sahibi adına proaktif adımlar atabilen yeni Muse sistemiyle özellikle dikkatleri ve kullanıcıları kendine çekti.

Apple bunu gerçekleştirmek için yürüttüğü çalışmaların bir kısmını şimdiden paylaşmış olabilir. Örneğin geçen hafta, Siri'nin uygulamalar arasında işlem yapabilmesi için tüm uygulamaların sisteme erişmesine izin vereceğini duyurmuştu.

Siri'ye yapılan son güncellemelerde de bu hedefe ulaşmayı kolaylaştırabilecek başka özellikler eklendi. Örneğin ekim sonlarına doğru yayımlanan son iOS 27.2 güncellemesi, Siri'ye daha iyi bir hafıza kazandırarak önceki konuşmalardaki kullanışlı bilgileri hatırlayabilmesini sağladı.

Ancak bu son gelen ve gelecek değişikliklere rağmen Siri'de rakiplerinin sunduğu temel özellikler hâlâ eksik. SpaceXAI'ın GrokBot'u ve OpenAI'ın Dots'u da dahil en güçlü rakipleri, örneğin kullanıcının izlemesine gerek kalmadan uzun vadeli hedefleri takip edip uzun ve karmaşık görevleri yerine getirebiliyor.

Bloomberg'ün haberine göre Apple da Siri'yi benzer bir yöne doğru götürmeyi planlıyor. Haberde bu gelişmenin "gelecek yıl kadar erken bir tarihte" gerçekleşebileceği öne sürülse de bu tür ajanlara yönelik halihazırda yaygın ve artan bir ilgi olduğu düşünülürse, şirketin bu zaman çizelgesine uymak zorunda kalabileceği de belirtiliyor.

Ancak Siri'yi daha proaktif hale getirmek ve diğer asistanlara benzetmek bir dizi zorluk yaratabilir. Diğer sistemler, kullanıcıların istemediği eylemlerde bulundukları için zaman zaman eleştirilere maruz kalıyor. Apple da sesli asistanını, Meta'nın Muse'u gibi sevimli bir tasarıma sahip ancak bazen müdahaleci davranan, arkadaş benzeri bir şeye dönüştürmek istemediğini ve gizlilikle güvenliğe verdiği önemi sürdüreceğini defalarca vurguladı.

Yeni CEO John Ternus, Apple'ın geçen hafta yapılan son kazanç toplantısında Apple'ın Siri ve yapay zeka özellikleri üzerindeki çalışmalarına büyük ölçüde olumlu yaklaşmıştı. Ancak aynı etkinlikte, Siri'nin gelecekte yapay zeka ajanları gibi bir yapıya bürünme olasılığı sorulduğunda yaptığı açıklamalarda diğer endişelerin bir kısmını kabul ettiği görülmüştü.

Ternus, sistemin "şu anda esasen kullanıcıların talepleri doğrultusunda çalıştığını" ancak "zaman içinde yeteneklerini önemli ölçüde geliştirmeye imkan tanıyan" bir mimari üzerine inşa edildiğini söylemişti. "Yapay zeka ajanlarının sahip olduğu yeteneklere gelince, bunların kullanıcılar için umut vaat ettiğini düşünüyoruz" demişti.

CEO, "Sadece kullanıcıların nelere erişim izni verdiklerini bilmelerini istiyoruz" ifadelerini kullanmıştı.

Bunun, güvenliği ve gizliliği koruyacak şekilde yapıldığından emin olmak istiyoruz.

Independent Türkçe


Anthropic'in yapay zekası kendi gelişimini bir yılda iki kat hızlandırdı

(Reuters)
(Reuters)
TT

Anthropic'in yapay zekası kendi gelişimini bir yılda iki kat hızlandırdı

(Reuters)
(Reuters)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson

Yeni bir araştırmada Anthropic'in yapay zeka modellerinin kendi gelişimlerini hızlandırdığı bulundu. Bu durum, kontrolden çıkan yapay zekaya dair endişeleri artırıyor.

Yapay zeka güvenliğini takip eden bir örgütün bağımsız değerlendirmesi, Claude'un geliştiricisinin yapay zeka alanındaki ilerlemesinin bir yıl öncesine kıyasla artık iki kat daha hızlı olduğunu gösterdi.

Kâr amacı gütmeyen Model Değerlendirme ve Tehdit Araştırmaları (METR) kuruluşunun paylaştığı bulgular, Anthropic CEO'su Dario Amodei'nin yapay zekayı geliştirme hızının yavaşlatılması yönünde çağrı yaptığı dönemde geldi.

Teknoloji patronu eylülde yayımladığı "We Must Pace the Frontier" (İlerlemeyi Yavaşlatmalıyız) başlıklı makalede, yapay zeka modellerini güvenli şekilde geliştirmek için üç maddelik bir plan önermişti.

Amodei, "Aşağı yukarı bu yazdan beri yapay zeka, esasen yeni nesil yapay zekayı geliştirme yeteneğinin artması sayesinde çarpıcı bir hızda ilerliyor" diye yazmıştı.

Bu dinamik, özyinelemeli öz gelişim diye adlandırılıyor... Denetlenmediği takdirde teknoloji, bu sistemleri anlama ve kontrol etme yeteneğimizi aşabilir. Bu nedenle eğer devam edilecekse bile, çok dikkatli şekilde ilerlenmeli.

OpenAI CEO'su Sam Altman da o dönemde yaptığı açıklamada "ilerlemeyi yavaşlatmak gerektiğine" katıldığını söylemiş ve Amodei'nin bağımsız değerlendirme uzmanları önerisini "harika bir fikir" diye nitelemişti.

Anthropic, METR'dan araştırmacıları şirket içi verileri incelemeleri ve modellerinin yeteneklerini değerlendirmeleri için davet etmişti.

Perşembe günü yayımlanan raporda, Anthropic'in son bir yılda karşılaştırmalı performans açısından fiilen iki yıllık bir ilerleme kaydettiği belirtiliyor.

Araştırmacılar gelişimdeki bu hızlanmanın, modelleri eğitmek için kullanılan bilgi işlem gücündeki artıştan ziyade, yapay zeka modellerindeki özyinelemeli öz gelişimden kaynaklandığını söylüyor.

Raporda, "Yapay zeka sistemleri, yapay zeka geliştirme sürecini ciddi derecede hızlandırmaya başlarsa, bu durum uç noktada ve riskli yeteneklerin aniden ortaya çıkmasına yol açabilir" ifadeleri yer alıyor.

Araştırmacılar ayrıca yapay zeka geliştirmenin en kritik kısımlarının denetiminde hâlâ insanlara ihtiyaç duyulduğunu ancak bu durumun yakında değişebileceğini de belirtiyor.

Ekip, "Yapay zekanın, model eğitim sürecinin en önemli kısımlarına henüz büyük önem taşıyan ve tamamen özerk katkılar sağlayamadığını biliyoruz" diye yazıyor.

Ancak araştırmacılar, bu tür katkıların yakında gerçekleşebileceğini ima eden önemli 'yaşam belirtileri' tanımladı. Fakat bu katkıların olgunluk düzeyi, alana bağlı olarak ciddi farklılık gösterebilir.

Independent Türkçe, independent.co.uk/tech