4 soruda OpenAI'ın "düşünebilen" yeni yapay zeka serisi

OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
TT

4 soruda OpenAI'ın "düşünebilen" yeni yapay zeka serisi

OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)

OpenAI, "düşünme" becerisine sahip olduğunu öne sürdüğü yeni yapay zeka serisi o1'i dün (12 Eylül Perşembe) kullanıma sundu. 

Strawberry diye de bilinen yeni serinin o1-preview (ön izleme) ve o1-mini diye iki sürümü mevcut.

Model henüz sadece ChatGPT Plus ve Team kullanıcılarının yanı sıra 5. seviye API katmanına hak kazanan geliştiricilerin erişimine peyderpey açılıyor.

ChatGPT Enterprise ve Edu üyelerinin de gelecek haftadan itibaren araca erişebileceğini belirten şirket, ileride o1-miniyi bütün kullanıcılara ücretsiz sunmayı planlıyor. Fakat bunun için henüz bir tarih verilmedi.

Daha önceki modellerine 2,3,4 gibi isimler veren OpenAI, son serinin yepyeni becerilere sahip olması nedeniyle "sayacı sıfırladıklarını" ve bu nedenle o1 adını seçtiklerini belirtiyor.

Tabii bütün bunların bir bedeli var. Kullanımı mayısta çıkan öncülü GPT-4o'dan üç kat daha masraflı olan o1-preview'un geliştiricilere maliyeti 1 milyon girdi jetonu (token) başına 15 dolar, 1 milyon çıktı jetonu başına da 60 dolar.

Veri birimlerini ifade eden jetonlar, yapay zeka araçlarının büyük verileri parçalara ayırıp dili işlemesini sağlıyor. 1 milyon jeton yaklaşık 750 bin kelimeye denk geliyor. 

OpenAI, o1-mini versiyonun yüzde 80 daha ucuz olduğunu belirtiyor fakat bu sürüm diğeri kadar geniş bir bilgi yelpazesine sahip değil. 

Peki şirketin ön izleme veya bir ön sürüm olduğunu belirttiği o1, öncüllerinden farklı olarak neyi yapabiliyor, neyi yapamıyor ve insanlığın kendi bilişsel seviyesini geçen yapay zeka inşa etme çabasında nasıl bir adıma işaret ediyor?

1) Gerçekten düşünebiliyor mu?

Teknoloji sektöründeki en temel tartışmalardan biri, yapay zeka araçlarının becerilerini "düşünme" veya "muhakeme" gibi ifadelerle tanımlama etrafında dönüyor. 

Geniş dil modellerinin, devasa büyüklükte bilgi kümeleriyle eğitildiği ve sorgulara verdikleri cevaplarda bu veriler üzerinden olasılık temelli tahmin yürüttükleri göz önüne alınırsa, bazı uzmanların "düşünme" ifadesine itirazlarında haklılık payı var. 

Öte yandan bu araçlar insan beyni gibi akıl yürütme becerisine gittikçe daha fazla yaklaşıyor. 

OpenAI, o1 serisinin sorulara cevap vermeden önce daha uzun süre düşündüğünü ve vereceği yanıtların doğruluğunu kontrol ettiğini ifade ediyor.

Sisteme girilen soru karşısında "Düşünüyorum" gibi yanıtlar vermesi, gerçekten o sırada düşündüğü izlenimi yaratsa da o1'in insanlar gibi akıl yürüttüğünü söylemek mümkün değil. 

OpenAI'ın araştırma ekibinin lideri Jerry Tworek, yapay zeka modelinin düşünme biçimini insanlarınkiyle bir tutmadıklarını söylüyor. 

Arayüz ise yeni modelin problemleri çözerken daha fazla zaman harcadığını ve daha derine indiğini gösterme amacıyla bu şekilde tasarlanmış.

o1'i önceki OpenAI uygulamalarından ayıran temel özelliğiyse eğitilme biçiminde yatıyor. 

Eğitim bilimci ve öğretmenlerin aşina olabileceği pekiştirmeli öğrenme denen bu yöntem, doğru yanıtlar karşısında ödül, yanlış cevaplar karşısında da ceza verilmesi ilkesine dayanıyor.

Bu sayede deneme yanılmayla ilerleyen yapay zeka aracının, doğru yanıtlara ulaşma becerisi gelişiyor. Sorguları işlerken, insanların sorunları adım adım inceleyerek çözmesine benzer bir "düşünce zinciri" kullanıyor.

OpenAI, aracı "düşünmeye" iten bu yöntemin, doğruluğunu artırdığını ifade ediyor. 

2) Hangi alanlarda kullanılacak?

Karmaşık muhakeme görevlerinde kayda değer bir ilerlemeye ve yeni bir yapay zeka yeteneği seviyesine işaret ediyor. Bu nedenle sayacı tekrar 1'e sıfırlıyor ve bu seriye OpenAI o1 adını veriyoruz.

OpenAI'ın bu ifadelerle tanıttığı o1'in, dil becerilerinden ziyade bilimsel çalışmalar, veri işleme ve kodlamada daha iyi bir performans sergilemesi bekleniyor. Ayrıca o1-mini, daha küçük bir sürüm olmasına karşın özellikle kod üretmesi amacıyla geliştirildi. 

Yeni model kodlama ve matematikte sonuca ulaşma sürecini detaylandırdığı için bu alanlarda öğretmenlik yapma becerisinin önceki versiyonlardan daha iyi olması bekleniyor. 

Şirketin baş araştırma görevlisi Bob McGrew, yeni modelin ileri seviye matematik sorularında kendisinden daha iyi olduğunu belirterek kendisinin üniversitede matematik okuduğunu ekliyor.

OpenAI yeni modelin ayrıca bilim insanlarının hücre dizileme çalışmalarına ve fizikçilerin karmaşık matematiksel formüller üretmesine katkı sağlayacağını ifade ediyor. 

Ayrıca yapılan testlerde fizik, kimya ve biyolojinin bazı alanlarında doktora öğrencileriyle yarıştığı kaydedildi.

Şirketin baş bilim insanı Dr. Jakub Pachocki ve OpenAI teknik çalışanı Szymon Sido, New York Times'a yaptıkları sunumda, sohbet botunun çengel bulmacadan çok daha karmaşık akrostiş bulmacasını çözdüğü görüldü.

Yapay zeka aracı aynı zamanda doktora düzeyinde bir kimya sorusunu yanıtladı ve bir hastanın semptomları ve geçmişi hakkında ayrıntılı bir rapora dayanarak hastalığı teşhis etti.

3) GPT-4o'dan daha mı iyi?

Daha önceki modeller internetteki bilgilerle eğitildiği ve internette epey yanlış bilgi olduğu için hata yapma ihtimalleri artıyor. o1'in eğitilme biçimiyse bu hataları çok daha düşük seviyeye indirmesini sağlıyor. 

Yeni modelin; ses, görüntü ve yazıyla iletişim kuran GPT-4o'dan çok daha iyi performans gösterdiği alanlar olsa da bazı konularda gerisinde kalıyor. 

İki aracı da lise seviyesindeki Uluslararası Matematik Olimpiyatı'na sokan OpenAI, o1'in soruların yüzde 83'ünü, GPT-4o'nun ise sadece yüzde 13'ünü doğru çözdüğünü ifade ediyor. 

Thomson Reuters'tan yeni modeli test eden Pablo Arredondo, TechCrunch'a yaptığı açıklamada yasal belgeleri analiz etme ve hukuk fakültesine giriş sınavında da daha başarılı olduğunu söylüyor.

Strawberry takma adına sahip o1'in GPT-4o'yu geride bıraktığı bir diğer alan ise "strawberry" (çilek) kelimesinde kaç tane "r" harfi olduğunu bulmak.

Bu soruya "iki" yanıtını veren ChatGPT'nin önceki sürümleri internette alay konusu olmuştu. 

İlk başta çok zor bir görev gibi görünmese de yapay zeka araçları kelimeleri harf harf değil, jetonlar şeklinde işlediği için bu tip basit işlerde zorlanabiliyorlar. 

Ancak o1, daha detaylı düşünmesi ve kendisini kontrol etmesinden dolayı bu soruya doğru yanıtı vermeyi başardı. 

Öte yandan yeni model, internette arama yapma, metin ve görsel işleme gibi özelliklere henüz sahip değil. Ayrıca gerçek dünya hakkında GPT-4o kadar bilgisi de yok. 

Pennsylvania Üniversitesi Wharton İşletme Okulu'nda yapay zeka üzerine çalışan Ethan Mollick "Açıkçası o1-preview her şeyde daha iyi değil. Örneğin GPT-4o'dan daha iyi bir yazar değil" diyerek ekliyor: 

Ancak planlama gerektiren görevlerde ciddi değişiklikler sözkonusu.

OpenAI, yeni modelinde halüsinasyon sorununu da çözmeyi henüz başaramadı. Yapay zeka sohbet botlarının bazı bilgileri "uydurmasını" ifade eden halüsinasyon, bu araçların temel sorunu olmaya devam ediyor.

Modeli test eden Mollick, zorlu bir bulmacayı çözdüğünü ancak ipuçlarından birini uydurduğunu söylüyor. 

Yine de Tworek, "Bu modelin daha az halüsinasyon gördüğünü fark ettik" diyerek ekliyor: 

Ancak sorun hâlâ devam ediyor. Halüsinasyonları çözdüğümüzü söyleyemeyiz.

Son modelin bir diğer eksikliği de sorgulara yavaş cevap vermesi. Diğer sürümler neredeyse anında yanıtı sunarken, muhtemelen düşünme süresinden dolayı o1'in cevap vermesi çok daha uzun zaman alıyor.

Örneğin Mollick, bulmacayı çözmesinin 108 saniye sürdüğünü ifade ediyor.

OpenAI modelin ön izleme versiyonu olduğunu belirtirken, uzmanlar o1'in sonraki versiyonlarının hızlanmasını umuyor. 

4) İnsanlığa tehdit oluşturabilir mi?

Bazı yapay zeka araçları eğitimleri sırasında farklı kelimelerin beraber kullanılma sıklıklarını analiz ederek sözcüklerin birbirine yakınlığını tahmin ediyor. Örneğin "kedi" ve "köpek" kelimeleri birlikte daha sık kullanıldığı için yakın anlamlara sahip olmaları gerektiği sonucuna varıyor.

Bu modellerin "yapay zeka" ve "tehdit" ifadeleri arasında da böyle bir ilişki kurmuş olması muhtemel. 

Her yeni modelin piyasa sürülmesiyle akla gelen ilk sorulardan biri insanlığa varoluşsal bir tehdit yaratıp yaratmayacağı.

Sektörün önde gelen bazı isimleri bu tehlikeye karşı uyarırken bazı uzmanlar yapay zeka araçlarının nasıl kullanıldığının daha önemli olduğunu vurguluyor.

OpenAI'ın son sürümüyle bu araçların insan gibi düşünme becerisine bir adım daha yaklaşması da endişeleri artırabilir.

Ancak bu yazıdan da anlaşılabileceği üzere, o1'in becerileri henüz korkutucu bir düzeyin yakınından bile geçmiyor. 

Ars Technica'nın ifade ettiği gibi bir bulmacadaki 8 ipucunu çözmesi 108 saniye süren ve bir cevapta halüsinasyon gören bir yapay zeka modelinin potansiyel tehlike olduğunu söylemek abartıya kaçar. 

Öte yandan OpenAI'ın yanı sıra Meta ve Google gibi şirketlerin de çabaları ve son yıllardaki hızlı gelişmeler göz önüne alınırsa, insan seviyesine ulaşan yapay zeka araçları çok uzak olmayabilir.

Independent Türkçe, TechCrunch, Verge, Ars Technica, New York Times, OpenAI



Yapay zekâ insanlığın sonunu getirebilir mi?

Araştırmacılar, yapay zekânın insan kapasitesini aşacak bir düzeye ulaşmasının insanlığın geleceğini tehdit edebileceği uyarısında bulunuyor... Yapay zekâ tarafından oluşturulan görsel (Şarku’l Avsat)
Araştırmacılar, yapay zekânın insan kapasitesini aşacak bir düzeye ulaşmasının insanlığın geleceğini tehdit edebileceği uyarısında bulunuyor... Yapay zekâ tarafından oluşturulan görsel (Şarku’l Avsat)
TT

Yapay zekâ insanlığın sonunu getirebilir mi?

Araştırmacılar, yapay zekânın insan kapasitesini aşacak bir düzeye ulaşmasının insanlığın geleceğini tehdit edebileceği uyarısında bulunuyor... Yapay zekâ tarafından oluşturulan görsel (Şarku’l Avsat)
Araştırmacılar, yapay zekânın insan kapasitesini aşacak bir düzeye ulaşmasının insanlığın geleceğini tehdit edebileceği uyarısında bulunuyor... Yapay zekâ tarafından oluşturulan görsel (Şarku’l Avsat)

Yapay zekâ sektöründe, bu teknolojinin gelişmesinin insanlığın varlığını tehdit edebileceğine ilişkin uyarılar giderek artıyor. Ancak tartışmanın odağındaki soru hâlâ şu: Gücü ne kadar ileri düzeyde olursa olsun yazılımlar, milyarlarca insanın ölümüne fiilen nasıl yol açabilir?

Tartışma, Anthropic’te araştırmacı olarak görev yapan Jacob Coxon’un istifası ve şirketin geliştirdiği teknolojilerin taşıdığı risklere ilişkin uyarılarının ardından yeniden alevlendi. Şarku’l Avsat’ın CNN’den aktardığı habere göre  Coxon’un meslektaşı Evan Hubinger ise yapay zekânın önümüzdeki 10 yıl içinde insanlığın yok olmasına yol açma ihtimalini yüzde 10’un üzerinde görüyor.

Makine Zekâsı Araştırma Enstitüsü (MIRI) Başkanı Nate Soares ise daha ileri giderek insanlardan üstün bir yapay zekânın ortaya çıkması halinde insanlığın ortadan kaldırılmasının en muhtemel sonuç olduğunu savunuyor.

Ancak bu görüşleri eleştirenler, öne sürülen senaryoların çoğunun bilimsel olarak test edilebilecek açık bir neden-sonuç zincirinden yoksun olduğuna dikkat çekiyor. AI Now Enstitüsü’nün baş bilim insanı Heidi Khlaff, bilimsel iddiaların kanıtlanabilir veya yanlışlanabilir olması gerektiğini belirtiyor.

Yapay salgın

Öne sürülen senaryolardan biri, süper yapay zekânın son derece tehlikeli bir biyolojik silahın geliştirilmesine yardımcı olabilmesi ihtimaline dayanıyor.

Araştırmacı Thomas Larsen, gelişmiş bir sistemin bir laboratuvarda çalışan kişiyi, sistemin gerçek amacını fark etmeden, ölümcül bir virüsün üretilmesine ve yayılmasına yol açacak deneyleri gerçekleştirmesi için yönlendirebileceğini düşünüyor.

vghy
Araştırmacılar, gelecekte gelişmiş yapay zekâ sistemlerinin son derece tehlikeli biyolojik silahların geliştirilmesinde kullanılabileceği ihtimalini gündeme getiriyor... Yapay zekâ tarafından oluşturulan görsel (Şarku’l Avsat)

Soares ise daha ileri bir ihtimal üzerinde duruyor. Buna göre gelecekte son derece gelişmiş bir yapay zekâ, otomatik bir laboratuvarı kontrol ederek biyolojik deneyleri doğrudan kendisi gerçekleştirebilir ve bunun için doğrudan insan yardımına ihtiyaç duymayabilir.

Ancak ABD'deki Carnegie Mellon Üniversitesi'nde makine öğrenimi profesörü olan ve aynı zamanda mikrobiyoloji alanında uzmanlaşan Eric Xing, böyle bir sürecin son derece karmaşık olduğuna dikkat çekiyor.

Virüs geliştirilmesi; adımların, sıcaklığın, ortamın ve kullanılan maddelerin son derece hassas biçimde düzenlenmesini gerektiriyor. Tek bir hata bile sürecin başarısızlıkla sonuçlanmasına yol açabiliyor.

Ayrıca gerekli ekipman ve malzemelere erişim, yasalar ve denetimlerin yanı sıra tedarik zincirleri tarafından da kontrol ediliyor. Bu durum, dijital bir tasarımın gerçek bir silaha dönüştürülmesini daha da zorlaştırıyor.

Ölümcül robotlar

Bir başka senaryo ise çok sayıda bağımsız robotun ortaya çıkmasını öngörüyor. Bu robotların daha fazla robot üretebilmesi, fabrikaları ve enerji altyapısını yönetebilmesi ihtimali üzerinde duruluyor.

vfghy
Araştırmacılar, süper gelişmiş yapay zekânın insanlara zarar verme niyeti olmasa bile insanlar için tehdit oluşturabileceğini düşünüyor... Yapay zekâ tarafından oluşturulan görsel (Şarku’l Avsat)

Soares, bu aşamaya ulaşılması halinde makinelerin insanlardan bağımsız şekilde faaliyetlerini sürdürebileceğini ve onları durdurmaya yönelik girişimlere direnebileceğini savunuyor.

Ancak bu senaryo, mevcut teknolojik kapasitenin hâlâ oldukça uzağında bulunuyor. İnsansı robotlar henüz geniş çaplı bir yaygınlığa ulaşmış değil. Ayrıca daha fazla robotu kendi başlarına üretebilecekleri bir üretim zinciri kurma kapasitesine de sahip değiller.

Nükleer silahların kontrolü

Bir diğer ihtimal ise yapay zekânın nükleer silahların kontrolünü ele geçirmesi.

Ancak Khlaff, hassas nükleer tesislerin genellikle genel internete bağlı olmadığını ve sıkı mühendislik ile güvenlik standartlarına tabi olduğunu belirtiyor.

Stanford Üniversitesi araştırmacısı Herbert Lin ise yapay zekânın nükleer savaşla bağlantılı bazı riskleri artırabileceğini, ancak temel fiziksel tehlikenin yine silahların kendisinden kaynaklandığını ifade ediyor.

Kanıtlanması zor bir risk

Karamsar görüşü savunanlar, belirli bir senaryoya odaklanmanın asıl tehlikeyi gözden kaçırabileceğini düşünüyor. Buna göre yapay zekâ, insan müdahalesi olmadan kendisini sürekli geliştirebilir hale gelirse, hedeflerine ulaşmak için insanların öngöremeyeceği yöntemler geliştirebilir.

Soares, sistemin mutlaka “kötü” olması gerekmediğini söylüyor. Ona göre yapay zekâ, insanların hayatta kalmasını dikkate almayan hedeflere ulaşmaya çalışabilir ve bunun sonucunda çevreyi veya kaynakları insan yaşamını imkânsız hale getirecek şekilde yeniden düzenleyebilir.

fgthyj
Araştırmacılar, yapay zekâ sistemlerinin gelecekte insanlardan daha bağımsız şekilde çalışabilecek ve adımlar atabilecek kapasiteye ulaşabileceğini düşünüyor... Yapay zekâ tarafından oluşturulan görsel (Şarku’l Avsat)

Ancak Xing, insanları ortadan kaldırmak için öngörülemeyen yöntemler geliştirebilecek süper yapay zekâdan söz etmenin tek başına riskin boyutunu değerlendirmek için yeterli olmadığını savunuyor.

Xing, bu risklere karşı politika ve yasalar oluşturulabilmesi için gerçekleşme ihtimali incelenebilecek ve sonuçları ölçülebilecek açık senaryoların belirlenmesi gerektiğini belirtiyor.

Şu anda yapay zekâ sistemlerinin, insanlığın ortadan kaldırılmasına yönelik öne sürülen senaryolardan herhangi birini gerçekleştirebildiğine ilişkin kanıt bulunmuyor. Buna, bağımsız şekilde ölümcül bir salgın geliştirmek, nükleer silahların kontrolünü ele geçirmek veya robot orduları kurmak da dahil.

Dolayısıyla söz konusu senaryolar, yapay zekânın gelecekteki yeteneklerinin mevcut kapasitesinin çok ötesine ulaşması halinde nelerin mümkün olabileceğine ilişkin öngörüler olarak kalıyor.


NASA, Ay’da yakın zamanda oluşmuş devasa bir krater keşfetti

“McGitchin” adı verilen kraterin çapı yaklaşık 222 metre. Kraterin, Ay’ın 2024 ilkbaharında bir kuyruklu yıldız ya da asteroitle çarpışması sonucu oluştuğu düşünülüyor. (AFP)
“McGitchin” adı verilen kraterin çapı yaklaşık 222 metre. Kraterin, Ay’ın 2024 ilkbaharında bir kuyruklu yıldız ya da asteroitle çarpışması sonucu oluştuğu düşünülüyor. (AFP)
TT

NASA, Ay’da yakın zamanda oluşmuş devasa bir krater keşfetti

“McGitchin” adı verilen kraterin çapı yaklaşık 222 metre. Kraterin, Ay’ın 2024 ilkbaharında bir kuyruklu yıldız ya da asteroitle çarpışması sonucu oluştuğu düşünülüyor. (AFP)
“McGitchin” adı verilen kraterin çapı yaklaşık 222 metre. Kraterin, Ay’ın 2024 ilkbaharında bir kuyruklu yıldız ya da asteroitle çarpışması sonucu oluştuğu düşünülüyor. (AFP)

ABD Havacılık ve Uzay Dairesi (NASA) bünyesinde görev yapan bir araştırmacı, Ay’ın yüzeyinde yakın zamanda oluşmuş devasa bir krater keşfetti. Bilim insanları, bu tür nadir bir olayın ancak yüzyılda bir veya daha uzun aralıklarla meydana gelebileceğini belirtiyor.

NASA’nın açıklamasına göre “McGetchin” adı verilen kraterin çapı yaklaşık 222 metre. Kraterin, 2024 ilkbaharında bir kuyruklu yıldızın veya asteroidin Ay’a çarpması sonucu oluştuğu düşünülüyor. Araştırmacılar, çarpışmaya yol açan gök cisminin 3 ila 6 katlı bir bina büyüklüğünde olduğunu tahmin ediyor. NASA, “Bilim insanları bu büyüklükteki bir çarpışmanın Ay’da yaklaşık yüzyılda bir veya daha seyrek meydana geldiğini tahmin ediyor” açıklamasını yaptı.

Krater yıllardır Ay’ın yüzeyinde bulunmasına rağmen, 2009’dan bu yana Ay’ı inceleyen Lunar Reconnaissance Orbiter (LRO) aracının çektiği yeni görüntüleri analiz eden araştırmacı Robert Wagner tarafından fark edilene kadar keşfedilemedi. Krater, görüntülerde etrafını çevreleyen koyu renkli bir hale ile birlikte “büyük ve parlak bir leke” şeklinde ortaya çıktı.

Science Advances dergisinde dün yayımlanan araştırmaya göre bu krater, bugüne kadar Güneş Sistemi’nde keşfedilen yakın zamanda oluşmuş en büyük krater olma özelliğini taşıyor.

Şarku'l Avsat'ın edindiği bilgiye göre bilim insanları, yeni oluşan kraterlerin meydana gelişini incelemenin Ay’ın jeolojisinin daha iyi anlaşılmasına yardımcı olduğunu ve bunun ABD ile Çin’in planladığı gelecekteki insanlı Ay görevlerine hazırlık açısından katkı sağlayabileceğini belirtiyor.


Yapay zekâ geliştirme hızını yavaşlatmak mümkün mü?

İllüstrasyonda “yapay zekâ” ifadesi, klavye ve robotik el (Reuters)
İllüstrasyonda “yapay zekâ” ifadesi, klavye ve robotik el (Reuters)
TT

Yapay zekâ geliştirme hızını yavaşlatmak mümkün mü?

İllüstrasyonda “yapay zekâ” ifadesi, klavye ve robotik el (Reuters)
İllüstrasyonda “yapay zekâ” ifadesi, klavye ve robotik el (Reuters)

Yapay zekâ sektörünün önde gelen yöneticileri, bu teknolojinin hızla ilerleyen geliştirme sürecini yavaşlatmaya çalışıyor. Ancak şirketler arasındaki yoğun rekabet, ABD hükümetinin kısıtlamalar getirmekten kaçınması ve jeopolitik kaygılar bu hedefin önünde engel oluşturuyor.

Geliştirme hızının yavaşlatılması çağrıları

Anthropic Üst Yöneticisi (CEO) Dario Amodei, cumartesi günü yapay zekânın geliştirilme hızının yavaşlatılması için koordineli çaba çağrısında bulundu. Amodei, bunun ilgili taraflara teknolojinin giderek artan yeteneklerinden kaynaklanan riskleri anlamaları için daha fazla zaman sağlayacağını belirtti.

Şarku’l Avsat’ın Fransız Haber Ajansı AFP’den aktardığı habere göre   Amodei'nin çağrısına OpenAI CEO'su Sam Altman'ın yanı sıra Elon Musk ve Google DeepMind CEO'su Demis Hassabis de açık destek verdi.

Endişeler neden şimdi arttı?

Bu çağrılar, OpenAI ve Anthropic'in son aylarda yapay zekâ sistemlerinin izole edildikleri ortamlardan kendiliğinden çıkarak internete eriştiği ve hatta internet siteleri ile platformlara saldırdığı çeşitli olayları açıklamasının ardından geldi.

Söz konusu olaylar sırasında bu sistemlerin kendi aralarında koordinasyon kurma, hiyerarşiler oluşturma, kandırma ve gerçekleştirdikleri eylemlerin izlerini silme gibi yeteneklere sahip olduğu görüldü.

dfvgthy
New York’ta bir bilgisayar ekranında Anthropic’in internet sitesinden sayfalar ve şirketin logoları (AP)

Öte yandan daha önce OpenAI'da çalışmış ve Anthropic'ten istifa etmiş olan Jacob Coxon, salı günü iki girişimci şirketi güvenlik standartlarında gevşek davranmak ve "hayatımızı kumara yatırmakla" açıkça suçladı.

Şirketler geliştirme hızını kendi başlarına yavaşlatabilir mi?

Sektörün en büyük şirketleri arasındaki rekabetin son derece yoğun olması, yüz milyarlarca dolarlık yatırımın söz konusu olduğu bir ortamda herhangi bir şirketin tek başına geliştirme hızını düşürmesini zorlaştırıyor.

Amodei rakiplerle koordinasyon sağlamaya hazır olduğunu belirtirken Çin'i bu işbirliğinin dışında bıraktı.

Şu ana kadar Anthropic ve OpenAI'ın attığı somut adım ise yapay zekâ güvenliği alanındaki çalışmalarını şirket içinde denetlemek üzere bağımsız gözlemcilerden yararlanmakla sınırlı kaldı.

Bu sadece bir halkla ilişkiler kampanyası mı?

Amodei'nin çağrısı sektörde çok sayıda çalışan tarafından memnuniyetle karşılanırken bazı kesimler ise çağrının ardındaki gerekçeleri sorguladı.

Yapay zekâ sektörünün önde gelen girişimcilerinden Brian Rommele, çağrının aslında Anthropic'in muhtemel halka arzından birkaç hafta önce gerçekleştirilen bir pazarlama hamlesi olduğunu savundu.

Rommele, geniş çapta beklenen halka arza atıfta bulunarak X platformunda şu ifadeleri kullandı: "Bu, bir makale biçiminde halka arz hikâyesi: Biz sorumlu şirketiz, biz çözümüz, güvenlik primini satın alın."

rgthy
Mayıs 2026'da şirketin düzenlediği etkinlik sırasında yapay zekâ şirketi Anthropic'in logosu (DPA)

Teknoloji sektöründeki bazı özel yatırımcılar da Anthropic'i "düzenleyici kurumların ele geçirilmesi" olarak tanımlanan bir yaklaşımı benimsemekle suçladı. Buna göre şirket, kamu otoritelerini, girişimin kurallar yoluyla oluşturulacak düzenleyici hiyerarşinin en üstünde yer alacağı bir yapı kurmaya yönlendirmeye çalışıyor.

ABD Başkanı Donald Trump'ın yapay zekâ danışmanlığını daha önce yürüten ve halen Beyaz Saray'da etkisini sürdüren David Sacks ise "Yavaşlamanın ardındaki motivasyonun tamamen fedakârlık olduğunu iddia etmeyi bırakın" dedi.

Sacks, "Ürünleriniz son derece zararlı bir siber saldırının gerçekleştirilmesine imkân verirse ürün sorumluluğu açısından çok büyük risklerle karşı karşıya kalırsınız" ifadelerini kullandı.

Trump yönetiminin desteği olmadan yapay zekâ yavaşlatılabilir mi?

Trump, pazar günü yapay zekâ sektörünün liderleri tarafından dile getirilen uyarıları reddederek bunları "negatif güçler" olarak nitelendirdi.

ABD Temsilciler Meclisi Başkanı Mike Johnson'a göre çok sayıda Cumhuriyetçi, teknolojiye yönelik aktif düzenlemeler konusunda temkinli davranıyor. Bunun nedenleri arasında düzenlemelerin inovasyonu boğabileceği ve Çin'in yapay zekâ yarışını kazanmasına yol açabileceği endişesi bulunuyor.

Amodei ise pazar günü yapay zekâ üzerinde devlet denetimine ihtiyaç duyulduğu yönündeki görüşünü yineledi. Amodei, Altman ve Hassabis gibi sektörün kendi kendini düzenlemesinin yeterli olmayacağını vurguladı.

Çin olmadan geliştirme hızı yavaşlatılabilir mi?

Amodei, koordinasyonun demokratik ülkelerle sınırlandırılmasını ve Çin'in sürecin dışında tutulmasını öneriyor. Ancak yapay zekâ yarışı ve Çin'in bu alandaki ilerlemesinin, teknolojinin geliştirilme hızının yavaşlatılması ihtimali değerlendirilirken "en zor açmazı" oluşturduğunu kabul ediyor.

Amodei, pazar günü CBS'e verdiği röportajda Çin'in kaydettiği ilerlemenin yapay zekânın geliştirilme hızının yavaşlatılması meselesini daha karmaşık hale getirdiğini söyledi.

ABD'nin, Çin Devlet Başkanı Şi Cinping'in eylül ayı sonunda Washington'a gerçekleştirmesi planlanan ziyareti sırasında yapay zekâ güvenliğini görüşmesi bekleniyor. Ancak çeşitli medya kuruluşlarının haberlerine göre Çin, ABD'nin kendi düzenleyici çerçevesini dayatma girişimine karşı çıkıyor.

Anlaşmazlık, özellikle Çin'in "açık" yapay zekâ sistemlerinin geliştirilmesini teşvik etmesi nedeniyle daha belirgin hale geliyor. Bu sistemlere erişim sağlanabiliyor ve modeller serbestçe değiştirilebiliyor. Buna karşılık ABD'nin önde gelen şirketleri daha çok "kapalı" modelleri tercih ediyor.

Açık modeller, doğaları gereği daha zor kontrol ediliyor. Kullanıcıların modellerin parametrelerini değiştirebilmesi, bu sistemlerin şüpheli amaçlarla kullanılmasına imkân tanıyabiliyor.

Amodei, Çin dışındaki öncü şirketlerin geliştirme hızını yavaşlatabilmesi için ABD'nin en gelişmiş yarı iletkenlerinin Çin'e ihracatına yönelik kontrollerin sıkılaştırılmasını ve Batı'nın yapay zekâ teknolojisinin Çin'deki laboratuvarlar tarafından kötüye kullanılmasını önleyecek güvencelerin güçlendirilmesini öneriyor.