Sam Altman olayı teknoloji dünyasındaki derin uçuruma işaret ediyor

Karamsarlar ve iyimserler yapay zekânın kontrolü için savaşıyor

OpenAI'ın programcısı, kurucusu ve CEO'su Sam Altman (AFP)

Teknoloji dünyasının hızına rağmen geçtiğimiz hafta sonu yaşanan gelişmelerin eşi benzeri daha önceden görülmemişti. 17 Kasım Cuma günü, yapay zekâ devriminin ön saflarında yer alan OpenAI şirketinin yönetim kurulu, şirketin kurucu ortağı ve CEO'su Sam Altman'ı aniden görevden aldı. Yönetim kurulunun Altman'a olan güvenini neden kaybettiği henüz belli değil. Ancak söylentiler, yan projeleriyle ilgili endişelere ve aynı zamanda ‘insanlığın maksimum yararı’ için teknoloji geliştirme sözü veren bir şirkette, kamu güvenliği sonuçlarını dikkate almadan OpenAI'nin ticari tekliflerini genişletmek için çok hızlı hareket ettiğine dair endişelere işaret ediyor.

Görevden alınmasından sonraki iki gün boyunca şirketin yatırımcıları ve bazı çalışanları Altman'ın görevine iade edilmesini istedi. Ancak yönetim kurulu kendi görüşüne sadık kaldı. 19 Kasım Pazar gününün son saatlerinde, canlı yayın platformu Twitch'in eski CEO’su Emmett Shear, geçici CEO olarak atandı. Daha da şaşırtıcı olan, OpenAI'nin en büyük yatırımcılarından biri olan Microsoft CEO'su Satya Nadella'nın ertesi gün X platformunda (eski adıyla Twitter) “Bay Altman ve bir grup OpenAI çalışanı, yeni, gelişmiş bir yapay zekâ araştırma ekibine liderlik etmek üzere yazılım devine katılacak” paylaşımında bulunmasıydı.

“Karamsarlar, yapay zekânın serbest bırakılmasının insanlık için varoluşsal bir tehdit oluşturduğuna inanıyor ve katı düzenlemeler yapılması çağrısında bulunuyor.”

Karamsarlar ve iyimserler

OpenAI'daki olaylar şüphesiz Silikon Vadisi'ndeki geniş bölünmenin şimdiye kadarki en dramatik tezahürü. Bir yanda, yapay zekânın serbest bırakılmasının insanlık için varoluşsal bir tehdit oluşturduğuna inanan ve bu nedenle daha sıkı düzenlemeler yapılması çağrısında bulunan ‘karamsarlar’ var. Diğer yanda ise yapay zekâ kaynaklı kıyamet senaryosu korkularını küçümseyen ve ilerlemeyi hızlandırma potansiyelini vurgulayan ‘iyimserler’ bulunuyor. Nüfuzunu kullanan taraf daha katı düzenlemeleri teşvik edebilir veya engelleyebilir. Bu da gelecekte yapay zekâdan en çok kimin yararlanacağını belirler.

AFP

OpenAI'ın kurumsal yapısı taraf olmayı mümkün kılıyor. Şirket 2015 yılında kâr amacı gütmeyen bir kuruluş olarak kuruldu. Bundan üç yıl sonra teknolojiyi ilerletmek için pahalı bilgi işlem ve beyin gücü ihtiyacını finanse etmek amacıyla kâr amacı gütmeyen bir yan kuruluş kurdu. Dolayısıyla karamsarların ve iyimserlerin rekabet halindeki hedeflerine ulaşmak her zaman zor olacaktır.

Bu bölünme bir dereceye kadar felsefi farklılıkları yansıtıyor. Karamsarların kampındaki pek çok kişi, yapay zekânın tüm insanlığı yok edeceğinden endişe duyan bir hareket olan ‘etkili fedakarlıktan’ (effective altruism) etkileniyor. Endişe duyanlar arasında, başka bir modelleme şirketi olan Anthropic'i kurmak için OpenAI'den ayrılan Dario Amodei de yer alıyor. Microsoft'un da aralarında bulunduğu diğer büyük teknoloji şirketleri de yapay zekânın güvenliği konusunda endişe duyanlar arasında yer alıyor, ancak karamsarlar arasında değiller.

İyimserler, yapay zekâ gelişimine yalnızca engellenmeden izin verilmesi değil aynı zamanda hızlandırılması gerektiğini savunan ‘etkin dayanışma’ adı verilen bir dünya görüşünü savunuyorlar. Davet, risk sermayesi şirketi Andreessen Horowitz'in kurucu ortağı Marc Andreessen tarafından yönetiliyor. Yapay zekâ araştırmalarındaki diğer uzmanlar da bu amaca sempati duyuyor gibi görünüyor. Meta'dan Yann LeCun ve Andrew Ng ile Hugging Face ve Mistral AI dahil olmak üzere bir dizi yeni girişim, daha az kısıtlayıcı düzenlemeleri savunuyor.

“Microsoft'un liderliği büyük ölçüde OpenAI'a olan büyük yatırımına dayanıyor ve Amazon, Anthropic'e yaklaşık dört milyar dolar yatırım yapmayı planlıyor.”

Altman'ın konumu

Altman her iki gruba da sempati duyuyor gibi görünüyor ve kamuoyuna yapay zekâyı güvenli hale getirmek için ‘korkuluklar’ inşa etme çağrısında bulunuyor. Aynı zamanda OpenAI'ı daha sağlam modeller geliştirmeye ve kullanıcıların kendi sohbet robotlarını oluşturabilecekleri bir uygulama mağazası gibi yeni araçlar sunmaya zorluyor. Ana şirketin yönetim kurulunda herhangi bir sandalye elde etmeden yüzde 49 hisse karşılığında OpenAI'ye 10 milyar dolardan fazla para aktaran en büyük yatırımcısı Microsoft'un, kendisine haber verilmeden Altman’ın işten çıkarıldığını öğrendiğinde üzüldüğü söyleniyor. Microsoft'un planladığı çalışmayı Altman ve meslektaşlarına teklif etmesinin nedeni bu olabilir.

Ancak görünen o ki olup bitenlerde soyut felsefeden daha fazlası var. Aslında iki grup ticari açıdan da bölünmüş durumda. Karamsarlar yapay zekâ yarışına ilk girenler. Bu yüzden daha fazla paraya sahipler ve özel sermaye modellerini tercih ediyorlar. Öte yandan iyimserler ise genelde açık kaynaklı yazılımları tercih eden ve yetişen küçük şirketler.

İlk kazananlarla başlayalım. OpenAI'ın ChatGPT uygulaması, piyasaya sürülmesinden sadece iki ay sonra 100 milyon kullanıcıya ulaştı ve onu, OpenAI'den ayrılanlar tarafından kurulan ve şu anda 25 milyar dolar değerinde olan Anthropic takip etti. Google'daki araştırmacılar tarafından, büyük miktarda veri üzerinde eğitim veren ve ChatGPT dahil tüm sohbet robotlarını destekleyen yazılımlar olan büyük dil modelleri hakkında orijinal bir makale yazıldı. Google daha büyük, daha akıllı modellerin yanı sıra Bard adında bir sohbet robotu da üretiyor.

AFP

Bu arada Microsoft'un liderliği büyük ölçüde OpenAI'a olan büyük yatırımına dayanıyor ve Amazon, Anthropic'e yaklaşık dört milyar dolar yatırım yapmayı planlıyor. Ancak teknolojide ilk hamleyi yapmak her zaman başarıyı garanti etmiyor. Teknolojinin ve talebin hızla ilerlediği bir pazarda, yeni girenler mevcut şirketleri altüst etmek için büyük fırsatlara sahip.

Bu, karamsarların daha katı kurallar dayatma dürtüsünü daha da güçlendirebilir. Geçtiğimiz Mayıs ayında ABD Kongresi'nde verdiği ifadede Altman, sektörün “dünyaya büyük zarar verebileceği” yönündeki endişelerini dile getirdi ve politika yapıcıları yapay zekâya yönelik özel düzenlemeler yapmaya çağırdı. Aynı ay, 350 yapay zekâ bilim insanı ve aralarında OpenAI'nin de bulunduğu teknoloji şirketlerindeki yöneticilerden oluşan bir grup anlaşmayı imzaladı. Anthropic ve Google, nükleer savaş ve pandemilerin yanı sıra yapay zekanın oluşturduğu ‘yok olma riski’ konusunda tek satırlık bir uyarı yayınladı. Korkunç tahminlere rağmen, açıklamayı onaylayan şirketlerin hiçbiri daha yetenekli yapay zekâ modelleri oluşturma çalışmalarını durdurmadı.

Politika ve şirketler

Politikacılar tehlikeleri ciddiye aldıklarını göstermeye çalışıyorlar. Temmuz ayında Başkan Joe Biden'ın yönetimi, aralarında Microsoft, OpenAI, Meta ve Google'ın da bulunduğu yedi büyük model üreticisini   yapay zekâ tabanlı ürünlerini halka sunmadan önce incelemek üzere uzmanlara sunmak için “gönüllü taahhütlerde” bulunmaya çağırdı. 1 Kasım'da İngiliz hükümeti benzer bir gruptan, düzenleyicilerin yapay zekâ tabanlı ürünlerinin güvenilirliğini ve ulusal güvenliği tehlikeye atma gibi zararlı potansiyellerini incelemesine olanak tanıyan bağlayıcı olmayan başka bir anlaşma imzalamasını istedi. Bundan günler önce Biden çok daha güçlü bir başkanlık kararnamesi çıkarmıştı. Bu kararnameye göre, yazılımın gerektirdiği bilgi işlem gücüne göre belirlenen belirli bir boyutun üzerinde modeller oluşturan herhangi bir yapay zekâ şirketinin, güvenlik testlerinin sonuçlarını hükümete bildirmesi gerekiyor.

İki grup arasındaki bir diğer ayrım çizgisi de açık kaynaklı yapay zekânın geleceği. OpenAI, Anthropic ve Google gibi büyük dil modelleri tescillidir veya açık kaynaktır. Meta tarafından oluşturulan bir model olan Llama'nın Şubat ayında piyasaya sürülmesi, açık kaynak yapay zekâ alanındaki faaliyetleri teşvik etti. Taraftarlar, açık kaynak modellerinin incelemeye açık olması nedeniyle daha güvenli olduğunu savunuyorlar. Eleştirmenler ise bu güçlü yapay zekâ modellerini halka açık hale getirmenin, kötü aktörlerin bunları zararlı amaçlarla kullanmasına olanak tanıdığından endişe ediyor.

“Şu ana kadar düzenleyiciler karamsarların iddialarına olumlu bakıyor gibi görünüyor. Biden'ın çıkardığı başkanlık kararnamesi açık kaynaklı yapay zekânın kullanımını engelleyebilir.”

Ancak açık kaynak konusundaki tartışma ticari amaçları da yansıtıyor olabilir. Örneğin, risk sermayesi firmaları, belki de destekledikleri startup'ların yeni geliştirme faaliyetlerini yakalamak veya modellere ücretsiz erişim elde etmek için bir yol aradıklarından bunu istiyorlardır. Mevcut şirketler rekabet tehdidinden korkabilir. Google'ın içinden kişiler tarafından yazılan ve Mayıs ayında sızdırılan bir belgede, açık kaynak modellerinin bazı görevlerde tescilli muadilleriyle karşılaştırılabilir sonuçlara ve çok daha düşük bir maliyete ulaştığı ifade edildi. Belgede ne Google'ın ne de OpenAI'nin açık kaynak rakiplerine karşı herhangi bir savunma hendeği olmadığı sonucuna varıldı.

Şu ana kadar düzenleyiciler karamsarların iddialarına olumlu bakıyor gibi görünüyor. Biden'ın çıkardığı başkanlık kararnamesi açık kaynaklı yapay zekânın kullanımını engelleyebilir. Kararnamenin, askeri veya sivil amaçlara sahip olabilen ‘çift kullanımlı’ modellere ilişkin geniş tanımı, bu modellerin yapımcılarına karmaşık raporlama gereksinimleri dayatıyor. Bu kuralların bugün ne kadar uygulanabilir olduğu belirsiz. Ancak zamanla, örneğin yeni yasaların çıkarılması durumunda güç kazanabilir.

OpenAI'ın kurucu ortağı Ilya Sutskever, TED AI Konferansı’nda konuşuyor (AFP)

Büyük teknoloji şirketlerinin tümü ayrım çizgisinin zıt taraflarında yer almıyor. Meta'nın modellerini yapay zekâya açma kararı, yenilikçi ürünler geliştirebilecekleri güçlü bir modele erişmelerini sağlayarak onu startuplar için beklenmedik bir şampiyon haline getirdi. Meta, açık kaynak araçlarının getirdiği yenilik artışının, sonunda kullanıcılarının ilgisini çeken ve reklam verenleri mutlu eden yeni içerik biçimleri üretmesine yardımcı olacağına inanıyor. Apple ise başka bir uç örnek. Dünyanın en büyük teknoloji şirketi, yapay zekâ konusunda dikkat çekici derecede sessiz kaldı. Şirket, Eylül ayında yeni bir iPhone'u piyasaya sürerken, yapay zekâ destekli birçok özelliği, terim belirtmeden sergiledi.

Bu kulağa akıllıca geliyor. Zira OpenAI'ın feci çöküşü, insani ilkelere dayalı savaşların yapay zekâya verebileceği zararı gösteriyor. Ancak teknolojinin nasıl ilerleyeceğine, nasıl organize edileceğine, ganimeti kimin kazanacağına şekil verecek olan şey bu savaşlardır.

Şarku’l  Avsat tarafından Londra merkezli Al Majalla dergisinden tercüme edilmiştir