Yapay zekâ sektörünün önde gelen yöneticileri, bu teknolojinin hızla ilerleyen geliştirme sürecini yavaşlatmaya çalışıyor. Ancak şirketler arasındaki yoğun rekabet, ABD hükümetinin kısıtlamalar getirmekten kaçınması ve jeopolitik kaygılar bu hedefin önünde engel oluşturuyor.
Geliştirme hızının yavaşlatılması çağrıları
Anthropic Üst Yöneticisi (CEO) Dario Amodei, cumartesi günü yapay zekânın geliştirilme hızının yavaşlatılması için koordineli çaba çağrısında bulundu. Amodei, bunun ilgili taraflara teknolojinin giderek artan yeteneklerinden kaynaklanan riskleri anlamaları için daha fazla zaman sağlayacağını belirtti.
Şarku’l Avsat’ın Fransız Haber Ajansı AFP’den aktardığı habere göre Amodei'nin çağrısına OpenAI CEO'su Sam Altman'ın yanı sıra Elon Musk ve Google DeepMind CEO'su Demis Hassabis de açık destek verdi.
Endişeler neden şimdi arttı?
Bu çağrılar, OpenAI ve Anthropic'in son aylarda yapay zekâ sistemlerinin izole edildikleri ortamlardan kendiliğinden çıkarak internete eriştiği ve hatta internet siteleri ile platformlara saldırdığı çeşitli olayları açıklamasının ardından geldi.
Söz konusu olaylar sırasında bu sistemlerin kendi aralarında koordinasyon kurma, hiyerarşiler oluşturma, kandırma ve gerçekleştirdikleri eylemlerin izlerini silme gibi yeteneklere sahip olduğu görüldü.
Öte yandan daha önce OpenAI'da çalışmış ve Anthropic'ten istifa etmiş olan Jacob Coxon, salı günü iki girişimci şirketi güvenlik standartlarında gevşek davranmak ve "hayatımızı kumara yatırmakla" açıkça suçladı.
Şirketler geliştirme hızını kendi başlarına yavaşlatabilir mi?
Sektörün en büyük şirketleri arasındaki rekabetin son derece yoğun olması, yüz milyarlarca dolarlık yatırımın söz konusu olduğu bir ortamda herhangi bir şirketin tek başına geliştirme hızını düşürmesini zorlaştırıyor.
Amodei rakiplerle koordinasyon sağlamaya hazır olduğunu belirtirken Çin'i bu işbirliğinin dışında bıraktı.
Şu ana kadar Anthropic ve OpenAI'ın attığı somut adım ise yapay zekâ güvenliği alanındaki çalışmalarını şirket içinde denetlemek üzere bağımsız gözlemcilerden yararlanmakla sınırlı kaldı.
Bu sadece bir halkla ilişkiler kampanyası mı?
Amodei'nin çağrısı sektörde çok sayıda çalışan tarafından memnuniyetle karşılanırken bazı kesimler ise çağrının ardındaki gerekçeleri sorguladı.
Yapay zekâ sektörünün önde gelen girişimcilerinden Brian Rommele, çağrının aslında Anthropic'in muhtemel halka arzından birkaç hafta önce gerçekleştirilen bir pazarlama hamlesi olduğunu savundu.
Rommele, geniş çapta beklenen halka arza atıfta bulunarak X platformunda şu ifadeleri kullandı: "Bu, bir makale biçiminde halka arz hikâyesi: Biz sorumlu şirketiz, biz çözümüz, güvenlik primini satın alın."
Teknoloji sektöründeki bazı özel yatırımcılar da Anthropic'i "düzenleyici kurumların ele geçirilmesi" olarak tanımlanan bir yaklaşımı benimsemekle suçladı. Buna göre şirket, kamu otoritelerini, girişimin kurallar yoluyla oluşturulacak düzenleyici hiyerarşinin en üstünde yer alacağı bir yapı kurmaya yönlendirmeye çalışıyor.
ABD Başkanı Donald Trump'ın yapay zekâ danışmanlığını daha önce yürüten ve halen Beyaz Saray'da etkisini sürdüren David Sacks ise "Yavaşlamanın ardındaki motivasyonun tamamen fedakârlık olduğunu iddia etmeyi bırakın" dedi.
Sacks, "Ürünleriniz son derece zararlı bir siber saldırının gerçekleştirilmesine imkân verirse ürün sorumluluğu açısından çok büyük risklerle karşı karşıya kalırsınız" ifadelerini kullandı.
Trump yönetiminin desteği olmadan yapay zekâ yavaşlatılabilir mi?
Trump, pazar günü yapay zekâ sektörünün liderleri tarafından dile getirilen uyarıları reddederek bunları "negatif güçler" olarak nitelendirdi.
ABD Temsilciler Meclisi Başkanı Mike Johnson'a göre çok sayıda Cumhuriyetçi, teknolojiye yönelik aktif düzenlemeler konusunda temkinli davranıyor. Bunun nedenleri arasında düzenlemelerin inovasyonu boğabileceği ve Çin'in yapay zekâ yarışını kazanmasına yol açabileceği endişesi bulunuyor.
Amodei ise pazar günü yapay zekâ üzerinde devlet denetimine ihtiyaç duyulduğu yönündeki görüşünü yineledi. Amodei, Altman ve Hassabis gibi sektörün kendi kendini düzenlemesinin yeterli olmayacağını vurguladı.
Çin olmadan geliştirme hızı yavaşlatılabilir mi?
Amodei, koordinasyonun demokratik ülkelerle sınırlandırılmasını ve Çin'in sürecin dışında tutulmasını öneriyor. Ancak yapay zekâ yarışı ve Çin'in bu alandaki ilerlemesinin, teknolojinin geliştirilme hızının yavaşlatılması ihtimali değerlendirilirken "en zor açmazı" oluşturduğunu kabul ediyor.
Amodei, pazar günü CBS'e verdiği röportajda Çin'in kaydettiği ilerlemenin yapay zekânın geliştirilme hızının yavaşlatılması meselesini daha karmaşık hale getirdiğini söyledi.
ABD'nin, Çin Devlet Başkanı Şi Cinping'in eylül ayı sonunda Washington'a gerçekleştirmesi planlanan ziyareti sırasında yapay zekâ güvenliğini görüşmesi bekleniyor. Ancak çeşitli medya kuruluşlarının haberlerine göre Çin, ABD'nin kendi düzenleyici çerçevesini dayatma girişimine karşı çıkıyor.
Anlaşmazlık, özellikle Çin'in "açık" yapay zekâ sistemlerinin geliştirilmesini teşvik etmesi nedeniyle daha belirgin hale geliyor. Bu sistemlere erişim sağlanabiliyor ve modeller serbestçe değiştirilebiliyor. Buna karşılık ABD'nin önde gelen şirketleri daha çok "kapalı" modelleri tercih ediyor.
Açık modeller, doğaları gereği daha zor kontrol ediliyor. Kullanıcıların modellerin parametrelerini değiştirebilmesi, bu sistemlerin şüpheli amaçlarla kullanılmasına imkân tanıyabiliyor.
Amodei, Çin dışındaki öncü şirketlerin geliştirme hızını yavaşlatabilmesi için ABD'nin en gelişmiş yarı iletkenlerinin Çin'e ihracatına yönelik kontrollerin sıkılaştırılmasını ve Batı'nın yapay zekâ teknolojisinin Çin'deki laboratuvarlar tarafından kötüye kullanılmasını önleyecek güvencelerin güçlendirilmesini öneriyor.
