Genelin kullanımına açık yapay zekâ sürümleri bu zekanın ulaştığı son nokta mı? İnsanların kullanımına sunulan sürümler yetenekleri ve hızıyla şaşırtıcı olsa da insanların henüz görmediği özel sürümler de mevcut! Beyaz Saray, siber güvenlik yetenekleri ve en güvenli elektronik sistemlere nüfuz edebilme özelliği nedeniyle henüz genele sunulmayan Anthropic'in Mythos modelini onayladı. Kendisi şu anda sadece sınırlı sayıda kurumda kullanılıyor.
Aynı yapay zekâ şirketi yani Anthropic, yapay zekâ gelişiminin hızlanan temposu konusunda uyarıda bulundu. En son modellerin insan kontrolünden çıkabileceğine dair işaretler göz önüne alındığında, en güçlü yapay zekâ sistemlerinin geliştirilmesine geçici bir ara verilmesini önerdi.
Agence France-Presse'in bildirdiğine göre, Cloud modelini geliştiren şirket, gelişmiş yapay zekânın geliştirilmesinde küresel bir yavaşlamanın muhtemelen olumlu bir şey olacağına inanıyor.
Araştırmacıların “tekrarlanan kendi kendini geliştirme” olarak tanımladığı bir mekanizma var; bu mekanizma sayesinde bir yapay zekâ sistemi, büyük bir insan müdahalesi olmadan kendi kendine öğrenme yeteneği kazanıyor. Bu alandaki önde gelen Amerikan şirketinin kendisine karşı uyardığı mekanizma da tam olarak bu.
Dahası Anthropic, yapay zekanın yayılmasını sınırlamak ve kontrolünü sağlamak için Nükleer Silahların Yayılmasını Önleme Anlaşması'na benzer uluslararası bir anlaşma çağrısında bulundu. Ama örneğin Çin'i bunun için kim ikna edebilir? Programcılar kapalı odalarda bu tehlikeli silahı geliştirirken bu durum nasıl kontrol altına alınabilir?
Onlar -Elon Musk, Anthropic ve diğerleri- bu korkunç programların askeri, istihbarat ve güvenlik uygulamalarına odaklanıyorlar; oysa dünya çapındaki işletim sistemleri ve veri depolama artık dijital alana bağımlı. Bir ülkenin siber güvenlik kabiliyetleri ne kadar güçlü olursa olsun, bu sistemlerin ve verilerin saldırıya uğramayacağının garantisi nasıl verilebilir bilmiyorum.
Bu dünyadan bağımsız, bu dünyanın dışında yedeklemeler var mı? Peki, eski formatta (kâğıt vb.) kopyaları bile var mı? Bu meselenin bir yönü. Diğeri ise gelecek nesillerin zihinlerini ve ruhlarını nasıl “normal” ve sağlıklı tutacağımızdır. İnsanın analiz, sentez ve çözümleme alanlarındaki zihinsel ve bilişsel yeteneklerini nasıl koruyabiliriz?
İnsanlar, tıpkı hesap makinesinin zihinden hesaplama mekanizmasını geçersiz kıldığı gibi, yapay zekâ lehine zihinlerini devre dışı bırakacaklar mı? Ve bunun insan zihni üzerindeki etkisi hesap makinesi ile karşılaştırılabilir mi?
Bu nedenle, eğer bu şirketlerin liderleri ve büyük güçlerin yöneticileri arasında halen biraz akıl ve ahlak duygusu kalmışsa, insanlığın geleceğini korumak için küresel yönetişim, gerçek bir uluslararası komite ve yeni misafirimiz olan yapay zekâyı yönetecek bir etik belge mutlak bir gereklilik haline gelmiştir.
