Open AI: İnsanlığın yok olmasını önlemek için yapay zeka düzenlemesi gerekli

“Bizi bu sistemlerin tehlikelerinden korumak için Uluslararası Atom Enerjisi Ajansı gibi bir kuruma olan ihtiyacı vurguladım.”

Şirket yetkilileri, yapay zeka sistemlerinin yıllar içinde farklı sektörlerdeki birçok uzmanın beceri düzeyini aşacağını öngörüyor (Reuters)
Şirket yetkilileri, yapay zeka sistemlerinin yıllar içinde farklı sektörlerdeki birçok uzmanın beceri düzeyini aşacağını öngörüyor (Reuters)
TT

Open AI: İnsanlığın yok olmasını önlemek için yapay zeka düzenlemesi gerekli

Şirket yetkilileri, yapay zeka sistemlerinin yıllar içinde farklı sektörlerdeki birçok uzmanın beceri düzeyini aşacağını öngörüyor (Reuters)
Şirket yetkilileri, yapay zeka sistemlerinin yıllar içinde farklı sektörlerdeki birçok uzmanın beceri düzeyini aşacağını öngörüyor (Reuters)

Popüler yapay zeka sohbet robotu ChatGPT'yi geliştiren OpenAI firması yetkilileri, "Uluslararası Atom Enerjisi Ajansı gibi bir kuruma ihtiyaç var; insanlığı yanlışlıkla bir şey yaratma ve ona insanları yok etme gücü verme tehlikesinden korumak için" diyerek ‘süper zeki’ yapay zeka teknolojilerinin düzenlenmesi çağrısında bulundu.

OpenAI'nin kurucu ortakları Greg Brockman ve Ilya Sutskiver, şirketin web sitesinde yayınladıkları kısa bir açıklamada, bu tür sistemlerin yaratabileceği varoluşsal tehlikeyi azaltmak için uluslararası bir düzenleyicinin sistemleri incelemesi, denetim talep etmesi, güvenlik seviyelerini ve güvenlik standartlarına uygunluğu test etmesi konusunda çalışmaya başlaması çağrısında bulundu.

Yetkililer, “Önümüzdeki on yıl içinde yapay zeka sistemlerinin farklı sektörlerde birçok uzmanın beceri düzeyini aşacağı ve gelişmiş şirketlerle kıyaslanabilecek büyük miktarda üretken faaliyet gerçekleştireceği öngörülmekte” diye eklediler.

Yetkililer hem olumlu hem de potansiyel olumsuz yönleri açısından süper zekânın insanlığın geçmişte yüzleşmek zorunda kaldığı diğer teknolojilerden daha güçlü olacağına dikkat çekerek, “Çok daha müreffeh bir geleceğe sahip olabiliriz; ancak bunu başarmak için riskleri yönetmek zorundayız. Varoluşsal risk potansiyeli göz önüne alındığında, basitçe reaktif olamayacağız" açıklamasında bulundular.

sacs
OpenAI, geçtiğimiz Kasım ayında ünlü sohbet robotu ChatGBT'yi piyasaya sürdü (Reuters)

Brockman ve Sutskiver, kısa vadede, güvenlik öncelikli olmak üzere, toplumla sorunsuz bir şekilde bütünleşen daha sağlam modellerin geliştirilmesini sağlamak amacıyla, en son YZ araştırmaları üzerinde çalışan şirketler arasında belirli bir düzeyde koordinasyon çağrısında bulundu.

Brockman ve Sutskiver sözlerine şöyle devam etti:

Bu koordinasyon, örneğin hükümet öncülüğünde bir proje yoluyla ya da YZ yeteneklerinin büyümesini sınırlamak için toplu bir anlaşma yoluyla sağlanabilir.

İki gün önce San Francisco'da düzenlenen AI Forward Forum'da Brockman, popüler chatbot üreticisinin yapay zekayı küresel olarak nasıl düzenlemeyi amaçladığının ana hatlarını ele aldı.

Brockman’ın ortaya attığı fikirler arasında, Wikipedia benzeri bir model de vardı.

Yapay zeka politikasıyla ilgili olarak “Sadece Silikon Vadisi'nde oturup herkes için bu kuralları koyabileceğimizi düşünmüyoruz. Demokratik karar alma süreci hakkında düşünmeye başlıyoruz” dedi.

Open AI, geçtiğimiz Kasım ayının sonunda insanlarla etkileşime giren ve talep üzerine her türlü metni üretebilen yapay zekaya dayalı ünlü konuşma robotu ChatGPT’yi piyasaya sürdü ve başarısı şirketleri bu teknolojiye gelişmiş yetenekler kazandırmak için teknoloji rekabetine yöneltti.



Meta insanüstü yapay zeka için yeni laboratuvar kurdu

Fransa'nın Bretonya bölgesinde 11 Nisan 2025'te Meta'nın yapay zeka logosu bir telefonda görünüyor (Vincent Feuray/Hans Lucas/Hans Lucas/AFP)
Fransa'nın Bretonya bölgesinde 11 Nisan 2025'te Meta'nın yapay zeka logosu bir telefonda görünüyor (Vincent Feuray/Hans Lucas/Hans Lucas/AFP)
TT

Meta insanüstü yapay zeka için yeni laboratuvar kurdu

Fransa'nın Bretonya bölgesinde 11 Nisan 2025'te Meta'nın yapay zeka logosu bir telefonda görünüyor (Vincent Feuray/Hans Lucas/Hans Lucas/AFP)
Fransa'nın Bretonya bölgesinde 11 Nisan 2025'te Meta'nın yapay zeka logosu bir telefonda görünüyor (Vincent Feuray/Hans Lucas/Hans Lucas/AFP)

Mark Zuckerberg, insan zekasını aşan yapay zeka geliştirmeye odaklanacak yeni bir yapay süper zeka biriminin Meta'da kurulduğunu duyurdu.

Meta Süper Zeka Laboratuvarı, teknoloji devinin yapay zekayı Facebook, Instagram ve WhatsApp gibi tüm ürünlerine entegre etme yolunda büyük çaba sarf ettiği bir dönemde kuruldu.

Bu son girişim, ChatGPT'nin yaratıcısı OpenAI'dan birkaç üst düzey araştırmacının transfer edilmesiyle şimdiden tartışmalara yol açtı.

OpenAI CEO'su Sam Altman'a göre Zuckerberg, ChatGPT çalışanlarına şirketine katılmaları için 100 milyon dolara kadar teklifte bulundu ve birkaç kişi yeni süper zeka laboratuvarında işe alındı.

Meta Süper Zeka Laboratuvarı'na katılan eski OpenAI çalışanları arasında Shuchao Bi, Huiwen Chang, Ji Lin, Hongyu Ren, Jiahui Yu ve Shengjia Zhao yer alırken, yeni atananlar arasında eski Google ve Anthropic araştırmacıları da var.

Meta'nın patronu pazartesi günü çalışanlarına gönderdiği bilgi notunda, yeni yetenek dalgasının milyarlarca kullanıcıya "kişisel süper zeka" sunmayı sağlayacağını söyledi.

İlk kez CNBC'nin bildirdiği notta "Yapay zekanın ilerleme hızı arttıkça süper zekanın geliştirilmesi de ufukta beliriyor. Bunun insanlık için yeni bir çağın başlangıcı olacağına inanıyorum ve Meta'nın bu yola öncülük etmesi için ne gerekiyorsa yapmaya kararlıyım" diye yazdı.

Meta dünyaya süper zeka sunmak için eşsiz bir konumda. Daha küçük laboratuvarlara kıyasla çok daha büyük bilgi işlem kapasitesini destekleyen güçlü bir altyapımız var. Milyarlarca kişiye ulaşan ürünler oluşturup büyütme konusunda daha derin deneyime sahibiz. Çok hızlı büyüyen yapay zeka gözlükleri ve giyilebilir cihazlar kategorisine öncülük ve liderlik ediyoruz. Ve şirket yapımız muazzam bir inanç ve cesaretle hareket etmemizi sağlıyor.

Yeni laboratuvar, Meta'nın ScaleAI adlı girişimine 14,3 milyar dolar yatırım yapmasının ardından şirkete katılan Meta'nın baş yapay zeka sorumlusu Alexandr Wang tarafından yönetiliyor.

Zuckerberg çalışanlarına gönderdiği notta, Meta'nın "aşağı yukarı gelecek bir yıl içinde" süper zekanın "sınırına ulaşmasını" beklediğini söylerken bu, Altman'ın benzer tahminlerini yansıtıyor.

Meta'nın yeni süper zeka laboratuvarı, çeşitli uygulamalarında Meta yapay zekasına güç veren Llama modellerini geliştirmek için de çalışacak.

Independent Türkçe