Dün ChatGPT 3.5’in sunduğu yetenekleri henüz kavramaya başlamışken, OpenAl bu ayın ortalarında daha gelişmiş bir sürüm olan GPT-4’ü sunarak takipçilerini şaşırttı. Bu gelişme bu sefer teknoloji uzmanlarını endişelendirdi. Böylece uzmanlar, yapay zeka sistemlerinin gelişimine altı ay süreyle ara verileceği bir yaz ateşkesi çağrısında bulundukları bir mektup yayınladı.
İngiltere’deki Sheffield Üniversitesi’nde bilişsel robotik profesörü Tony Prescott (Sheffield Üniversitesi)
Mektuba imza atan taraflar, ‘yapay zekanın insanlığın yararına olacak şekilde doğru yönde kullanılmasın garanti eden kurallar üzerinde istikrar tesis edilene kadar beklenmesi’ çağrısında bulundu. Mektup, bin 377 önde gelen bilgisayar bilimcisi ve teknoloji üreticileri tarafından imzalandı. İmzalayanlar arasında şirketi Neuralink’in insan beynine çip yerleştirmeyi hedeflediği, aynı zamanda Tesla otomotiv şirketinin sahibi Elon Musk ve Apple Computer’ın kurucularından Steve Wozniak da var.
Kar amacı gütmeyen Future of Life kuruluşu tarafından imzalanan mektupta, insan zekası ile rekabet yeteneğine sahip yapay zeka sistemlerinin toplum, insanlık ve gelecek için büyük riskler oluşturabileceği, interneti doğru olmayan bilgiler ile doldurabileceği uyarısı yer alıyor.
Mektupta, “Yapay zeka laboratuvarları; yaratıcıları dahil olmak üzere hiç kimsenin anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirme ve dağıtma yönünde kontrolden çıkmış bir yarışa kilitlendi. Tüm yapay zeka laboratuvarlarını GPT-4'ten daha güçlü yapay zeka sistemleri eğitimine en az altı ay ara vermeye çağırıyoruz. Bu duraklama halka açık ve doğrulanabilir olmalı, tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yasalaştırılmadığı taktirde hükümetler devreye girmeli ve bir moratoryum başlatmalıdır” ifadelerine başvuruldu.
Şarku’l Avsat, aralarında bildiriye imza atan dört kişinin bulunduğu, yapay zeka alanında uzman beş bilim insanı ile temasa geçerek bu endişelerin ciddiyeti, ticari rekabetle ilgili olup olmadığına ilişkin nedenler ve tahminleri ele aldı.
Yapay zeka histerisi
Söz konusu mektup, bu açıklamaları mantıksal endişelerin ifadesi olarak görenler ile ‘histeri’ düzeyinde abartılı korkular olarak görenler arasında ciddi bir muhalefete neden oldu. New York Üniversitesi'nde fahri profesör Gary Marcus, Çarşamba günü yaptığı ve ABD'de Ulusal Halk Radyosu (NPR) web sitesinde yayınlanan açıklamalarında bu ifadeyi kullandı. Aynı zamanda şu ifadelere başvurdu:
“Mektup, halihazırda var olandan daha akıllı seviyedeki yapay zeka hayaletinden duyulan korkuyu ifade ediyor. Ancak korkuları ateşleyen GPT-4 aracı süper zeka değildir. Ne kadar etkileyici olursa olsun, yalnızca talebe hangi kelimeler ile cevap verileceğine dair tahminler yapan bir tekst oluşturucudur. Kapsamlı yazı çalışmalarının özümsenmesi yoluyla öğretilenlere dayalıdır. Akıllı mekanizmaların kısa vadede getireceği olasılıklar, insanların kontrolü dışında kendi kendine gelişebileceği hususunda endişe duyanlara katılmıyorum. Beni endişelendiren, sıradan yapay zekanın suçlular veya teröristler tarafından insanları aldatmak veya tehlikeli dezenformasyon yaymak için kullanılması olacaktır.”
Wi-Fi teknolojisinin mucitlerinden Mısır asıllı Kanadalı bilim insanı Hatim Zalul, Marcus'un yapay zekaya yönelik endişelerin abartı olduğu konusundaki düşüncelerine katıldığını söylüyor. Şarku’l Avsat’a konuşan Zalul, “Nükleer bomba dahil olmak üzere insanlığa yönelik tüm tehlike kapılarını kapatmışken şimdi ise yapay zekanın insanlara yönelik tehdidini mi gündeme getiriyoruz?” ifadelerini kullandı.
Kendisinin teknolojik varlıklar arasındaki rekabetten kaynaklanan ekonomik çıkarlardan endişe duyduğunu dile getiren Zalul, söz konusu mektubun imzalanması ardında da bu tür çıkarların bulunabileceğine değindi. Aynı zamanda, “Ancak imza atarken daha asil amaçları olan başkaları olduğuna şüphe yok. Nitekim yapay zekanın istihdam üzerindeki etkilerinden de korkuluyor. Yapay zeka hayatımızı kolaylaştıracak ve görevlerimizi yerine getirmemize yardımcı olacak. Altı ay süreyle gelişimi durdurmamalı, daha fazla gelişme için çaba göstermeliyiz. Endişeli olanlara tavsiyem ChatGPT'ye çaresini sormaları, ben her sorumda böyle yapıyorum” ifadelerini kullandı.
Dijital yönetim
Mektuba imza atanlardan biri olan İtalya'daki Calabria Üniversitesi’nde bilgisayar mühendisliği profesörü Domenico Talia, Zalul’un bu tavsiyesinin yapay zeka kullanımının kabul edilir şekli olduğunu söylüyor. İnsanların yapay zekanın kötüye kullanımından endişe duyduklarını, bunun makul olduğunu ifade eden Talia, Şarku’l Avsat’a verdiği demeçte şu ifadelere başvuruyor:
“Sağlık, finans ve bilimsel keşif gibi birçok alanda ve toplumsal sektörde yapay zekadan faydalanabiliyoruz. Ancak şeffaf olmayan, iyi belgelenmemiş sistemler oldukları için kullanımları riskli olabilir, ayrıca bazı durumlarda kullanıcılar için sorun yaratabilecek yanlış cevaplar verebilirler. Talep edilen duraklama süresi, yapay zeka teknolojilerinin yaygın hale getirilmesine yönelik yeni politikaların ve vatandaşları yanlış kullanımlardan koruyan yasa ve yönetmeliklerinin tartışılması açısından faydalı olabilir.”
İngiltere’deki Sheffield Üniversitesi’nde bilişsel robotik profesörü Tony Prescott ise Şarku’l Avsat’a yaptığı açıklamada şöyle söylüyor:
“Başlıca kaygılarım, yapay zekanın insan işlevleri üzerindeki etkileri ve yanlış bilgilendirmedeki artış potansiyeli ile ilgili. Güçlü yeni nesil yapay zeka teknolojilerinin hem iyi hem de kötü yönde büyük toplumsal etkileri olabilecek ticari kuruluşlar tarafından geliştiriliyor olması daha kapsamlı bir mesele. Bu, pek az ulusal veya uluslararası yönetim ve gözetim ile gerçekleşiyor. İhtiyacımız olan, yapay zeka şirketlerinin geliştirdikleri teknolojiler ve hedefleri konusunda daha şeffaf olmalarını sağlayacak dijital yönetim. Yönetmelik ile şuan ilaç geliştirmede yaptığımıza benzer bir şekilde faydalar artırılıp zararlar azaltılabilir. Önerilen süre, yapay zekanın insanların geçim kaynakları üzerindeki etkilerini, yanlış bilgilerin yayılmasını ve koruma şekillerini belirlemek için kullanılabilir. Bu koruma, bu teknolojilerin kullanımının belirli alanlarla sınırlandırılmasını içerebilir.”
Uluslararası bir anlaşma
Söz konusu mektuba imza atanlardan Fas asıllı Kanadalı bilgisayar bilimci Yoshua Bengio, Prescott’un önerilen sürenin fırsat bilinmesi hakkındaki ifadelerine katıldığını söylüyor. 2018 Turing Ödülü’nü alan Bengio,
bu süre zarfında yapay zekanın ürettiği içeriğin insan yapımı olmadığını kolayca anlayacak şekilde işaretlenmesini sağlayacak mekanizmaların devreye sokulabileceğinden bahsediyor. Şarku’l Avsat’a verdiği demeçte aynı zamanda şöyle ekliyor:
“Bu süreden yapay zekanın insanları etkilemek için siyasi reklamlarda veya hedefli reklamlarda kullanılmasını yasaklayan kurallar geliştirerek yararlanabiliriz. Gelecekte çok daha güçlü bir düzenleme gerekecek. Avrupa Birliği'nde bu yönde bir yasa tasarısı hazırlanıyor. Yakında Kanada'da onaylanacak. Nükleer riskler, insan klonlama gibi hususlarda yaptığımıza benzer uluslararası anlaşmalara ihtiyacımız var. Toplumun yapay zekanın sağladığı güce nasıl uyum sağlayabileceğini düşünmek ve gezegenimizin siyasi ve ekonomik örgütlenme biçimini kökten değiştirmeye hazırlanmak için sosyal bilimler ve beşeri bilimler alanlarındaki araştırmalara da yatırım yapmalıyız.”
Berkeley’deki California Üniversitesi'nde bilgisayar uzmanı Stuart Russell de mektuba imza atanlardan biri. Şarku’l Avsat’a konuşan Russell, “İnsan yetenekleriyle eşleşen veya bunları aşan yapay zeka sistemleri, insanlık için sınırsız riskler oluşturacaktır. Teknoloji şirketlerinden elde edilen veriler, riskler ne olursa olsun bu hedef doğrultusunda yarıştan vazgeçilmeyeceğini gösteriyor. Bu nedenle, düzenleme için bir duraklama süresi gerekli. Bu duraklama, yapay zeka sistemleri için geçerli bir analiz ve test metodolojisi geliştirmek için kullanılabilir. Güvenli olmalarını ve insanlar için tehdit oluşturmamalarını sağlayabilir, dezenformasyon gibi kaçınılmaz olarak meydana gelebilecek kötüye kullanım için çözümler geliştirebiliriz” ifadelerine başvurdu.
İngiltere Başbakanı Keir Starmer çiçeklerle karşılandı (Reuters)
