Yapay zeka ateşkesi: Ciddi endişeler mi, ticari rekabet mi?

Sol baştan Wi-Fi teknolojisinin mucitlerinden Mısır asıllı Kanadalı bilim insanı Hatim Zalul (Şarku’l Avsat), İtalya'daki Calabria Üniversitesi’nde bilgisayar mühendisliği profesörü Domenico Talia (Calabria Üniversitesi), Fas asıllı Kanadalı bilgisayar bilimci Yoshua Bengio (Facebook) ve California Üniversitesi'nde bilgisayar uzmanı Stuart Russell (California Üniversitesi)
Sol baştan Wi-Fi teknolojisinin mucitlerinden Mısır asıllı Kanadalı bilim insanı Hatim Zalul (Şarku’l Avsat), İtalya'daki Calabria Üniversitesi’nde bilgisayar mühendisliği profesörü Domenico Talia (Calabria Üniversitesi), Fas asıllı Kanadalı bilgisayar bilimci Yoshua Bengio (Facebook) ve California Üniversitesi'nde bilgisayar uzmanı Stuart Russell (California Üniversitesi)
TT

Yapay zeka ateşkesi: Ciddi endişeler mi, ticari rekabet mi?

Sol baştan Wi-Fi teknolojisinin mucitlerinden Mısır asıllı Kanadalı bilim insanı Hatim Zalul (Şarku’l Avsat), İtalya'daki Calabria Üniversitesi’nde bilgisayar mühendisliği profesörü Domenico Talia (Calabria Üniversitesi), Fas asıllı Kanadalı bilgisayar bilimci Yoshua Bengio (Facebook) ve California Üniversitesi'nde bilgisayar uzmanı Stuart Russell (California Üniversitesi)
Sol baştan Wi-Fi teknolojisinin mucitlerinden Mısır asıllı Kanadalı bilim insanı Hatim Zalul (Şarku’l Avsat), İtalya'daki Calabria Üniversitesi’nde bilgisayar mühendisliği profesörü Domenico Talia (Calabria Üniversitesi), Fas asıllı Kanadalı bilgisayar bilimci Yoshua Bengio (Facebook) ve California Üniversitesi'nde bilgisayar uzmanı Stuart Russell (California Üniversitesi)

Dün ChatGPT 3.5’in sunduğu yetenekleri henüz kavramaya başlamışken, OpenAl bu ayın ortalarında daha gelişmiş bir sürüm olan GPT-4’ü sunarak takipçilerini şaşırttı. Bu gelişme bu sefer teknoloji uzmanlarını endişelendirdi. Böylece uzmanlar, yapay zeka sistemlerinin gelişimine altı ay süreyle ara verileceği bir yaz ateşkesi çağrısında bulundukları bir mektup yayınladı.
İngiltere’deki Sheffield Üniversitesi’nde bilişsel robotik profesörü Tony Prescott (Sheffield Üniversitesi)
Mektuba imza atan taraflar, ‘yapay zekanın insanlığın yararına olacak şekilde doğru yönde kullanılmasın garanti eden kurallar üzerinde istikrar tesis edilene kadar beklenmesi’ çağrısında bulundu. Mektup, bin 377 önde gelen bilgisayar bilimcisi ve teknoloji üreticileri tarafından imzalandı. İmzalayanlar arasında şirketi Neuralink’in insan beynine çip yerleştirmeyi hedeflediği, aynı zamanda Tesla otomotiv şirketinin sahibi Elon Musk ve Apple Computer’ın kurucularından Steve Wozniak da var.
Kar amacı gütmeyen Future of Life kuruluşu tarafından imzalanan mektupta, insan zekası ile rekabet yeteneğine sahip yapay zeka sistemlerinin toplum, insanlık ve gelecek için büyük riskler oluşturabileceği, interneti doğru olmayan bilgiler ile doldurabileceği uyarısı yer alıyor.
Mektupta, “Yapay zeka laboratuvarları; yaratıcıları dahil olmak üzere hiç kimsenin anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirme ve dağıtma yönünde kontrolden çıkmış bir yarışa kilitlendi. Tüm yapay zeka laboratuvarlarını GPT-4'ten daha güçlü yapay zeka sistemleri eğitimine en az altı ay ara vermeye çağırıyoruz. Bu duraklama halka açık ve doğrulanabilir olmalı, tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yasalaştırılmadığı taktirde hükümetler devreye girmeli ve bir moratoryum başlatmalıdır” ifadelerine başvuruldu.
Şarku’l Avsat, aralarında bildiriye imza atan dört kişinin bulunduğu, yapay zeka alanında uzman beş bilim insanı ile temasa geçerek bu endişelerin ciddiyeti, ticari rekabetle ilgili olup olmadığına ilişkin nedenler ve tahminleri ele aldı.

Yapay zeka histerisi
Söz konusu mektup, bu açıklamaları mantıksal endişelerin ifadesi olarak görenler ile ‘histeri’ düzeyinde abartılı korkular olarak görenler arasında ciddi bir muhalefete neden oldu. New York Üniversitesi'nde fahri profesör Gary Marcus, Çarşamba günü yaptığı ve ABD'de Ulusal Halk Radyosu (NPR) web sitesinde yayınlanan açıklamalarında bu ifadeyi kullandı. Aynı zamanda şu ifadelere başvurdu:
“Mektup, halihazırda var olandan daha akıllı seviyedeki yapay zeka hayaletinden duyulan korkuyu ifade ediyor. Ancak korkuları ateşleyen GPT-4 aracı süper zeka değildir. Ne kadar etkileyici olursa olsun, yalnızca talebe hangi kelimeler ile cevap verileceğine dair tahminler yapan bir tekst oluşturucudur. Kapsamlı yazı çalışmalarının özümsenmesi yoluyla öğretilenlere dayalıdır. Akıllı mekanizmaların kısa vadede getireceği olasılıklar, insanların kontrolü dışında kendi kendine gelişebileceği hususunda endişe duyanlara katılmıyorum. Beni endişelendiren, sıradan yapay zekanın suçlular veya teröristler tarafından insanları aldatmak veya tehlikeli dezenformasyon yaymak için kullanılması olacaktır.”
Wi-Fi teknolojisinin mucitlerinden Mısır asıllı Kanadalı bilim insanı Hatim Zalul, Marcus'un yapay zekaya yönelik endişelerin abartı olduğu konusundaki düşüncelerine katıldığını söylüyor. Şarku’l Avsat’a konuşan Zalul, “Nükleer bomba dahil olmak üzere insanlığa yönelik tüm tehlike kapılarını kapatmışken şimdi ise yapay zekanın insanlara yönelik tehdidini mi gündeme getiriyoruz?” ifadelerini kullandı.
Kendisinin teknolojik varlıklar arasındaki rekabetten kaynaklanan ekonomik çıkarlardan endişe duyduğunu dile getiren Zalul, söz konusu mektubun imzalanması ardında da bu tür çıkarların bulunabileceğine değindi. Aynı zamanda, “Ancak imza atarken daha asil amaçları olan başkaları olduğuna şüphe yok. Nitekim yapay zekanın istihdam üzerindeki etkilerinden de korkuluyor. Yapay zeka hayatımızı kolaylaştıracak ve görevlerimizi yerine getirmemize yardımcı olacak. Altı ay süreyle gelişimi durdurmamalı, daha fazla gelişme için çaba göstermeliyiz. Endişeli olanlara tavsiyem ChatGPT'ye çaresini sormaları, ben her sorumda böyle yapıyorum” ifadelerini kullandı.

Dijital yönetim
Mektuba imza atanlardan biri olan İtalya'daki Calabria Üniversitesi’nde bilgisayar mühendisliği profesörü Domenico Talia, Zalul’un bu tavsiyesinin yapay zeka kullanımının kabul edilir şekli olduğunu söylüyor. İnsanların yapay zekanın kötüye kullanımından endişe duyduklarını, bunun makul olduğunu ifade eden Talia, Şarku’l Avsat’a verdiği demeçte şu ifadelere başvuruyor:
“Sağlık, finans ve bilimsel keşif gibi birçok alanda ve toplumsal sektörde yapay zekadan faydalanabiliyoruz. Ancak şeffaf olmayan, iyi belgelenmemiş sistemler oldukları için kullanımları riskli olabilir, ayrıca bazı durumlarda kullanıcılar için sorun yaratabilecek yanlış cevaplar verebilirler. Talep edilen duraklama süresi, yapay zeka teknolojilerinin yaygın hale getirilmesine yönelik yeni politikaların ve vatandaşları yanlış kullanımlardan koruyan yasa ve yönetmeliklerinin tartışılması açısından faydalı olabilir.”
İngiltere’deki Sheffield Üniversitesi’nde bilişsel robotik profesörü Tony Prescott ise Şarku’l Avsat’a yaptığı açıklamada şöyle söylüyor:
“Başlıca kaygılarım, yapay zekanın insan işlevleri üzerindeki etkileri ve yanlış bilgilendirmedeki artış potansiyeli ile ilgili. Güçlü yeni nesil yapay zeka teknolojilerinin hem iyi hem de kötü yönde büyük toplumsal etkileri olabilecek ticari kuruluşlar tarafından geliştiriliyor olması daha kapsamlı bir mesele. Bu, pek az ulusal veya uluslararası yönetim ve gözetim ile gerçekleşiyor. İhtiyacımız olan, yapay zeka şirketlerinin geliştirdikleri teknolojiler ve hedefleri konusunda daha şeffaf olmalarını sağlayacak dijital yönetim. Yönetmelik ile şuan ilaç geliştirmede yaptığımıza benzer bir şekilde faydalar artırılıp zararlar azaltılabilir. Önerilen süre, yapay zekanın insanların geçim kaynakları üzerindeki etkilerini, yanlış bilgilerin yayılmasını ve koruma şekillerini belirlemek için kullanılabilir. Bu koruma, bu teknolojilerin kullanımının belirli alanlarla sınırlandırılmasını içerebilir.”

Uluslararası bir anlaşma
Söz konusu mektuba imza atanlardan Fas asıllı Kanadalı bilgisayar bilimci Yoshua Bengio, Prescott’un önerilen sürenin fırsat bilinmesi hakkındaki ifadelerine katıldığını söylüyor. 2018 Turing Ödülü’nü alan Bengio,
bu süre zarfında yapay zekanın ürettiği içeriğin insan yapımı olmadığını kolayca anlayacak şekilde işaretlenmesini sağlayacak mekanizmaların devreye sokulabileceğinden bahsediyor. Şarku’l Avsat’a verdiği demeçte aynı zamanda şöyle ekliyor:
“Bu süreden yapay zekanın insanları etkilemek için siyasi reklamlarda veya hedefli reklamlarda kullanılmasını yasaklayan kurallar geliştirerek yararlanabiliriz. Gelecekte çok daha güçlü bir düzenleme gerekecek. Avrupa Birliği'nde bu yönde bir yasa tasarısı hazırlanıyor. Yakında Kanada'da onaylanacak. Nükleer riskler, insan klonlama gibi hususlarda yaptığımıza benzer uluslararası anlaşmalara ihtiyacımız var. Toplumun yapay zekanın sağladığı güce nasıl uyum sağlayabileceğini düşünmek ve gezegenimizin siyasi ve ekonomik örgütlenme biçimini kökten değiştirmeye hazırlanmak için sosyal bilimler ve beşeri bilimler alanlarındaki araştırmalara da yatırım yapmalıyız.”
Berkeley’deki California Üniversitesi'nde bilgisayar uzmanı Stuart Russell de mektuba imza atanlardan biri. Şarku’l Avsat’a konuşan Russell, “İnsan yetenekleriyle eşleşen veya bunları aşan yapay zeka sistemleri, insanlık için sınırsız riskler oluşturacaktır. Teknoloji şirketlerinden elde edilen veriler, riskler ne olursa olsun bu hedef doğrultusunda yarıştan vazgeçilmeyeceğini gösteriyor. Bu nedenle, düzenleme için bir duraklama süresi gerekli. Bu duraklama, yapay zeka sistemleri için geçerli bir analiz ve test metodolojisi geliştirmek için kullanılabilir. Güvenli olmalarını ve insanlar için tehdit oluşturmamalarını sağlayabilir, dezenformasyon gibi kaçınılmaz olarak meydana gelebilecek kötüye kullanım için çözümler geliştirebiliriz” ifadelerine başvurdu.



Hindistan ve Pakistan birbirilerini ateşkesi ihlal etmekle suçluyor

Hindistan ve Pakistan arasındaki karşılıklı bombardımanlar sırasında Cammu Keşmir’in Hindistan idaresindeki kesiminde bir evin kırılan penceresi (AFP)
Hindistan ve Pakistan arasındaki karşılıklı bombardımanlar sırasında Cammu Keşmir’in Hindistan idaresindeki kesiminde bir evin kırılan penceresi (AFP)
TT

Hindistan ve Pakistan birbirilerini ateşkesi ihlal etmekle suçluyor

Hindistan ve Pakistan arasındaki karşılıklı bombardımanlar sırasında Cammu Keşmir’in Hindistan idaresindeki kesiminde bir evin kırılan penceresi (AFP)
Hindistan ve Pakistan arasındaki karşılıklı bombardımanlar sırasında Cammu Keşmir’in Hindistan idaresindeki kesiminde bir evin kırılan penceresi (AFP)

Hindistan ve Pakistan, dün ateşkesin ilan edilmesinden sadece birkaç saat sonra bir birbirlerini ateşkesi ihlal etmekle suçlandılar.

Hindistan Dışişleri Bakanı Vikram Misri gazetecilere yaptığı açıklamada, ateşkesin son birkaç saat içinde defalarca kez ihlal edildiğini söyledi. Misri, Hindistan ordusunun bu ihlallere uygun şekilde karşılık verdiğini de sözlerine ekledi.

Açıklamalarını sürdüren Hint Bakan, şunları söyledi:

 “Pakistan'dan bu ihlallere karşılık vermek üzere uygun tedbirleri almasını ve durumu ciddi ve sorumlu bir şekilde ele almasını talep ediyoruz.”

Öte yandan Pakistan, bu suçlamalara ‘ateşkesin uygulanmasına olan bağlılığını vurgulayarak’ karşılık verdi.

Pakistan Dışişleri Bakanlığı, Pakistan ordusunun ‘durumu sorumluluk ve itidal içinde ele aldığını’ açıklarken Hindistan'ı ateşkese yönelik ihlallerde bulunmakla suçladı.

Bakanlıktan yapılan açıklamada şu ifadeler yer aldı:

“Ateşkesin sıkı bir şekilde uygulanmasıyla ilgili her türlü sorunun uygun kanallar aracılığıyla iletişim yoluyla ele alınması gerektiğine inanıyoruz. Sahadaki güçlerin de itidal göstermesi gerekiyor.”

Fransız Haber Ajansı AFP, Keşmir'in Hindistan idaresindeki kesiminin en büyük şehri olan Srinagar'da güçlü patlamalar duyulduğunu aktarırken hava savunma sistemlerinin müdahale ettiğine dikkati çekti.

Keşmir'in Pakistan idaresindeki kesiminden iki yetkili, Kontrol Hattı (Line of Control/LoC) boyunca üç yerde Pakistan ve Hindistan güçleri arasında zaman zaman çatışmalar yaşandığını söyledi.

Çarşamba gününden bu yana iki komşu ülkenin karşılıklı topçu atışları, füze ve insansız hava aracı (İHA) saldırıları, iki nükleer güç arasında topyekûn bir savaş korkusunu arttırdı ve birçok yabancı başkentin itidal çağrısında bulunmasına neden oldu.

ABD Başkanı Donald Trump dün Truth Social'da yaptığı bir paylaşımda sürpriz bir şekilde ABD'nin arabuluculuk yaptığı uzun bir görüşme gecesinin ardından, Hindistan ve Pakistan'ın kapsamlı ve acil bir ateşkes üzerinde anlaştıklarını duyurmaktan mutluluk duyduğunu ifade etti. Trump, iki ülkeyi ‘sağduyulu oldukları ve akıllarını kullandıkları’ için övdü.

Pakistan Dışişleri Bakanı İshak Dar, X platformundan yaptığı açıklamada, İslamabad ve Yeni Delhi'nin ‘acilen yürürlüğe girecek bir ateşkes’ konusunda anlaştıklarını doğruladı.

Hindistan'dan da bir doğrulama geldi. Yeni Delhi'deki bir hükümet kaynağı, Hindistan ve Pakistan arasında yapılan doğrudan müzakereler sonucunda anlaşmaya varıldığını açıklarken, iki komşunun ateşkes dışında herhangi bir konuyu görüşmeyi planlamadığını belirtti.

Her iki tarafın resmi rakamlarına göre çarşamba gününden bu yana yaşanan çatışmalarda yaklaşık 60 sivil hayatını kaybetti.

Bu savaş hali, iki ülke arasındaki tartışmalı Keşmir bölgesini ayıran LoC’un her iki tarafında da toplu yerinden edilmelere neden oldu.