Tevfik Şenbur
Matematik profesörü Alan Turing, 1950 yılında ‘Bilgisayar Mekanizması ve Zekâ’ başlıklı makalesinde günün birinde bir makineye düşünme becerisi kazandırmanın mümkün olup olmadığını sorguladı.
Bundan beş yıl sonra başka bir matematik profesörü John McCarthy, özel bir atölyede içeriğini açıkça belirtmeden ilk defa ‘yapay zekâ’ terimini kullandı. Ardından peş peşe birçok ve çeşitli tarif yapıldı. Bunlardan en sonuncusu ve önemlisi, Avrupa Parlamentosu’nun 14 Haziran 2023’te benimsediği tanımlamaydı. Buna göre yapay zekâ, ‘farklı bağımsızlık düzeylerinde çalışacak şekilde tasarlanmış ve açık ve örtük hedefler için fiziksel veya sanal ortamları etkileyen tahmin, öneri veya karar gibi sonuçlar üretebilen otomatik bir sistemdir.’
Yapay zekâ düzenlemesine ABD, Avrupa ve Çin yön veriyor. Yapay zekâ kurallarını belirlemede Avrupa Birliği’nin yaklaşımı, piyasalar ve şirketler tarafından yönlendirilen kolaylaştırıcı ABD modelinden ve devletin, iktidar partisinin kontrolünü sağlamlaştırmak adına gözetim ve propagandayı artırmak için öncülük ettiği Çin modelinden farklı
Birleşmiş Milletler Yüksek Komiseri Michelle Bachelet’in ifadesiyle yapay zekâdaki hızlı gelişim, beraberinde gelen büyük tehlikeleri çok geçmeden ortaya çıkardı. Ödeme yöntemlerinden yapay zekâyı benimseyen kurumlardaki istihdamın azaltılmasına, özel verilerin ortaya dökülmesine, deepfake teknolojisine, demokrasinin tehdit edilmesine, özel hayata, güvenliğe, insan haklarına saldırıya ve başka şeylere kadar uzanan bu tehlikeler, insanlığa saldırıp kendi kendine çalışan öldürücü silahlarla onu yok etme tehdidiyle sonuçlanabilir.
Ünlü fizikçi Stephen Hawking, ‘yapay zekânın tam anlamıyla geliştirilmesinin insanlığın sonu getirebileceğine’ dikkati çekti. ChatGPT programının mucidi Sam Altman da onu bu konuda teyit ederek, ‘nükleer veya biyoteknoloji mevzuatına benzer küresel bir düzenleyici çerçevenin oluşturulması’ çağrısında bulundu. Aynı şekilde pek çok uzman, Birleşmiş Milletler Genel Sekreteri Antonio Guterres’e, yapay zekâ için Uluslararası Atom Enerjisi Ajansı’na benzer bir uluslararası denetim heyetinin oluşturulması yönünde bir teklif sundu. Güvenlik Konseyi, geçtiğimiz 17 Temmuz’da yapay zekâ meselesi ve bunun barış ve güvenliğe etkisine dair ilk tartışmasını gerçekleştirdi.
İş adamı Elon Musk da ChatGPT programının yayılmasıyla birlikte yapay zekânın çılgınca gelişimi ve insana ihtiyaç duymadan özel programlarını geliştirebilecek aşamaya gelişi konusunda uyardı. Bu özel programlar kapsamında insanlığa savaş açmak da var. Bu bize 2029 yılındaki olayları anlatan ünlü Terminatör filmini anımsatıyor.
Future of Life kuruluşunun yayımladığı açık mektuplara uluslararası isimler de imza attı. Mektuplarda yapay zekâyla çalışan otonom askerî robotların, sistemlerin ve silahların giderek artan tehlikeli rolü konusunda uyarı yapılarak, yetkililerden bu sistemlerin ve silahların geliştirilmesinden, üretilmesinden, ticaretinin yapılmasından veya kullanılmasından uzak durmaları ve ülkelerinin BM’de bu yönelime oy veren ülkeler grubuna katılması talep edildi. Bu isimler, yapay zekâyla ilişkili tehlikelerle mücadelenin ‘salgın hastalıklar ve nükleer silahlar gibi toplum için tehdit oluşturan diğer tehlikelere benzer şekilde küresel bir öncelik’ olması gerektiğini vurguladı.
Rusya Devlet Başkanı Vladimir Putin, 1 Eylül 2017’de ülkesindeki öğrencilere hitaben ‘yapay zekâda üstün olanın dünyaya hükmedeceğini’ söylemişti. Ardından Mart 2018’de tamamen yapay zekâyla çalışan nükleer bir denizaltı inşa edildiğini açıkladı. Daha önce 2011 yılında da ülkesinin, dünyanın herhangi bir bölgesinden bir atom bombası atıldığı tespit edilir edilmez nükleer karşılık verebilen Perimetr 15E601 sisteminden destek aldığını duyurmuştu. France 24 kanalı bu son iki haberi, ‘Nükleer Caydırıcılık: Atom Bombasından Yapay Zekâ Bombasına (Dissuasion nucléaire: de la bombe A a la bombe IA)’ başlıklı bir makaleyle aktardı.
Kurallar ve yasal düzenlemeler
Karamsar görüşün aksine yapay zekâ; eğitim, sağlık, çevre, güvenlik, ulaşım, avukatlık, yargı, finans ve bankacılık işleri, gazetecilik ve kamu hizmetleri gibi hayatın her alanında insanlığa, bireylere ve kurumlara sürekli ve istikrarlı olarak birçok hizmet sunuyor.
Columbia Üniversitesi’nde hukuk profesörü olan Anu Bradford, Dijital İmparatorluklar: Teknoloji Düzenlemesi İçin Yapılan Küresel Savaş (Digital Empires: The Global Battle to Regulate Technolohgy) adlı kitabında yapay zekâyı düzenleme kurallarına ilişkin olarak şu üç küresel eğilim arasında ayrım yaptı:
ABD tarafından benimsenen ve piyasa tarafından yönlendiren ilk yönelim, yeniliğe ve ekonomik üstünlüğe odaklanıyor. Yapay zekânın düzenlenmesine ilişkin kuralların belirlenmesi ise ikincil bir mesele veya Beyaz Saray’ın Ekim 2022’de Yapay Zekâ Hakları Yasa Tasarısı (Blueprint for an AI Bill Of Rights) yayınlamasında olduğu gibi geç kalan bir telafi uygulaması.
Çin’in benimsediği ikinci yönelim, yapay zekânın Komünist Parti’nin kontrolünü güçlendirmek amacıyla, gözetimi ve propagandayı geliştirmek için kullanımına dayanıyor. Üretken yapay zekânın (Generative AI) keşfi, yeni ve ciddi bir zorluk ortaya çıkardı; buna karşı direnişin mümkün olup olmadığını veya ne kadar mümkün olduğunu tahmin etmek zor. Bu durum, Çin hükümetini üretken zekâyı düzenlemek için yasa tasarıları hazırlamaya sevk etti. Bu tasarılar, Komünist Parti’nin değerlerinden sapan içerik konusunda geliştiricilere sorumluluk yüklüyor.
Körfez ülkeleri, 2022 Hükümetlerin Yapay Zekâya Hazırlığı Endeksi’nde İsrail’den sonra ikinci sırada yer aldı
AB’nin planladığı üçüncü yönelim ise piyasalar tarafından yönlendirilen kolaylaştırıcı ABD modelinden ve devletin yönettiği kısıtlayıcı Çin modelinden farklı. Bu yönelim, yeniliği teşvik etmekle birlikte teknoloji şirketlerinin faaliyetlerini kontrol altına alıp onları yasaya tâbi tutarak, kullanıcıları ve vatandaşları yapay zekâ gelişmelerinin zararlı ve yıkıcı olasılıklarından korumaya odaklanıyor. Avrupa yaklaşımı ve bu yaklaşıma dayalı yasal düzenlemeler ve yasalar, hükümetler için gitgide artan bir cazibe kaynağı. Bazıları, Brüksel yaklaşımının, yapay zekâyı ve dijital faaliyeti düzenleyen Avrupa standartlarının küreselleşmesine yol açacağını düşünüyor. Halihazırda Avrupa modelinin benimsediği en önemli yasal düzenlemeler şunlar: Genel Avrupa Veri Koruma ve Aktarma Sistemi, Dijital Hizmetler ve Piyasalar Kanunu (Législations sur les services et les marchés numériques) ve son olarak geçtiğimiz 14 Haziran’da Avrupa Parlamentosu’nda üzerinde anlaşmaya varılan çeşitli düzenlemeler. Yapay zekâ sistemlerinin insan kontrolünde kalmasını ve güvenli, şeffaf, takip edilebilir olup ayrımcı olmamasını sağlayacak merkezî bir düşünce oluşturmayı hedefleyen bu düzenlemeler, yasakların ve tedarikçilerle kullanıcıların yükümlülüklerinin hassas bir şekilde sınıflandırılmasını da içeriyor.
Söz konusu düzenlemeler, tedarikçilerle kullanıcılar için dört risk düzeyi belirledi: düşük veya sıfır risk, sınırlı risk, sağlığa, emniyete, temel haklara ve çevreye verilen zararı içerecek kadar geniş yüksek risk ve kişisel güvenlik için kabul edilemez risk ki bu kesinlikle yasak. Oldukça tehlikeli yapay zekâ sistemlerinin yayılmasıyla mücadeleden sorumlu bir heyet oluşturulması da önerildi.
Yapay zekâ kullanımına ilişkin hukuki sorumluluk
2020 yılında Avrupalılar, yapay zekâ sistemlerinin teknik karmaşıklığından, sistemlerin işletilmesiyle ilgilenen tarafların çokluğundan, yabancıların bu sistemlere sızıp nüfuz etmesi ihtimalinden, sistemlerin faaliyetiyle ortaya çıkan zarara katkıları takip etmenin zorluğundan, bağımsız bir şekilde kendi kendine öğrenme yeteneğinden, verileri doğru ve güvenli bir şekilde toplayıp depolamasının, paylaşmasının ve kullanmasının öneminden, bu sistemlere onları sorumlu tutacak tüzel kişiliğin verilememesinden ve benzer şeylerden kaynaklanan hukuki sonuçları ele almak amacıyla, yapay zekâ kullanımından doğan hukuki sorumluluk için bir yasal sistem benimsemişti. Zira yukarıda saydıklarımızın hepsi, yapay zekâ cihazlarının, sistemlerinin ve uygulamalarının kullanımından doğan hukuki sorumluluk için özel bir yasal çerçevenin oluşturulmasını gerektiren büyük tehlikelerdi.
Burada asıl amaç, bir yandan vatandaşların korunmasını sağlayan ve diğer yandan şirketleri yapay zekâ alanında yeniliğe yatırım yapmaya teşvik eden bir denge içerisinde olacak şekilde, yapay zekâ araçlarından kendilerine veya mal varlıklarına yönelik zarara uğrayan insanların uygun tazminatı alabilmesidir.
Avrupa Topluluğu’nun benimsediği çözüm, yüksek riskli yapay zekâ sistemlerini işleten tüm taraflara, yapay zekâ araçlarının ve sistemlerinin tüm üretim, kullanım ve kontrol aşamalarında hukuki sorumluluk yüklemektir.
İlgili taraflar şunlar:
-Ürün güvenliğinden sorumlu olanlar, ki bu grup üreticileri, geliştiricileri, programcıları, hizmet sağlayıcılarını ve kaynak operatörlerini içeriyor.
-İleri işletim sorumluları ki bunlar, genellikle zarar gören taraflar için ilk görünür temas noktalarıdır.
-Sisteme sızan ve bu sistem aracılığıyla ilgili kişiler için zararlı eylemlerde bulunan dış odaklar.
Birçok faaliyeti otonom olarak yürüten yüksek riskli yapay zekâ araçları için ilke, bu araçların faaliyetlerinden kaynaklanan zararlardan tam sorumlu olmalarıdır. Zararın mücbir sebeplerden kaynaklanması dışında bu araçların işletmecileri, gerekli özeni gösterdiklerini iddia ederek kendilerini sorumluluktan muaf tutamazlar. Bu araçların ön yüz işletmecileri, işletimlerinin tehlikelere karşı zorunlu teminatı içerdiğini garanti etmelidir.
Cezai sorumluluk
Avrupa Topluluğu’nun kararları, cezai sorumluluk çerçevesinde birtakım tavsiyeler içeriyor. Bunlardan en önemlileri şunlardır:
Polisin ve adli yetkililerin yasal, adil ve şeffaf bir şekilde ve belirli, açık ve meşru amaçlarla, aşırıya kaçmadan ve gereğinden fazla saklamadan kullanılan uygulamaları benimsemesi.
Kolluk kuvvetleri ve yargı yetkilileri tarafından kullanılan yapay zekâ destekli her türlü teknoloji için sıkı bir demokratik denetimin olması ve gereklilik, orantılılık ve meşru savunma hakkı ilkelerine riayet etmeyen uygulamaların kullanımının yasaklanması.
Nihayetinde cezai sorumluluğun yapay zekâ kullanımından doğan zararda temel bir rolü olan gerçek veya tüzel kişiye ait olması.
Yapay zekâ sistemleri için uygun kamu ihale prosedürlerinin benimsenmesi ve vatandaşların temel haklarına ilişkin uygulamaların sivil toplumun katılımıyla dönemsel olarak değerlendirilmesi gibi yasa yürütmeye ve yargıya ilişkin hedefler için yapay zekâ sistemleri sağlayan şirketler konusunda tam önleyici şeffaflığın temin edilmesi.
BAE 2071 Yüzyılı kapsamında başlatılan strateji, Yapay Zekâ Bakanlığı kurulmasını ve seçkin bir araştırmacı ve yenilikçi grubun yer aldığı bir konseyin oluşturulmasını içeriyor
Bunlardan anlaşılacağı üzere AB’de hukuk, yapay zekâ ile ilişkide ayrıcalıklı bir konuma sahip. Veri tabanı işlemenin gündeme getirdiği hukuki sorunlar alanında uzman Boris Baroud’a göre yükselen algoritma diktatörlüğüne etkili bir şekilde karşı koymak için yeterli olduğunu kanıtlayan tek şey, hukuk. Bu, Montesquieu’nün, herhangi bir yetkinin kötüye kullanımının, sapmaları önleyen bir karşı otoriteyle yüzleşmesi gerektiğini ifade eden altın kuralını teyit ediyor!
Ortadoğu’daki yasalar
Ortadoğu bölgesine gelince… Oxford Insights kurumunun geliştirdiği 2022 Hükümetlerin Yapay Zekâya Hazırlığı Endeksi (Government AI Readiness Index 2022), bu konuda Körfez ülkelerinin ön sıralarda yer aldığını gösteriyor. Sıralamada İsrail’den (70,12) sonra BAE (68,54), Katar (62,37), Suudi Arabistan (61,69), Umman (57,83), Bahreyn (53,59), Ürdün (51,76), Mısır (49,42), Kuveyt (47,68), Tunus (46,81), Lübnan (45,72) ve son olarak İran (45,30) geliyor.
Göstergedeki bu ilerleme, Körfez ülkelerindeki hükümetlerin ve özel sektörün petrole bağımlılığı azaltmak amacıyla ekonomiyi canlandırıp çeşitlendirmek, kamusal ve özel güvenlik ile hizmet ihtiyaçlarını karşılamak için yapay zekâyı farklı oranlarda benimseme arzusundan kaynaklanıyor. Bunun için yapay zekânın tehlikelerinin sorumluluğunu ve aynı şekilde yasal ve ahlaki bir şekilde kullanımını kontrol eden belirli bir mevzuat oluşturmadan, yapay zekâya yönelik farklı stratejiler geliştirildi.
BAE’nin BAE 2071 Yüzyılı kapsamında başlatılan stratejisi, Yapay Zekâ Bakanlığı kurulmasını ve bu alanda dünyanın en iyi üniversitelerinden ve kurumlarından seçkin bir araştırmacı ve yenilikçi grubun yer aldığı bir konseyin oluşturulmasını içeriyor. Hedef; siber güvenlik, veri yönetimi ve etik gibi meselelere ilişkin ulusal yaklaşımların gözden geçirilmesidir. Halihazırda BAE’de yapay zekânın yönetimine ilişkin özel yasalar yok. Bunun yerine gizlilik ve kişisel verilerin korunmasına ilişkin hükümler, Tüketici Koruma Kanunu, Medeni İşlemler Kanunu, Ceza Kanunu ve başka pek çok kanunda yer alan çeşitli hükümlerin yanı sıra, Dubai Emirliği’nde yapay zekânın kullanımını için ahlaki yönergeler gibi yönlendirici ilkeler bulunuyor.
Suudi Arabistan Krallığı, stratejisinde, mevzuatın belirlenmesinden sorumlu olacak Suudi Arabistan Veri ve Yapay Zekâ Kurumu’nun (SDAIA) kurulması yönünde adım attı. Daha sonra Kişisel Verilerin Korunması Sistemi kuruldu. Bu sistemin ilk maddesine göre sistemin uygulanması, siber güvenlik konusunda uzman bir güvenlik odağı olarak Ulusal Siber Güvenlik Kurumu’nun yetkilerini ve görevlerini ihlal etmeyecek. Krallık, kamu sektöründe, özellikle de programları Huawei şirketi iş birliğiyle hazırlanan ve yapay zekâ destekli pek çok hizmeti içeren NEOM gibi akıllı şehirler alanında yapay zekâyı kullanmayı planlıyor.
BAE’nin yapay zekâ alanında ilerleme çabaları, hükümet hizmetlerinin akıllı dönüşümünü gerçekleştirmek üzere 300 milyon dolar maliyetle ilk entegre akıllı şehir Silikon Park’ı inşa etmesiyle güçlendi. Ayrıca yapay zekâ alanında dünya lideri olan Sense Time şirketi ile Abu Dabi Yatırım Ofisi’nin, Avrupa, Ortadoğu ve Afrika bölgesini kapsayacak yedi farklı sektörde yapay zekâ yeteneklerini araştırma ve geliştirme için Abu Dabi’de bir merkez kurma konusunda anlaşması da bu ilerlemeye hız kazandırdı. Bu, ulusal ekonominin çeşitlendirilip daha rekabetçi bir hale gelmesine katkıda bulunacak ve çeşitli teknik işlerde yetenekler için gelişmiş bir ortam sağlayacak.
Suudi Arabistan’ı izleyen Katar, yapay zekâ konusunda veri güvenliğine odaklanıyor. Bu, kişisel verilerin gizliliğinin korunmasına ilişkin 13 Sayılı Kanun’dan da anlaşılıyor. Bu kanun; kişilerin haklarını, veri sorumlusuyla işleyicinin yükümlülüklerini, özel verilerin yönetimini, doğrudan pazarlama amacıyla elektronik iletişimleri ve kanun hükümleri ihlalinin cezalandırılmasını ele alıyor. Geçen yıl FIFA Dünya Kupası maçlarının organize edilmesi ve izlenmesinde yapay zekâ başarılı bir şekilde kullanıldı.
Son olarak Umman Sultanlığı, henüz bütünleşik bir mevzuata sahip değil. Sultanlık, kamu sektöründe yapay zekâ kullanımına ilişkin yönergeleri benimsiyor ve bu yönergeler şu altı ilkeyi içeriyor: kapsayıcılık, gözetim, hesap verebilirlik, adalet, şeffaflık ve güvenlik. Umman şu anda ilk akıllı şehri el-İrfan’ı geliştiriyor. Daha sonra Maskat’taki Dukm ve Ra’s el-Hamra gibi başka bölgeleri akıllı bölgelere dönüştürmek için harekete geçecek.
*Bu makale Şarku’l Avsat tarafından Londra merkezli Al-Majalla dergisinden çevrildi.
