Yapay zekanın sorunu, bizim komutlarımıza itaat etmesi

İngiliz bir profesör, süper bilgisayarlara gerçek arzularımızla nasıl başa çıkacağını öğretirken felaketten kurtulmayı görüyor

Dijital dönüşüm, çağdaş yaşamda sürekli derinleşen ve genişleyen bir özellik / Fotoğraf: Pixabay
Dijital dönüşüm, çağdaş yaşamda sürekli derinleşen ve genişleyen bir özellik / Fotoğraf: Pixabay
TT

Yapay zekanın sorunu, bizim komutlarımıza itaat etmesi

Dijital dönüşüm, çağdaş yaşamda sürekli derinleşen ve genişleyen bir özellik / Fotoğraf: Pixabay
Dijital dönüşüm, çağdaş yaşamda sürekli derinleşen ve genişleyen bir özellik / Fotoğraf: Pixabay

Bill Gates'in geçen günlerde bir yazısında değindiği, süper zeka başta olmak üzere yapay zekanın beraberinde getirebileceği tehlikeler hakkında geniş bir tartışma var.
Gates, bu tür bir zekanın insan zihninin geliştirebileceği her şeyi yapabileceğini, ancak bunu belleğinin boyutuna veya çalışma hızına dayatılan herhangi bir pratik sınır olmaksızın yapabileceğini gördü. Ve sonra, derin bir değişimle karşı karşıya kalacağız.
Ayrıca, Oxford Üniversitesi'ndeki İsveçli filozof ve bilgisayar bilimcisi Nick Bostrom, bu tür bir zekanın içerebileceği tehlikeler hakkında klasik entelektüel düşünceler sunuyor.
Profesör Bostrom, geliştiricileri tarafından ataç üretmek gibi görünüşte zararsız bir amaçla programlanan süper zeki bir robot tasavvur etti. Sonunda robot, tüm dünyayı dev bir ataç fabrikasına dönüştürüyor.
Daha da rahatsız edici bir örnek, bunun dünyanın dört bir yanındaki milyarlarca insanı etkiliyor olması.
İzlenme üresini en üst düzeye çıkarmayı hedefleyen YouTube, bu amaçla yapay zeka tabanlı içerik önerme algoritmalarından yararlanıyor.
İki yıl önce, bilgisayar bilimciler ve kullanıcılar, web sitesinin algoritmasının aşırılık yanlısı ve komplo içeriği önererek izlenme süresini artırma hedefine ulaştığını fark etmeye başladılar.
Bir araştırmacı, eski ABD Başkanı Donald Trump'ın kampanya mitinglerinden görüntüleri gördükten sonra, YouTube'un 'beyaz üstünlüğü, Holokost inkarı ve diğer rahatsız edici içerikler' hakkında rantlarla dolu videolarını gösterdiğini bildirdi.
Belki de YouTube mühendisleri insanları radikalleştirme niyetinde değildi. Sorunun önemli bir yönü, insanların genellikle yapay zeka sistemlerimize hangi hedefleri vereceklerini bilmemeleridir. Çünkü ne istediğimizi bile bilmiyoruz.
Uzun ve ilginç bir makalede Quanta Magazine, bu tür tuzaklardan kaçınmanın yollarından bahsediyor ve bazı araştırmacıların kullanışlı akıllı makineleri programlamak için tamamen yeni bir yol geliştirdiğine dikkat çekiyor.
Yöntem, dünya çapında 1.500'den fazla üniversitede ders kitabı olarak okutulan 'Artificial Intelligence: A Modern Approach' (Yapay Zeka: Modern Bir Yaklaşım) kitabının yazarı bilgisayar bilimi profesörü Stuart J. Russell'ın fikirlerine benziyor.
Russell'ın görüşüne göre, bir makinenin ödülle ilgili işlevlerini geliştirmesini istemek, dengesiz yapay zekaya yol açacaktır.
Çünkü hedefleri, alt hedefleri, istisnaları ve uyarıları ödül işlevine dahil etmek ve her birinin önemini doğru bir şekilde belirlemek, hatta hangisinin doğru olduğunu bilmek imkansız.
Zekalarının sürekli yükselişte olduğu bir zamanda, 'otonom' robotlara hedef vermek tehlikelerle dolu olacaktır.
Zira o, ödül işlevi arayışında acımasız olacak ve onu kapatmamızı engellemeye çalışacaktır.
Buna dayanarak, hedeflerine ulaşmak isteyen makineler yerine, bu yeni düşünceye göre, insan tercihlerini tatmin etmeye çalışmak onlar için daha faydalı.
Yani tek hedefleri bizim tercihlerimizin ne olduğunu daha derinlemesine araştırmak olmalıdır. Russell, 'Human Compatible: Artificial Intelligence and the Problem of Control' (İnsan Uyumlu Yapay Zeka ve Kontrol Problemi) adlı son kitabında tezini, geliştiricilerinin onlardan 'hedeflerine' değil bizim 'hedeflerimize' ulaşmalarını bekledikleri 'üç faydalı makine ilkesi' biçiminde ortaya koydu.
Bu, ünlü bilim kurgu yazarı Isaac Asimov tarafından 1942 yılında formüle edilen 'üç robot yasasını' anımsatıyor.
ABD'li yazar Asimov, 1992 yılında 72 yaşındayken vefat etti. En çok üç robot yasasını oluşturmasıyla tanınır:
1-Bir Robot, bir insana zarar veremez, ya da zarar görmesine seyirci kalamaz.
2-Bir robot, birinci yasayla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
3-Bir robot, birinci ve ikinci yasayla çelişmediği sürece kendi varlığını korumakla yükümlüdür.
Russell'ın üç robot yasası ise aşağıdakileri belirtir:
1-Makinenin yegane amacı, insan tercihlerinin optimal olarak gerçekleştirilmesidir.
2-Makine, bu tercihlerin ne olduğundan temel olarak emin olmamalıdır.
3-İnsan tercihleri için birincil bilgi kaynağı insan davranışlarıdır.
Geçen birkaç yılda Russell ve ekibi, yapay zeka sistemlerinin tercihlerimizi tanımlamaya gerek kalmadan keşfetmesi için yenilikçi yollar geliştirmeyi umarak Stanford Üniversitesi, Teksas Üniversitesi ve diğer ülkelerdeki araştırmacı gruplarıyla iş birliği yaptı.
Bu laboratuvarlar, robotlara kendilerini hiç ifade etmemiş insanların tercihlerini nasıl öğreneceklerini öğretiyor ve hatta insanın gizemini çözmeye yardımcı olacak yeni davranışlar geliştirebiliyor.

İnsan böyle anlar
Russell, yıllar önce robotların işinin video izleme süresini artırmak veya ataç yapmak gibi hedeflere ulaşmak değil, sadece hayatımızı iyileştirmeye çalışmak olması gerektiğini anladı.
Bu bağlamda, reinforcement learning (pekiştirmeli öğrenme) bir yapay zeka sisteminin deneme yanılma yoluyla öğrendiği bir makine öğrenimi alt kümesi.
Böylece yapay zeka, birkaç davranışı denedikçe bir oyundaki puanı gibi kendi ödül işlevini geliştirmeyi öğrenir ve ardından ödül işlevinden daha fazla yararlanmak için hangi davranışları pekiştireceğini çözer.
Quanta Magazine web sitesine göre, 1998 yılından beri Russell, asistanı Andrew Ng ile birlikte 'inverse reinforcement learning' (ters pekiştirmeli öğrenme) sistemi denen şeyi yaratmaya koyuldu.
'Pekiştirmeli öğrenme' sistemi, bir hedefe ulaşmak için yapılacak en iyi eylemleri belirlerken 'ters pekiştirmeli öğrenme sistemi' ise bir dizi eylem verildiğinde birincil hedefi çözer.
Russell daha da ileri gitti ve robotun ve insanın çeşitli "yardım oyunlarında insanın gerçek tercihlerini öğrenmek için birlikte çalışmasını sağlamak" anlamına gelen yeni bir 'ters işbirlikçi öğrenme' türü geliştirmek için asistanlarıyla birlikte çalışmaya başladı.
Geliştirdikleri oyunlardan biri olan 'kapatma oyunu', otonom robotların bizim gerçek tercihlerimizden sapmalarının en bariz yollarından biri olan makinelerin kapatma anahtarlarını devre dışı bırakmasıdır.
Russell, 'İnsan Uyumlu Yapay Zeka ve Kontrol Problemi' adlı kitabında, kapatma sorununun "akıllı sistemleri kontrol etme sorununun merkezinde olduğunu" savunuyor.
Russell ayrıca, "Bir makineyi bizi durduracağı için kapatamazsak, gerçekten başımız belada demektir. Ve eğer bunu yapabilirsek, belki onu başka yollarla da kontrol edebiliriz" diyor.
Buna paralel olarak, Scott Newcomb'un Teksas Üniversitesi'ndeki laboratuvarı, gerçek robotlarda tercih ve öğrenme algoritmalarının işleyişi üzerine çalışıyor.
O laboratuvardaki iki kollu bir robot olan Gemini, bir sofra düzeni gösterisinde bir insanın çatalı tabağın soluna koymasını izlediğinde, ilk başta çatalın her zaman tabakların solunda olup olmadığını anlamaz.
Yeni algoritmalar, Gemini'nin birkaç gösteriden sonra modeli öğrenmesine olanak tanıyor.

İnsan davranışı rasyonel değil
Buna karşılık Russell, "ilki davranışımızın rasyonel olmaktan o kadar uzak olması ve gerçek temel tercihlerimizi yeniden yapılandırmanın çok zor olması" olmak üzere iki tür zorluk olduğuna dikkat çekiyor.
Yapay zeka sistemlerinin uzun, orta ve kısa vadeli hedeflerin hiyerarşisini, yani sahip olduğumuz tüm bu sayısız tercih ve taahhütler hakkında düşünmesi gerekecek.
Robotlar bize yardım edeceklerse (ve ciddi hatalar yapmaktan kaçınacaklarsa), bilinçsiz inançlarımızın ve ifade edilmemiş arzularımızın bulanık ağlarını aşmak zorunda kalacaklar.
İkinci zorluk ise insan tercihlerinin değişmesidir. Düşüncelerimiz hayatımız boyunca değişir.
Zira ruh halimize veya değişen koşullara göre sürekli olarak değişir. Bu nedenle bir robotun onları algılaması çok zor olabilir.
Peki ya gelecekte doğacak çok sayıda insan ne olacak?
Makineler onların tercihlerini nasıl dikkate alacak?
Ayrıca, eylemlerimiz bazen ideallerimize uygun düşmez. İnsanlar bile aynı anda çelişen değerlere sahip.
Robotlar gibi biz de tercihlerimizi belirlemeye çalışıyoruz. Mümkün olan en iyi yapay zeka gibi biz de -en azından bazılarımız- iyinin neye benzediğini anlamaya çalışıyoruz.
Bu nedenle, belki de insanlar gibi yapay zeka sistemleri de sonsuza kadar soru sorma girdabında sıkışıp kalabilir.
Ayrıca Russell'ın endişeler listesinde üçüncü bir büyük sorun daha var: kötü insanlar için tercihler.
Peki bir robotun kötü sahibinin amaçlarına hizmet etmesini engelleyen nedir?
Zenginlerin vergi yasalarında boşluklar bulması gibi, yapay zeka sistemleri de tabuları aşmanın yollarını bulma eğiliminde.
Daha karanlık bir sahnede, hepimizin içinde var olan kötülüğü sorabiliriz. Bu konuda Russell iyimser.
Ona göre programcılar, gelecekte ek algoritmalara ve daha fazla araştırmaya ihtiyaç duysalar bile zararlı seçimleri sınırlayabilirler ve aynı yaklaşım "çocuklarımızı yetiştirme şeklimiz" açısından da faydalı olabilir.
Başka bir deyişle, robotlara nasıl iyi olunacağını öğreterek kendimize de iyi olmayı öğretmenin bir yolunu bulabiliriz.

Independent Türkçe



Trump, Demokrat Parti'yi "kapatmanın yolunu arıyor"

Charlie Kirk'ün öldürülmesinin ardından en az bir yorumcu, Donald Trump'ın muhalefeti yasadışı ilan etmeye çalışmakta olabileceğini söylüyor (AFP)
Charlie Kirk'ün öldürülmesinin ardından en az bir yorumcu, Donald Trump'ın muhalefeti yasadışı ilan etmeye çalışmakta olabileceğini söylüyor (AFP)
TT

Trump, Demokrat Parti'yi "kapatmanın yolunu arıyor"

Charlie Kirk'ün öldürülmesinin ardından en az bir yorumcu, Donald Trump'ın muhalefeti yasadışı ilan etmeye çalışmakta olabileceğini söylüyor (AFP)
Charlie Kirk'ün öldürülmesinin ardından en az bir yorumcu, Donald Trump'ın muhalefeti yasadışı ilan etmeye çalışmakta olabileceğini söylüyor (AFP)

Bir analiste göre Donald Trump, muhafazakar yorumcu Charlie Kirk'ün öldürülmesinin ardından Demokrat Parti'yi yasaklamayı planlıyor olabilir.

CNN'den Jamal Simmons, Trump ve Beyaz Saray Özel Kalem Müdürü Yardımcısı Stephen Miller'ın son yorumlarının Birleşik Devletler'deki iki partili sistemin geleceği konusunda "kesinlikle endişe verici" olduğunu söyledi.

Kirk suikastının siyasi etkisini ele almak üzere Kaitlan Collins'in The Source programına katılan Simmons, şunları söyledi:

Başkan aşırılıkçı örgütlere karşı harekete geçeceğini söyledikten sonra özel kalem müdürü yardımcısı da bugün çıkıp Demokrat Parti'yi aşırılıkçı örgüt diye niteledi. Bu da şu soruyu akla getiriyor: Birleşik Devletler Başkanı, Demokrat Parti'yi yasaklayacak mı? Gidişat bu yönde mi? Birleşik Devletler Başkanı, Adalet Bakanlığı'nı Demokrat Parti'nin üzerine mi salacak?

Endişesinin bu olup olmadığı sorulduğunda Simmons, şu cevabı verdi:

Kesinlikle endişe verici. Bu başkan, siyasi düşmanlarını hedef almak için Adalet Bakanlığı'nı kullanmaya istekli olduğunu gösterdi. Bu, ülkedeki iki partili demokratik sistem hakkında çok ciddi sorular ortaya çıkarıyor.

Trump yönetimindeki üst düzey isimler pazartesi günü, kamuoyuna herhangi bir kanıt sunmadan, cinayetin organize bir sol görüşlü terör planının sonucu olduğunu iddia etti. Arkasındaki grupların peşine düşeceklerine söz verdiler.

Kirk'ün podcast'inin Birleşik Devletler Başkan Yardımcısı J.D. Vance'in sunduğu özel bölümüne katılan Miller, "Bu suikasta yol açan organize kampanyaya duyduğumuz tüm öfkeyi, bu terör ağlarını kökünden söküp atmak için kullanacağız" dedi.

Vance ayrıca program sırasında, "sol görüşlü aşırılığın" Kirk'ün öldürülmesinin "nedenlerinden biri" olduğunu söyledi.

Trump geçen hafta, Demokratlardan sandıkta "intikam" almak istediğini söylemişti; bu da en azından partinin seçim rakibi olacağına hâlâ inandığını gösteriyor. Ardından şunları eklemişti:

Sorun soldaki radikaller; onlar acımasız, korkunç ve politik açıdan kurnazlar.

Ağustosta verdiği bir röportajda Miller, "Demokrat Parti siyasi bir parti değil. Yurtiçindeki bir aşırılıkçı örgüt" demişti.

Demokrat Parti, Amerikan vatandaşları için savaşmıyor, onları umursamıyor veya temsil etmiyor.  Sadece azılı suçluların, çete üyelerinin, yasadışı göçmen katillerin ve teröristlerin savunulmasına adanmış bir kuruluştur.

Independent Türkçe


Çin'in "hayalet parçacık" makinesi evrenin sırlarını çözebilir

Küre, sıvı sintilatör diye bilinen 20 bin tonluk bir madde içeriyor (AP)
Küre, sıvı sintilatör diye bilinen 20 bin tonluk bir madde içeriyor (AP)
TT

Çin'in "hayalet parçacık" makinesi evrenin sırlarını çözebilir

Küre, sıvı sintilatör diye bilinen 20 bin tonluk bir madde içeriyor (AP)
Küre, sıvı sintilatör diye bilinen 20 bin tonluk bir madde içeriyor (AP)

Fizikçiler, gizemli "hayalet parçacıkların" keşfi karşısında yıllardır şaşkınlık içinde.

Elektrik yükü olmayan bu nötr atom altı parçacıkların bilimsel adı "nötrinolar". Elektrik veya manyetik kuvvetlerle yakalanamayan bu parçacıklar, fiziksel maddelerin içinden rahatça geçebiliyor.

Ancak parçacık fizikçileri Çin'in tepelerindeki fütüristik bir yeraltı gözlemevindeki yeni sıvı kubbe sayesinde bu zor yakalanan parçacıkları gözlemleyerek gizli bilimsel sırları ortaya çıkarmayı umuyor.

Küre, sıvı sintilatör diye bilinen 20 bin tonluk bir maddeyi barındırırken, nötrinolar yakındaki iki nükleer santral aracılığıyla sürekli yer altından besleniyor. İnce bir akrilik tabakayla kaplı küresel yapının tamamıysa 45 bin ton saf suyla dolu koruyucu bir silindir içinde duruyor.

Nötrinolar sintilatördeki protonlarla çarpışınca, günde yaklaşık 50 adet olmak üzere, çok küçük ama kaydedilebilir flaşlar yayıyor. Dünyanın dört bir yanındaki bilim insanları, nötrinoları uzaktan izliyor, ölçüyor ve kütlelerine göre sıralıyor.

Dünya çapında 700 fizikçiyle işbirliği yapan Çin Bilimler Akademisi'nden Wang Yifang, The Times'a şöyle diyor: 

Nötrino kütlesinin hiyerarşisini öğreneceğiz ve bu sayede parçacık fiziği, nötrinolar ve kozmoloji için bir model oluşturabiliriz.

Nötrinolar, süpernova patlamalarının yıldız füzyonları tarafından üretilebildikleri için evrendeki en bol parçacıklar. Wang, atom altı parçacıklar üzerine yapılan bu araştırmanın "evreni anlamamıza" katkı sağlayabileceğini söylüyor.

Bilim insanı günde 50 adet olmak üzere 100 bin flaş üretmenin ve istatistiksel açıdan anlamlı okumalar elde etmenin sadece 6 yıl süreceğini düşünüyor.

Nötrinolar ilk kez 1930'da Avusturyalı fizikçi Wolfgang Pauli tarafından öngörülmüştü. Pauli, elektrik yükü veya kütlesi olmayan ve maddeden serbestçe geçebilen bir parçacığın var olabileceği teorisini ortaya atmıştı. Araştırmaya göre, bir saniyede yaklaşık 100 trilyon nötrino vücudumuzdan geçiyor.

Bu keşif üzerine Pauli, "Korkunç bir şey yaptım. Saptanamayan bir parçacık olduğunu varsaydım" demişti. Fizikçi, kimsenin bir nötrino yakalayamayacağına dair bir kasa şampanya üzerine bahse girmişti. Ancak çeyrek asır sonra bu bahsi kaybetti.

Artık elektron, müon ve tau isminde üç tür nötrino olduğunu ve her birinin diğerine dönüşebildiğini biliyoruz. Bilim insanları bunları analiz ederek neden "madde"nin "antimadde"den daha fazla olduğu gibi, bilimin en büyük gizemlerini çözmenin anahtarını bulabilir.

Independent Türkçe


Fransa, Gazze'de "artık askeri mantığı kalmayan yıkıcı harekatı" kınıyor

Fransa, Netanyahu hükümetine Gazze'deki yıkıcı operasyonları sona erdirme çağrısında bulundu (AFP)
Fransa, Netanyahu hükümetine Gazze'deki yıkıcı operasyonları sona erdirme çağrısında bulundu (AFP)
TT

Fransa, Gazze'de "artık askeri mantığı kalmayan yıkıcı harekatı" kınıyor

Fransa, Netanyahu hükümetine Gazze'deki yıkıcı operasyonları sona erdirme çağrısında bulundu (AFP)
Fransa, Netanyahu hükümetine Gazze'deki yıkıcı operasyonları sona erdirme çağrısında bulundu (AFP)

Fransa, İsrail'in dün Gazze'ye yönelik başlattığı kara harekatını kınayarak, Binyamin Netanyahu hükümetine "artık askeri gerekçesi kalmayan bu yıkıcı harekata son vermesi" çağrısında bulundu.

Şarku'l Avsat'ın AFP'den aktardığına göre Dışişleri Bakanlığı yaptığı açıklamada, "açlık, temel ihtiyaç maddeleri ve acil bakıma erişimin yetersizliği ile karakterize edilen son derece ciddi insani ve sağlık durumu"na dikkat çekerek, İsrail'e "Gazze'ye insani yardım girişine yönelik tüm kısıtlamaları derhal kaldırması" ve "ateşkes sağlanması ve tüm rehinelerin serbest bırakılması amacıyla müzakerelerin en kısa sürede yeniden başlatılması" çağrısını yineledi.