Siyah Naziler ve çocukları travmatize eden Willy Wonka: Google'ın yapay zeka sorunu

Teknoloji devinin arama sonuçlarını varsayılan olarak kapsayıcı hale getirmeye yönelik övgüye değer girişimi, gülünç olduğu kadar rahatsız edici ve yapay zekaya aşırı bağımlılığımız hakkında tam zamanında gelen bir uyarı

(Warner Bros.)

Ryan Coogan 

Filmler bize yapay zekanın geleceğine dair en kötü ihtimali anlatırken genellikle büyük resme odaklanır: İnsanları yok eden robotlardan oluşan gezici çeteler. Tuvaleti kullanırken sizi izleyen bir Büyük Birader süper zekası. Haley Joel Osment buzun içinde donuyor. Bu tür şeyler.

Ancak asıl tehlike (en azından şu an için) yapay zekaya aşırı bağımlılığımızın temel, özellikle de yaratıcı veya araştırmaya dayalı görevlere yaklaşımımızı temelden değiştirecek olması. Araştırmaların, Google gibi arama motorlarını daha fazla kullanmamızın bilgiyi hatırlama ve beynimizde saklama şeklimizi değiştirdiğini öne sürmesine benzer şekilde, yapay zeka kullanımımız öğrenme ve işimizi yapma şeklimizi tamamen (daha kötü olacak şekilde) değiştirebilir.

Yapay zekanın tuzaklarına dair pek çok örnek gördük (birkaç tanesini ben de yazmıştım) ancak son örneklerden biri, bu teknolojiye güvenmenin gelecekte nasıl ciddi sorunlara yol açabileceğinin belki de en açık göstergesi. ChatGPT'nin popülerliğine yanıt olarak Google, kendi yapay zeka sistemi Google Gemini'ı piyasaya sürdü. Google'ın yapay zekası metin komutlarına yanıt vermenin yanı sıra, temel talimatlara dayalı görseller de oluşturabiliyor.

Ancak kullanıcılar Gemini'ın görsel üretme becerisinde kısa sürede bir sorunla karşılaştı: İnsan öznelerin resimlerini üretmesi istendiğinde, bu özneleri genellikle etnik ve toplumsal cinsiyet bakımından mümkün olduğunca çeşitli hale getiriyordu. Bu kulağa büyük bir sorun gibi gelmese de (hatta Stable Diffusion'ın ilk sürümlerinin "bir Latin Amerikalı kadın" istemi verildiğinde cinsel içerikli görseller üretmesi gibi, önceki dil modellerinin önyargı ve ayrımcılık eğilimleri düşünüldüğünde iyi bir şey olarak görülebilir) bu durum bazı hayret verici çıktılara yol açtı.

Örneğin Birleşik Devletler'in kurucu babalarının (erkek ve beyaz tenli olmalarıyla ünlü bir grup) resmini üretmesi istendiğinde, sömürgecilere has kıyafetler içinde her ırktan kadın ve erkeğin resmini üretebilir. Bu kulağa epey zararsız ve hatta komik gelse de sistemden II. Dünya Savaşı'na ait görseller üretmesi istendiğinde gerçek sorunlar ortaya çıkıyor ve Gemini, siyah ve Asyalı Nazi askerlerinin resimlerini pompalamaya başlıyor.

Gemini'ın neden akla gelebilecek en kötü şekilde duyarcı (woke) hale geldiği tam bilinmese de Google'ın olası önyargı sorunlarından kaçınmaya çalışırken, yapay zeka sistemini varsayılan olarak kapsayıcı şekilde programlayıp bunun nasıl yanlış gidebileceğini gerçekten düşünmemiş olması mümkün (kapsayıcılık genel anlamda iyi bir şeydir). Google'ın kıdemli başkan yardımcısı Prabhakar Raghavan, bir blog yazısında "Gemini'ın bir dizi insanı göstermesini sağlamak için yaptığımız ayarlama, açıkça bir aralık göstermemesi gereken durumları hesaba katmada başarısız oldu" diyerek durumun böyle olabileceğini öne sürdü.

Sebep ne olursa olsun, bu olaydan çıkarılacak ana sonuç açık: Bu teknoloji henüz hazır değil. Dahası, hiçbir zaman hazır olmama ihtimali de var. Ya da en azından tutarlı, güvenilir sonuçlar üretmek için tam olarak bel bağlanabilecek noktaya hiçbir zaman ulaşamayabilir.

Geçen hafta yapay zekaya aşırı güvenmenin tehlikelerinin özellikle çarpıcı bir örneğini gördük ve bu en beklenmedik yerde oldu. Glasgow'da bir yerde tiyatro öğrencileriyle dolu yarım yamalak bir depoda.

Birçok viral videoyu ve birinci elden anlatıları henüz görmediyseniz, bilmeniz gereken şey şu: İskoçya'daki ebeveynler çocuklarını interaktif bir "Willy Wonka deneyimi" diye tanıtılan bir etkinliğe götürmek için 35 Sterlin (yaklaşık 1415 TL) ödedi. Etkinliğe vardıklarında, ne yaptıklarını bilmiyor gibi görünen sıkılmış aktörlerle dolu, seyrek şekilde dekore edilmiş bir depoyla karşılaştılar ve en kötüsü de görünürde bir parça bile çikolata yoktu. Etkinlik tahmin edilebileceği gibi kaosa dönüştü ve ebeveynlerin düşük kaliteli ve aşırı pahalı bir gezi deneyimledikleri için "ayaklandıkları" bildirildi.

Hikayenin en ilginç kısmıysa organizatörlerin "deneyimin" belirli yönleri için yapay zekaya güveniyor gibi görünmeleriydi. Facebook'taki tanıtım materyalleri yapay zeka tarafından üretilmişti ve o kadar kötü hazırlanmıştı ki üzerlerindeki metin tamamen anlamsızdı. Oyunculara yapay zeka "saçmalıklarıyla" dolu senaryo metinleri verildi ve bazı şeylerin lojistik olarak nasıl işleyeceğini sorduklarında onlara "doğaçlama yapmaları" söylendi.

Tüm bu olay, insanların bu teknolojiye yaklaşımının doğasındaki tehlikeler için bir tür vaka çalışması işlevi görüyor. Elbette, organizatörlerin bu çocuklar için gerçekten iyi düşünülmüş sürükleyici bir deneyim sağladıkları bir dünya olmayacak gibi görünüyor ancak açıkça işin büyük bölümünü nasıl kullanılacağını gerçekten anlamadıkları yepyeni bir teknolojiye bırakabilecekleri izlenimine kapılmışlar.

Mesele de bu: Yapay zekanın kendisinin kötü olması gerekmiyor. Ancak insanlar parlak yeni oyuncaklara yapışacak ve onları günlük yaşamlarına tereddüt etmeden uygulayacak. Ortalama biri için, akıllı telefonları cadılar tarafından yapılmış da olabilir. Ne sıklıkla bir Google aramasında en üstteki bağlantıya tıklıyor ve bunun ihtiyacımız olan şey için "en iyi" sonuç olduğunu düşünüyoruz? Kaç kez Amazon'dan bir şey satın aldınız çünkü Siri size onu önermişti?

İnsanlar, yapay zekanın bu görevleri üstlenebilecek bir konumda olup olmayacağını gerçekten bilmeden hayatlarının devasa bir bölümünü yapay zekaya devretmeye son derece hevesli. Elbette, şimdilik sadece üçkağıtçı bir çocuk gösterisi (ve dürüst olmak gerekirse, ürkütücü bir depoda gizemli bir gezi için 35 sterlin öderseniz, bu sizin hatanız) ancak bu gerçekten Hollywood'un yapay zeka elinden çıkma senaryolar ve oyuncularla yapmak istediklerinden çok uzakta mı? Tyler Perry, OpenAI'ın yeni video oluşturma aracının kendisine tasarruf sağlayabileceğine inandığı için 880 milyon dolarlık stüdyo genişlemesini durdurduğunu yakın zamanda açıkladı. Bu George Washington'ı Çinli bir kadın sananla aynı yapay zeka mı? Size iyi şanslar Perry.

Yapay zeka, hoşumuza gitse de gitmese de bir sonraki büyük teknolojik sıçrama olabilir. Ancak oraya varmadan önce, daha hazır olmadan kendimizi tamamen ona bırakmamaya dikkat etmeliyiz.

Independent Türkçe