Yapay zeka sistemleri, gerçek görüntüleri tahrif ediyor

Irkların ve cinsiyetlerin en kötü basmakalıp yönleri yüceltiliyor.

‘Çekici insanlar’ aratması yapıldığında sunulan görüntüler.

Görüntüler için tasarlanmış yapay zeka araçları oldukça sorunlu, kötü klişeleri vurgulama eğiliminde:

“Afrikalılar ilkeldir, Avrupalılar laiktir, liderler erkektir ve mahkumlar siyahtır.”

Bu stereotipler gerçek dünyayı yansıtmıyor. Aksine, söz konusu teknolojinin güç aldığı ve eğitildiği, genellikle internetten alınan verilerden kaynaklanıyor. Bu veriler genelde zehirli olup pornografi, kadın düşmanlığı, şiddet ve bağnazlıkla dolu.

Yapay zeka destekli görüntü oluşturma modelleri dünyayı böyle görüyor. Natasha Taiko, Kevin Scholl ve Zhou Yuchen tarafından Washington Post'ta yazılan bir makalede, ‘Stable Diffusion’ ve ‘DALL-E’ gibi modeller incelendi.

Stable Diffusion XL görüntü oluşturma modelini geliştiren ünlü şirket Stability AI, geçtiğimiz temmuz ayında piyasaya sürdüğü son modelinde önyargıyı azaltmak için önemli yatırımlar yaptığını bildirdi. Ancak, iyileştirmelere rağmen, aracın halen Batılı stereotipleri güçlendirdiği görülüyor.

Christoph Schuhmann: Stable Diffusion'a veri sağlayan Lion adlı kâr amacı gütmeyen kuruluşun kurucu ortağı, imaj üreten araçların beyazların dünyasını yansıttığını söylüyor. Çünkü pek çok şirkete veri sağlayan kar amacı gütmeyen kuruluşlar, çalışmalarını ağ kullanıcılarının en büyük demografik kesimini barındıran Çin ve Hindistan'a odaklamıyor.

Yazarlar, ‘Stable Diffusion XL’ modelinden farklı ülkelerdeki evlerin görüntülerini oluşturmasını istediklerinde, sonuçların her ülkede hakim olan stereotipleri temsil ettiğini söyledi: Şangay'daki yüksek katlı apartmanlar yerine Çin'deki klasik kavisli çatılı evler; ABD’eki yeşil bahçeli ve yüksek balkonlu ideal evler; 160 milyardere ev sahipliği yapan Hindistan ve dünyanın en zengin şehirleri listesinde 15’inci sırada yer alan Mumbai'deki kirli yollardaki çamur yığınları.

Schuhman değerlendirmesinde "Bu sonuçlar Kuzey Amerika veya Avrupa'daki ortalama bir insanın kafasında depolanan normal stereotipleri yansıtıyor. Bunu anlamak için veri bilimi diplomasına ihtiyacınız yok" dedi.

Şarku’l Avsat’ın edindiği bilgilere göre Stable Diffusion bu eğilimde benzersiz değil. Open AI yeni yayınlanan belgelerde DALL-E 3 tarafından geliştirilen en son görüntü oluşturucunun ‘genellikle beyaz insanları, kadınları ve gençleri gösteren görüntüler üreterek Batılı bakış açısına doğru eğildiğini’ söyledi.

Günümüzde internette yayılan sentetik imgeler eski, saldırgan stereotiplere yeni bir soluk getirebilmekte ve beden imajı, toplumsal cinsiyet ve ırkla ilgili unutulmuş imajları tekrar yaratabilir.

İnternetten milyarlarca görüntü

Chat GPT'de olduğu gibi görüntü üreten yapay zeka araçları büyük miktarda eğitim verisinden öğreniyor. Bu modeller milyarlarca kelimeyi işlemek yerine, milyarlarca görüntü ve ağdan alınan açıklamalarla besleniyor.

Teknoloji şirketleri bu grafiklerin içeriği konusunda giderek daha ketum davranıyor. Bunun nedeni kısmen bu içeriğin genellikle telif hakkıyla korunan, yanlış veya hatta kaba materyaller içermesinden ileri geliyor. Bununla birlikte, ‘Stable Diffusion’ ve ‘Lion’ şirketlerinin halkın modelin ayrıntılarını keşfetmesine izin vermesi dikkat çekiyor. Çünkü her ikisi de açık kaynak kodlu projeler olma özelliği taşıyor.

Stability AI İcra Direktörü İmad Muştak, şirketinin şeffaflığı denetim ve önyargının ortadan kaldırılması için temel bir koşul olarak gördüğünü söylüyor ve ‘en yüksek güvenlik, adalet ve temsil standartlarını uygulamak için açık kaynak modellerinin gerekli olduğuna inandığını’ belirtiyor.

Dikkat çekici önyargı

Stable Diffusion XL modeli önemli gelişmeler kaydetti. Ancak yazarlar, rutin faaliyetleri, ortak kişilik özelliklerini ve diğer ülkelerin isimlerini tasvir etme taleplerinden ırk, sosyal sınıf, cinsiyet, zenginlik, zeka, din ve diğer kültürler hakkında uydurmalar üretmeyi başardılar. Pek çok örnekte, ırksal eşitsizlikler fotoğraflarda gerçek dünyadakinden daha aşırı görünüyor.

Gelir ve Program Katılım Anketi'nden elde edilen en son ABD Nüfus Sayım Bürosu verileri, 2020'de gıda yardımı alanların yüzde 63'ünün beyaz, yüzde 27'sinin ise siyah olduğunu gösterdi. Ancak teknolojiden bir sosyal hizmet alıcısının görüntüsünü oluşturmasını istediğimizde, sonuç siyahlara işaret etti. ‘Üretken bir insan’ görüntüsü oluşturmasını istediğimizde ise tüm görüntüler, beyaz yakalı işlerde çalışan, resmi takım elbise giyen, çoğu beyaz olan erkekleri gösteriyordu.

Stanford Üniversitesi'nde yapay zeka araştırmacısı olan Pratyusha Kalluri ve ekibi geçtiğimiz sonbaharda bu araçların otomatik olarak stereotipleri harekete geçirdiğini keşfetti. Bu araçlardan birinden ‘çekici bir insan’ görüntüsü oluşturmasını istediklerinde, araç açık tenli ve gözlü Avrupalı insanların görüntülerini üretti. ‘Mutlu bir aile’ resmi istediklerinde, araç çocuklarıyla gülen beyaz insanların resimlerini gösterdi.

Daha temiz sonuçlar için daha temiz veriler

İmaj yapay zeka araçlarını temizleme çabaları küçük ama verimli müdahalelere odaklanıyor: veri formatlarını filtrelemek, geliştirmenin en son aşamalarını yükseltmek ve şirketin itibarına zarar veren sorunları çözmek için kurallar oluşturmak.

Yapay zeka için açık kaynaklı bir veritabanı ve Lion'a sponsor olan şirketlerden Hugging Face'de araştırmacı bilim insanı olan Sasha Lucioni ise şunları söyledi:

“Veri formatlarından kötü şeyleri filtrelemek önyargıya karşı kolay ve nihai bir çözüm değil."

Stability AI, her ülkenin hükümet ve kamu kurumları tarafından sağlanan grafik formatlarında ulusal değerleri yansıtan yerel bir imaj jeneratörüne sahip olmasını öneriyor.

Yapay zeka uzmanları önyargıya nasıl son verileceği konusunda ikiye bölünmüş durumda. Örneğin Calori, görüntülerdeki önyargıyı azaltmanın metinlerdekinden tamamen farklı olduğuna inanıyor. Zira Çünkü bir kişinin gerçekçi bir görüntüsünü yaratmaya yönelik herhangi bir çabanın yaş, vücut, ırk, saç, arka plan ve görsel özelliklerle ilgili kararları dikkate alması gerektiğini belirten Calori, bu karmaşıklıkların çok azının bilgisayar teknikleriyle çözülebileceğine dikkat çekiyor.

Calori, bu teknolojiyle etkileşime giren herkesin nasıl çalıştığını anlamasının önemli olduğuna inanıyor. Calori bu durumu şöyle açıklıyor:

"Bu teknolojiler, internetten alınan verilerin anlık görüntüsüne dayanarak bir şeyleri haritalandıran tahmin modelleridir."

Ayrıntılı istemlerin kullanılması da bu önyargıyı azaltmada başarısız oldu. Araçtan farklı ülkelerden varlıklı bir kişinin fotoğrafını üretmesini istediğimizde, Stable Diffusion klişelerle dolu görüntüler üretmeye devam etti: Saz kulübelerin önünde duran Batılı paltolar giyen Afrikalı erkekler; eski camilerin önünde duran Ortadoğulu erkekler, asfalt sokaklarda dolaşan şık takım elbiseli Avrupalı erkekler…

Mozilla Vakfı'nda yapay zeka konusunda uzmanlaşmış kıdemli bir danışman olan Abiba Birhani, şirketlerin verileri iyileştirmek için çok çalışması halinde araçların geliştirilebileceğini ileri sürüyor ki ona göre bu beklenmedik bir durum deği. Şu an söz konusu klişelerin en büyük etkisinin sosyal medya çağında zarar gören aynı gruplar üzerinde olacağına inanan danışman, ‘toplumun sınırlarında yaşayan insanların dışlanmaya devam edeceğini’ vurguluyor.

*Bu hikayede yer alan tüm görsellerin gerçek dünyada var olmayan şeyleri göstermesi ve metni görüntüye dönüştürmek için tasarlanmış bir yapay zeka modeli olan ‘Stable Diffusion’ kullanılarak oluşturulması dikkat çekiyor.