Yapay zekanın ürettiği insan yüzlerinin, gerçek yüzlerden daha gerçek göründüğü tespit edildi

Bu yüzler, yapay zeka firması NVIDIA'nın bir bilgisayar sisteminde oluşturuldu (thispersondoesnotexist.com)
Bu yüzler, yapay zeka firması NVIDIA'nın bir bilgisayar sisteminde oluşturuldu (thispersondoesnotexist.com)
TT

Yapay zekanın ürettiği insan yüzlerinin, gerçek yüzlerden daha gerçek göründüğü tespit edildi

Bu yüzler, yapay zeka firması NVIDIA'nın bir bilgisayar sisteminde oluşturuldu (thispersondoesnotexist.com)
Bu yüzler, yapay zeka firması NVIDIA'nın bir bilgisayar sisteminde oluşturuldu (thispersondoesnotexist.com)

Birleşik Krallık'ta yapılan bir araştırmada, internet kullanıcılarının gerçek ve yapay zeka üretimi yüzleri birbirinden ayırt edemediği tespit edildi.
Üstelik, bilgisayarda üretilen ve aslında var olmayan yüzlerin daha gerçek görüldüğü anlaşıldı.
Araştırmanın arkasındaki, Londra Royal Holloway Üniversitesi'nden akademisyenler, bilgisayarda oluşturulan sahte portrelerin siber suçları kolaylaştıracağından ve insanların çevrelerine yönelik genel güvenini sarsacağından endişeli.
Bilimsel dergi iScience'ta yayımlanan makalede bu tür görüntülerin çevrimiçi dolandırıcılık, siyasi propaganda ve hatta casusluk için kullanılabileceği ifade ediliyor.
GAN görüntüleri nedir, nasıl oluşturulur?
Son derece gerçekçi insan yüzleri oluşturmanın sırrı, "derin sinir ağı" adı verilen bir sistemde yatıyor.
İnsan beyninin öğrenme biçimini taklit eden bu sistem, gerçek yüzlerin görüntülerini içeren devasa bir veri kümesiyle eğitiliyor.
Sistemin temelinde en gerçekçi görüntüleri üretmek için yarışan iki derin sinir ağı var.
Bu yarış sonucunda üretilen sahte yüzlere, GAN görüntüleri adı veriliyor.
Açılımı "Generative Adversarial Networks" olan GAN, Türkçede çekişmeli üretken ağlar anlamına geliyor.
Gerçeğinden ayırt edilemiyor
Araştırma ekibine liderlik eden Psikoloji Profesörü Manos Tsakiris'e göre, internet kullanıcılarının bu yapay yüzleri gerçek olanlardan ayırt edememesinin çok önemli sonuçları olabilir.
The Conversation'da kaleme aldığı bir yazıda araştırmanın bulgularını aktaran Tsakiris, "Sahte görüntülerin başkalarına yönelik güvenimizi aşındırabileceğini ve çevrimiçi iletişim kurma şeklimizi derinden değiştirebileceğini gördük" ifadelerini kullandı.
Akademisyen ayrıca, "Meslektaşlarımla birlikte, araştırmamıza katılan kişilerin GAN görüntülerini, gerçek insan yüzlerinin yer aldığı fotoğraflardan çok daha gerçekçi algıladıklarını tespit ettik" diye yazdı.
Araştırmacılar bunun kesin nedenini henüz anlayabilmiş değil. Ancak elde edilen bulgular, yapay görüntüler oluşturmak için kullanılan teknolojinin ne denli geliştiğini gözler önüne seriyor.
Öte yandan, araştırmada çekicilikle ilgili ilginç bir bağlantı da keşfedildi. Katılımcıların daha az çekici bulduğu yüzleri aynı zamanda daha gerçekçi diye nitelediği anlaşıldı.
"Daha az çekici yüzler daha tipik kabul edilebilir" diyen Tsakiris, sözlerini şöyle sürdürdü:
"GAN yüzleri, insanların günlük yaşamlarından yola çıkarak oluşturdukları zihinsel şablonlara daha çok benziyor. Bence bu yüzden daha gerçekçi görünüyor."
Geçen yıl da Birleşik Krallık'taki Lancaster Üniversitesi ve ABD'deki Kaliforniya Üniversitesi ortak bir deney yapmış; yapay zekanın ürettiği insan yüzlerinin daha güvenli bulunduğunu ortaya koymuştu.
Katılımcıların doğru cevapları verme olasılığı yüzde 48'de kalmıştı.
Independent Türkçe, Science Alert, The Conversation



Meta'dan "ürkütücü" hamle: Kullanıcıların ruh hali takip edilecek

Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)
Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)
TT

Meta'dan "ürkütücü" hamle: Kullanıcıların ruh hali takip edilecek

Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)
Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Meta, kişilerin ne zaman güldüğünü ve iç çektiğini dinleyerek ruh hallerini izleyen yapay zeka aracı için patent başvurusu yaptı.

Amerika Birleşik Devletleri Patent ve Ticari Marka Ofisi'ne sunularak 2 Temmuz'da yayımlanan başvuruda, belirli bir anda "kullanıcının duygusal durumunu ölçmek" için kişiyi ve konumunu izleyebilen yapay zeka destekli bir "cihaz" tanımlanıyor.

Patent başvurusunda, "Kişisel duygusal ölçümler, kullanıcıya kendisi hakkında içgörü sağlamak amacıyla gösterilir" ifadeleri yer alıyor.

Duygusal durum odaklı bir makine öğrenimi modeli, sözlü ve sözsüz ipuçlarını yorumlayarak duygusal göstergeleri belirleyebilir.

Başvuruda, kullanıcının "evden video görüşmesi yaparken pasif bir dil" kullanmasının yapay zeka destekli cihaz tarafından algılanıp analiz edildiği örneği veriliyor.

Daha sonra bu verilere dayanarak kişinin belirli bir dönemdeki duygusal durumu hakkında bilgi veriliyor; örneğin kullanıcıya "Bu ay minnettarlığınızı daha fazla dile getirdiniz" şeklinde geri bildirim sunuluyor.

Bu patent başvurusunu ilk kez haberleştiren patent analizi yayıncısı Patentlyze, konum, faaliyet ve uygulama kullanımıyla bağlantılı sürekli ses kaydı yapılması nedeniyle bu hamleyi, "Meta'nın son zamanlarda başvurduğu en önemli patentlerden biri" diye niteliyor.

Yayın kuruluşu, "Fitness koçluğu görüntüsü, temelinde sürekli duygusal gözetime dayanan bir sistem için zayıf bir kamuflaj" diye yazıyor. 

Bu, çoğu patent başvurusundan daha fazla kamuoyu ilgisini hak ediyor.

Meta'nın patent başvurusu, Facebook ve Instagram'ın sahibi şirketin veri izleme faaliyetlerinin sinsi amaçlarla kullanılabileceğinden endişe duyan gizlilik hakkı savunucularında da kaygı uyandırdı.

Dünya çapında milyarlarca kullanıcısı olan ABD'li teknoloji devi, halihazırda internet genelindeki kullanıcı davranışlarını izleyerek ilgi alanları ve alışkanlıklarına dair ayrıntılı profiller oluşturuyor ve bu sayede onlara daha hedefe yönelik reklamlar sunuyor; ki reklamlar, şirket gelirinin yüzde 97'sinden fazlasını oluşturuyor.

Teknoloji odaklı savunuculuk örgütü Fairplay'in yönetici müdürü Josh Golin, NYPost'a yaptığı açıklamada, "Bu ürkütücü patent, kullanıcıların duygusal hassasiyetlerini hedef alan reklamlardan kâr elde etmek için hayatımızın her yönünü izlemeyi amaçlayan Meta'nın büyük planlarının bir parçası gibi görünüyor" diyor.

Etkilenmeye açık gençler için bu durum bilhassa endişe veriyor ve veri toplama faaliyetlerini sınırlayan ve reşit olmayanlara yönelik hedefli reklamları yasaklayan gizlilik mevzuatına neden bu kadar acil ihtiyaç duyulduğunu gösteriyor.

The Independent cevap hakkı için Meta'yla temasa geçti ancak şirket, genellikle patent başvuruları veya henüz piyasaya sürülmemiş ürünler hakkında açıklama yapmıyor.

 Independent Türkçe,independent.co.uk/tech


OpenAI ve Google "kara listedeki" Çinli devlerle iş yapıyor

Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)
Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)
TT

OpenAI ve Google "kara listedeki" Çinli devlerle iş yapıyor

Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)
Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)

OpenAI ve Google'ın, Pentagon'un kara listesindeki Çinli teknoloji devlerine gelişmiş yapay zeka modelleri sattığı ortaya çıktı.

Financial Times (FT), irtibata geçtiği OpenAI ve Google'ın, ABD tarafından Çin ordusuyla işbirliği yapmakla suçlanan Alibaba, Baidu ve Tencent'in Singapur merkezli iştiraklerine yapay zeka hizmetleri sağladıklarını doğruladığını aktarıyor.

OpenAI'dan bir yetkili, modellerin yasadışı şekilde kullanılması endişesiyle geçen ay Alibaba'yla bağlantılı geliştiricilerin yapay zeka modellerine uzaktan erişimini askıya aldıklarını belirtiyor.

Google da yapay zeka hizmetlerinin kullanım şartlarına tabi olmak kaydıyla Hong Kong ve Singapur'da erişime açık olduğunu bildirdi.

Haberde, ABD'li firmaların yapay zeka hizmetlerini bu şirketlere satmasının yasadışı olmadığı vurgulanıyor.

ABD Savunma Bakanlığı (Pentagon), bazı Çinli firmaları Çin Halk Kurtuluş Ordusu'yla (ÇHKO) bağlantılı oldukları gerekçesiyle kara listeye alıyor. Apple'ın da bu listedeki Çinli çip üreticileri CXMT ve YMTC'yle iş yapmanın yollarını aradığı aktarılmıştı.

Diğer yandan ABD ulusal güvenliğini tehdit edebilecek şirketlerin yer aldığı "1260H" diye bilinen bu listenin herhangi bir hukuki bağlayıcılığı yok.

Buna rağmen bazı kesimler Beyaz Saray'ın, Pekin'le yarı iletken ticaretine uyguladığına benzer sınırlamaları yapay zeka modelleri için de devreye sokmasını istiyor.

ABD'li düşünce kuruluşu Dış İlişkiler Konseyi'nden teknoloji ve güvenlik uzmanı Chris McGuire şu yorumu yapıyor:

Trump yönetimi sürekli yapay zeka alanında Çin'i geride bırakmamız gerektiğini söylüyor. Ancak sorun şu ki Çin'i yavaşlatmak için elimizdeki asıl araç olan ihracat kontrolü hakkında hiçbir adım atmadılar.

ChatGPT'nin yaratıcısı OpenAI, modellerine Çin'den erişilmesine izin verilmediğini bildiriyor. Ancak Çin sermayeli veya genel merkezi Çin'de yer alan bazı şirketlerin belirli koruma önlemleri dahilinde yapay zeka hizmetlerini kullanabildiğini aktarıyor.

Pentagon'la yaşadığı anlaşmazlıkla gündem olan Anthropic'in, Alibaba'yı yapay zeka modelinin yeteneklerini yasadışı şekilde kopyalamakla suçlaması da dikkat çekmişti.

ABD'li teknoloji devinden geçen ay yapılan açıklamada, Anthropic'in Claude modeline erişim için Alibaba'nın 25 bin sahte hesap oluşturduğu öne sürülmüştü.

Alibaba da çalışanlarının Claude'u kullanmasını yasaklamış, bu modeli "yüksek riskli yazılım" listesine almıştı.

Independent Türkçe, Financial Times, CNBC, China Daily


Liseli Japon, ChatGPT destekli siber saldırıyla 46 bin hesabı birden sildi

ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)
ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)
TT

Liseli Japon, ChatGPT destekli siber saldırıyla 46 bin hesabı birden sildi

ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)
ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)

Japonya'da 15 yaşındaki bir erkek çocuk, yapay zeka kullanarak bir anime yayın platformundaki onbinlerce hesabı zorla silen bir program geliştirdiği gerekçesiyle gözaltına alındı.

Polis, olayı bir ay boyunca hizmet kesintisine neden olan kasıtlı ve süregelen bir siber saldırı diye niteledi.

Tokyo yakınlarındaki Tokorozawa'da yaşayan lise öğrencisi, Japonya'nın en büyük oyuncak üreticisi Bandai Namco Holdings'in alt şirketi Bandai Namco Filmworks'ün sunucularına 4 Kasım 2025'te sahte komutlar göndererek hile yoluyla iş faaliyetlerini engellemekle suçlandı.

Tokyo Metropoliten Polis Teşkilatı saldırının, şirketin Bandai Channel yayın platformundaki 46 bin 812 hesabın kullanıcıların bilgisi veya rızası olmadan topluca silinmesine yol açtığını belirtti.

İddiaları kabul eden öğrenci, ilk kaynak kodunu kendisinin yazdığını ve daha sonra bunu iyileştirip tamamlamak için ChatGPT'ye başvurduğunu dedektiflere söyledi.

Asahi Shimbun'a göre öğrenci, dedektiflere, "Kayıt silme işlemi için kaynak kodunu kendim oluşturdum. İşlem uzun sürdüğü için ChatGPT'ye danıştım ve farklı bir programlama dilinde tamamladım" dedi.

Şirkete karşı herhangi bir kin beslemediğini söyleyen öğrenci, sadece giriş yapabileceği çok sayıda hesap olması nedeniyle onları hedef aldığını açıkladı.

Bandai Namco Filmworks önlemler alarak erişimini engelledikten sonra bile öğrencinin, IP adresini 30 kez değiştirerek sahte komutlar göndermeyi sürdürdüğü iddia ediliyor.

Şirket, hizmetlerini bir aydan uzun süre askıya almak ve etkilenen üyelere para iadesi yapmak zorunda kaldı.

Ertesi ay Bandai Namco Filmworks, yaklaşık 1,36 milyon hesabın e-posta adresleri, hesap bakiyeleri ve ödeme yöntemleri gibi kişisel bilgilerinin sızdırılmış olabileceğini duyurdu.

Şirket, verilerin internette yayımlanması gibi ikincil bir zararın doğrulanmadığını ifade etti.

Japon basınına göre şirket, "Bu durumu çok ciddiye alıyoruz ve düzenli kontroller yapmaya devam ederek böyle bir olayın tekrarlanmasını önlemek için çaba göstereceğiz" dedi.

İlkokuldayken kendi kendine kod yazmayı öğrenen öğrenci, dedektiflere ağ iletişimini analiz etmekten keyif aldığını söyledi.

Haziranda başka bir üyenin hesabını kullanarak yayın platformuna giriş yaptığı şüphesiyle gözaltına alınmasının ardından dedektifler daha geniş çaplı saldırıyı ortaya çıkardı.

Metropoliten Polis Teşkilatı'ndan üst düzey bir dedektif, gözaltı kararının ardından bir uyarı yayımladı.

Dedektif, "Siber uzay son derece anonim bir ortam ve insanlar kolayca suç işlemeye yönelebilir ancak bu eylemler ciddi sonuçlara yol açabilir" dedi.

Japonya'daki bir siber saldırıda üretken yapay zekanın araç olarak kullanıldığı ilk vakalardan biri olan bu olay, bu tür teknolojinin çevrimiçi suç faaliyetlerindeki engelleri ne kadar kolay aşabileceğine dair yeni soruları gündeme getiriyor.

Independent Türkçe