Yapay zekanın ürettiği insan yüzlerinin, gerçek yüzlerden daha gerçek göründüğü tespit edildi

Bu yüzler, yapay zeka firması NVIDIA'nın bir bilgisayar sisteminde oluşturuldu (thispersondoesnotexist.com)
Bu yüzler, yapay zeka firması NVIDIA'nın bir bilgisayar sisteminde oluşturuldu (thispersondoesnotexist.com)
TT

Yapay zekanın ürettiği insan yüzlerinin, gerçek yüzlerden daha gerçek göründüğü tespit edildi

Bu yüzler, yapay zeka firması NVIDIA'nın bir bilgisayar sisteminde oluşturuldu (thispersondoesnotexist.com)
Bu yüzler, yapay zeka firması NVIDIA'nın bir bilgisayar sisteminde oluşturuldu (thispersondoesnotexist.com)

Birleşik Krallık'ta yapılan bir araştırmada, internet kullanıcılarının gerçek ve yapay zeka üretimi yüzleri birbirinden ayırt edemediği tespit edildi.
Üstelik, bilgisayarda üretilen ve aslında var olmayan yüzlerin daha gerçek görüldüğü anlaşıldı.
Araştırmanın arkasındaki, Londra Royal Holloway Üniversitesi'nden akademisyenler, bilgisayarda oluşturulan sahte portrelerin siber suçları kolaylaştıracağından ve insanların çevrelerine yönelik genel güvenini sarsacağından endişeli.
Bilimsel dergi iScience'ta yayımlanan makalede bu tür görüntülerin çevrimiçi dolandırıcılık, siyasi propaganda ve hatta casusluk için kullanılabileceği ifade ediliyor.
GAN görüntüleri nedir, nasıl oluşturulur?
Son derece gerçekçi insan yüzleri oluşturmanın sırrı, "derin sinir ağı" adı verilen bir sistemde yatıyor.
İnsan beyninin öğrenme biçimini taklit eden bu sistem, gerçek yüzlerin görüntülerini içeren devasa bir veri kümesiyle eğitiliyor.
Sistemin temelinde en gerçekçi görüntüleri üretmek için yarışan iki derin sinir ağı var.
Bu yarış sonucunda üretilen sahte yüzlere, GAN görüntüleri adı veriliyor.
Açılımı "Generative Adversarial Networks" olan GAN, Türkçede çekişmeli üretken ağlar anlamına geliyor.
Gerçeğinden ayırt edilemiyor
Araştırma ekibine liderlik eden Psikoloji Profesörü Manos Tsakiris'e göre, internet kullanıcılarının bu yapay yüzleri gerçek olanlardan ayırt edememesinin çok önemli sonuçları olabilir.
The Conversation'da kaleme aldığı bir yazıda araştırmanın bulgularını aktaran Tsakiris, "Sahte görüntülerin başkalarına yönelik güvenimizi aşındırabileceğini ve çevrimiçi iletişim kurma şeklimizi derinden değiştirebileceğini gördük" ifadelerini kullandı.
Akademisyen ayrıca, "Meslektaşlarımla birlikte, araştırmamıza katılan kişilerin GAN görüntülerini, gerçek insan yüzlerinin yer aldığı fotoğraflardan çok daha gerçekçi algıladıklarını tespit ettik" diye yazdı.
Araştırmacılar bunun kesin nedenini henüz anlayabilmiş değil. Ancak elde edilen bulgular, yapay görüntüler oluşturmak için kullanılan teknolojinin ne denli geliştiğini gözler önüne seriyor.
Öte yandan, araştırmada çekicilikle ilgili ilginç bir bağlantı da keşfedildi. Katılımcıların daha az çekici bulduğu yüzleri aynı zamanda daha gerçekçi diye nitelediği anlaşıldı.
"Daha az çekici yüzler daha tipik kabul edilebilir" diyen Tsakiris, sözlerini şöyle sürdürdü:
"GAN yüzleri, insanların günlük yaşamlarından yola çıkarak oluşturdukları zihinsel şablonlara daha çok benziyor. Bence bu yüzden daha gerçekçi görünüyor."
Geçen yıl da Birleşik Krallık'taki Lancaster Üniversitesi ve ABD'deki Kaliforniya Üniversitesi ortak bir deney yapmış; yapay zekanın ürettiği insan yüzlerinin daha güvenli bulunduğunu ortaya koymuştu.
Katılımcıların doğru cevapları verme olasılığı yüzde 48'de kalmıştı.
Independent Türkçe, Science Alert, The Conversation



Çin, Silikon Vadisi’yle arayı kapatıyor

Yarı iletken çipler üzerinden yürüyen yapay zeka yarışı, yeni dil modelleriyle kızışıyor (AP)
Yarı iletken çipler üzerinden yürüyen yapay zeka yarışı, yeni dil modelleriyle kızışıyor (AP)
TT

Çin, Silikon Vadisi’yle arayı kapatıyor

Yarı iletken çipler üzerinden yürüyen yapay zeka yarışı, yeni dil modelleriyle kızışıyor (AP)
Yarı iletken çipler üzerinden yürüyen yapay zeka yarışı, yeni dil modelleriyle kızışıyor (AP)

Çinli yapay zeka şirketleri düşük maliyetli ve yüksek performanslı modellerle OpenAI, Anthropic ve Google'ın teknolojik üstünlüğüne meydan okuyor.

New York Times'ın (NYT) analizine göre özellikle Çinli girişim Z.ai'nin geliştirdiği yeni GLM-5.2 modeli, ABD'li rakiplerine kıyasla çok daha düşük maliyetle benzer seviyede performans sunarak küresel yapay zeka yarışında dengeleri değiştiriyor.

Donald Trump yönetimi ulusal güvenlik ve siber güvenlik endişelerini gerekçe göstererek, ABD vatandaşı olmayanların Anthropic'in Fable 5 ve Mythos 5 yapay zeka modellerine erişimini yasaklamıştı.

Pentagon'la yaşadığı tartışmalarla gündem olan şirketten 12 Haziran'da yapılan açıklamada, sözkonusu modellere erişimin küresel olarak kaldırıldığı duyurulmuştu.

Analize göre bu hamle bazı şirketleri alternatif yapay zeka modelleri aramaya itti.

Geçen hafta tanıtılan GLM-5.2 özellikle yazılım geliştirme ve yapay zeka ajanları alanında öne çıkıyor. Bazı görevlerde Anthropic'in Claude Opus 4.8 modelinin yaklaşık sekizde biri maliyetle çalışabiliyor.

Teknoloji analiz şirketleri Graphistry ve Semgrep tarafından yapılan iki ayrı güvenlik değerlendirmesinde, GLM-5.2'nin siber güvenlik ve güvenlik açığı tespiti testlerinde önde gelen ABD modelleriyle aynı seviyede performans gösterdiği ortaya kondu.

ABD Ticaret Bakanlığı'nın geçen yıl kara listeye aldığı Z.ai'nin modelinin açık kaynak olarak yayımlanması da geliştiricilerin bunu ücretsiz biçimde kullanıp özelleştirebilmesini sağlıyor. Öte yandan aynı özellik, kullanıcıların güvenlik kontrollerini kaldırmasını da mümkün kılıyor. Bu da bilgisayar korsanlarının modeli siber saldırılarda kullanmasının önünü açıyor.

Anthropic ve ChatGPT'nin yaratıcısı OpenAI, Çinli şirketleri kendi modellerinden izinsiz veri toplamakla suçluyor. Anthropic'in ABD'li senatörler Tim Scott ve Elizabeth Warren'a 10 Haziran'da gönderdiği mektupta, şirketin Claude modelinin bazı özelliklerinin Çinli teknoloji devi Alibaba tarafından kopyalandığı öne sürülmüştü. Şirketten suçlamalara henüz yanıt gelmedi.

Yapay zeka şirketi Baseten'dan Charles O'Neill ise Çinli yapay zeka modellerinin başarısının sadece bununla açıklanamayacağına dikkat çekiyor:

Bu modellerin tüm kapasitesinin Anthropic'ten geldiğine yönelik anlatı tam olarak gerçeği yansıtmıyor.

Independent Türkçe, New York Times, Axios


Apple, bellek çiplerinin maliyetindeki artış nedeniyle MacBook ve iPad fiyatlarını yükseltti

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

Apple, bellek çiplerinin maliyetindeki artış nedeniyle MacBook ve iPad fiyatlarını yükseltti

Fotoğraf: Reuters
Fotoğraf: Reuters

Apple, iPad ve MacBook fiyatlarını yükseltti.

Şirket, yapay zekâ sektörünün veri merkezi yatırımları sebebiyle artan bellek ve depolama çipi maliyetlerini artık tüketicilere yansıtmama seçeneklerinin kalmadığını belirtti.

Fakat bu zam, Apple'ın en büyük gelir kaynağı olan iPhone'u etkilemiyor.

Öte yandan şirketin bütçe dostu Windows ve Chromebook modellerinden pazar payı kapmak amacıyla piyasaya sürdüğü en ucuz dizüstü bilgisayarı olan Neo'nun başlangıç fiyatı, lansmanından sadece birkaç ay sonra 599 dolardan 699 dolara çıkacak.

Apple'ın fiyatları yükseltmesi, sektörde gıpta edilen tedarik ilişkilerine sahip, dünyanın en değerli elektronik şirketlerinin bile bellek çiplerinin fiyatlarındaki artıştan etkilendiğini gösteriyor.

Micron gibi bellek üreticileri, son aylarda Nvidia gibi yapay zekâ çip üreticilerinin siparişlerine öncelik vererek, bu şirketlerin büyük kâr elde etmesine yardımcı oldu.

Apple yaptığı açıklamada, "Bir bileşen fiyatının bu kadar hızlı ve bu kadar fazla arttığını daha önce hiç görmedik. Şimdiye kadar müşterilerimizi bu artıştan koruduk fakat artık iPad ve Mac için bugün uyguladığımız zamlar da dâhil olmak üzere, birçok üründe fiyatları artırmaya başlamamız gereken bir noktaya geldik" dedi.

Apple'ın internet sitesinde yer alan güncel fiyatlara göre, 512 gigabayt depolama alanına sahip MacBook Air'in fiyatı 1,099 dolardan 1,299 dolara yükselirken, 1 terabayt depolama alanına sahip MacBook Pro'nun fiyatı ise 1,699 dolardan 1,999 dolara çıktı. 128 gigabaytlık iPad Air'in fiyatı ise 599 dolardan 749 dolara çıktı.

Independent Türkçe

 


Uzmanlar, tıbbi yapay zekanın beklenmedik risklerine karşı uyardı

Fotoğraf: Unsplash
Fotoğraf: Unsplash
TT

Uzmanlar, tıbbi yapay zekanın beklenmedik risklerine karşı uyardı

Fotoğraf: Unsplash
Fotoğraf: Unsplash

Uzmanlar, tıpta kullanılan yapay zekanın insanların mahremiyetini beklenmedik şekillerde tehlikeye atabileceğini tespit etti.

Pek çok kişi, çeşitli kullanım alanları olan bu tür tıbbi yapay zeka sistemlerinin sağlık hizmetlerinde çarpıcı bir iyileşme yaratabileceğini iddia ediyor. Bu sistemler, özellikle tıbbi uzmanlık bilgisinin nadir olduğu bölgelerde fayda sağlayabiliyor ve böylece insanlar, örneğin tıbbi görüntüler üzerinden sorunları teşhis etmek için yapay zekaya başvurabiliyor.

Ancak yeni çalışma aynı teknolojinin, sistemin eğitilmesi için haberleri bile olmadan verileri kullanılan kişilerin mahremiyetini tehlikeye atabileceği uyarısında bulunuyor. Bu, devrim yarabilecek bu yeni teknolojide ortaya çıkabilecek çeşitli güvenlik açıklarından biri.

Yeni araştırma, kötü niyetli kullanıcıların tıbbi yapay zeka sistemlerine gizlilik saldırıları düzenleyebileceği ve hackerların bu sayede, örneğin bir kişinin belirli bir hastalık için tedavi görüp görmediğini öğrenebileceğine dair uyarıyor.

Diğer yapay zeka sistemlerine benzer şekilde tıbbi yapay zeka araçları da hasta görüntüleri gibi çeşitli verileri bilgisayara yükleyip hangi görüntülerin belirli bir sonuca işaret ettiğini bildirerek çalışıyor. Sistem daha sonra bu kalıpları aramayı öğrenerek bu sayede potansiyel semptomları tespit edebiliyor.

Verileri bu şekilde kullanılan kişilerin kimliklerinin gizli tutulması gerekiyor. Ancak yeni araştırma, belirli bir hastanın verilerinin o modeli eğitmek için kullanılıp kullanılmadığının saptanabileceğini öne sürüyor.

Bu bilgi daha sonra sözkonusu hasta hakkında hassas tıbbi bilgileri elde etmek için kullanılabilir. Örneğin yeni çalışmada araştırmacılar, birinin kanser olup olmadığını öğrenmek için kullanılabilecek bir tür saldırı yöntemini tanımlıyor.

Araştırmada, "üyelik çıkarım saldırısı" diye bilinen ve hackerların belirli bir hastanın verilerinin belirli bir modeli eğitmek için kullanılıp kullanılmadığını tespit etmelerine olanak tanıyan spesifik bir saldırı yöntemi incelendi. Bilim insanları bu tür bir saldırının bazı hastalarda "neredeyse kusursuz başarı oranları" elde edebildiğini ve bu riskin yeterince temsil edilmeyen gruplarda daha yüksek olduğunu ortaya koydu.

Araştırmacılar, siber suçluların bu bilgiyi insanların mahremiyetini ihlal etmek ve ele geçirdikleri verilerden başka tür saldırılarda yararlanmak için kullanabileceği uyarısında bulunuyor.

Araştırmacılar, "Bu güvenlik açığı göz önüne alındığında, tıbbi yapay zeka modelleri ve bunların kullanıldığı bağlamlar, saldırganların eğitim veri kümesi üyeliğini başarıyla çıkararak elde edebilecekleri hassas bilgiler açısından değerlendirilmeli" diye uyarıyor. Bu çalışma da tıbbi yapay zeka sistemlerinin bu tür saldırılara karşı korunması gerektiğini gösteren önemli bir kanıt niteliğinde.

Çalışma, hakemli dergi Nature'da yayımlanan "Disparate privacy risks from medical AI" (Tıbbi yapay zekadan kaynaklanan farklı gizlilik riskleri) başlıklı yeni makalede anlatılıyor.

Independent Türkçe