ChatGPT'nin 'tembelleştiği' şikayetlerine OpenAI'dan yanıt

AFP
AFP
TT

ChatGPT'nin 'tembelleştiği' şikayetlerine OpenAI'dan yanıt

AFP
AFP

OpenAI, ChatGPT'nin "tembelleştiği" yönündeki şikayetleri araştırdığını açıkladı.

OpenAI'ın GPT-4 modeli üzerine kurulan, ChatGPT'nin en son sürümünün giderek daha fazla kullanıcısı son günlerde sohbet botunun kullanıcıların istediklerini yapmayı reddettiğinden veya sorgularını yanıtlamakla ilgilenmiyor gibi göründüğünden şikayet ediyor.

Örneğin bir kod parçası istendiğinde, sohbet botu sadece küçük bir bilgi verip ardından geri kalanını kullanıcıların tamamlamasını söyleyebiliyor. Bazıları bunu özellikle küstah bir şekilde yaptığından, mesela kullanıcılara işi kendilerinin de mükemmel bir şekilde yapabileceğini söylediğinden yakınıyor.

Çok sayıda Reddit başlığında ve hatta OpenAI'ın kendi geliştirici forumlarındaki gönderilerde kullanıcılar, sistemin faydasının azalmasından şikayet ediyor. Ayrıca kullanıcılar, ChatGPT'nin daha verimli olması ve uzun cevaplar vermemesi için OpenAI'ın bu değişikliği kasten yaptığına dair spekülasyonlar ortaya atıyor.

ChatGPT gibi yapay zeka sistemlerinin, onları işleten şirketler için son derece maliyetli olduğu iyi biliniyor ve bu nedenle sorulara ayrıntılı yanıtlar vermek ciddi derecede işlem gücü ve hesaplama süresi gerektirebiliyor.

Halihazırda ChatGPT'nin yaratıcısı OpenAI, sistemle ilgili şikayetlerin farkında olduğunu belirtti. Fakat şirket, modelin farklı davranma nedenini açıklayabilecek herhangi bir değişiklik yapılmadığını ifade etti.

Şirket Twitter/X'te "GPT4'un tembelleştiğine dair tüm geri bildirimlerinizi duyduk!" dedi.

Modeli 11 Kasım'dan beri güncellemedik ve bu kesinlikle kasıtlı değil. model davranışı öngörülemez olabilir ve bunu düzeltmeye çalışıyoruz.

OpenAI, şikayetlere ikna olup olmadığına ve ChatGPT'nin, sorgulara yanıt verme şeklini değiştirdiğini düşünüp düşünmediğine dair bir belirti göstermedi.

Şirket, CEO Sam Altman'ın şirketten ayrılmaya zorlanması ve birkaç gün sonra tekrar katılmasıyla çalkantılı birkaç hafta geçiriyor.

Independent Türkçe



Deepfake videoları tespit etmek giderek zorlaşıyor: Artık gerçekçi kalp atışları var

Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
TT

Deepfake videoları tespit etmek giderek zorlaşıyor: Artık gerçekçi kalp atışları var

Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)

Deepfake videoların gelişmiş saptama yöntemlerini yanıltabildiği ve her geçen gün daha gerçekçi hale geldiği tespit edildi. 

Bir kişinin yüzünün ya da vücudunun dijital olarak değiştirilmesiyle oluşturulan deepfake videolar endişe yaratmaya devam ediyor. 

Bu videolar gerçek bir kişinin görüntüsünün yapay zeka kullanılarak değiştirilmesiyle yapılıyor. Aslında bu teknoloji, kullanıcıların yüzünü kediye dönüştüren veya yaşlandıran uygulamalar gibi zararsız amaçlarla da kullanılabiliyor.

Ancak insanların cinsel içerikli videolarını üretmek veya masum insanlara iftira atmak için de kullanılabilmesi ciddi bir sorun teşkil ediyor.

Bu videoların sahte olup olmadığını anlamak için kullanılan gelişmiş yöntemlerden biri kalp atışlarını izlemek. 

Uzaktan fotopletismografi (rPPP) adlı araç, deriden geçen ışıktaki küçük değişiklikleri tespit ederek nabzı ölçüyor. Nabız ölçen pulse oksimetreyle aynı prensiple çalışan bu araç, çevrimiçi doktor randevularının yanı sıra deepfake videoları tespit etmek için de kullanılıyor.

Ancak bulguları hakemli dergi Frontiers in Imaging'de bugün (30 Nisan) yayımlanan çalışmaya göre deepfake görüntülerde artık gerçekçi kalp atışları var.

Bilim insanları çalışmalarına videolardaki nabız hızını otomatik olarak saptayıp analiz eden bir deepfake dedektörü geliştirerek başladı. 

Ardından rPPP tabanlı bu aracın verilerini, EKG kayıtlarıyla karşılaştırarak hassasiyetini ölçtüler. Son derece iyi performans gösteren aracın EKG'yle arasında dakikada sadece iki-üç atımlık fark vardı. 

Ekip aracı deepfake videolar üzerinde test ettiğindeyse rPPP, videoya kalp atışı eklenmese bile son derece gerçekçi bir kalp atışı algıladı. 

Bilim insanları kalp atışlarının videoya kasten eklenebileceği gibi, kullanılan kaynak videodan kendiliğinden geçebileceğini de söylüyor.

Almanya'daki Humboldt Üniversitesi'nden çalışmanın ortak yazarı Peter Eisert "Kaynak video gerçek bir kişiye aitse, bu artık deepfake videoya aktarılabiliyor" diyerek ekliyor: 

Sanırım tüm deepfake dedektörlerinin kaderi bu; deepfake'ler gittikçe daha iyi hale geliyor ve iki yıl önce iyi çalışan bir dedektör bugün tamamen başarısız olmaya başlıyor.

Araştırmacılar yine de sahte videoları saptamanın başka yolları olduğunu düşünüyor. Örneğin sadece nabız hızını ölçmek yerine, yüzdeki kan akışını ayrıntılı olarak takip eden dedektörler geliştirilebilir.

Eisert, "Kalp atarken kan, damarlardan geçerek yüze akıyor ve daha sonra tüm yüz bölgesine dağılıyor. Bu harekette gerçek görüntülerde tespit edebileceğimiz küçük bir gecikme var" diyor.

Ancak bilim insanına göre nihai çözüm deepfake dedektörlerinden ziyade, bir görüntünün üzerinde oynanıp oynanmadığını anlamaya yarayan dijital işaretlere odaklanmaktan geçiyor:

Bir şeyin sahte olup olmadığını tespit etmek yerine bir şeyin değiştirilmediğini kanıtlayan teknolojiye daha fazla odaklanmadığımız sürece, deepfake'lerin saptanmalarını zorlaştıracak kadar iyi olacağını düşünüyorum.

Independent Türkçe, BBC Science Focus, TechXplore, Frontiers in Imaging