عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

ChatGPT yaratıcıları, sistemde "önemli bir sorun" yaşandığını açıkladı: "Kendimizi çok kötü hissediyoruz"

ChatGPT'yle yapılan her sohbet, OpenAI'a ortalama 1-9 cente mâl oluyor (Reuters)
ChatGPT'yle yapılan her sohbet, OpenAI'a ortalama 1-9 cente mâl oluyor (Reuters)
TT
TT

ChatGPT yaratıcıları, sistemde "önemli bir sorun" yaşandığını açıkladı: "Kendimizi çok kötü hissediyoruz"

ChatGPT'yle yapılan her sohbet, OpenAI'a ortalama 1-9 cente mâl oluyor (Reuters)
ChatGPT'yle yapılan her sohbet, OpenAI'a ortalama 1-9 cente mâl oluyor (Reuters)

ChatGPT'nin yaratıcısı OpenAI, kullanıcıların gizliliğini tehlikeye atan "önemli bir sorun" yaşandığını duyurdu.
OpenAI'nin CEO'su Sam Altman'a göre bu hata, kullanıcıların diğer kişilerin sistemle yaptıkları konuşmaların açıklamalarını görebilmelerine neden oldu.
Altman, bir Twitter paylaşımında "Bu konuda kendimizi çok kötü hissediyoruz" dedi.
Açıklama, Twitter ve Reddit gibi forumlardaki ChatGPT kullanıcılarının, geçmişlerinde yabancılardan gelmiş gibi görünen başka gönderiler gördüklerini söylemesinin ardından geldi. Bazıları bunların başka dillerde olduğunu ve potansiyel olarak hassas bilgiler içerdiğini bildirdi.
ChatGPT başlangıçta hata gibi görünen bir nedenden dolayı pazartesi günü çevrimdışı olmuştu. Ancak gelen haberler kısa süre sonra OpenAI'ın söz konusu sorunla başa çıkmak için çabaladığı sırada programı çevrimdışı duruma getirmek zorunda kaldığını gösterdi.
OpenAI, kullanıcılara bir dizi hata mesajı gösterdi ve sonunda insanları sohbet geçmişlerine geçici olarak erişemediklerine dair uyardı. Şirketin durum sayfasında yalnızca, firmanın "internet deneyimiyle" ilgili sorunlar yaşadığı ve sohbet geçmişini geri yüklemek için çalıştığı belirtildi.
Altman, hatanın kullanıcıların "küçük bir yüzdesini" etkilediğini söylese de kaç kişinin etkilendiğine dair bilgi vermedi. Altman ayrıca, sorunun "açık kaynak kodlu bir kütüphanedeki bir hatadan" kaynaklandığını söyledi ama hangi hata olduğunu belirtmedi.
Öte yandan şirketin sorun için bir düzeltme bulduğunu ve bunun kullanıma sunulmakta olduğunu ekledi. Sonuç olarak kullanıcılar, pazartesi gününün bir kısmında sohbet geçmişlerini göremedi.
Altman, şirketin durumu "teknik bir otopsiyle takip edeceğini" söyledi.
OpenAI, kullanıcılara hassas bilgilerini ChatGPT'yle paylaşmamalarını söylüyor. İnternet sitesi, konuşmaları gözden geçireceği ve bunların sistemleri eğitmek için kullanılabileceğine dair kullanıcıları uyarıyor.

Daha fazlasını oku

 
 
YAŞAM

Deepfake videoları tespit etmek giderek zorlaşıyor: Artık gerçekçi kalp atışları var

Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
TT
TT

Deepfake videoları tespit etmek giderek zorlaşıyor: Artık gerçekçi kalp atışları var

Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)
Kişilerin rızası ve bilgisi dışında üretilen deepfake görüntüler endişe yaratıyor (Reuters)

Deepfake videoların gelişmiş saptama yöntemlerini yanıltabildiği ve her geçen gün daha gerçekçi hale geldiği tespit edildi. 

Bir kişinin yüzünün ya da vücudunun dijital olarak değiştirilmesiyle oluşturulan deepfake videolar endişe yaratmaya devam ediyor. 

Bu videolar gerçek bir kişinin görüntüsünün yapay zeka kullanılarak değiştirilmesiyle yapılıyor. Aslında bu teknoloji, kullanıcıların yüzünü kediye dönüştüren veya yaşlandıran uygulamalar gibi zararsız amaçlarla da kullanılabiliyor.

Ancak insanların cinsel içerikli videolarını üretmek veya masum insanlara iftira atmak için de kullanılabilmesi ciddi bir sorun teşkil ediyor.

Bu videoların sahte olup olmadığını anlamak için kullanılan gelişmiş yöntemlerden biri kalp atışlarını izlemek. 

Uzaktan fotopletismografi (rPPP) adlı araç, deriden geçen ışıktaki küçük değişiklikleri tespit ederek nabzı ölçüyor. Nabız ölçen pulse oksimetreyle aynı prensiple çalışan bu araç, çevrimiçi doktor randevularının yanı sıra deepfake videoları tespit etmek için de kullanılıyor.

Ancak bulguları hakemli dergi Frontiers in Imaging'de bugün (30 Nisan) yayımlanan çalışmaya göre deepfake görüntülerde artık gerçekçi kalp atışları var.

Bilim insanları çalışmalarına videolardaki nabız hızını otomatik olarak saptayıp analiz eden bir deepfake dedektörü geliştirerek başladı. 

Ardından rPPP tabanlı bu aracın verilerini, EKG kayıtlarıyla karşılaştırarak hassasiyetini ölçtüler. Son derece iyi performans gösteren aracın EKG'yle arasında dakikada sadece iki-üç atımlık fark vardı. 

Ekip aracı deepfake videolar üzerinde test ettiğindeyse rPPP, videoya kalp atışı eklenmese bile son derece gerçekçi bir kalp atışı algıladı. 

Bilim insanları kalp atışlarının videoya kasten eklenebileceği gibi, kullanılan kaynak videodan kendiliğinden geçebileceğini de söylüyor.

Almanya'daki Humboldt Üniversitesi'nden çalışmanın ortak yazarı Peter Eisert "Kaynak video gerçek bir kişiye aitse, bu artık deepfake videoya aktarılabiliyor" diyerek ekliyor: 

Sanırım tüm deepfake dedektörlerinin kaderi bu; deepfake'ler gittikçe daha iyi hale geliyor ve iki yıl önce iyi çalışan bir dedektör bugün tamamen başarısız olmaya başlıyor.

Araştırmacılar yine de sahte videoları saptamanın başka yolları olduğunu düşünüyor. Örneğin sadece nabız hızını ölçmek yerine, yüzdeki kan akışını ayrıntılı olarak takip eden dedektörler geliştirilebilir.

Eisert, "Kalp atarken kan, damarlardan geçerek yüze akıyor ve daha sonra tüm yüz bölgesine dağılıyor. Bu harekette gerçek görüntülerde tespit edebileceğimiz küçük bir gecikme var" diyor.

Ancak bilim insanına göre nihai çözüm deepfake dedektörlerinden ziyade, bir görüntünün üzerinde oynanıp oynanmadığını anlamaya yarayan dijital işaretlere odaklanmaktan geçiyor:

Bir şeyin sahte olup olmadığını tespit etmek yerine bir şeyin değiştirilmediğini kanıtlayan teknolojiye daha fazla odaklanmadığımız sürece, deepfake'lerin saptanmalarını zorlaştıracak kadar iyi olacağını düşünüyorum.

Independent Türkçe, BBC Science Focus, TechXplore, Frontiers in Imaging