عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Google'ın yeni özelliği, endişeye neden oldu: Son derece tehlikeli

Bu yılki Google I/O etkinliği 14 Mayıs'ta düzenlendi (AP)
Bu yılki Google I/O etkinliği 14 Mayıs'ta düzenlendi (AP)
TT
TT

Google'ın yeni özelliği, endişeye neden oldu: Son derece tehlikeli

Bu yılki Google I/O etkinliği 14 Mayıs'ta düzenlendi (AP)
Bu yılki Google I/O etkinliği 14 Mayıs'ta düzenlendi (AP)

Google'ın kişileri dolandırıcılıklara karşı uyarmayı amaçlayan yeni özelliği, gizlilik savunucularında korkulara neden oldu.

Bu araç, yapay zekayla kişilerin telefon görüşmelerini dinleyip dolandırıcılık girişimlerini saptamaya çalışıyor. Böyle bir tespitte bulunmaları halinde açılan bir pencereyle "muhtemel dolandırıcılığa" karşı kişileri uyarıyor.

Bu hafta düzenlenen ve Google'ın bir dizi yeni yapay zeka aracını duyurduğu I/O etkinliğinde bu özellik de açıklandı. Diğerlerinin çoğunda olduğu gibi, Google bu özelliğin de tam olarak ne zaman kullanıma sunulacağını bildirmedi.

Bu özelliğin gerçekte nasıl çalışacağına dair de az bilgi verdiler, örneğin "Yapay zeka ne tür konuşmalar sonucunda telefon görüşmesinde aldatmaca olabileceğini bildirecek?" sorusu havada kaldı. Ancak şirket bu özelliğin, telefonlarda çalışmak üzere tasarlanmış yapay zekasının yakın zamanda piyasaya sürülen çok daha küçük bir versiyonu olan Gemini Nano'ya dayandığını söyledi.

Google telefon görüşmelerinin tüm dinleme ve analizinin o telefonda yapılacağını yani özel konuşmaların, sunucularına gönderilmeyeceğini vurguladı. Açıklamada, "Bu korumanın tamamı cihazda gerçekleşiyor, böylece sohbetiniz size özel kalıyor" dendi.

Ancak yine de güvenlik uzmanları, telefon görüşmelerini bu şekilde dinlemenin "son derece tehlikeli" ve "dehşet verici" olduğunu öne sürdü. Aramalar cihazda kalsa bile yapay zekanın aramaları dinlemesini sağlamanın başka sorunlara yol açabileceğini belirttiler.

Surveillance Technology Oversight Project'in icra direktörü Albert Fox Cahn, NBC News'a "Cihazlarımızdaki telefon görüşmeleri, yaptığımız en özel şeylerden biri olabilir" dedi:

Reklamverenlerin yaptığımız her aramayı, tıkladığımız her URL'yi toplaması çok kolay ancak cihazlarımızda fiilen mikrofona söylediğimiz şeyler tarihte dinlenmedi.

Mesajlaşma uygulaması Signal'in başkanı Meredith Whittaker da "Bu son derece tehlikeli" ifadesini kullandı:

Kullanıcı tarafını cihaz düzeyinde ve merkezi şekilde taramanın zeminini hazırlıyor.

13 yıl boyunca Google'da çalışmış olan ve şirket politikalarına karşı iç protestoların düzenlenmesini sağlayan Whittaker, bu teknolojinin kullanımının hızla genişleyebileceğini söyledi:

'Dolandırıcılıkları' tespit etmekten; 'LGBTQ kaynaklarını edinmeyle yaygın olarak ilişkilendirilen', 'teknoloji çalışanlarının ifşalarıyla yaygın olarak ilişkilendirilen' veya 'üreme sağlığı arayışıyla yaygın olarak ilişkilendirilen kalıpları tespit etmeye' küçük bir adımla geçilebilir.

Independent Türkçe

Daha fazlasını oku

 
 
TEKNOLOJİ

OpenAI'ın yeni modeli, "hiçbir şey sormadan dosya ve veritabanı siliyor"

OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
TT
TT

OpenAI'ın yeni modeli, "hiçbir şey sormadan dosya ve veritabanı siliyor"

OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)

OpenAI'ın kodlama odaklı yeni yapay zeka modeli GPT-5.6 Sol'un,  kullanıcılarından onay almadan dosya ve veritabanlarını sildiği öne sürülüyor.

ChatGPT'nin yaratıcısının geçen hafta kullanıma sunduğu GPT-5.6 Sol, muhakeme ve yazılım mühendisliği gibi alanlarda daha gelişmiş becerilere sahip.

Şirket, kodlamada "amiral gemisi" diye tanımladığı modelin aynı zamanda "bugüne kadarki en dayanıklı güvenlik katmanıyla kullanıma sunulduğunu" ifade ediyor. 

Ancak çeşitli kullanıcılar, GPT-5.6 Sol'un kendilerine hiçbir şekilde danışmadan dosyalarını sildiğini sosyal medyada paylaşıyor.

Yapay zeka girişimi OthersideAI'ın kurucusu ve CEO'su Matt Shumer, X'te viral olan gönderisinde "GPT-5.6 Sol, Mac'imdeki dosyaların neredeyse TAMAMINI yanlışlıkla sildi" diye yazdı.

Bir diğer popüler gönderinin sahibi olan geliştirici Bruno Lemos da "GPT-5.6 Sol az önce üretim veritabanımın tamamını sildi. Hepsi bu. Şaka değil. Daha önce hiçbir modelde başıma böyle bir şey gelmemişti. Güvenli değil" diyerek şikayetini dile getirdi.

Başka bir geliştirici Joey Kudish ise modelin dokunmaması gereken bazı dosyaları sildiğini söyleyerek şöyle ekledi:

Yedeklerim var o yüzden sorun yok ama bu hiç hoş bir durum değil. Sol'un biraz sınırlanması gerekiyor.

Bazı geliştiriciler sorumluluğu GPT-5.6 Sol'a yüklerken, diğerleri herhangi bir yapay zeka ajanına bütün dosyalara erişim izni verilmesinin böyle hatalara yol açabileceğini savunuyor.

OpenAI'dan henüz bu şikayetlerle ilgili bir açıklama gelmedi ancak şirket, modelin kullanıma sunulmasından önce yayımladığı sistem kartında bu tür risklerden bahsetmişti. Sistem kartı, modellerin nasıl test edildiğini, hangi risklerin belirlendiğini ve elde edilen sonuçları açıklayan teknik dokümanlara verilen ad.

Yapay zeka devi sistem kartında şu ifadelere yer veriyor: 

Kodlama bağlamında, uyumsuzluk genellikle görevi tamamlamaya yönelik aşırı heves ve kullanıcı talimatlarını çok geniş bir şekilde yorumlamanın birleşiminden kaynaklanıyor; örneğin eylemler açıkça ve net bir şekilde yasaklanmadıkça bunlara izin verildiğini varsayabilir.

Başka bir deyişle model, verilen görevi tamamlamak uğruna kullanıcı tarafından açıkça yasaklanmamış eylemleri de gerçekleştirebilir. OpenAI ayrıca modelin, eylemlerinin sonuçları hakkında yalan söyleyebileceği uyarısında da bulunuyor.

Testlerden birinde GPT-5.6 Sol'un kullanıcı adı ve şifre gibi kimlik bilgilerini yetkisi dışında kullandığı da gözlemlendi.

Sistem kartı, bu tür yok edici davranışların nadir yaşanacağını vaat etse de GPT-5.6 Sol'un, "GPT-5.5'e kıyasla kullanıcının niyetinin ötesine geçmeye daha yatkın olduğunu ve kullanıcının istemediği eylemleri gerçekleştirebileceği veya gerçekleştirmeye teşebbüs edebileceğini" belirtiyor.

Bu nedenle uzmanlar, kullanıcıların dosyalarını düzenli olarak yedeklemesini ve modele açık, net sınırlar koymasını öneriyor.

Independent Türkçe, TechCrunch, India Today, OpenAI

TEKNOLOJİ

OpenAI'ın patronu Altman, Elon Musk'la dalga geçti

SpaceX'in Starmind girişimi, uzayda yapay zeka veri merkezleri olarak işlev görecek 100 bin uyduyu yörüngeye yerleştirmeyi öngörüyor (SpaceX)
SpaceX'in Starmind girişimi, uzayda yapay zeka veri merkezleri olarak işlev görecek 100 bin uyduyu yörüngeye yerleştirmeyi öngörüyor (SpaceX)
TT
TT

OpenAI'ın patronu Altman, Elon Musk'la dalga geçti

SpaceX'in Starmind girişimi, uzayda yapay zeka veri merkezleri olarak işlev görecek 100 bin uyduyu yörüngeye yerleştirmeyi öngörüyor (SpaceX)
SpaceX'in Starmind girişimi, uzayda yapay zeka veri merkezleri olarak işlev görecek 100 bin uyduyu yörüngeye yerleştirmeyi öngörüyor (SpaceX)

OpenAI'ın patronu Sam Altman, Elon Musk'ın 2027 itibarıyla yörüngeye yapay zeka veri merkezleri yerleştirme planıyla alay etti.

Altman, SpaceX'in 100 bin yapay zeka uydusu fırlatmayı hedefleyen Starmind projesinin, şirketin yakın zamanda halka arzında yatırımcıları yanıltmak için tasarlandığını iddia etti. Bu halka arz, şirketin değerini 2 trilyon doların üzerine çıkarmıştı.

Altman'ın açıklamaları, Apple'ın yeni açtığı ve OpenAI'ın kendi donanımını geliştirmek için iPhone üreticisinin fikri mülkiyetini çaldığı iddiasıyla ilgili Musk'ın bir dizi paylaşımının ardından geldi.

Musk, X'te "Dolandırıcı Altman yine iş başında" diye yazdı.

Dolandırıcılığı bambaşka bir seviyeye taşıyor... Belki de dolandırıcılığı dünyadaki herkesten daha çok seviyor!

Buna karşılık Altman şöyle yazdı:

Dostum, halka açık piyasa yatırımcılarına kısa vadeli uzay veri merkezleri satan sensin.

Musk daha sonra şöyle yanıtladı:

Onları gelecek yıl uçurmaya başlayacağız. Belki de şartlı tahliye memurun onaylarsa gelip görebilirsin.

Açık kaynaklı bir yapay zeka hayır kuruluşunu çaldıktan sonra Apple'ın tüm telefon teknolojisini de çaldın! Vay canına. Bundan sonra ne yapmayı planlıyorsun? Bunu geçmek zor.

Sosyal medyada yaşanan bu tartışma, 2015'te 9 kişiyle birlikte OpenAI'ı kuran eski arkadaşlar arasındaki husumeti yeniden alevlendirdi.

İlişkileri, 2018'de Musk'ın ChatGPT'nin yaratıcısının başına geçme girişimini Altman'ın engellediği iddiasıyla bozulmuştu.

OpenAI daha sonra kâr amacı güden bir girişim haline geldi. Öncesinde, tek amacı yapay zekanın "tüm insanlığa fayda sağlaması" olan, kâr amacı gütmeyen bir kuruluştu.

2024'te Musk, Altman ve şirketini OpenAI'ın kuruluş misyonuna ihanet etmekle suçlayarak dava açmıştı.

Hukuki mücadele, bu yıl üç haftalık bir duruşmayla sonuçlandı ve jüri, Musk'ın iddialarının zamanaşımına uğradığına karar verdi.

Apple'ın açtığı son dava, OpenAI'ın Altman'ın "hayatımızın en büyük teknolojik devrimi" olacağını iddia ettiği bir yapay zeka cihazı geliştirme planlarını açıklamasının ardından geldi.

Apple’a göre, OpenAI çalışanları kendi cihazlarını geliştirmek amacıyla henüz piyasaya sürülmemiş ürünlerle ilgili "gizli ve mahrem bilgileri" ele geçirdi.

Cuma günü açılan davada, "Teknik personelinden baş donanım sorumlusuna kadar her seviyede ve iş ortaklarıyla koordineli olarak OpenAI, Apple'ın ticari sırlarını ve gizli bilgilerini çalmıştır" dendi.

OpenAI yaptığı açıklamada, "Başka şirketlerin ticari sırlarıyla ilgilenmiyoruz. Her yerde insanları güçlendiren yenilikçi teknolojiler geliştirmeye odaklanmaya devam ediyoruz" dedi.

Independent Türkçe

TEKNOLOJİ

Meta'dan "ürkütücü" hamle: Kullanıcıların ruh hali takip edilecek

Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)
Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)
TT
TT

Meta'dan "ürkütücü" hamle: Kullanıcıların ruh hali takip edilecek

Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)
Hindistan'ın Mumbai kentinde 20 Eylül 2023'te düzenlenen bir konferansta insanlar Meta Platforms şirketinin logosunun önünden geçiyor (Reuters)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Meta, kişilerin ne zaman güldüğünü ve iç çektiğini dinleyerek ruh hallerini izleyen yapay zeka aracı için patent başvurusu yaptı.

Amerika Birleşik Devletleri Patent ve Ticari Marka Ofisi'ne sunularak 2 Temmuz'da yayımlanan başvuruda, belirli bir anda "kullanıcının duygusal durumunu ölçmek" için kişiyi ve konumunu izleyebilen yapay zeka destekli bir "cihaz" tanımlanıyor.

Patent başvurusunda, "Kişisel duygusal ölçümler, kullanıcıya kendisi hakkında içgörü sağlamak amacıyla gösterilir" ifadeleri yer alıyor.

Duygusal durum odaklı bir makine öğrenimi modeli, sözlü ve sözsüz ipuçlarını yorumlayarak duygusal göstergeleri belirleyebilir.

Başvuruda, kullanıcının "evden video görüşmesi yaparken pasif bir dil" kullanmasının yapay zeka destekli cihaz tarafından algılanıp analiz edildiği örneği veriliyor.

Daha sonra bu verilere dayanarak kişinin belirli bir dönemdeki duygusal durumu hakkında bilgi veriliyor; örneğin kullanıcıya "Bu ay minnettarlığınızı daha fazla dile getirdiniz" şeklinde geri bildirim sunuluyor.

Bu patent başvurusunu ilk kez haberleştiren patent analizi yayıncısı Patentlyze, konum, faaliyet ve uygulama kullanımıyla bağlantılı sürekli ses kaydı yapılması nedeniyle bu hamleyi, "Meta'nın son zamanlarda başvurduğu en önemli patentlerden biri" diye niteliyor.

Yayın kuruluşu, "Fitness koçluğu görüntüsü, temelinde sürekli duygusal gözetime dayanan bir sistem için zayıf bir kamuflaj" diye yazıyor. 

Bu, çoğu patent başvurusundan daha fazla kamuoyu ilgisini hak ediyor.

Meta'nın patent başvurusu, Facebook ve Instagram'ın sahibi şirketin veri izleme faaliyetlerinin sinsi amaçlarla kullanılabileceğinden endişe duyan gizlilik hakkı savunucularında da kaygı uyandırdı.

Dünya çapında milyarlarca kullanıcısı olan ABD'li teknoloji devi, halihazırda internet genelindeki kullanıcı davranışlarını izleyerek ilgi alanları ve alışkanlıklarına dair ayrıntılı profiller oluşturuyor ve bu sayede onlara daha hedefe yönelik reklamlar sunuyor; ki reklamlar, şirket gelirinin yüzde 97'sinden fazlasını oluşturuyor.

Teknoloji odaklı savunuculuk örgütü Fairplay'in yönetici müdürü Josh Golin, NYPost'a yaptığı açıklamada, "Bu ürkütücü patent, kullanıcıların duygusal hassasiyetlerini hedef alan reklamlardan kâr elde etmek için hayatımızın her yönünü izlemeyi amaçlayan Meta'nın büyük planlarının bir parçası gibi görünüyor" diyor.

Etkilenmeye açık gençler için bu durum bilhassa endişe veriyor ve veri toplama faaliyetlerini sınırlayan ve reşit olmayanlara yönelik hedefli reklamları yasaklayan gizlilik mevzuatına neden bu kadar acil ihtiyaç duyulduğunu gösteriyor.

The Independent cevap hakkı için Meta'yla temasa geçti ancak şirket, genellikle patent başvuruları veya henüz piyasaya sürülmemiş ürünler hakkında açıklama yapmıyor.

 Independent Türkçe,independent.co.uk/tech