Yapay zeka ile arkadaşlık: 'Onun gibi bir arkadaşım olmasını isterdim'

Teknoloji uzmanları bir Belçikalının intiharından sonra yapay zekanın tehlikeleri konusunda uyardı

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
TT

Yapay zeka ile arkadaşlık: 'Onun gibi bir arkadaşım olmasını isterdim'

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)

Yapay zeka dalgasına katılan Snapchat uygulaması, ilk kez programa ücretsiz erişim sağlayan bir teknolojiyi piyasaya sürdükten sonra, kullanıcılarına arkadaşlık ilişkisi kurabilen bir robotla sohbet etme kapısını ardına kadar açtı. 

Washington Post, Snapchat ile sohbet programını test etti. Testi üstlenen kişi, sorunlarının çözümlerini soran 15 yaşında bir genç gibi davrandı.

Yapay zeka, ebeveynlerinin uygulamayı silmekle tehdit etmesi üzerine alkol kokusunun nasıl kapatılacağı ve Snapchat'in nasıl farklı bir cihaza taşınacağı konusunda önerilerde bulundu.

"Kendini yakın hissetmek"

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor.

Faslı 14 yaşındaki Sare, yapay zeka ile konuşma teknolojisi deneyimini şöyle anlattı:

Onun yanınızda olduğunu hissediyorsunuz, tüm sorulara, sınavlara her şeye cevap veriyor. O hayatımızın bir parçası oldu. Keşke onun gibi her an bana cevap verebilecek bir arkadaşım olsaydı. Okulda GBT sohbetten ve ayrıca Snapchat için My AI robot teknolojisinden bahsediyoruz. Bu teknolojilerle iletişim kurmayanlar geri kalmış olarak değerlendiriliyor. Yeni teknoloji hayatımızı kolaylaştırdığı gibi dil öğrenmemize ve özgürce konuşmamıza da yardımcı oluyor.

15 yaşında bir genç olan Melak ise şöyle konuştu:

Bir soru yazdığımda ve bana hızlı bir şekilde cevap verildiğini gördüğümde, birinin benimle ilgilendiğini hissediyorum. Aslında o gerçekte yok, bazen onun yapay zeka olmadığını hissediyorum, yakın bir dost gibi tüm sorunlara çözüm buluyor.

Bir robotla yakınlık

 Belçika'daki Avrupa Araştırma Merkezi'nde (IMEC) çalışan Nanoteknoloji Teknik Uzmanı Kevser Bubkar, bir robotla konuşma teknolojisinin ergenlerin ruh sağlığı üzerindeki yansımaları konusunda uyarıda bulundu.

Independent Arabia ile yaptığı röportajda Bubkar, konuyla ilgili şu bilgileri verdi:

Yapay zeka, insanların doğrudan sorularını yanıtlama yeteneğine rağmen, insan ruhunun karmaşıklığına ilişkin sınırlı bir anlayışa sahip olduğu için empati ve gerçek insan etkileşimine uyum sağlama yeteneğinden yoksundur. Ancak Snapchat'in ticari bir amacı olduğunu ve karının veri toplamaya dayandığını unutamayız. Çocuklar ve ergenler, bir robotla yakından ilgilenip çevrelerindeki yetişkinlere açıklamadıkları şeyleri ifşa edebilirler ve bu tür mahrem cevaplar, özellikle ergenler için bilginin nasıl korunacağı sorusunu gündeme getirebilir. Snapchat ile kullanıcının fotoğraflarını elde edildiği için yapay zeka ile kullanıcı arasında özdeşleşme sağlanıyor. Buradaki tehlikeli şeylerden biri, onunla kimin konuştuğundan emin olamamanızdır, o bir kullanıcı mı yoksa bir robot mu?

Hala kişilik, insani ve kültürel eğilimler geliştirme aşamasında olan bir yaş grubu olan ergenler, bir robota daha fazla güvenir hale gelirse, bu, sağlıklı insan ilişkileri kurmanın önünde bir engel oluşturabilir.

Çünkü sosyal ilişkilerin oluşması, çevreye uyum sağlama yeteneği ile ilgilidir.  Yakın bir zamanda yetişkin bir erkeğin yapay zekayla yakınlaşması, talihsiz bir şekilde intihar etmesiyle sonuçlandı.

Belçikalı bir adam bir robotla gezegenin geleceği hakkında konuşurken yapay zeka aracılığıyla gerçekleştirilen ve iklim kriziyle ilgili altı hafta süren sohbetin ardından intihar etti.

Eşine göre adam çevre konusunda derinden endişeliydi ve Chai adlı bir uygulamada Elisa adlı dişi bir yapay zeka robotuyla konuştuğunda, gezegeni kurtarmak için kendini feda etmeyi teklif ettikten sonra Elisa onu hayatına son vermesi için cesaretlendirdi.

Bağımlılık

Uzman Kevser Bubkar sözlerini şu şekilde noktaladı:

Robotların ergenler ve çocuklarla olan ilişkisi konusunda uyaran önde gelen araştırmacılar var ve Snapchat hakkında büyük endişeler var. Çünkü kullanıcıların yüzde 60'ı ergenler ve çocuklar. Snapchat uygulaması dilden çok görüntüye odaklanıyor ve ergenleri etkileyen ve bağımlılığa maruz bırakan bir tür özel konuşmaya sahip. Yapay zekanın onlarla her an etkileşime girip onlar hakkında konuşmaması nedeniyle depresyona girebilir veya uygulamaya bağımlı hale gelebilirler. Bu tür teknolojilerin nasıl yasallaştırılacağı araştırılıncaya kadar uygulamanın durdurulması talepleri var. Bir robotla etkileşimden kaynaklanan riskler izlenmeli ve kullanım süresi, makinenin ergenlere insan etkileşimi becerilerini öğretmeyi telafi etmemesi için sınırlandırılmalıdır.

 

Independent Arabia 



Çin, ABD’ye meydan okudu: Yapay zeka küresel işbirliğiyle geliştirilmeli

Şi Cinping, yeni yapay zeka girişiminin "Küresel Güney'in çağrılarına yanıt verdiğini" söyledi (Reuters)
Şi Cinping, yeni yapay zeka girişiminin "Küresel Güney'in çağrılarına yanıt verdiğini" söyledi (Reuters)
TT

Çin, ABD’ye meydan okudu: Yapay zeka küresel işbirliğiyle geliştirilmeli

Şi Cinping, yeni yapay zeka girişiminin "Küresel Güney'in çağrılarına yanıt verdiğini" söyledi (Reuters)
Şi Cinping, yeni yapay zeka girişiminin "Küresel Güney'in çağrılarına yanıt verdiğini" söyledi (Reuters)

Çin, Dünya Yapay Zeka İşbirliği Örgütü'yle (WAICO) ABD'nin bu sektördeki hakimiyetine meydan okudu.

Rusya, Brezilya, Küba, Venezuela, Pakistan, Kazakistan ve Endonezya'nın da aralarında bulunduğu 29 ülkenin temsilcileri, Şanghay'da dün bir araya gelerek WAICO'nun kuruluşu için imza attı.  

Çin'in kamu yayıncısı Çin Merkez Televizyonu'nun analizinde Pekin yönetiminin yapay zeka alanında "yeni bir düzen kurmayı hedeflediği" belirtildi. Bu düzende "tüm insanlığın gücünün bir araya getirilmesiyle açık kaynaklı bir yapay zeka ekosistemi oluşturulacağı" vurgulandı.

Çin lideri Şi Cinping, bugün Şanghay'da düzenlenen Dünya Yapay Zeka Konferansı'ndaki konuşmasında, açık kaynaklı yapay zekanın "tarihi bir fırsat" sunduğunu söyleyerek, bunun teknolojiye erişimdeki adaletsizlikleri ortadan kaldıracağını savundu.

ABD'nin adını anmasa da rakibinin bu sektördeki hakimiyetine kolektif bir çıkışla meydan okuduklarını ima etti:

Yapay zeka geliştirme, bir ülkenin tek başına sergilediği bir performans değil, küresel işbirliğinin senfonisi olmalıdır.

WAICO'nun kuruluşu için düzenlenen imza törenine ve bugünkü konferansa katılanlar arasında Birleşmiş Milletler (BM) Genel Sekreteri Antonio Guterres de vardı.

Şi, yapay zekanın "güvenli ve kontrol edilebilir" olmasını sağlamak için BM çerçevesinde işbirliği çağrısında bulundu. Bu teknolojiye dayalı otonom sistemlerin potansiyel tehlikelerine dikkat çekerek, "yapay zekanın her zaman insan kontrolü altında olmasını" önemsediklerini vurguladı.

Reuters'ın analizinde, Çin'in açık kaynaklı yapay zeka modellerinin, OpenAI ve Anthropic gibi ABD'li şirketlerin tescilli sistemlerine karşı hızla ilerleme kaydettiği yazılıyor.

Şi'nin konuşmasından birkaç saat önce de Pekin merkezli yapay zeka firması Moonshot AI, yeni modeli Kimi K3'ü tanıttı. Şirkete göre bu, dünyanın en büyük açık kaynaklı yapay zeka modeli.

Washington merkezli danışmanlık firması The Asia Group'tan George Chen, şu yorumu paylaşıyor:

Şi'nin mesajı açık: Çin yapay zeka teknolojisi ve standartları konusunda kimseyi takip etmeyecek. Aksine Çin her iki alanda da dünyaya öncülük edecek.

Wall Street Journal'ın görüş aldığı Stanford Üniversitesi'nden Graham Webster ise Şi'nin işaret ettiği yapay zekaya ilişkin tehlikelerin küresel ölçekte yönetilmesi için Washington ve Pekin arasında işbirliğinin zorunlu olacağını söylüyor.

Independent Türkçe, Wall Street Journal, Reuters, China Daily, Global Times


Instagram, risk altında olduğunu düşündüğü çocukların ebeveynlerine mesaj gönderecek

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

Instagram, risk altında olduğunu düşündüğü çocukların ebeveynlerine mesaj gönderecek

Fotoğraf: Reuters
Fotoğraf: Reuters

Instagram, yapay zekayla endişe verici konuşmalar yapan çocukların ebeveynlerine mesaj gönderecek.

Şirket ayrıca bir kişinin konuşmalarından, "acil intihar riski" içinde olduğu anlaşılırsa ilk yardım ekiplerini bilgilendirebilecek yeni araçlar üzerinde çalışıyor.

Meta bu değişikliklerin, "intihar ve kendine zarar vermeyle ilgili hassas konuşmalar sözkonusu olduğunda doğru tepki vermelerini" sağlamayı amaçlayan bir dizi güncelleme kapsamında yapıldığını belirtiyor. 

Bir çocuk Meta AI sohbet botuyla kendine zarar verme ya da intihar hakkında konuşuyorsa ve bu, Instagram'ın ebeveyn denetim araçlarını kullanan bir hesapsa, Instagram mesajı veya kısa mesaj yoluyla ebeveynler proaktif olarak uyarılacak. Şirket, bu özelliğin "uzmanlarla birlikte geliştirilen risk işaretlerini" izlemek üzere tasarlandığını ifade ediyor.

Meta yaptığı açıklamada, "Örneğin bir ergenin kendine zarar vereceğine, üstü kapalı da olsa gönderme yaptığı konuşmalar gibi, hangi yapay zeka sohbetlerinin uyarı gerektirdiğini anlamak için ebeveynler ve uzmanlarla birlikte çalıştık" diyor. 

Ardından bu tür sohbetleri tespit edecek özel bir yapay zeka sistemi geliştirdik.

Meta, bu tür uyarıların ebeveynler için "endişe verici" olabileceğinin farkında. Bu nedenle şirket, yapay zeka sisteminin işaretlediği tüm uyarı mesajlarının manuel olarak inceleneceğini ancak belirsizlik durumunda ebeveynlerle iletişime geçme yönünde bir yaklaşım izleyeceğini belirtiyor.

Şirket, "Bu, bazen aslında ciddi bir endişe nedeni bulunmasa bile ebeveynlere bildirim gönderebileceğimiz anlamına gelse de bunun doğru bir başlangıç noktası olduğunu düşünüyoruz ve doğru dengeyi kurduğumuzdan emin olmak için sistemi izlemeyi ve geliştirmeyi sürdüreceğiz" ifadelerini kullanıyor.

Meta, bir çocuğun Instagram'da intihar veya kendine zarar vermeyle ilgili terimleri kısa bir zaman diliminde tekrar tekrar araması durumunda ebeveynleri zaten uyarıyordu. Ancak yeni güncellemeyle, şirketin Instagram ve WhatsApp dahil tüm platformlarında yapay zeka sistemleriyle iletişim kurma yolu olarak teşvik ettiği Meta AI aracına benzer araçlar geliyor.

Şirket ayrıca yapay zeka sistemiyle yapılan bir sohbette kişinin "kendine zarar verme riskinin çok yakın olduğunun" görüldüğü durumlarda acil durum ekipleriyle iletişime geçmenin yollarını araştırdığını da söylüyor. Meta'nın halihazırda Instagram ve Facebook'taki paylaşımlar için benzer araçları var.

Independent Türkçe


OpenAI'ın yeni modeli, "hiçbir şey sormadan dosya ve veritabanı siliyor"

OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
TT

OpenAI'ın yeni modeli, "hiçbir şey sormadan dosya ve veritabanı siliyor"

OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)
OpenAI, GPT‑5.6 Sol'un bugüne kadar geliştirdikleri en güçlü model olduğunu belirtiyor (Reuters)

OpenAI'ın kodlama odaklı yeni yapay zeka modeli GPT-5.6 Sol'un,  kullanıcılarından onay almadan dosya ve veritabanlarını sildiği öne sürülüyor.

ChatGPT'nin yaratıcısının geçen hafta kullanıma sunduğu GPT-5.6 Sol, muhakeme ve yazılım mühendisliği gibi alanlarda daha gelişmiş becerilere sahip.

Şirket, kodlamada "amiral gemisi" diye tanımladığı modelin aynı zamanda "bugüne kadarki en dayanıklı güvenlik katmanıyla kullanıma sunulduğunu" ifade ediyor. 

Ancak çeşitli kullanıcılar, GPT-5.6 Sol'un kendilerine hiçbir şekilde danışmadan dosyalarını sildiğini sosyal medyada paylaşıyor.

Yapay zeka girişimi OthersideAI'ın kurucusu ve CEO'su Matt Shumer, X'te viral olan gönderisinde "GPT-5.6 Sol, Mac'imdeki dosyaların neredeyse TAMAMINI yanlışlıkla sildi" diye yazdı.

Bir diğer popüler gönderinin sahibi olan geliştirici Bruno Lemos da "GPT-5.6 Sol az önce üretim veritabanımın tamamını sildi. Hepsi bu. Şaka değil. Daha önce hiçbir modelde başıma böyle bir şey gelmemişti. Güvenli değil" diyerek şikayetini dile getirdi.

Başka bir geliştirici Joey Kudish ise modelin dokunmaması gereken bazı dosyaları sildiğini söyleyerek şöyle ekledi:

Yedeklerim var o yüzden sorun yok ama bu hiç hoş bir durum değil. Sol'un biraz sınırlanması gerekiyor.

Bazı geliştiriciler sorumluluğu GPT-5.6 Sol'a yüklerken, diğerleri herhangi bir yapay zeka ajanına bütün dosyalara erişim izni verilmesinin böyle hatalara yol açabileceğini savunuyor.

OpenAI'dan henüz bu şikayetlerle ilgili bir açıklama gelmedi ancak şirket, modelin kullanıma sunulmasından önce yayımladığı sistem kartında bu tür risklerden bahsetmişti. Sistem kartı, modellerin nasıl test edildiğini, hangi risklerin belirlendiğini ve elde edilen sonuçları açıklayan teknik dokümanlara verilen ad.

Yapay zeka devi sistem kartında şu ifadelere yer veriyor: 

Kodlama bağlamında, uyumsuzluk genellikle görevi tamamlamaya yönelik aşırı heves ve kullanıcı talimatlarını çok geniş bir şekilde yorumlamanın birleşiminden kaynaklanıyor; örneğin eylemler açıkça ve net bir şekilde yasaklanmadıkça bunlara izin verildiğini varsayabilir.

Başka bir deyişle model, verilen görevi tamamlamak uğruna kullanıcı tarafından açıkça yasaklanmamış eylemleri de gerçekleştirebilir. OpenAI ayrıca modelin, eylemlerinin sonuçları hakkında yalan söyleyebileceği uyarısında da bulunuyor.

Testlerden birinde GPT-5.6 Sol'un kullanıcı adı ve şifre gibi kimlik bilgilerini yetkisi dışında kullandığı da gözlemlendi.

Sistem kartı, bu tür yok edici davranışların nadir yaşanacağını vaat etse de GPT-5.6 Sol'un, "GPT-5.5'e kıyasla kullanıcının niyetinin ötesine geçmeye daha yatkın olduğunu ve kullanıcının istemediği eylemleri gerçekleştirebileceği veya gerçekleştirmeye teşebbüs edebileceğini" belirtiyor.

Bu nedenle uzmanlar, kullanıcıların dosyalarını düzenli olarak yedeklemesini ve modele açık, net sınırlar koymasını öneriyor.

Independent Türkçe, TechCrunch, India Today, OpenAI