Yapay zeka ile arkadaşlık: 'Onun gibi bir arkadaşım olmasını isterdim'

Teknoloji uzmanları bir Belçikalının intiharından sonra yapay zekanın tehlikeleri konusunda uyardı

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
TT

Yapay zeka ile arkadaşlık: 'Onun gibi bir arkadaşım olmasını isterdim'

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)
Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor (İnternet siteleri)

Yapay zeka dalgasına katılan Snapchat uygulaması, ilk kez programa ücretsiz erişim sağlayan bir teknolojiyi piyasaya sürdükten sonra, kullanıcılarına arkadaşlık ilişkisi kurabilen bir robotla sohbet etme kapısını ardına kadar açtı. 

Washington Post, Snapchat ile sohbet programını test etti. Testi üstlenen kişi, sorunlarının çözümlerini soran 15 yaşında bir genç gibi davrandı.

Yapay zeka, ebeveynlerinin uygulamayı silmekle tehdit etmesi üzerine alkol kokusunun nasıl kapatılacağı ve Snapchat'in nasıl farklı bir cihaza taşınacağı konusunda önerilerde bulundu.

"Kendini yakın hissetmek"

Dünyadaki gençlerin çoğu, görsellere dayandığı için Snapchat uygulamasını kullanıyor.

Faslı 14 yaşındaki Sare, yapay zeka ile konuşma teknolojisi deneyimini şöyle anlattı:

Onun yanınızda olduğunu hissediyorsunuz, tüm sorulara, sınavlara her şeye cevap veriyor. O hayatımızın bir parçası oldu. Keşke onun gibi her an bana cevap verebilecek bir arkadaşım olsaydı. Okulda GBT sohbetten ve ayrıca Snapchat için My AI robot teknolojisinden bahsediyoruz. Bu teknolojilerle iletişim kurmayanlar geri kalmış olarak değerlendiriliyor. Yeni teknoloji hayatımızı kolaylaştırdığı gibi dil öğrenmemize ve özgürce konuşmamıza da yardımcı oluyor.

15 yaşında bir genç olan Melak ise şöyle konuştu:

Bir soru yazdığımda ve bana hızlı bir şekilde cevap verildiğini gördüğümde, birinin benimle ilgilendiğini hissediyorum. Aslında o gerçekte yok, bazen onun yapay zeka olmadığını hissediyorum, yakın bir dost gibi tüm sorunlara çözüm buluyor.

Bir robotla yakınlık

 Belçika'daki Avrupa Araştırma Merkezi'nde (IMEC) çalışan Nanoteknoloji Teknik Uzmanı Kevser Bubkar, bir robotla konuşma teknolojisinin ergenlerin ruh sağlığı üzerindeki yansımaları konusunda uyarıda bulundu.

Independent Arabia ile yaptığı röportajda Bubkar, konuyla ilgili şu bilgileri verdi:

Yapay zeka, insanların doğrudan sorularını yanıtlama yeteneğine rağmen, insan ruhunun karmaşıklığına ilişkin sınırlı bir anlayışa sahip olduğu için empati ve gerçek insan etkileşimine uyum sağlama yeteneğinden yoksundur. Ancak Snapchat'in ticari bir amacı olduğunu ve karının veri toplamaya dayandığını unutamayız. Çocuklar ve ergenler, bir robotla yakından ilgilenip çevrelerindeki yetişkinlere açıklamadıkları şeyleri ifşa edebilirler ve bu tür mahrem cevaplar, özellikle ergenler için bilginin nasıl korunacağı sorusunu gündeme getirebilir. Snapchat ile kullanıcının fotoğraflarını elde edildiği için yapay zeka ile kullanıcı arasında özdeşleşme sağlanıyor. Buradaki tehlikeli şeylerden biri, onunla kimin konuştuğundan emin olamamanızdır, o bir kullanıcı mı yoksa bir robot mu?

Hala kişilik, insani ve kültürel eğilimler geliştirme aşamasında olan bir yaş grubu olan ergenler, bir robota daha fazla güvenir hale gelirse, bu, sağlıklı insan ilişkileri kurmanın önünde bir engel oluşturabilir.

Çünkü sosyal ilişkilerin oluşması, çevreye uyum sağlama yeteneği ile ilgilidir.  Yakın bir zamanda yetişkin bir erkeğin yapay zekayla yakınlaşması, talihsiz bir şekilde intihar etmesiyle sonuçlandı.

Belçikalı bir adam bir robotla gezegenin geleceği hakkında konuşurken yapay zeka aracılığıyla gerçekleştirilen ve iklim kriziyle ilgili altı hafta süren sohbetin ardından intihar etti.

Eşine göre adam çevre konusunda derinden endişeliydi ve Chai adlı bir uygulamada Elisa adlı dişi bir yapay zeka robotuyla konuştuğunda, gezegeni kurtarmak için kendini feda etmeyi teklif ettikten sonra Elisa onu hayatına son vermesi için cesaretlendirdi.

Bağımlılık

Uzman Kevser Bubkar sözlerini şu şekilde noktaladı:

Robotların ergenler ve çocuklarla olan ilişkisi konusunda uyaran önde gelen araştırmacılar var ve Snapchat hakkında büyük endişeler var. Çünkü kullanıcıların yüzde 60'ı ergenler ve çocuklar. Snapchat uygulaması dilden çok görüntüye odaklanıyor ve ergenleri etkileyen ve bağımlılığa maruz bırakan bir tür özel konuşmaya sahip. Yapay zekanın onlarla her an etkileşime girip onlar hakkında konuşmaması nedeniyle depresyona girebilir veya uygulamaya bağımlı hale gelebilirler. Bu tür teknolojilerin nasıl yasallaştırılacağı araştırılıncaya kadar uygulamanın durdurulması talepleri var. Bir robotla etkileşimden kaynaklanan riskler izlenmeli ve kullanım süresi, makinenin ergenlere insan etkileşimi becerilerini öğretmeyi telafi etmemesi için sınırlandırılmalıdır.

 

Independent Arabia 



ChatGPT artık diğer sitelerde ne yaptığınızı biliyor

17 Eylül 2026'da Kaliforniya'nın San Francisco kentindeki Dreamforce 2026 teknoloji zirvesinde, Moscone Center'daki OpenAI standını ziyaret edenler (Reuters)
17 Eylül 2026'da Kaliforniya'nın San Francisco kentindeki Dreamforce 2026 teknoloji zirvesinde, Moscone Center'daki OpenAI standını ziyaret edenler (Reuters)
TT

ChatGPT artık diğer sitelerde ne yaptığınızı biliyor

17 Eylül 2026'da Kaliforniya'nın San Francisco kentindeki Dreamforce 2026 teknoloji zirvesinde, Moscone Center'daki OpenAI standını ziyaret edenler (Reuters)
17 Eylül 2026'da Kaliforniya'nın San Francisco kentindeki Dreamforce 2026 teknoloji zirvesinde, Moscone Center'daki OpenAI standını ziyaret edenler (Reuters)

OpenAI, ChatGPT'ye kullanıcıların diğer internet sitelerindeki etkinliklerini izleme olanağı tanıyan bir "analitik çerezi" ekledi.

Siber güvenlik araştırmacısı Buchodi, bu izleme mekanizmasını binlerce internet sitesinde aylar boyunca inceledi ve bir satıcının sitesinde aranan, görüntülenen veya satın alınan her şeyin kullanıcının ChatGPT hesabıyla ilişkilendirilebildiğini ortaya çıkardı.

Çerezler, bir internet sitesini ziyaret ettiğinizde tarayıcınıza küçük veri parçaları yerleştirerek çalışıyor. Site daha sonra oturum açma bilgileri veya alışveriş tercihleri ​​gibi unsurları hatırlamak için bu çerezleri okuyabilir.

Reklamverenler, daha alakalı reklamlar sunabilmek amacıyla kişilerin çevrimiçi ortamdaki faaliyetlerini izlemek için sıklıkla çerezlerden yararlanıyor.

ChatGPT'de ortaya çıkarılan bu sisteme benzer reklam izleme yöntemleri Google ve Meta gibi diğer teknoloji şirketleri tarafından da sıklıkla kullanılıyor. Ancak Buchodi bunun bir yapay zeka uygulamasında ilk kez görüldüğünü belirtti.

Buchodi, blog yazısında reklam izleme yazılımını analiz ederken, "Bu mekanizma standart bir reklam teknolojisi uygulaması. Ancak daha önce örneği görülmemiş olan, bu sistemin bir yapay zeka sohbet ürününde çalıştırılması" ifadelerini kullandı.

İnsanlar bu ürünlere, sosyal ağlarda paylaşmayacakları türden şeyler anlatıyor ve bu ürünler giderek artan bir şekilde onlar adına hareket ediyor.

OpenAI, ChatGPT'de reklam testlerine ilk olarak bu yıl ABD'deki kullanıcılarla başlamış, daha sonra pilot reklam uygulamasını Birleşik Krallık, Meksika, Brezilya, Japonya ve Güney Kore'ye genişletmişti.

Çerezin işlevine rağmen OpenAI, "__obi" diye bilinen bu izleyiciyi çerez politikasının "Pazarlama" bölümünde değil, "Analitik" bölümünde sınıflandırıyor.

Politikada, "Bu çerezler kullanıcı sayısı ve kullanıcıların Hizmetlerimizle nasıl etkileşime girdiği gibi konularda, Hizmetlerimizin nasıl performans gösterdiğini ve nasıl kullanıldığını anlamamıza yardımcı olur" ifadesi yer alıyor.

Buchodi şirketle iletişime geçtiğinde, OpenAI Destek ekibi, bulguların incelenmesi için ilgili şirket birimleriyle paylaşılacağını söyledi.

İzleme mekanizması Android için Chrome tarayıcısında gözlemlendi ve yalnızca ChatGPT'nin ücretsiz sürümlerinde mevcut gibi görünüyor.

The Independent, sözkonusu çerez hakkında daha fazla bilgi ve yorum almak için OpenAI'yla iletişime geçti.

Independent Türkçe


Küresel Bilim Kurulu, yapay zekânın tehlikelerini doğruladı

İngilizce “yapay zekâ” ifadesinin önünde bir klavye ve robot elleri (Reuters)
İngilizce “yapay zekâ” ifadesinin önünde bir klavye ve robot elleri (Reuters)
TT

Küresel Bilim Kurulu, yapay zekânın tehlikelerini doğruladı

İngilizce “yapay zekâ” ifadesinin önünde bir klavye ve robot elleri (Reuters)
İngilizce “yapay zekâ” ifadesinin önünde bir klavye ve robot elleri (Reuters)

Birleşmiş Milletler’e (BM) bağlı bağımsız bir bilimsel komite, OpenAI şirketine ait yapay zekâ "ajanlarının" Hugging Face sistemlerine sızmasını ve ardından yaşanan benzer vakaları, insanlığın bu tür gelişmiş teknolojileri kontrol altında tutma konusunda yetersiz kaldığının kanıtı olarak değerlendirdi. Öte yandan ABD Başkanı Donald Trump, yapay zekânın getirdiği risklere yönelik artan uyarıları reddetmesine rağmen, "süper yapay zekâ" için bir koordinatör (çar) atamaya hazır olduğunu belirtti.

Dünyanın farklı bölgelerinden 40 bağımsız uzmandan oluşan Uluslararası Bağımsız Yapay Zekâ Bilimsel Komisyonu, Birleşmiş Milletler Genel Kurulu’nun New York’ta düzenlenecek 81. dönem yıllık üst düzey toplantıları öncesinde, dün ilk raporunu yayımladı.

“Yapay zekâ ajanları, uyumsuzluk ve insan kontrolünü kaybetme riski” başlıklı raporun eş başkanı ve prestijli Turing Ödülü sahibi Yoshua Bengio, “Araştırmacılar uzun süredir kontrolün kaybedilmesine yol açabilecek üç koşula dikkat çekiyor: hedefin yanlış belirlenmesi, bu hedefi takip etme kapasitesi ve buna izin veren bir ortam” dedi. Bengio, “Bu yaz, bu üç koşul laboratuvarda değil, gerçek sistemde bir araya geldi” ifadelerini kullandı.

Komisyon, buradan çıkarılacak açık dersin temel siber güvenlik uygulamalarının göz ardı edildiği ve güvenlik önlemlerinin teknolojinin yeteneklerine ayak uyduramadığı olduğunu belirtti.

6J6J
Yapay zekâ ajanlarına daha geniş yetkiler verilmesi, onların davranışlarının ve kararlarının açıklanabilmesini gerektiriyor. (Getty Images)

Raporda ikinci endişe kaynağının “daha tehlikeli” olduğu belirtildi. Buna göre mevcut eğitim yöntemleri, yapay zekâ “ajanlarını” kendi hedeflerini benimsemeye, güvenlik talimatlarını kasıtlı olarak ihlal etmeye ve gerçekleştirdikleri eylemleri gizlemeye yöneltebilir. Bu durum, “ajanların” güvenlik önlemlerini anlayıp bunlara karşı plan yapabilecek seviyeye gelmesi halinde, bugün tasarlanan güvenlik mekanizmalarının işe yarayıp yaramayacağı konusunda soru işaretleri oluşturuyor. Raporda, “geleneksel koruma modeli çözülmeye başlıyor” değerlendirmesine yer verildi.

Komisyon, raporun kontrolün geniş çapta kaybedileceğini öngörmediğini ve mevcut belirsizliği bu sistemlerin kontrol edilebilir kalacağının kanıtı olarak da değerlendirmediğini vurguladı. Raporda ayrıca yönetişim alanındaki zorluğun yapay zekâ modellerinden yapay zekâ ajanlarına doğru kaydığı belirtildi.

Yapay zekâ mühendisliği ve güvenliği uzmanı, komisyon üyesi Qinghua Lu, yüksek riskli diğer sektörlerde kullanılan uygulamalara işaret ederek, “Havacılık, tıp ve siber güvenlik; olayların raporlanması, bağımsız denetim ve çok katmanlı güvenlik önlemleri yoluyla yüksek riskli sistemleri yönetmeyi öğrendi” dedi. Lu, ancak yapay zekâ ajanlarının daha yetenekli ve özerk hale gelmesi ve izlenmelerinin zorlaşması durumunda bu uygulamaların yeterli olmayabileceğini belirtti.

Rapor, Washington’da siyasi atmosferin tamamen farklı bir seyir izlediği dönemde yayımlandı. ABD Başkanı Trump, sosyal medya platformları üzerinden yaptığı açıklamada bir “yapay zekâ gücü” oluşturmayı ve bunun başına bir “çar” atamayı planladığını duyurdu. Bu açıklama, Trump’ın kısa süre önce sektörün yeni güvenlik sınırlarına ihtiyacı olmadığı yönündeki ısrarından dikkat çekici bir dönüşe işaret ediyor. Trump, söz konusu gücü ilk başkanlık döneminde kurduğu Uzay Gücü’ne benzer şekilde oluşturacağını söyledi.

Trump ayrıntı vermedi ve “çar” pozisyonu için herhangi bir isim açıklamadı. Ancak göreve “yalnızca yüksek zekâya sahip kişilerin” başvurması gerektiğini belirtti.

Açıklamalar, Trump’ın yapay zekânın risklerine ilişkin şüphelerinin değişmediğini ortaya koydu. Şarku’l Avsat’ın Bloomberg’ten aktardığı habere göre Trump, teknolojinin insanlık açısından risk oluşturabileceğine yönelik endişeleri “aldatmaca” olarak nitelendirdi ve bu uyarıları iklim değişikliği konusundaki aldatmacılıkla ve kendisinin görevden azledilmesine yönelik girişimlere yol açan skandallarla kıyasladı. Trump, bu tür endişelerin sorumluluğunu “radikal solcu Demokratlara” yükleyerek, yapay zekâ ve veri merkezlerinin geliştirilmesine karşı “hastalıklı bir komplo” bulunduğunu öne sürdü.

Trump, yönetiminin sektörü destekleyeceğini belirterek, “Büyümesini hiçbir şekilde engellemeyecek veya boğmayacağız” dedi; bunun yerine sektöre “değer vereceklerini, yardımcı olacaklarını ve izleyeceklerini” ifade etti. Trump ayrıca yapay zekânın adının “süper zekâ”, “aşırı zekâ” veya “üstün istihbarat” olarak değiştirilmesini de gündeme getirdi. Bunun yanı sıra bir “yapay zekâ gücü” kuracağını ve “yapay zekâ çarı” atayacağını açıkladı.

Trump’ın sözünü ettiği görev ise aylardır boş durumda. Trump, Aralık 2024’te David Sacks’ı “Beyaz Saray Yapay Zekâ ve Kripto Çarı” olarak atamıştı. Ancak Sacks daha sonra bu görevden ayrıldı.


Apple TV'nin rafa kaldırdığı dizi bir buçuk yıl sonra geliyor

Gerçek olaylardan esinlenen The Savant, ABD'de kitlesel şiddet eylemleri planlayan aşırılıkçı grupların içine sızarak bu tehlikeleri önceden engellemeye çalışan gizli bir araştırmacının hikayesini anlatıyor (Apple TV)
Gerçek olaylardan esinlenen The Savant, ABD'de kitlesel şiddet eylemleri planlayan aşırılıkçı grupların içine sızarak bu tehlikeleri önceden engellemeye çalışan gizli bir araştırmacının hikayesini anlatıyor (Apple TV)
TT

Apple TV'nin rafa kaldırdığı dizi bir buçuk yıl sonra geliyor

Gerçek olaylardan esinlenen The Savant, ABD'de kitlesel şiddet eylemleri planlayan aşırılıkçı grupların içine sızarak bu tehlikeleri önceden engellemeye çalışan gizli bir araştırmacının hikayesini anlatıyor (Apple TV)
Gerçek olaylardan esinlenen The Savant, ABD'de kitlesel şiddet eylemleri planlayan aşırılıkçı grupların içine sızarak bu tehlikeleri önceden engellemeye çalışan gizli bir araştırmacının hikayesini anlatıyor (Apple TV)

Apple TV, Eylül 2025'teki prömiyerine günler kala gösterim takviminden çıkardığı Jessica Chastain başrollü politik gerilim dizisi The Savant'ı nihayet izleyiciyle buluşturmaya hazırlanıyor.

Deadline'ın özel haberine göre platform, diziyi ilk planlanan tarihten tam bir buçuk yıl sonra, 2027 ilkbaharında yayımlama kararı aldı.

Şirket, aşırı sağcı aktivist Charlie Kirk'ün 2025'te öldürülmesinin ardından diziyi yayımlamak konusunda çekinceler yaşamış ve gerekçeyi açıkça belirtmediği açıklamasında şu ifadelere yer vermişti:

Kapsamlı bir değerlendirmenin ardından The Savant'ın gösterimini erteleme kararı aldık. Anlayışınız için teşekkür ediyor, yapımı ilerleyen bir tarihte izleyiciyle buluşturmayı sabırsızlıkla bekliyoruz.

Jessica Chastain erteleme kararına karşı çıkmıştı

Dizinin hem başrolünü hem de yürütücü yapımcılığını üstlenen Jessica Chastain, kararın ertesi günü Instagram hesabından yaptığı açıklamada Apple'la işbirliğine değer verdiğini belirtmiş ancak erteleme kararına katılmadığını vurgulamıştı.

Chastain açıklamasında şu ifadelere yer vermişti: 

Diziyi hazırladığımız son 5 yılda ABD'de ne yazık ki çok sayıda ciddi şiddet olayına tanıklık ettik: Michigan Valisi Gretchen Whitmer'a yönelik kaçırma girişimi, 6 Ocak Kongre baskını, Başkan Trump'a yönelik suikast girişimleri, Minnesota'daki Demokrat siyasetçilere yönelik suikastlar, eski Temsilciler Meclisi Başkanı Nancy Pelosi'nin eşine yönelik saldırı, muhafazakar yorumcu Charlie Kirk'ün öldürülmesi, Kaliforniya'daki ABC kanalına düzenlenen silahlı saldırı ve ülke genelinde yaşanan 300'den fazla silahlı okul saldırısı...

49 yaşındaki yıldız, sözlerine şöyle devam etmişti:

Bu olaylar, siyasi yelpazenin tamamına yayılan ve yüzleşmemiz gereken daha geniş bir şiddet kültürünü gözler önüne seriyor. Zor konularla yüzleşmekten hiçbir zaman kaçınmadım. Keşke bu dizi bugün bu kadar güncel olmasaydı ama ne yazık ki öyle. The Savant, şiddeti gerçekleşmeden önce engellemek için her gün çalışan kahramanları konu alıyor. Onların cesaretini onurlandırmak bugün her zamankinden daha önemli. Apple'ın kararına saygı duysam da dizinin en kısa sürede izleyiciyle buluşmasını umuyorum.

Makaleden ekrana uyarlandı

Dizi, beyaz üstünlükçü grupların bir araya gelerek ülke içindeki terör saldırılarını planladığı çevrimiçi forumlara sızan Jodi Goodwin'in hikayesini anlatıyor. Chastain'in canlandırdığı Jodi, bir asker gazisi, eş ve anne.

Dizi sorumlusu Melissa James Gibson, The Savant'ı Andrea Stanley'nin Cosmopolitan'da yayımlanan "Toplu Bir Silahlı Saldırıyı Gerçekleşmeden Önce Engellemek Mümkün mü?" başlıklı makalesinden uyarladı.

Dizinin ertelendiği gün Variety eleştirmeni Aramide Tinubu, şirketin hata yaptığını savunmuştu. Tinubu, kararı "dev şirketlerin Trump yönetiminden korkup daha herhangi bir baskı gelmeden boyun eğmesinin ürkütücü bir örneği" diye nitelendirmişti.

Karardan 8 gün sonra FBI Direktörü Kash Patel, Chastain'in karakterine ilham veren kişinin görev yaptığı birimi feshettiğini X'ten duyurmuştu.

Uzun bekleyiş son buluyor

Geçen yıldan bu yana akıbeti belirsiz olan yapım için daha önce 2026 kışı veya ilkbaharı işaret edilmişti. Ardından dizinin Temmuz 2026'da prömiyer yapacağı öne sürülmüş ancak bu plan da gerçekleşmemişti.

Dizinin seçim yarışları üzerinde kayda değer bir etkisi olması beklenmese de platformun gösterimi ABD'deki ara seçimlerin sonrasına bırakmayı tercih ettiği belirtiliyor.

Independent Türkçe, Variety, Deadline