عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

Microsoft kesintisi... Daha fazla bağlantı kurarken iletişim kurma becerimizi mi kaybediyoruz?

Teknik arızalar, alışageldiğimiz uygulamaların dışında insanlarla iletişim kurabilme kapasitemize ilişkin soru işaretleri doğuruyor (Adobe)
Teknik arızalar, alışageldiğimiz uygulamaların dışında insanlarla iletişim kurabilme kapasitemize ilişkin soru işaretleri doğuruyor (Adobe)
TT
TT

Microsoft kesintisi... Daha fazla bağlantı kurarken iletişim kurma becerimizi mi kaybediyoruz?

Teknik arızalar, alışageldiğimiz uygulamaların dışında insanlarla iletişim kurabilme kapasitemize ilişkin soru işaretleri doğuruyor (Adobe)
Teknik arızalar, alışageldiğimiz uygulamaların dışında insanlarla iletişim kurabilme kapasitemize ilişkin soru işaretleri doğuruyor (Adobe)

Hayal edin: Her zamanki gibi bir iş gününe başlıyorsunuz ancak e-posta gönderemediğinizi, iş arkadaşlarınızla Teams üzerinden iletişim kuramadığınızı veya ihtiyaç duyduğunuz dosyalara erişemediğinizi fark ediyorsunuz. Bilgisayarınız çalışıyor, internet bağlantınız kesilmemiş; ancak işlerinizi yürütmek için ihtiyaç duyduğunuz hizmetler cevap vermiyor. Hatta iletişim kurabileceğiniz pek çok araç bulunmasına rağmen, alışık olduğunuz platformun dışında ihtiyaç duyduğunuz kişiye nasıl ulaşacağınızı bilemediğinizi fark ediyorsunuz.

12 Kasım 2026'da Microsoft hizmetlerinde meydana gelen ve etkileri ertesi güne de uzanan geniş çaplı kesinti, teknik sorunun ötesinde bir soruyu yeniden gündeme getirdi: İletişim araçlarının çoğalması bizi birbirimizle iletişim kurma konusunda daha mı yetkin hâle getirdi, yoksa bu sistemleri sağlayan altyapılara daha mı bağımlı kıldı?

Outlook ve Teams'in yanı sıra Microsoft 365 ekosistemine bağlı diğer uygulamalar da kesintiden etkilendi. Bu durum, yazışma, toplantı ve bilgi paylaşımı için söz konusu hizmetlere güvenen kullanıcıların ve kurumların işleyişini aksattı.

Her zaman bağlantıdayız... Ama tek bir platform üzerinden

Son yıllarda iş hayatında iletişim hiç olmadığı kadar kolaylaştı. Farklı ülkelerde çalışanlar saniyeler içinde toplantı düzenleyebiliyor, dosyaları anında paylaşabiliyor, yazışmaları ve projeleri tek bir cihaz üzerinden takip edebiliyor.

Ancak bu kolaylık, dikkat çekici bir çelişkiyi de beraberinde getiriyor. Birden fazla uygulama kullandığımızı ve farklı seçeneklere sahip olduğumuzu düşünüyoruz. Oysa bu uygulamaların tamamı ortak bir teknolojik altyapıya dayanabiliyor. Söz konusu altyapı devre dışı kaldığında, aynı anda birden fazla iletişim aracını kaybedebiliyoruz.

Artık mesele yalnızca e-postanın kesilmesi değil. İşlerimizin ve mesleki ilişkilerimizin, çalışması veya yeniden devreye alınması üzerinde doğrudan kontrol sahibi olmadığımız hizmetlere ne ölçüde bağlı olduğu da önem taşıyor.

Birbirimize nasıl ulaşacağımızı biliyor muyuz?

Yıllardır bir iş arkadaşımızla Teams üzerinden iletişim kurduğumuzu düşünelim. Peki, telefon numarasına sahip miyiz? Mesajlaşma platformu aniden devre dışı kalırsa çalışma ekibimiz nasıl hareket edeceğini biliyor mu? Ya iletişim listesi ve kesinti sırasında yapılması gerekenlere ilişkin talimatlar, tam da erişilemeyen sistemin içinde kayıtlıysa?

Bunlar geçmişe dönme çağrısı değil. Aksine, her gün kullandığımız uygulamalardan bağımsız iletişim kanallarını koruyabilme kapasitemize ilişkin sorular.

Başkalarına ulaşmak, çoğu zaman alternatif iletişim araçlarından ziyade onların dijital hesaplarına bağlı hâle geldi. Bir mesaj gönderiyor ve yerine ulaşacağını varsayıyoruz. Toplantı planlıyor ve bağlantının çalışacağına güveniyoruz. Bilgilerimizi ise sürekli erişilebilir olacağını düşündüğümüz platformlarda saklıyoruz.

Oysa iletişim bir uygulamayla başlamaz ve onunla sona ermez. Bir kişiye ulaşabilmek, onunla bilgi paylaşabilmek ve alışılmış iletişim yöntemi kullanılamadığında harekete geçebilmek, her türlü mesleki ve insani ilişkinin temel unsurları olmaya devam ediyor.

Kolaylık ne zaman bağımlılığa dönüşüyor?

Dijital platformların çalışma biçimimizi geliştirdiği, mesafeleri ortadan kaldırmaya ve zamandan tasarruf etmeye yardımcı olduğu tartışılmaz. Ancak bu hizmetler birbirleriyle daha fazla entegre oldukça, tek bir arızanın birden fazla işlevi etkileme ihtimali de artıyor.

Yapay zekânın e-posta, toplantı, dosya yönetimi ve görevlerin yürütülmesi gibi alanlara girmesiyle bu bağımlılık ağı daha da genişliyor. Temel bir hizmetin devre dışı kalması, tamamen farklı işlevlere sahip olsa bile ona dayanan diğer araçların da çalışmasını engelleyebiliyor.

Bu, çözümün daha fazla uygulama kullanmak olduğu anlamına gelmiyor. Çünkü farklı arayüzlere sahip olmak, bunların üzerinde çalıştığı altyapıların birbirinden bağımsız olduğunu garanti etmiyor. Aynı şekilde teknolojiden vazgeçmek de gerekmiyor. Önemli olan, alternatifleri önceden düşünmek ve temel hizmetler devre dışı kaldığında nelerin çalışmaya devam edebileceğini bilmek.

İletişim teknolojiden daha fazlasıdır

Microsoft kesintisi, teknik ekiplerin müdahalesiyle giderilen ve hizmetlerin yeniden normale dönmesiyle sona eren geçici bir operasyonel sorun olarak değerlendirilebilir. Ancak bu olay, başkalarıyla iletişim kurma biçimimizi nasıl şekillendirdiğimiz üzerine düşünmek için de bir fırsat sunuyor.

Teknolojik ilerleme, insanlara ulaşma hızımızı daha önce görülmemiş ölçüde artırdı. Ancak bu kapasitenin her koşulda kullanılabilir kalacağını garanti etmiyor. Onlarca uygulamaya sahip olmakla ihtiyaç duyduğumuz insanlara ulaşabileceğimiz gerçek bir iletişim kanalını korumak arasında, ancak hizmetler durduğunda farkına vardığımız önemli bir ayrım olabilir.

Belki de bu kesintinin ardından sorulması gereken en önemli soru, e-postanın veya çevrim içi toplantıların ne zaman yeniden çalışacağı değil, çok daha basit bir şey: Yarın kullandığımız uygulamalar devre dışı kalırsa, kaç kişiye hâlâ ulaşabiliriz?

TEKNOLOJİ

Apple, Siri'yi hayatınızı yönetecek bir araca dönüştürmeyi planlıyor

20 Eylül 2024'te New York'taki Apple Store'da çekilmiş iPhone fotoğrafı (AFP)
20 Eylül 2024'te New York'taki Apple Store'da çekilmiş iPhone fotoğrafı (AFP)
TT
TT

Apple, Siri'yi hayatınızı yönetecek bir araca dönüştürmeyi planlıyor

20 Eylül 2024'te New York'taki Apple Store'da çekilmiş iPhone fotoğrafı (AFP)
20 Eylül 2024'te New York'taki Apple Store'da çekilmiş iPhone fotoğrafı (AFP)

Yeni haberlere göre Apple, Siri'yi hayatınızı yönetebilecek bir yapay zeka ajanına dönüştürmeyi planlıyor.

iPhone üreticisinin bu yıl duyurduğu yeni güncellemeyle sesli asistan baştan aşağı yenilendi ve yapay zeka destekli bir dizi yeni özellik kazandı. Artık Siri, örneğin kullanıcıların kişisel bağlamlarından bilgi alabilmenin yanı sıra dünyayla ilgili soruları da yanıtlayabiliyor.

Ancak Bloomberg'ün yeni haberine göre Apple, sahibi adına hareket edebilmesi için araca daha fazla güncelleme eklemeyi planlıyor. Haberde, bu değişikliklerin gelecek yıl hayata geçebileceği öne sürülüyor.

Bu hamle, Apple'ın OpenAI, SpaceXAI ve Muse'un son zamanlarda sunduğu güncellemelerle rekabet etmesini sağlayabilir. Muse, sohbet botu aracılığıyla çalışan ancak bilet rezervasyonu yapmak veya toplantıların tarihini değiştirmek gibi işlemlerde sahibi adına proaktif adımlar atabilen yeni Muse sistemiyle özellikle dikkatleri ve kullanıcıları kendine çekti.

Apple bunu gerçekleştirmek için yürüttüğü çalışmaların bir kısmını şimdiden paylaşmış olabilir. Örneğin geçen hafta, Siri'nin uygulamalar arasında işlem yapabilmesi için tüm uygulamaların sisteme erişmesine izin vereceğini duyurmuştu.

Siri'ye yapılan son güncellemelerde de bu hedefe ulaşmayı kolaylaştırabilecek başka özellikler eklendi. Örneğin ekim sonlarına doğru yayımlanan son iOS 27.2 güncellemesi, Siri'ye daha iyi bir hafıza kazandırarak önceki konuşmalardaki kullanışlı bilgileri hatırlayabilmesini sağladı.

Ancak bu son gelen ve gelecek değişikliklere rağmen Siri'de rakiplerinin sunduğu temel özellikler hâlâ eksik. SpaceXAI'ın GrokBot'u ve OpenAI'ın Dots'u da dahil en güçlü rakipleri, örneğin kullanıcının izlemesine gerek kalmadan uzun vadeli hedefleri takip edip uzun ve karmaşık görevleri yerine getirebiliyor.

Bloomberg'ün haberine göre Apple da Siri'yi benzer bir yöne doğru götürmeyi planlıyor. Haberde bu gelişmenin "gelecek yıl kadar erken bir tarihte" gerçekleşebileceği öne sürülse de bu tür ajanlara yönelik halihazırda yaygın ve artan bir ilgi olduğu düşünülürse, şirketin bu zaman çizelgesine uymak zorunda kalabileceği de belirtiliyor.

Ancak Siri'yi daha proaktif hale getirmek ve diğer asistanlara benzetmek bir dizi zorluk yaratabilir. Diğer sistemler, kullanıcıların istemediği eylemlerde bulundukları için zaman zaman eleştirilere maruz kalıyor. Apple da sesli asistanını, Meta'nın Muse'u gibi sevimli bir tasarıma sahip ancak bazen müdahaleci davranan, arkadaş benzeri bir şeye dönüştürmek istemediğini ve gizlilikle güvenliğe verdiği önemi sürdüreceğini defalarca vurguladı.

Yeni CEO John Ternus, Apple'ın geçen hafta yapılan son kazanç toplantısında Apple'ın Siri ve yapay zeka özellikleri üzerindeki çalışmalarına büyük ölçüde olumlu yaklaşmıştı. Ancak aynı etkinlikte, Siri'nin gelecekte yapay zeka ajanları gibi bir yapıya bürünme olasılığı sorulduğunda yaptığı açıklamalarda diğer endişelerin bir kısmını kabul ettiği görülmüştü.

Ternus, sistemin "şu anda esasen kullanıcıların talepleri doğrultusunda çalıştığını" ancak "zaman içinde yeteneklerini önemli ölçüde geliştirmeye imkan tanıyan" bir mimari üzerine inşa edildiğini söylemişti. "Yapay zeka ajanlarının sahip olduğu yeteneklere gelince, bunların kullanıcılar için umut vaat ettiğini düşünüyoruz" demişti.

CEO, "Sadece kullanıcıların nelere erişim izni verdiklerini bilmelerini istiyoruz" ifadelerini kullanmıştı.

Bunun, güvenliği ve gizliliği koruyacak şekilde yapıldığından emin olmak istiyoruz.

Independent Türkçe

TEKNOLOJİ

Anthropic'in yapay zekası kendi gelişimini bir yılda iki kat hızlandırdı

(Reuters)
(Reuters)
TT
TT

Anthropic'in yapay zekası kendi gelişimini bir yılda iki kat hızlandırdı

(Reuters)
(Reuters)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson

Yeni bir araştırmada Anthropic'in yapay zeka modellerinin kendi gelişimlerini hızlandırdığı bulundu. Bu durum, kontrolden çıkan yapay zekaya dair endişeleri artırıyor.

Yapay zeka güvenliğini takip eden bir örgütün bağımsız değerlendirmesi, Claude'un geliştiricisinin yapay zeka alanındaki ilerlemesinin bir yıl öncesine kıyasla artık iki kat daha hızlı olduğunu gösterdi.

Kâr amacı gütmeyen Model Değerlendirme ve Tehdit Araştırmaları (METR) kuruluşunun paylaştığı bulgular, Anthropic CEO'su Dario Amodei'nin yapay zekayı geliştirme hızının yavaşlatılması yönünde çağrı yaptığı dönemde geldi.

Teknoloji patronu eylülde yayımladığı "We Must Pace the Frontier" (İlerlemeyi Yavaşlatmalıyız) başlıklı makalede, yapay zeka modellerini güvenli şekilde geliştirmek için üç maddelik bir plan önermişti.

Amodei, "Aşağı yukarı bu yazdan beri yapay zeka, esasen yeni nesil yapay zekayı geliştirme yeteneğinin artması sayesinde çarpıcı bir hızda ilerliyor" diye yazmıştı.

Bu dinamik, özyinelemeli öz gelişim diye adlandırılıyor... Denetlenmediği takdirde teknoloji, bu sistemleri anlama ve kontrol etme yeteneğimizi aşabilir. Bu nedenle eğer devam edilecekse bile, çok dikkatli şekilde ilerlenmeli.

OpenAI CEO'su Sam Altman da o dönemde yaptığı açıklamada "ilerlemeyi yavaşlatmak gerektiğine" katıldığını söylemiş ve Amodei'nin bağımsız değerlendirme uzmanları önerisini "harika bir fikir" diye nitelemişti.

Anthropic, METR'dan araştırmacıları şirket içi verileri incelemeleri ve modellerinin yeteneklerini değerlendirmeleri için davet etmişti.

Perşembe günü yayımlanan raporda, Anthropic'in son bir yılda karşılaştırmalı performans açısından fiilen iki yıllık bir ilerleme kaydettiği belirtiliyor.

Araştırmacılar gelişimdeki bu hızlanmanın, modelleri eğitmek için kullanılan bilgi işlem gücündeki artıştan ziyade, yapay zeka modellerindeki özyinelemeli öz gelişimden kaynaklandığını söylüyor.

Raporda, "Yapay zeka sistemleri, yapay zeka geliştirme sürecini ciddi derecede hızlandırmaya başlarsa, bu durum uç noktada ve riskli yeteneklerin aniden ortaya çıkmasına yol açabilir" ifadeleri yer alıyor.

Araştırmacılar ayrıca yapay zeka geliştirmenin en kritik kısımlarının denetiminde hâlâ insanlara ihtiyaç duyulduğunu ancak bu durumun yakında değişebileceğini de belirtiyor.

Ekip, "Yapay zekanın, model eğitim sürecinin en önemli kısımlarına henüz büyük önem taşıyan ve tamamen özerk katkılar sağlayamadığını biliyoruz" diye yazıyor.

Ancak araştırmacılar, bu tür katkıların yakında gerçekleşebileceğini ima eden önemli 'yaşam belirtileri' tanımladı. Fakat bu katkıların olgunluk düzeyi, alana bağlı olarak ciddi farklılık gösterebilir.

Independent Türkçe, independent.co.uk/tech