Google robotları yapay zeka dil modelleri ile destekleniyor

Google robotları yapay zeka desteği ile mantık ve doğaçlama konusunda yeni beceriler kazanıyor

Robot RT-2
Robot RT-2
TT

Google robotları yapay zeka dil modelleri ile destekleniyor

Robot RT-2
Robot RT-2

Aslan, balina ve dinozor olmak üzere üç plastik figürün bulunduğu masanın önünde tek kollu bir robot duruyordu. Bir mühendis robota “Soyu tükenmiş hayvanı al” komutunu verdi. Robot bir anlığına vızlama sesi çıkardı sonra uzanıp pençesiyle dinozoru aldı.

Daha akıllı robotlar

Geçtiğimiz hafta Kaliforniya eyaletinin Mountain View bölgesinde Google’ın robotik bölümünde podcast’im için yaptığım bir röportaj sırasında katıldığım bu gösteri, yakın zamana kadar imkânsızdı. Robotlar daha önce hiç görmedikleri nesneleri doğru bir şekilde ayırt edemiyorlardı ve ‘soyu tükenmiş hayvan’dan ‘plastik dinozor’a mantıksal bir geçişi nasıl yapacakları konusunda hiçbir yeteneğe sahip değillerdi.

Robotikte, ChatGPT, Bard ve diğer sohbet robotlarına güç veren yapay zeka sisteminin aynısı olan, ‘büyük dil modelleri’ olarak adlandırılan son gelişmeler kullanılarak ilerletilen sessiz bir devrim giderek yaklaşıyor.

Google yakın zamanda robotlarına en son teknolojiye sahip dil ​​modellerini yüklemeye başladı ve onlara yapay zekaların eşdeğer sistemlerini kazandırdı. Bu gizli proje, robotları çok daha akıllı hale getirdi ve onlara yeni anlama ve problem çözme güçleri kazandırdı.

Google’ın RT-2 adı verilen en yeni robot modelinin özel gösterimi sırasında bu ilerlemeye bir göz attım. Cuma günü tanıtılan model, Google yöneticilerinin robotların yapım ve programlanma biçiminde büyük bir sıçrama olarak tanımladığı geleceğe doğru ilk adımı teşkil ediyor.

Google’a bağlı DeepMind’ın robotik başkanı Vincent Vanhoucke, “Bu değişikliğin bir sonucu olarak tüm araştırma programımızı yeniden düşünmek zorunda kaldık. Zira daha önce üzerinde çalıştığımız pek çok şey tamamen geçersiz kılındı” diye anlattı.

Umut verici atılım

Kaliforniya Üniversitesi’nden robotik profesörü Ken Goldberg, robotların hala insan düzeyindeki el becerisi konusunda yetersiz kaldığını ve bazı temel görevlerde başarısız olduğunu, ancak Google’ın robotlara yeni akıl yürütme ve doğaçlama becerileri kazandırmak için yapay zeka dil modellerini kullanmasının umut verici bir atılımı temsil ettiğini söyledi.

Goldberg “Çok etkileyici olan, anlambiliminin robotlarla nasıl ilişkilendirdiğidir. Bu robotik için çok heyecan verici” ifadelerini sözlerine ekledi. Bunun büyüklüğünü anlamak için robotların geleneksel olarak nasıl oluşturulduğu hakkında biraz bilgi sahibi olmak faydalı olacaktır.

Yıllar boyunca, Google ve diğer şirketlerdeki mühendislerin robotları mekanik bir görevi (örneğin hamburger çevirmek) yapması için eğitme yöntemi, onları belirli bir komut listesiyle programlamaya dayanıyordu. Daha sonra mühendisler doğru sonuca ulaşıncaya kadar her seferinde komut ayarlamaları yaparak robota bu görevi tekrar ettiriyordu.

Bu yaklaşım bazı sınırlı kullanımlarda işe yaradı, ancak robotları bu şekilde eğitmek yavaştır ve yoğun emek gerektirir zira gerçek dünya testlerinden çok sayıda veri toplanmasını gerektirdi. Eğer bir robota yeni bir şey yapmayı (mesela hamburger yerine krep çevirmeyi) öğretmek istiyorsanız onu genellikle sıfırdan programlamanız gerekirdi.

Kısmen bu sınırlamalardan dolayı robotik yapılara dayalı robotlar, yazılım tabanlı olanlara göre daha yavaş gelişti. ChatGPT’nin yapımcısı OpenAI, yavaş ilerleme ve yüksek kaliteli eğitim verilerinin eksikliği nedeniyle robot ekibini 2021’de dağıttı. 2017 yılında Google’ın ana şirketi Alphabet, Boston Dynamics robotik yan kuruluşunu sattı.

Ancak son yıllarda Google mühendislerinin aklına ‘Robotları tek seferde tek bir görevi yapacak şekilde programlamak yerine, geniş bir yelpazedeki internet komut dosyaları üzerinde eğitilmiş yapay zeka dil modellerini kullanarak yeni beceriler edinmeye teşvik edersek ne olur?’ fikri geldi.

‘Vizyon ve Eylem’

Şarku’l Avsat’ın The New York Times’tan aktardığına göre Google çalışanı Araştırma Bilimci Karol Hausman, "Bu dil modellerini iki yıl önce keşfetmeye başladılar ve ardından onlarla robotlar arasında bir bağlantı kurmaya başladılar” dedi.

Google, geçtiğimiz yıl duyurduğu PaLM-SayCan projesiyle robotik ve dil modellerini birleştirme çalışmalarına başladı. Proje belli bir seviyede ilgi gördü ancak robotların görüntüleri analiz etme yeteneğinden yoksun olması nedeniyle etkinliği sınırlıydı ve bu, eğer dünyayı dolaşacaklarsa sahip olmaları gereken bir beceriydi. Bu robotlar çeşitli görevleri yerine getirmek için ayrıntılı ve yapılandırılmış komutlar geliştirmeyi başardılar ancak bu komutları eyleme dönüştüremediler.

Yeni Google robotu RT-2 ise bunu yapabiliyor. Bu nedenle şirket bu robota ‘vizyon-dil-eylem’ modeli veya ‘yalnızca etrafındaki dünyayı görüp analiz etmekle kalmayıp aynı zamanda bir robota nasıl hareket edeceğini öğretebilen bir yapay zeka sistemi’ adını veriyor.

Model bunu, robotun hareketlerini bir sayı dizisine (kodlama adı verilen bir süreç) dönüştürerek ve bu kodları dil modelinde kullanılan aynı eğitim verilerine dahil ederek yapıyor. Sonuç olarak, tıpkı Bard’ın bir şiirdeki veya tarihi konudaki kelimeleri öğrenmesi veya ChatGPT’nin tahmin etmesi gibi, RT-2 de bir robot kolunun bir topu yakalamak veya bir paketi çöpe atmak için nasıl hareket etmesi gerektiğini tahmin edebiliyor.

Hausman “Başka bir deyişle, bu model robotların dilini konuşmayı öğrenebilir” diyor.

Bir saat süren gösteride blog ortağım ve ben RT-2’nin bir dizi etkileyici görevi yerine getirmesini izledik. Başarılı görevlerde karmaşık komutlar yerine getirildi. Bunlardan birinde robot, bir Volkswagen otobüsünün modelini bulup birkaç metre ötedeki minyatür bir Alman bayrağına götürerek ‘Volkswagen’i Alman Bayrağı’na Taşı’ işlemini başardı.

Robot ayrıca İngilizce dışındaki dillerdeki talimatları takip etme ve hatta ilgili ilkeler arasındaki teorik ilişkileri bulma yeteneğini de gösterdi. RT-2’nin topu yakalamasını istediğimde kendisine ‘Lionel Messi’yi yakala’ dedim ve o da ilk denemede bu görevi yerine getirmeyi başardı.

Ancak robot mükemmel değildi ve önündeki masanın üzerine konulan meşrubatın aromasını yanlış tanımladı. (Şişe limonla tatlandırılmıştı ama robot portakalı olduğunu belirtti) Başka bir denemede, masada ne tür bir meyve olduğu sorulduğunda robot ‘beyaz’ yanıtı verdi ancak cevap muzdu. Bir Google sözcüsü, robotun Wi-Fi bağlantısı bir süredir kesik olduğu için önceki test sorusuna verilen yanıtı kullandığını söyleyerek hatanın nedenini açıkladı.

Google şu anda RT-2’yi daha büyük ölçekte satmayı veya kullanıma sunmayı planlamıyor. Ancak araştırmacılar, dil modelleriyle donatılmış bu yeni makinelerin, nihayet eğlenceli numaraların ötesine geçen görevleri yerine getirmede son derece etkili olacağına inanıyor. Bu robotlar, örneğin depolarda, tıp alanında, hatta çamaşır katlama, bulaşık makinesini boşaltma veya evi toplama gibi ev işlerinde yardımcı olarak çalışabilirler.

Vincent Vanhoucke “Bu gelişme, robotların ofis, ev gibi insanın var olduğu ortamlarda ve fiziksel görev gerektirebilecek her yerde kullanılmasının kapısını aralıyor” ifadeleri ile sözlerini sonlandırdı.



İnternet güvenliğine yapay zeka darbesi: Google kritik programı durdurdu

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

İnternet güvenliğine yapay zeka darbesi: Google kritik programı durdurdu

Fotoğraf: Reuters
Fotoğraf: Reuters

Yapay zeka, güvenlik araştırmacılarının interneti ve teknolojimizi güvende tutmak için kullandığı temel yöntemlerden birini sekteye uğratıyor.

Google, yapay zeka nedeniyle artık sürdürülemediği için kritik güvenlik programlarından birini geçici olarak kapatacağını geçen hafta duyurdu.

Şirket, açık kaynaklı yazılımlardaki kritik güvenlik açıklarını tespit etmeye odaklanan "Güvenlik Açığı Ödül Programları"ndan birini askıya aldığını açıkladı. Genellikle "hata ödül programları" (bug bounty) diye bilinen bu programlar, hackerları yazılımlardaki sorunları şirketlere bildirmeye teşvik ediyor. Amaç, güvenlik açıklarını hackerlar bunlardan yararlanmadan önce gidermek.

Bu programlar, siber güvenlik araştırmacılarının çalışmaları karşılığında ödüllendirilmesinin önemli bir yolunu sunuyor. Ayrıca onları, buldukları hataları kendi saldırılarını düzenlemek için kullanmak yerine güvenlik sorunlarının giderilmesine yardımcı olmaya teşvik ediyor. Çoğu büyük teknoloji şirketi, yazılımlarını ve platformlarını korumadaki önemini göz önünde bulundurarak bu tür hata ödül programlarını kendileri yürütüyor.

Ancak Google, yapay zekanın rapor göndermeyi kolaylaştırması nedeniyle bu programlardan birini geçici olarak donduracağını açıkladı. Şirket, X'te paylaştığı gönderide "Bu duraklama, büyük çoğunluğu geçerli olmayan otomatik gönderimlerde yaşanan kayda değer artıştan kaynaklanıyor" diye yazdı.

Bu haber, yapay zekanın çevrimiçi güvenliği ciddi tehlikeye atabileceğine dair endişelerin giderek arttığı bir dönemde geldi. Bu endişelerin büyük kısmı, güçlü ve yeni modellerin yazılımdaki güvenlik açıklarını bulmayı kolaylaştırması ve bu açıkların daha sonra hackerler tarafından suiistimal edilebilmesine odaklanıyor. Ancak Google'ın açıklaması, yapay zekanın yaygınlaşmasının başka zararlı etkileri de olabileceğini gösteriyor.

Google, hata ödül programını askıya alan tek şirket değil. Çünkü çok az çaba gerektiren ve genellikle hatalı raporların sayısında yaşanan fırlama, mühendislerin gerçek sorunları bulup düzeltemeyecek kadar yük altında kalmasına yol açıyor. Linux'ın kurucusu Linus Torvalds önceki aylarda, "ardı arkası kesilmeyen yapay zeka raporlarının" güvenlik çalışmalarını "neredeyse yönetilemez" hale getirdiğini söylemişti. Intel ise geçen ay, hata bildirimleri için 100 bin dolara kadar ödül veren benzer bir programı kapatmış gibi görünüyordu. Ancak şirket, gerekçe olarak yapay zekayı açıkça belirtmemişti.

Independent Türkçe


ChatGPT artık daha fazla reklam gösterecek

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

ChatGPT artık daha fazla reklam gösterecek

Fotoğraf: Reuters
Fotoğraf: Reuters

ChatGPT kullanıcıları yakında çok daha fazla reklamla karşılaşabilir.

OpenAI, bu yıl ChatGPT içinde reklam göstermeyi denemeye başlamış, başlangıçta kapsamı sınırlı tutsa da zamanla daha fazla bölgede daha fazla kullanıcıya ulaşacak şekilde genişletmişti. Şirket, ücretsiz hizmetlerini sürdürmek için gereken altyapı ve yatırım maliyetlerini karşılamak adına reklam göstermenin gerekli olduğunu defalarca öne sürdü.

Reklamlar, verilen yanıtın altında ve yanıt içeriğinden ayrı bir şekilde gösteriliyor. Ancak şirket artık ChatGPT resim oluşturduğunda devreye girecek yeni bir görsel formatla bu uygulamayı genişlettiğini belirtiyor.

Reklamlar ilk aşamada ABD'de sınırlı sayıda reklam verenle denenmeye başlanacak. Bununla birlikte ChatGPT, reklamların zamanla diğer ülkelere ve reklam verenlere yayılacağını, sadece görsel oluşturma süreçlerinde değil, başka alanlarda da karşımıza çıkabileceğini ima etti.

Şirket reklamların açıkça etiketleneceğini, oluşturulan görselden ayrı tutulacağını ve ChatGPT'nin verdiği yanıtları etkilemeyeceğini vurguladı. Ayrıca ChatGPT'nin reklamların "duygusal açıdan savunmasız, hassas veya başka nedenlerle uygunsuz bağlamlar" gibi sakıncalı durumlarda görünmesini engelleyen bir dizi güvenlik önlemine sahip olduğunu da belirtti.

OpenAI, reklamlar için yeni görsel formatı duyururken, daha fazla reklam türü ve formatının da yolda olduğunun sinyalini verdi. Şirket, "İşletmelerin müşterilere yararlı ve ilgili yollarla ulaşmasına yardımcı olmak, her ölçekten işletmeye büyüme ve gelişme fırsatları sunmak amacıyla reklam platformumuzu yeni format ve yeteneklerle geliştirmeye devam edeceğiz" açıklamasında bulundu.

OpenAI, daha fazla kişinin yapay zeka araçlarına erişimini finanse etmenin bir yolu olarak reklamlarını öne çıkardı ve bu sayede insanların abonelik ücreti ödemeden sistemlerine erişebildiğini savundu. Yapay zeka sistemleriyle görsel üretmek, şu anda özellikle maliyetli bir işlem.

Öte yandan bu hamle, şirketin planlanan halka arz süreciyle ve ürünlerinin (ki bunların işletilmesi şirkete her yıl onlarca milyar dolara mal oluyor) geniş çaplı kullanımını kâra dönüştürüp dönüştüremeyeceğine dair soru işaretleri gündemdeyken geldi.

Independent Türkçe


Wikipedia'daki kesintinin nedeni OpenAI botları çıktı

Fotoğraf: AFP
Fotoğraf: AFP
TT

Wikipedia'daki kesintinin nedeni OpenAI botları çıktı

Fotoğraf: AFP
Fotoğraf: AFP

Wikipedia'yı bünyesinde barındıran Wikimedia Vakfı, çevrimiçi ansiklopedide mayısta yaşanan kesintinin, "kontrolden çıkmış" OpenAI ajanlarından gelen milyonlarca otomatik veri talebinin de dahil olduğu yoğun trafikten kaynaklandığını açıkladı.

Wikimedia pazartesi günü yaptığı açıklamada 7 Mayıs'taki kısmi kesintinin, milyonlarca sayfayı ziyaret eden ve yüzbinlerce veri talebinde bulunan yapay zeka ajanları tarafından tetiklendiğini belirtti.

Vakıf, "OpenAI'ın işlettiğini düşündüğümüz ajanlar, Wikimedia projelerindeki bilgilere erişmek için halka açık API'larımıza milyonlarca otomatik istek gönderdi, milyonlarca sayfayı taradı ve Vikiveri Sorgu Hizmeti'ne yüzbinlerce veri talebinde bulundu" ifadelerini kullandı.

'Kontrolden çıkmış' yapay zeka ajanlarının, bizimki gibi platformlar üzerinde yaratacağı etkiden derin endişe duyuyoruz.

Vakıf, OpenAI ajanlarının Wikipedia sitelerinde izinsiz değişiklikler bile yaptığını ve bunlar arasında, atıf yapma aracı Etherpad'e yönelik "potansiyel olarak kötü niyetli düzenlemelerin" de yer aldığını ifade etti.

Wikimedia, "neler yaşanmış olabileceği, bu faaliyeti soruşturup kaynağını belirlemenin zorluğu ve bunun için gereken çabanın yanı sıra genel olarak platformlarımızdaki ajan tabanlı yapay zeka faaliyetlerinin artan risklerine dair endişe duyduğunu" belirtti.

Vakıf, "Bu davranışın, bunu sürdüren kişiler veya kuruluşlar için 'yeni normal' haline gelmesine izin vermemeliyiz" diye ekledi.

Yapay zeka sektörü son aylarda birden fazla ciddi güvenlik olayıyla sarsılırken, bunların ilki olan Hugging Face ihlalinde OpenAI ajanları temmuzda kendi başlarına başka bir yapay zeka şirketini hacklemişti.

Aynı ayın ilerleyen günlerinde Anthropic, yapay zeka modellerinin testler sırasında üç başka kuruluşu hacklediğini açıklamıştı.

Daha yakın zamanda ise OpenAI, ajanlarının Amerikan hükümetine ait birkaç internet sitesiyle beklenmedik şekillerde etkileşime girdiğini tespit ettiğini eylülde duyurmuştu.

OpenAI, kontrolden çıkmış yapay zeka ajanlarından birinin haziranda Avustralya hükümetine ait internet sitelerine izinsiz erişim sağlamasının ardından salı günü yaptığı açıklamada, eylemlerinin "yeterince iyi olmadığını" kabul etti.

Şirketin strateji başkanı Jason Kwon, "Özür dileriz ve Avustralya halkının güvenini yeniden kazanmak için yapacak çok işimiz olduğunu biliyoruz. Bu işi yapmaya kararlıyız" dedi.

Bu olaylar üzerine sektör uzmanları, yapay zeka güvenlik açıklarına yönelik daha fazla araştırma yapılması ve bu teknolojideki hızlı gelişimin yavaşlatılması çağrısında bulundu.

İhlallerin ardından OpenAI, önceki modellerine kıyasla "daha yüksek düzeyde aldatma" sergilediğini iddia ettiği en yeni yapay zeka modelinin çıkışını erteledi.

Şirket, kayıtlarını ay ay gözden geçirerek "çoktan tespit ettikleri vakaların dışında olası istem dışı faaliyetleri araştırmak" için günde yarım milyon dolardan fazla harcama yaptığını açıklamıştı.

OpenAI, Wikimedia'nın 7 Mayıs'taki olayla ilgili "ayrıntılı bulgularını" takdir ettiğini ve kuruluşla birlikte çalışarak botlarının faaliyetlerini incelediğini belirtti.

Şirketin sözcüsü Drew Pusateri, "Bu çalışma ilerledikçe konuyla ilgili bilgileri paylaşmaya devam edeceğiz" dedi.

Wikimedia yaptığı açıklamada, "Yapay zeka şirketleri, sistemlerinin güvenliğini sağlamak ve neden oldukları zararlardan kamuoyunu korumak için yeterince çaba göstermiyor" diyerek "bu yükün, daha küçük kuruluşlar da dahil diğer herkesin omuzlarına bindiği" uyarısında bulundu.

Altyapımız üzerindeki bu yoğun baskı, sadece sunucular ve insan gücü maliyetlerini artırmakla kalmıyor, önlem alınmaması halinde sistemleri aşırı yükleyip kesintilere yol açarak kullanıcıların erişimini de engelleyebiliyor.

Kurum, "Bunun gibi olaylar ve geçmişte ortaya çıkarılan ve hâlâ ortaya çıkarılan pek çok diğer olay, yapay zeka ajanlarının kaynakları nasıl tüketip sunucuları çökertebileceğini ve güvenilir bilgilerin bütünlüğünü bozmaya çalışabileceğini gösteriyor" uyarısında bulunarak OpenAI'ı, "bu riskleri izleyip önleme sorumluluğunu kabul etmeye" çağırdı.

Independent Türkçe