Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktühttps://turkish.aawsat.com/teknoloji%CC%87/5011551-bilim-insanlar%C4%B1-yapay-zekan%C4%B1n-usta-i%C5%9Fi-yalanlar%C4%B1n%C4%B1-ortaya-d%C3%B6kt%C3%BC
Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu.
Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.
Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.
Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti.
Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:
Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.
Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.
Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.
Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.
Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:
Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.
Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.
MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:
Aldatma, hedeflerine ulaşmalarını sağlıyor.
Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:
Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.
Teknoloji endüstrisi, sadece yapay zekayı (AI) geliştirmekle kalmayıp, onun anahtarlarını ele geçirmek için de kıyasıya bir rekabete tanık oluyor. Bu alanda uzmanlaşmış yeni kurulan şirketler stratejik hedefler haline gelirken büyük teknoloji şirketleri tarafından tıpkı profesyonel oyuncuların henüz keşfedilmemiş değerli bir hazineyi takip etmesi gibi büyük bir iştah ve açgözlülükle takip ediliyorlar.
Son birkaç aydır teknoloji devleri tarafından satın alma ve devralma işlemlerinde daha önce eşi ve benzeri görülmemiş bir artış yaşandı. Microsoft, OpenAI ve Inflection'a sağladığı finansmanı artırırken, Apple akıllı arama şirketi Perplexity AI ile ileri düzeyde görüşmelere başladı. META ise ses klonlama konusunda uzman Play AI şirketini satın almak için görüşmeler yapmakla kalmadı, aynı zamanda yapay zeka modellerini eğitmek için devasa veri merkezleri inşa etmek üzere 29 milyar dolarlık finansman sağlamaya çalışıyor.
Ancak yapay zeka yarışını sarsan en büyük sürpriz Mark Zuckerberg'den geldi. Cesur ve riskli bir adım atan META CEO'su Zuckerberg, Scale AI şirketinin yüzde 49'unu 14,3 milyar dolar karşılığında satın almaya karar verdi ve şirketin genç kurucusu Alexander Wang'ı META bünyesindeki yeni yapay zeka laboratuvarının başına getirdi. Bu geleneksel bir ticari anlaşma değil, META'nın rakiplerinin çok gerisinde kaldığını hissettiği bir anda yapılan stratejik bir hamleydi.
Yapay zeka sektörünü kasıp kavuran yoğun satın alma dalgası, sadece geçici soru işaretlerine değil aynı zamanda dijital çağda inovasyonun geleceği ve rekabetin doğasının özüne dokunan derin zorlukları da ortaya koyuyor. Startup şirketlerinin değişimin kıvılcımı ve yaratıcılığın itici gücü olması gerekirken, bu satın alma telaşı onları devlerin cephaneliğine eklenen varlıklara dönüştürme tehdidini beraberinde getiriyor. Bu da onların deneme özgürlüğünü kısıtlayabilir ve girişimcilik ruhunu boğabilir.
Peki, bu gelecek vaat eden küçük şirketler, büyük şirketlerin ticari çıkarlarınca yönlendirilen ve serbest araştırma ve geliştirme tutkusundan uzaklaşan ‘iç laboratuvarlar’ haline mi dönüşecek? Dahası, bu satın almalar teknoloji tekeli gibi ciddi bir tehlike oluşturuyor. Yapay zeka geliştirme alanındaki muazzam yetenekler – ham verilerden karmaşık algoritmalara kadar – az sayıda şirketin elinde yoğunlaştığında, çeşitlilikten yoksun ve yeni oyuncuların pazara giriş fırsatlarını kısıtlayan kapalı bir teknoloji ekosistemi yaratma riskiyle karşı karşıya kalırız.
Bu tekel, adil rekabeti tehdit etmekle kalmaz, aynı zamanda tüm küresel ekonomiyi yeniden şekillendirerek, sınırlı sayıda şirketin kararlarına ve gündemlerine bağımlı hale getirebilir. Bu durum, hayatımızın çeşitli yönleri için artık temel hale gelen bu teknolojilere erişim, adalet ve şeffaflık konusunda ciddi endişelere yol açıyor.
Yapay zeka devriminin gizli gücü Scale AI
Scale AI artık veri sektöründe sadece bir girişim şirketi değil, yapay zeka modellerini eğitmek için küresel sistemin dayandığı hayati altyapı sütunlarından biri haline geldi. ChatGPT, Llama ve Gemini gibi gelişmiş modeller güçlü algoritmalara dayanıyor olsa da bunların gerçek gücü yüksek kaliteli sınıflandırılmış verilerden kaynaklanıyor. Bu veriler şu an sadece bir avuç şirketin tekelinde olan dar bir pazar oluşturuyor ve Scale AI bu pazarda başı çekiyor.
Scale AI'nın önemi, salt ticari işlemlerin ötesinde. Öyle ki Şirketin kurucusu Alexander Wang, 2023 yılında Utah eyaletinde ABD Savunma Bakanlığı yetkilileri ve yapay zeka sektörünün önde gelen isimlerini bir araya getiren kapalı bir etkinlik düzenledi.
Şirket, Kenya'dan Filipinler'e ve Venezuela'ya kadar uzanan küresel bir yüklenici ağına sahip. Bu ağ, verileri son derece hassas bir şekilde manuel olarak sınıflandırıyor. Çalışmaları, resimlerdeki nesneleri ayırt etmekten, videoların içeriğini boşaltmaya, metinleri ve form cevaplarını insan beslemeli güçlendirilmiş öğrenme teknolojisi çerçevesinde değerlendirmeye kadar çeşitlilik gösteriyor. ChatGPT'ye insan gibi anlama yeteneği kazandıran bu teknoloji, onu kullanıcılar için daha akıcı hale getirdi. Scale AI'yı değerli kılan da bu. Scale AI sadece bir veri sağlayıcı değil, aynı zamanda internetten kopyalanamayacak, hassas bir şekilde eğitilmiş içerik üretmek için bir operasyonel yapıdır.
Scale AI, manuel olarak yapılan sınıflandırmanın yanı sıra model test araçları, endüstriyel veri üretimi ve hassas kalite kontrol mekanizmaları içeren entegre bir sistem sunar. Bu da onu OpenAI, Google, Microsoft, Amazon ve hatta xAI gibi yapay zeka devlerinin başlıca ortağı haline getirdi. Business Insider’ın şirket içinden sızan bilgilere göre Google'ın tek başına Scale AI'nın yıllık gelirinin yaklaşık yüzde 20'sini oluşturduğu ve sadece bir yılda 150 milyon dolarlık bir bütçeyle yapay zeka alanında 38'den fazla aktif proje yürüttüğünü aktarması da bunun bir kanıtı.
Şarku’l Avsat’ın Al Majalla’dan aktardığı analize göre Scale AI'nın önemi, salt ticari işlemlerin ötesinde. Öyle ki Şirketin kurucusu Alexander Wang, 2023 yılında Utah eyaletinde ABD Savunma Bakanlığı yetkilileri ve yapay zeka sektörünün önde gelen isimlerini bir araya getiren kapalı bir etkinlik düzenledi. Etkinlikte, yapay zeka güvenliği ve Çin ile teknoloji yarışı konuları ele alındı. Bu dönüşüm şirketin stratejik konumunun güçlendiğini yansıtıyor. Şirket, artık teknolojik inovasyon ile Washington'daki güvenlik yetkilileri arasında bir köprü görevi görüyor.
META'nın merkezinde farklı vizyonlar
Tüm bunlar çerçevesinde META'nın Scale AI'ya yaptığı 14,3 milyar dolarlık yatırım sadece ticari bir anlaşma değil, şirket içindeki güç yapısında köklü bir dönüşümdü. Zuckerberg sadece bir veri şirketi satın almadı, aynı zamanda teknik altyapı, küresel bir insan ağı ve Washington'daki karar alma çevrelerinde doğrudan etkili olan entegre bir yapay zeka işletim sistemi de elde etti. Bu anlamda Scale AI, bir startup şirketi olmanın ötesine geçerek, META'nın son yıllarda yaşadığı zayıflıkları telafi eden stratejik bir varlık haline geldi.
Scale AI CEO'su Alexander Wang, ABD Temsilciler Meclisi Silahlı Kuvvetler Alt Komitesi'nde siber güvenlik, bilgi teknolojisi ve inovasyon konularında ifade verdi (Reuters)
Ancak bu anlaşmanın arkasında, sadece bir teknoloji projesinin yönetilmesinden daha derin bir çatışma yatıyor. Scale AI'nın genç kurucusu ve bugün META'nın yapay zeka projesinin başındaki isim olan Alexander Wang ile şirketin baş bilim adamı ve Turing Ödülü (bilgisayar bilimlerinde en prestijli ödül) sahibi Yann LeCun arasındaki çatışma, sadece iki nesil arasındaki rekabeti değil, iki farklı vizyonun çarpışmasını da yansıtıyor.
Modern sinir ağları (makine öğrenimi) modellerinin akademik babası olan Le, büyük dil modellerine karşı ihtiyatlı bir tutum sergiliyor ve bunları üstün zekaya ulaşmak için güvenilir bir yol olarak görmüyor. Bilgiyi uzun süre boyunca araştırmayı, bilimsel olarak doğrulamayı ve temel teoriler üzerine inşa etmeyi tercih ediyor. Wang ise Silikon Vadisi'ndeki yeni nesil yapay zeka öncülerini temsil ediyor. Pratik, hızlı ve genişlemeye hevesli bir nesil, piyasayı ve saha sonuçlarını değerlendirme kriteri olarak görüyor.
Metotlar arasındaki bu farklılık, Zuckerberg’i muhafazakar bir araştırma vizyonundan, hazır yetenekleri satın almaya ve sermayeyi bir hakimiyet aracı olarak kullanmaya dayanan saldırgan bir yaklaşıma geçmek arasında seçim yapmak zorunda bıraktı. Bu yüzden Zuckerberg, en önde gelen isimleri şirketine çekmek için 100 milyon dolara varan astronomik mali teklifler sunan ve onun her zaman şiddetle karşı çıktığı, gerçek bilimsel yolu bozduğunu düşündüğü bir strateji olan ‘Zuck Bucks’ olarak bilinen programı başlattı.
Apple ve Google arasındaki ortaklık anlaşması, Google arama motorunu Safari tarayıcısında varsayılan seçenek haline getirerek ek bir endişe kaynağı oldu.
Zuckerberg sadece araçlara veya verilere yönelmedi, aynı zmanda META içinde tamamen farklı bir yaklaşımı temsil eden birini seçti. Alexander Wang, pratik geçmişi ve akademik çevrelerin dışında kalan yetenekleri çekme becerisiyle, daha kararlı ve daha az tartışmalı yeni bir yönetim ruhu getirdi.
Wang, bugün META'da yapay zeka projesini yöneticisi konumunda. Bu proje Zuckerberg'in de odak noktası haline geldi. Bayan ise sembolik olarak baş bilim insanı pozisyonunda kalmaya devam ediyor, ancak karar alma çevrelerindeki etkisi giderek azalıyor. Şimdi sorulması gereken soru şu: Bu kadar farklı iki kanat, şirketi tek bir hedefe doğru uçurabilir mi? Yoksa bu entelektüel ve organizasyonel uçurum, META'nın yapay zeka yarışında liderlik hayallerini tehdit eden bir beka krizine dönüşür mü?
Apple alternatif arayışında
Apple da sektördeki bu yapay zeka yarışından çok uzak değil, ancak bu yarışta farklı, belki de nispeten daha zayıf bir konumda yer alıyor. Her zaman ‘geç ama mükemmel’ stratejisiyle övünen şirket, şimdi birikmiş birçok zorlukla karşı karşıya kaldığı için adımlarını hızlandırmak zorunda kalıyor. Apple’ın sesli asistanı Siri, rekabete ayak uyduramama durumunun sembolü haline geldi, çünkü ChatGPT ve Gemini gibi uygulamaların sunduğu akıllı ve sorunsuz etkileşim düzeyinden halen uzak kalıyor. Geliştiricilerin katıldığı bir konferansta Apple Intelligence hakkında yapılan son duyuru, yeni özelliklerin sınırlı ve rakiplerin kaydettiği niteliksel sıçramalara kıyasla geç kalmış olması nedeniyle birçok kişinin beklentilerini boşa çıkardı.
Bu çıkmazın ortasında, Apple ve Google arasındaki ortaklık anlaşması, Safari tarayıcısında Google arama motorunu varsayılan seçenek haline getiren ve Apple'a yıllık 18-20 milyar dolar gelir sağlayan anlaşma, ABD Adalet Bakanlığı'nın tekelcilik soruşturması nedeniyle çökme tehlikesiyle karşı karşıya. Apple bu bağlantıyı koparmak zorunda kalırsa, sadece teknik olarak hızlı ve etkili bir alternatif değil, aynı zamanda kapalı sistemine ve kullanıcılarının beklentilerine uygun entegre bir arama deneyimi sunabilen bir alternatif bulması gerekecek.
İşte burada Perplexity AI devreye giriyor. Akıllı arama alanında yükselen bir startup olan şirket, bilgi özetleme, kaynakları birbirine bağlama ve gelişmiş dil modelleriyle desteklenen doğru ve hızlı cevaplar sunma gibi özelliklere sahip platformunda bir arama motorundan daha fazlasını sunuyor. Bu özellikler, başta yeni sesli asistan sürümünün sürekli ertelenmesi nedeniyle, Siri'nin bariz eksikliklerini telafi etmek için ideal bir çözüm sunuyor. Bu durum, sadece teknik bir aksaklık olarak değil, Apple'ın kendi bünyesinde modern bir yapay zeka arayüzü geliştirme kabiliyetindeki yapısal bir krizin göstergesi olarak da yorumlanabilir.
Perplexity şirketinin logosunun yanı sıra klavye ve robot kolları (Reuters)
Apple, ideal anı beklemenin artık bir seçenek olmadığının farkında. Bu yüzden Perplexity ile yapılan görüşmeler, hazır bir ürün, deneyimli bir mühendislik ekibi ve Google ile olan ortaklığını kaybetmesi durumunda alternatif bir senaryo sunan bir satın alma yoluyla bu boşluğu doldurma girişimi olarak görünüyor. META radikal bir dönüşüm yoluna girip yapay zeka altyapısını satın alırken, Apple gecikmenin ona düşündüğünden daha pahalıya mal olmaması umuduyla kısa vadeli satın alma mantığıyla hareket ediyor.
Microsoft ve OpenAI ortaklığı liderliği yarattı
Tüm bu hareketlerin son derece önemli stratejik gelişmeler olduğu şüphe götürmez, ancak bunların en önemlisi ve belki de en etkili olanı, yazılım devi Microsoft ile OpenAI şirketi arasındaki yakın ilişki. Bu ittifak, sadece finansal bir yatırım veya teknik bir ortaklık değil, büyük şirketler ile yapay zeka laboratuvarları arasındaki çıkarların bütünleşmesinin yeni bir modelini temsil ediyor.
Bir yandan, Microsoft Azure platformu aracılığıyla devasa bir bulut altyapısı sunarken bir yandan da OpenAI'nin (başta GPT olmak üzere) devasa dil modellerini bir startup şirketinin tek başına sahip olması zor olan verimlilik ve hesaplama kapasiteleriyle eğitmesini mümkün kıldı. Ayrıca, birçok bağımsız araştırma laboratuvarının karşılaştığı operasyonel engelleri, özellikle kaynak yönetimi ve dağıtım ölçeğini genişletme konusunda aşmasına yardımcı oldu.
Para yetenek satın alabilir, ancak vizyon satın alamaz.
Öte yandan Microsoft en gelişmiş yapay zeka teknolojilerine erken erişimden yararlanarak ChatGPT'nin yeteneklerini Bing arama motoru, Office platformu ve Microsoft 365 hizmeti gibi ürünlerine entegre etti. Bu hamle Microsoft’a kurumsal ve ofis uygulamaları pazarında büyük bir rekabet avantajı sağladı.
Bu ittifak, her iki tarafa da çifte avantaj sağladı. Öyle ki OpenAI, dil modellerini geliştirmek için lojistik ve finansal destek elde ederken, Microsoft her şeyi sıfırdan inşa etmek zorunda kalmadan yeni teknoloji sahnesinde lider konuma yükseldi. Fakat bir yandan da bu model araştırmaların bağımsızlığı ve bilimsel inovasyonun tamamen ticari çerçevelere kayma olasılığı konusunda soru işaretleri uyandırdı. Bunun yanında bu ortaklığın yapay zeka yarışında önemli bir dönüm noktası olduğu ve inovasyon laboratuvarları ile büyük pazar şirketleri arasındaki ilişkinin özelliklerini yeniden şekillendirdiği konusunda hiçbir şüphe yok.
Tekelleşmenin getirdiği tehlikeler
Bu kıyasıya gelecek yarışında, en büyük isimler için bile hayatta kalmak artık garanti değil. Teknoloji devleri, muazzam kaynaklarına rağmen, yapay zeka çağının getirdiği köklü dönüşümlere ayak uyduramazlarsa gerileme, hatta yok olma tehlikesiyle karşı karşıya kalacaklar. Yapay zeka artık sadece algoritmalarda değil, verileri yönetme, sınıflandırma, temizleme ve yönlendirme becerisinde de var. Çünkü herhangi bir akıllı dil modelinin gerçek temelini bunlar oluşturuyor.
Dolayısıyla veri işleme sanatını ustaca kullanan startup şirketler değerli hedefler haline geldi. Büyük şirketler, sanki yeni nesil inovasyonun eğitim merkezleriymiş gibi bu şirketleri satın almak için birbirleriyle yarışıyor. Ancak bu olgu risksiz değil. Rekabetin yaratıcılığın önünü açması gerekirken, bilginin tekelleşmesi, sektörde yeni oyuncuların kendilerini gösterme fırsatlarının kısıtlanması ve teknolojiye erişimde şeffaflık ve adaleti gözetmeyen kapalı ticari modellerin dayatılmasıyla art arda gelen satın almalar bunun tam tersine yol açabilir.
Para yeteneği satın alabilir, ancak vizyonu satın alamaz. Ahlaki değerleri gözeten ve yapay zekanın adil ve güvenli kullanımını garanti eden net bir strateji olmadan, bu yatırımlar bir başarıdan ziyade bir yük haline gelir. Bugün yaşananlar, teknolojinin ruhu ve geleceğin anahtarlarının kimde olacağı konusunda verilen bir mücadeledir. Bu anahtarlar her şeyi kontrol eden azınlığın elinde mi olacak, yoksa dünyayı ortak ilerlemeye iten açık bir sistemde mi olacak?
