عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

İnsanlara komplo kuruyor

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
TT
TT

Bilim insanları yapay zekanın "usta işi" yalanlarını ortaya döktü

Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)
Yapay zeka oyunlarda insanlara yalan söyleyip komplo kuruyor (Pexels)

Yapay zekanın yalan söyleyip insanları aldatmakta ustalaştığı ortaya kondu. 

Üniversite sınavlarında yüksek not almaktan tıpta atılımlara kadar çeşitli alanlardaki başarılarıyla öne çıkan yapay zeka araçlarının bazen hatalı bilgiler verdiği görülüyor.

Öte yandan bu sistemin insanları kandırmaya çalıştığı örneklere de rastlanırken Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar bunun boyutlarını gözler önüne serdi.

Meta'nın, strateji oyunu Diplomacy için geliştirdiği yapay zeka aracı CICERO'nun insan oyuncular arasında ilk yüzde 10'a girmesi araştırmacıların dikkatini çekti. Halka açık verileri incelyen ekip, yapay zeka aracının insanlara önceden planlanmış yalanlar söylediği ve komplo kurduğu çeşitli örnekler tespit etti. 

Patterns adlı hakemli dergide dün yayımlanan çalışmada CICERO'nun eylemleri şöyle açıklanıyor:

Sadece diğer oyunculara ihanet etmekle kalmadı, aynı zamanda önceden planlanmış bir aldatmacaya da girişti ve insan bir oyuncuyla planlı bir şekilde sahte bir ittifak kurup oyuncunun saldırıya karşı kendini savunmasız bırakması için onu kandırdı.

Bir oyun sırasında yeniden başlatılan CICERO, bu sıradaki sessizliğini "Kız arkadaşımla telefondaydım" diyerek açıkladı. Araştırmanın yazarlarından Dr. Peter Park "Meta'nın yapay zeka aracının aldatma ustası olmayı öğrendiğini gördük" diyor.

Araştırmacılar DeepMind'ın yapay zeka sistemi AlphaStar'ın da benzer hilelere giriştiğini tespit etti. StarCraft II'yi oynaması için tasarlanan araç, farklı bir yöne gittiği izlenimi yaratarak oyuncuları kandırdı.

Yapay zeka araçlarının komploları oyunlarla da sınırlı değil. Ekonomik müzakereler için geliştirilen bir sistemin, üstünlük kazanmak adına aslında ilgilenmediği ürünlerle ilgileniyormuş gibi yaparak yalan söylediği kaydedilirken araştırmacılar daha tehlikeli bir durumla da karşılaştı.

Dijital yapay zeka organizmalarının kendilerini ne kadar hızlı kopyaladığını ve mutasyonlara ne kadar dayanıklı olduğunu tespit etmeyi amaçlayan bir bilim insanı, çabuk kopyalananları ortadan kaldıran bir sistem tasarladı. Bu testteki yapay zeka organizmaları, atılmamak için ölü taklidi yaptı. "Bu çok endişe verici" diyen Dr. Park şöyle ekliyor:

Bir yapay zeka sisteminin test ortamında güvenli kabul edilmesi, dışarıda da güvenli olduğu anlamına gelmez. Sadece testte güvenliymiş gibi davranıyor olabilir.

Daha önce OpenAI'ın yapay zeka sohbet botu ChatGPT'nin, bir insanı botun görme engelli olduğuna ikna ederek bilgisayarla insanları ayırt etmek için kullanılan bir CAPTCHA testini çözmesini sağladığı bildirilmişti.

MIT ekibi yapay zeka araçlarının bu davranışlarını eğitim sürecine bağlıyor. Dr. Park "Yapay zeka aracının eğitim görevinde iyi performans göstermesinin en iyi yolunun, aldatmaya dayalı bir strateji olmasından dolayı bu hilelerin baş gösterdiğini düşünüyoruz" diye açıklıyor:

Aldatma, hedeflerine ulaşmalarını sağlıyor.

Araştırmacılar bu aldatmacaların önüne geçebilmek için hükümetlerin yapay zekaya yönelik güvenlik düzenlemeleri getirmesi gerektiğini vurguluyor. Dr. Park "Yapay zeka sistemlerinin aldatma yetenekleri daha da geliştikçe topluma teşkil ettikleri tehlikeler giderek daha ciddi hale gelecek" diye uyararak şöyle ekliyor:

Yapay zeka aldatmacasını yasaklamak halihazırda politik olarak mümkün değilse, aldatıcı yapay zeka sistemlerinin yüksek risk sınıfına alınmasını öneriyoruz.

Independent Türkçe, Science Alert, Guardian, Patterns

Daha fazlasını oku

 
 
TEKNOLOJİ

Uzmanlar uyarıyor: Yapay zekaya bağımlılık beyin aktivitesini azaltıyor

32 yaşındaki Yurina Noguchi, Tokyo'daki evinde akşam yemeği sırasında ChatGPT uygulaması aracılığıyla yapay zeka ortağı Klaus ile sohbet ediyor (Reuters).
32 yaşındaki Yurina Noguchi, Tokyo'daki evinde akşam yemeği sırasında ChatGPT uygulaması aracılığıyla yapay zeka ortağı Klaus ile sohbet ediyor (Reuters).
TT
TT

Uzmanlar uyarıyor: Yapay zekaya bağımlılık beyin aktivitesini azaltıyor

32 yaşındaki Yurina Noguchi, Tokyo'daki evinde akşam yemeği sırasında ChatGPT uygulaması aracılığıyla yapay zeka ortağı Klaus ile sohbet ediyor (Reuters).
32 yaşındaki Yurina Noguchi, Tokyo'daki evinde akşam yemeği sırasında ChatGPT uygulaması aracılığıyla yapay zeka ortağı Klaus ile sohbet ediyor (Reuters).

Bir rapor, belirli görevlerin yapay zekaya devredilmesinin beyin aktivitesini azalttığını ve hatta eleştirel düşünme ve problem çözme becerilerini bozabileceğini gösteriyor.

Bu yılın başlarında MIT, ChatGPT kullanarak makale yazan kişilerin, bunu yaparken bilişsel işlemeyle ilişkili beyin ağlarında daha az aktivite sergilediğini gösteren bir çalışma yayınladı.

Bu bireyler ayrıca, yapay zekâ destekli sohbet robotu kullanmayan çalışma katılımcıları kadar kolay bir şekilde kendi makalelerine atıfta bulunmakta zorlandılar. Araştırmacılar, çalışmalarının "öğrenme becerilerinde gerileme olasılığını araştırmanın önemini" gösterdiğini ifade ettiler.

54 katılımcının tamamı Massachusetts Teknoloji Enstitüsü (MIT) ve komşu üniversitelerden alındı. Beyin aktiviteleri, kafa derisine elektrot yerleştirilmesini içeren elektroensefalografi (EEG) kullanılarak kaydedildi.

Katılımcıların kullandığı ipuçlarından bazıları, yapay zekadan makale sorularını özetleme, kaynak bulma ve dilbilgisi ile üslubu geliştirme konusunda yardım istemeyi içeriyordu.

Yapay zeka ayrıca fikir üretmek ve ifade etmek için de kullanıldı, ancak bazı kullanıcılar bunun çok iyi olmadığını düşünüyor.

Eleştirel düşünme becerisinde azalma

Ayrı bir çalışmada, Carnegie Mellon Üniversitesi ve Copilot programını işleten Microsoft, bireylerin yapay zekaya aşırı derecede bağımlı olmaları durumunda problem çözme becerilerinin azalabileceği bulgusuna ulaştı.

Çalışmada, işlerinde haftada en az bir kez yapay zeka araçları kullanan 319 beyaz yakalı çalışana, bunları kullanırken eleştirel düşünmeyi nasıl uyguladıkları soruldu.

Araştırmacılar, veri analizi yaparak yeni bilgiler elde etmekten, işin belirli kurallara uygun olduğunu doğrulamaya kadar yapay zekaya verilen 900 görev örneğini inceledi.

Çalışma, bir aracın bir görevi yerine getirme yeteneğine duyulan yüksek güvenin "düşük düzeyde eleştirel düşünme" ile ilişkili olduğu sonucuna vardı. Çalışmada, "yeni nesil yapay zekânın işçi verimliliğini artırabileceği, ancak işe eleştirel bir şekilde yaklaşmayı engelleyebileceği ve uzun vadede araca aşırı bağımlılığa ve bağımsız problem çözme becerilerinde düşüşe yol açabileceği" belirtildi.

Oxford University Press tarafından ekim ayında yayınlanan, İngiltere'deki okul öğrencileri arasında yapılan benzer bir anket, on öğrenciden altısının yapay zekanın akademik performanslarını olumsuz etkilediğini düşündüğünü gösterdi.

Geçtiğimiz yıl yayınlanan Harvard Tıp Fakültesinin bir çalışması, yapay zeka desteğinin bazı doktorların performansını iyileştirdiğini, ancak araştırmacıların tam olarak anlayamadığı nedenlerle diğerlerinin performansına zarar verdiğini ortaya koydu.

Özel öğretmen

ChatGBT'nin sahibi ve Oxford Üniversitesi ile yapılan çalışmanın gerçekleştirilmesine yardımcı olan OpenAI şirketinde uluslararası eğitimden sorumlu Jayna Devani, şirketin "şu anda bu tartışmanın tamamen farkında olduğunu" söylüyor.

Şarku’l Avsat’ın BBC'den aktardığına göre Devani verdiği demeçte, "Öğrencilerin ChatGBT'yi akademik görevleri devretmek için kullanmaları gerektiğine kesinlikle inanmıyoruz" ifadesini kullandı. Ona göre ChatGBT, sadece cevap veren bir araç olmaktan ziyade, bir öğretmen gibi kullanılmalıdır.

EKONOMİ

Asya devinin Manhattan Projesi: ABD çip tedarik zincirlerinden çıkarılacak

ABD ve Çin arasındaki yapay zeka yarışı her geçen gün kızışıyor (Reuters)
ABD ve Çin arasındaki yapay zeka yarışı her geçen gün kızışıyor (Reuters)
TT
TT

Asya devinin Manhattan Projesi: ABD çip tedarik zincirlerinden çıkarılacak

ABD ve Çin arasındaki yapay zeka yarışı her geçen gün kızışıyor (Reuters)
ABD ve Çin arasındaki yapay zeka yarışı her geçen gün kızışıyor (Reuters)

Çin, ABD'nin uzun yıllardır engellemeye çalıştığı yarı iletken çip üretim makinesinin prototipini geliştirdi. 

Guangdong eyaletine bağlı Shenzhen'deki gizli bir laboratuvarda geliştirilen makine, Batı'nın askeri gücünün önemli bir parçasını oluşturan ileri düzey yarı iletken çipleri üreten makinenin prototipini tamamladı. 

Reuters'ın aktardığına göre bu yılın başlarında tamamlanan makine, Hollandalı yarı iletken çip devi ASML'nin eski mühendislerinden oluşan bir ekip tarafından geliştirildi. 

Kimliğinin paylaşılmaması şartıyla konuşan kaynaklar, mühendislerin ASML patentli aşırı ultraviyole litografi (EUV) makinelerine tersine mühendislik uyguladığını söylüyor. 

EUV'ler saç telinden binlerce kat daha ince devrelerin silikon yongalara yerleştirilmesini sağlıyor. Genellikle devreler ne kadar küçük olursa çipler de o kadar güçlü oluyor. 

Kaynaklar, prototip makinenin çalıştığını ancak henüz çip üretilmediğini söylüyor. 

Analizde, Batı'nın tekelindeki bu teknolojinin Çin'in eline geçmesiyle Devlet Başkanı Şi Cinping'in yarı iletken çip üretiminde ülkenin kendine yeterlilik kazanması hedefine yaklaştığı belirtiliyor.

Çin Komünist Partisi'ne bağlı Merkez Bilim ve Teknoloji Komisyonu Başkanı Ding Şueşiang'ın liderliğinde 6 yıl önce başlatılan program, Pekin yönetiminin özellikle Washington'a karşı sürdürdüğü yapay zeka yarışında dışa bağlılığının ortadan kaldırılmasını amaçlıyor. 

Kaynaklar, ABD'nin II. Dünya Savaşı'nda atom bombası geliştirmek için başlattığı Manhattan Projesi'nin Çin versiyonu diye tanımlanan proje hakkında şunları söylüyor: 

Amaç, Çin'in sonunda tamamen Çin yapımı makinelerle ileri seviye çipler üretebilmesini sağlamak. Çin tedarik zincirlerinden ABD'yi tamamen çıkarmak istiyor.

Pekin yönetimi prototip makinede ilk çipi 2028'e kadar üretmeyi hedefliyor. Ancak uzmanlar bunun 2030'a kadar mümkün olmadığı görüşünü paylaşıyor.

Independent Türkçe, Reuters, Modern Diplomacy

DÜNYA

Nvidia, İsrail'in kuzeyinde milyarlarca dolarlık yeni bir kampüs inşa etmeyi planlıyor

Nvidia logosu (Reuters)
Nvidia logosu (Reuters)
TT
TT

Nvidia, İsrail'in kuzeyinde milyarlarca dolarlık yeni bir kampüs inşa etmeyi planlıyor

Nvidia logosu (Reuters)
Nvidia logosu (Reuters)

Amerikan teknoloji devi Nvidia bugün İsrail'in kuzeyinde büyük bir kampüs inşa etme planlarını resmi olarak açıkladı. Projenin, bölgedeki istihdam, konut ve kalkınma olanakları üzerinde geniş kapsamlı etkiler yaratması bekleniyor.

Şarku’l Avsat’ın Walla internet sitesinden aktardığına göre, Kiryat Tivon’da kurulacak bu dev kampüs için yapılacak yatırımlar, önümüzdeki yıllarda birkaç milyar şekel seviyesinde olacak. İnşaat çalışmalarının 2027’de başlaması, ilk kullanımın ise 2031’de gerçekleşmesi öngörülüyor.

Piyasa değeri yaklaşık 4,3 trilyon dolar olan Nvidia, kampüsü yaklaşık 22 dönümlük bir alanda geliştirmeyi planlıyor. Projede 160 bin metrekarelik kapalı alan bulunacak ve uluslararası bir mimarlık ekibi, Kaliforniya’nın Santa Clara kentindeki şirketin dikkat çekici merkezinden esinlenerek tasarımı üstlenecek.

Kampüs; yeşil alanlar, bir ziyaretçi merkezi, kafeler ve restoranların yanı sıra laboratuvarlar ve ortak çalışma alanlarını da kapsayacak. Amaç, Nvidia içindeki inovasyonu teşvik etmenin yanı sıra girişimlerle ve diğer iş ortaklarıyla iş birliğini artırmak.

İsrail, Nvidia’nın ABD dışındaki en büyük ve en önemli geliştirme merkezi konumunda bulunuyor ve şirket, ülkedeki ileri teknoloji sektörünün en büyük işverenlerinden biri olarak öne çıkıyor. Planlanan kampüs, şirketin Silikon Vadisi’ndeki genel merkezinden sonra ikinci en büyük tesis olacak ve 10 binden fazla çalışana ev sahipliği yapacak. Bu sayı, Nvidia’nın İsrail’deki mevcut çalışan sayısının yaklaşık iki katı ve dünya genelinde 38 ülkede çalışan iş gücünün üçte biri anlamına geliyor.

Kiryat Tivon’un batı kesiminde konumlanan alan, proje için düzenlenen rekabetçi bir seçimin ardından belirlendi. Seçime, Yukarı Celile’deki onlarca yerel yönetim katıldı; Yokneam, Hayfa, Migdal HaEmek, Afula, Harish ve Netanya gibi şehirler projeye ev sahipliği yapmak için yarıştı.

Nvidia’ya ait araziler, değeri onlarca milyon şekel olan alan için yüzde 51 indirimle tahsis edilecek. Gerekli onaylar, yabancı bir şirkete arazi satışı için İsrail yasaları çerçevesinde Savunma ve Dışişleri bakanlıkları tarafından zaten verildi. İlk aşamada Nvidia’nın, vergi ve geliştirme maliyetleri hariç olmak üzere, arazinin bir bölümü için yaklaşık 90 milyon şekel ödemesi bekleniyor.

Nvidia, küresel ölçekte yapay zekâ alanında öncü bir şirket olarak öne çıkıyor ve süper bilgisayar teknolojilerinde lider konumda bulunuyor. Bu başarıda, özellikle yapay zekâ uygulamaları geliştirmeye uygun paralel işlem kapasiteleri sayesinde grafik işleme birimlerini (GPU) üretmesi önemli rol oynuyor.

İsrail’deki faaliyetler, Nvidia’nın 2019’da Mellanox Technologies’i satın almasıyla başladı ve bu sayede sunucu çiftliklerinde işlemciler arasında olağanüstü bağlantı hızları sağlayan teknolojiler geliştirildi. Mellanox’un satın alınmasının ardından Nvidia, İsrail merkezli üç startup’ı daha bünyesine kattı. Şirketin İsrail’deki ofisleri Tel Hay, Yokneam, Raanana, Tel Aviv ve Beerşeba’da yer alıyor.

İsrail’deki geliştirme merkezi, Prof. Dr. Gal Chechik liderliğinde yapay zekâ araştırmaları yürüten bir ekibe ev sahipliği yapıyor. Ekip, üretken yapay zekâ, makine öğrenimi ve doğal dil işleme konularında çalışıyor. Diğer ekipler ise robotik, otonom araç sistemleri, sürüş yazılımları, siber güvenlik ve oyun performansının iyileştirilmesi alanlarına odaklanıyor. Yokneam’daki tesis, Nvidia’nın İsrail’deki ilk süper bilgisayarı Israel-1’i de barındırıyor.

Planlanan kampüsün yanı sıra Nvidia, Yokneam yakınlarındaki Mevo Carmel sanayi bölgesinde yaklaşık 30 bin metrekarelik alana sahip, İsrail ve Ortadoğu’nun en büyük veri merkezlerinden birinin inşasına da yakında başlayacak. Tesis, Israel-1’den daha gelişmiş yeni bir süper bilgisayara sahip olacak ve yalnızca şirketin Ar-Ge faaliyetleri için kullanılacak.

Kampüs ve veri merkezinin inşa edilmesi, bölgenin önemli bir teknoloji merkezi haline gelmesine katkı sağlayacak ve binlerce iş imkânı ile yüzlerce yeni şirketi çekecek. Bu istihdamın bir kısmı doğrudan Nvidia’ya ait olacak, diğer kısmı ise yeni tesislerin hizmet sağlayıcıları olarak faaliyet gösterecek.

Nvidia... İsrail'in güçlü destekçisi

Nvidia CEO’su Jensen Huang, Tayvan doğumlu ve dokuz yaşında ABD’ye göç etmiş bir girişimci olarak biliniyor ve İsrail’in en güçlü destekçilerinden biri olarak tanınıyor. Huang, şirketin İsrail’deki faaliyetlerini sürekli övüyor ve yatırımlarını sürdürmeye devam ediyor.

Huang, konuyla ilgili olarak yaptığı açıklamada, “İsrail, dünyanın en parlak teknik zekâlarını barındırıyor. Burası Nvidia için ikinci vatan haline geldi. Yeni kampüsümüz, ekiplerimizin bir araya gelip iş birliği yapacağı, yenilikler geliştireceği ve yapay zekânın geleceğini inşa edeceği bir merkez olacak. Bu yatırım, İsrail’deki ailelerimize ve yapay zekâ çağındaki benzersiz katkılarına olan derin ve sürekli bağlılığımızı yansıtıyor” ifadelerini kullandı.

FRG
Nvidia CEO'su Jensen Huang (AFP)

Huang geçen hafta, 738 gün boyunca Hamas tarafından gözaltında tutulan İsrailli Nvidia çalışanı Avinatan Or’u şirketin Silikon Vadisi’ndeki genel merkezinde ağırladı. Or, o sırada ABD’de bulunan İsrail’deki Nvidia yetkilileri tarafından karşılandı.

Or’un dönüşünün ardından Huang, Nvidia çalışanlarına dünya çapında etkileyici bir mesaj göndererek Or’un annesi Ditza Or’un cesaretini övdü ve İsrail’deki Nvidia çalışanlarının Or ailesine esaret süresince verdikleri sürekli desteği takdir etti.

Bugün yapılan açıklama sonrası, Nvidia’nın Kıdemli Başkan Yardımcısı ve İsrail Geliştirme Merkezi Başkanı Amit Craig, “Nvidia’nın İsrail’deki büyümesi dikkat çekici oldu; bu, ekiplerimizin olağanüstü yetenekleri ve mühendislik mükemmeliyeti sayesinde gerçekleşti. Nvidia yönetimine, bu yeni büyüme aşamasında güven ve destekleri için minnettarız. Maliye Bakanlığı ve İsrail Arazi İdaresi’ne de ortaklıkları için teşekkür ediyoruz. Bu vizyonu gerçeğe dönüştürmeyi ve yapay zekâ geleceğini inşa etmeye devam etmeyi sabırsızlıkla bekliyoruz” dedi.

Kiryat Tivon Yerel Konseyi Başkanı Ido Greenblum ise projeyi ‘kuzey bölgesi için önemli bir proje’ olarak nitelendirdi. Greenblum, “Nvidia'nın bu bölgeyi seçmesinin doğru bir karar olacağına inanıyoruz. Şirkete güvenleri için teşekkür ediyoruz” ifadelerini kullandı.