Batı, yapay zekaya ilişkin ortak kurallar taslağı üzerinde çalışıyor

Avrupa Birliği, yapay zeka alanındaki ihlalleri sınırlamak için bütüncül ve bağlayıcı bir yasal çerçeve geliştirmeyi hedefliyor. (Arşiv-Reuters)
Avrupa Birliği, yapay zeka alanındaki ihlalleri sınırlamak için bütüncül ve bağlayıcı bir yasal çerçeve geliştirmeyi hedefliyor. (Arşiv-Reuters)
TT

Batı, yapay zekaya ilişkin ortak kurallar taslağı üzerinde çalışıyor

Avrupa Birliği, yapay zeka alanındaki ihlalleri sınırlamak için bütüncül ve bağlayıcı bir yasal çerçeve geliştirmeyi hedefliyor. (Arşiv-Reuters)
Avrupa Birliği, yapay zeka alanındaki ihlalleri sınırlamak için bütüncül ve bağlayıcı bir yasal çerçeve geliştirmeyi hedefliyor. (Arşiv-Reuters)

Avrupa Birliği (AB) ve ABD dün, büyük bir atılıma tanık olan yapay zeka sektörünün düzenlenmesinde kendi yaklaşımını dayatan Çin’in tehlikesine karşı bu alanda faaliyet gösteren şirketlerin gönüllülük esasına dayalı bir şekilde kullanımına sunulmak üzere yapay zekaya ilişkin ortak ‘davranış kuralları’ taslağı geliştireceklerini duyurdu.

Bu adım, siyasi yetkililer ve sektördeki girişimciler de dahil olmak üzere dünya çapında, ihlallerin yaşanmasına ilişkin büyük riskler taşıyan devrim niteliğindeki bir teknolojiye bir çerçeve çizilmesi gereksinimi konusunda fikir birliği olduğu görülüyor.

Şarku’l Avsat’ın edindiği bilgilere göre ABD Dışişleri Bakanı Antony Blinken, İsveç’in kuzeyinde katıldığı bir toplantının ardından yaptığı açıklamada bu teknolojiye ve ChatGPT sohbet botu gibi devrim niteliğindeki araçlarına dikkat çekerek Batılıların ‘acilen harekete geçme ihtiyacı’ hissettiğini söyledi.

Brüksel’de üst düzey yetkililerle düzenlediği ortak basın toplantısında Blinken, davranış kurallarının ‘aynı fikirde olan tüm ülkelere açık olacağını’ kaydetti.

Diğer yandan ABD’li internet devleriyle sürekli çatışmasıyla bilinen Avrupa Komisyonu Başkan Yardımcısı Margrethe Vestager, ilk taslağın ‘haftalar içinde’ sunulacağı bilgisini verdi.

Danimarkalı komisyon üyesi Blinken ile düzenlediği ortak basın toplantısında, “Vatandaşların demokrasilerin ilerlediğini görmelerinin gerçekten önemli olduğunu düşünüyoruz” dedi.

Vestager hedefin ‘mümkün olan en yakın zamanda’ nihai bir öneriye ulaşmak olduğunu söyledi. Bu bağlamda ‘Kanada, İngiltere, Japonya ve Hindistan’daki dostlara’ atıfta bulunarak bunu ‘mümkün olan en geniş çevrede’ yapmak istediklerini kaydetti.

ABD’liler ve Avrupalılar, Batı saflarını birleştirmezse Çin’in bu alanda kendi standartlarını dayatacağından endişe ediyorlar.

AB, yapay zeka ihlallerini sınırlamak için bütüncül ve bağlayıcı bir yasal çerçeve geliştiren ilk ülke olmayı hedefliyor. Ancak bu çerçeve, tahminlere göre en erken 2025 yılı sonunda yürürlüğe girebilir. Vestager’e göre ABD ile geliştirilen ortak davranış kuralları gönüllülük esasına dayalı olacak.

Microsoft, Meta ve Google

Geçtiğimiz aylarda dünya, performansını iyileştirmek için bir şeyleri çok hızlı öğrenebilme yetisine sahip araçları ve yazılımları ile halen geliştirilme aşamasında olan bu teknolojinin yapabileceklerini hayretler içerisinde izledi.

Bu sektörü, ChatGPT programını geliştiren OpenAI’nin ana hissedarı Microsoft, Meta ve Google gibi dev Amerikan internet şirketleri kontrol ediyor.

Özellikle söz konusu teknoloji alanında rekabet edebilen ve hatta çok hızlı bir şekilde öne çıkabilen açık kaynak platformlar olduğu göz önüne alınırsa, bu sektörün hızla geliştiği görülüyor.

Amazon, Apple, Meta, Google ve Twitter’ı içeren bir lobi grubu olan Bilgisayar ve İletişim Endüstrisi Derneği (CCIA), ‘özellikle AB’nin önümüzdeki yıllarda pazarı düzenleyecek iddialı dijital düzenleme taslağını öne sürdürdüğü bir zamanda, büyüyen ve ileriye dönük transatlantik taahhüde’ övgüde bulundu.

Bağlayıcı çerçevenin beklendiği bir zamanda Brüksel, Google gibi dev internet şirketlerinin de desteğiyle gönüllü düzenlemeler öneriyor.

Aynı zamanda Çin, özellikle yapay zeka araçları üzerinde bir ‘güvenlik denetim’ programı gibi düzenleyici projeler geliştirdi.

ABD tarafına gelince; Washington’ın birçok toplantı yapmasına rağmen masada halihazırda bir proje yok.

Yapay zeka konusu, İsveç'in kuzeyindeki Luleå’da ChatGPT yaratıcısı Sam Altman’ın katılımıyla düzenlenen AB-ABD Ticaret ve Teknoloji Konseyi toplantısında gündeme getirilen ana konulardan biriydi.

Bu konsey, 2021 yılında 27 ülke ile Washington arasında eski ABD Başkanı Donald Trump dönemindeki ticaret anlaşmazlıklarına son vermek için kurulmuştu.

Avrupalıların hâkim olduğu ender teknolojik alanlardan biri olan altıncı nesil ağ (G6) konusunda da iş birliği alanları üzerinde uzlaşmaya varıldı.

Kapanış bildirisinde şu ifadelere yer verildi:

“AB ve ABD, AI teknolojisinin büyük fırsatlar içerdiği, ancak aynı zamanda toplumlarımız için riskler oluşturduğu konusunda ortak bir görüşü paylaşıyor.”

Bu sırada, Danimarka Başbakanı Mette Frederiksen dün sabah Parlamento’da, bu teknolojinin devrim niteliğindeki yanını ve demokrasiye yönelik tehlikelerini göstermek amacıyla ilk bölümü tamamen ChatGPT tarafından yazılan bir konuşma yaptı.

Başbakan Danimarkalı parlamenterlere hitaben şunları söyledi:

“Gerek hükümetin çalışma programının ayrıntılarında gerekse noktalama işaretlerinde (...) her zaman isteneni vermese de ChatGPT’nin yapabilecekleri hem şaşkınlık hem de dehşet duygularını aynı anda uyandırıyor.”



4 soruda OpenAI'ın "düşünebilen" yeni yapay zeka serisi

OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
TT

4 soruda OpenAI'ın "düşünebilen" yeni yapay zeka serisi

OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)
OpenAI'ın son modeli o1'in fiyatı, bazı kullanıcıların tepkisini çekiyor (Reuters)

OpenAI, "düşünme" becerisine sahip olduğunu öne sürdüğü yeni yapay zeka serisi o1'i dün (12 Eylül Perşembe) kullanıma sundu. 

Strawberry diye de bilinen yeni serinin o1-preview (ön izleme) ve o1-mini diye iki sürümü mevcut.

Model henüz sadece ChatGPT Plus ve Team kullanıcılarının yanı sıra 5. seviye API katmanına hak kazanan geliştiricilerin erişimine peyderpey açılıyor.

ChatGPT Enterprise ve Edu üyelerinin de gelecek haftadan itibaren araca erişebileceğini belirten şirket, ileride o1-miniyi bütün kullanıcılara ücretsiz sunmayı planlıyor. Fakat bunun için henüz bir tarih verilmedi.

Daha önceki modellerine 2,3,4 gibi isimler veren OpenAI, son serinin yepyeni becerilere sahip olması nedeniyle "sayacı sıfırladıklarını" ve bu nedenle o1 adını seçtiklerini belirtiyor.

Tabii bütün bunların bir bedeli var. Kullanımı mayısta çıkan öncülü GPT-4o'dan üç kat daha masraflı olan o1-preview'un geliştiricilere maliyeti 1 milyon girdi jetonu (token) başına 15 dolar, 1 milyon çıktı jetonu başına da 60 dolar.

Veri birimlerini ifade eden jetonlar, yapay zeka araçlarının büyük verileri parçalara ayırıp dili işlemesini sağlıyor. 1 milyon jeton yaklaşık 750 bin kelimeye denk geliyor. 

OpenAI, o1-mini versiyonun yüzde 80 daha ucuz olduğunu belirtiyor fakat bu sürüm diğeri kadar geniş bir bilgi yelpazesine sahip değil. 

Peki şirketin ön izleme veya bir ön sürüm olduğunu belirttiği o1, öncüllerinden farklı olarak neyi yapabiliyor, neyi yapamıyor ve insanlığın kendi bilişsel seviyesini geçen yapay zeka inşa etme çabasında nasıl bir adıma işaret ediyor?

1) Gerçekten düşünebiliyor mu?

Teknoloji sektöründeki en temel tartışmalardan biri, yapay zeka araçlarının becerilerini "düşünme" veya "muhakeme" gibi ifadelerle tanımlama etrafında dönüyor. 

Geniş dil modellerinin, devasa büyüklükte bilgi kümeleriyle eğitildiği ve sorgulara verdikleri cevaplarda bu veriler üzerinden olasılık temelli tahmin yürüttükleri göz önüne alınırsa, bazı uzmanların "düşünme" ifadesine itirazlarında haklılık payı var. 

Öte yandan bu araçlar insan beyni gibi akıl yürütme becerisine gittikçe daha fazla yaklaşıyor. 

OpenAI, o1 serisinin sorulara cevap vermeden önce daha uzun süre düşündüğünü ve vereceği yanıtların doğruluğunu kontrol ettiğini ifade ediyor.

Sisteme girilen soru karşısında "Düşünüyorum" gibi yanıtlar vermesi, gerçekten o sırada düşündüğü izlenimi yaratsa da o1'in insanlar gibi akıl yürüttüğünü söylemek mümkün değil. 

OpenAI'ın araştırma ekibinin lideri Jerry Tworek, yapay zeka modelinin düşünme biçimini insanlarınkiyle bir tutmadıklarını söylüyor. 

Arayüz ise yeni modelin problemleri çözerken daha fazla zaman harcadığını ve daha derine indiğini gösterme amacıyla bu şekilde tasarlanmış.

o1'i önceki OpenAI uygulamalarından ayıran temel özelliğiyse eğitilme biçiminde yatıyor. 

Eğitim bilimci ve öğretmenlerin aşina olabileceği pekiştirmeli öğrenme denen bu yöntem, doğru yanıtlar karşısında ödül, yanlış cevaplar karşısında da ceza verilmesi ilkesine dayanıyor.

Bu sayede deneme yanılmayla ilerleyen yapay zeka aracının, doğru yanıtlara ulaşma becerisi gelişiyor. Sorguları işlerken, insanların sorunları adım adım inceleyerek çözmesine benzer bir "düşünce zinciri" kullanıyor.

OpenAI, aracı "düşünmeye" iten bu yöntemin, doğruluğunu artırdığını ifade ediyor. 

2) Hangi alanlarda kullanılacak?

Karmaşık muhakeme görevlerinde kayda değer bir ilerlemeye ve yeni bir yapay zeka yeteneği seviyesine işaret ediyor. Bu nedenle sayacı tekrar 1'e sıfırlıyor ve bu seriye OpenAI o1 adını veriyoruz.

OpenAI'ın bu ifadelerle tanıttığı o1'in, dil becerilerinden ziyade bilimsel çalışmalar, veri işleme ve kodlamada daha iyi bir performans sergilemesi bekleniyor. Ayrıca o1-mini, daha küçük bir sürüm olmasına karşın özellikle kod üretmesi amacıyla geliştirildi. 

Yeni model kodlama ve matematikte sonuca ulaşma sürecini detaylandırdığı için bu alanlarda öğretmenlik yapma becerisinin önceki versiyonlardan daha iyi olması bekleniyor. 

Şirketin baş araştırma görevlisi Bob McGrew, yeni modelin ileri seviye matematik sorularında kendisinden daha iyi olduğunu belirterek kendisinin üniversitede matematik okuduğunu ekliyor.

OpenAI yeni modelin ayrıca bilim insanlarının hücre dizileme çalışmalarına ve fizikçilerin karmaşık matematiksel formüller üretmesine katkı sağlayacağını ifade ediyor. 

Ayrıca yapılan testlerde fizik, kimya ve biyolojinin bazı alanlarında doktora öğrencileriyle yarıştığı kaydedildi.

Şirketin baş bilim insanı Dr. Jakub Pachocki ve OpenAI teknik çalışanı Szymon Sido, New York Times'a yaptıkları sunumda, sohbet botunun çengel bulmacadan çok daha karmaşık akrostiş bulmacasını çözdüğü görüldü.

Yapay zeka aracı aynı zamanda doktora düzeyinde bir kimya sorusunu yanıtladı ve bir hastanın semptomları ve geçmişi hakkında ayrıntılı bir rapora dayanarak hastalığı teşhis etti.

3) GPT-4o'dan daha mı iyi?

Daha önceki modeller internetteki bilgilerle eğitildiği ve internette epey yanlış bilgi olduğu için hata yapma ihtimalleri artıyor. o1'in eğitilme biçimiyse bu hataları çok daha düşük seviyeye indirmesini sağlıyor. 

Yeni modelin; ses, görüntü ve yazıyla iletişim kuran GPT-4o'dan çok daha iyi performans gösterdiği alanlar olsa da bazı konularda gerisinde kalıyor. 

İki aracı da lise seviyesindeki Uluslararası Matematik Olimpiyatı'na sokan OpenAI, o1'in soruların yüzde 83'ünü, GPT-4o'nun ise sadece yüzde 13'ünü doğru çözdüğünü ifade ediyor. 

Thomson Reuters'tan yeni modeli test eden Pablo Arredondo, TechCrunch'a yaptığı açıklamada yasal belgeleri analiz etme ve hukuk fakültesine giriş sınavında da daha başarılı olduğunu söylüyor.

Strawberry takma adına sahip o1'in GPT-4o'yu geride bıraktığı bir diğer alan ise "strawberry" (çilek) kelimesinde kaç tane "r" harfi olduğunu bulmak.

Bu soruya "iki" yanıtını veren ChatGPT'nin önceki sürümleri internette alay konusu olmuştu. 

İlk başta çok zor bir görev gibi görünmese de yapay zeka araçları kelimeleri harf harf değil, jetonlar şeklinde işlediği için bu tip basit işlerde zorlanabiliyorlar. 

Ancak o1, daha detaylı düşünmesi ve kendisini kontrol etmesinden dolayı bu soruya doğru yanıtı vermeyi başardı. 

Öte yandan yeni model, internette arama yapma, metin ve görsel işleme gibi özelliklere henüz sahip değil. Ayrıca gerçek dünya hakkında GPT-4o kadar bilgisi de yok. 

Pennsylvania Üniversitesi Wharton İşletme Okulu'nda yapay zeka üzerine çalışan Ethan Mollick "Açıkçası o1-preview her şeyde daha iyi değil. Örneğin GPT-4o'dan daha iyi bir yazar değil" diyerek ekliyor: 

Ancak planlama gerektiren görevlerde ciddi değişiklikler sözkonusu.

OpenAI, yeni modelinde halüsinasyon sorununu da çözmeyi henüz başaramadı. Yapay zeka sohbet botlarının bazı bilgileri "uydurmasını" ifade eden halüsinasyon, bu araçların temel sorunu olmaya devam ediyor.

Modeli test eden Mollick, zorlu bir bulmacayı çözdüğünü ancak ipuçlarından birini uydurduğunu söylüyor. 

Yine de Tworek, "Bu modelin daha az halüsinasyon gördüğünü fark ettik" diyerek ekliyor: 

Ancak sorun hâlâ devam ediyor. Halüsinasyonları çözdüğümüzü söyleyemeyiz.

Son modelin bir diğer eksikliği de sorgulara yavaş cevap vermesi. Diğer sürümler neredeyse anında yanıtı sunarken, muhtemelen düşünme süresinden dolayı o1'in cevap vermesi çok daha uzun zaman alıyor.

Örneğin Mollick, bulmacayı çözmesinin 108 saniye sürdüğünü ifade ediyor.

OpenAI modelin ön izleme versiyonu olduğunu belirtirken, uzmanlar o1'in sonraki versiyonlarının hızlanmasını umuyor. 

4) İnsanlığa tehdit oluşturabilir mi?

Bazı yapay zeka araçları eğitimleri sırasında farklı kelimelerin beraber kullanılma sıklıklarını analiz ederek sözcüklerin birbirine yakınlığını tahmin ediyor. Örneğin "kedi" ve "köpek" kelimeleri birlikte daha sık kullanıldığı için yakın anlamlara sahip olmaları gerektiği sonucuna varıyor.

Bu modellerin "yapay zeka" ve "tehdit" ifadeleri arasında da böyle bir ilişki kurmuş olması muhtemel. 

Her yeni modelin piyasa sürülmesiyle akla gelen ilk sorulardan biri insanlığa varoluşsal bir tehdit yaratıp yaratmayacağı.

Sektörün önde gelen bazı isimleri bu tehlikeye karşı uyarırken bazı uzmanlar yapay zeka araçlarının nasıl kullanıldığının daha önemli olduğunu vurguluyor.

OpenAI'ın son sürümüyle bu araçların insan gibi düşünme becerisine bir adım daha yaklaşması da endişeleri artırabilir.

Ancak bu yazıdan da anlaşılabileceği üzere, o1'in becerileri henüz korkutucu bir düzeyin yakınından bile geçmiyor. 

Ars Technica'nın ifade ettiği gibi bir bulmacadaki 8 ipucunu çözmesi 108 saniye süren ve bir cevapta halüsinasyon gören bir yapay zeka modelinin potansiyel tehlike olduğunu söylemek abartıya kaçar. 

Öte yandan OpenAI'ın yanı sıra Meta ve Google gibi şirketlerin de çabaları ve son yıllardaki hızlı gelişmeler göz önüne alınırsa, insan seviyesine ulaşan yapay zeka araçları çok uzak olmayabilir.

Independent Türkçe, TechCrunch, Verge, Ars Technica, New York Times, OpenAI