ChatGPT nasıl en hızlı büyüyen uygulama oldu?

Instagram'ın 100 milyon kullanıcıya ulaşması iki buçuk yılını, TikTok'un dokuz ayını alırken ChatGPT bunu sadece iki ayda başardı!

Yapay zeka programı her ne kadar istenen her şeyi başaran sihirli lambadan çıkmış bir cin gibi görünse de kullanıcının kontroldeki ve araştırmadaki rolü halen büyük önem taşıyor  (AA)
Yapay zeka programı her ne kadar istenen her şeyi başaran sihirli lambadan çıkmış bir cin gibi görünse de kullanıcının kontroldeki ve araştırmadaki rolü halen büyük önem taşıyor (AA)
TT

ChatGPT nasıl en hızlı büyüyen uygulama oldu?

Yapay zeka programı her ne kadar istenen her şeyi başaran sihirli lambadan çıkmış bir cin gibi görünse de kullanıcının kontroldeki ve araştırmadaki rolü halen büyük önem taşıyor  (AA)
Yapay zeka programı her ne kadar istenen her şeyi başaran sihirli lambadan çıkmış bir cin gibi görünse de kullanıcının kontroldeki ve araştırmadaki rolü halen büyük önem taşıyor (AA)

Sanki Aladdin'in sihirli lambasının başka bir dünyadan gelen bir kopyası. Süper zeki ve otomatik. Sadece ne istediğinizi yazın ve gerisini yapay zekaya (AI) bırakın!
ChatGPT, OpenAI şirketi tarafından tüm internete kullanıcılarına hizmet vermek için oluşturulan otomatik bir sohbet robotu olarak karşımıza çıkıyor. Kullanıcıların ihtiyaçlarını anlamak için Doğal dil anlayışı (NLU) teknolojisini kullanan ChatGPT, takviyeli makine öğrenimi ve derin öğrenme metoduyla önceden eğitilmiş üretken bir konuşma programıdır. Programın verileri, insan etkileşimine yanıt olarak kendi dilini modellemek amacıyla kullandığı ders kitaplarına, internet sitelerine ve çeşitli makalelere dayanıyor.
Program genel olarak ‘üretken yapay zeka’ (Generative AI) denen bir temel üzerine inşa edilmiştir. Programın, sizden gelen herhangi bir talebe inanılmaz derece bir hızla ve netlikle yanıt verdiğini göreceksiniz. Birçok sohbet robotu yalnızca belirli anahtar kelimelere ya da tetikleyicilere nasıl yanıt verileceğini bilirken, ChatGPT karmaşık sorulara kapsamlı yanıtlar verebilir.
Avantajlı yanı insanlarınkine benzer yanıtlar verebilmesidir. Ayrıca sorulara sohbet havasında doğal cevaplar verebilen program, şiir, hikâye, makale ya da bildiri yazabiliyor, metinleri tercüme edip düzeltebiliyor, şarkı ve ezgi sözü önerebiliyor.
Her şeyin arkasında karmaşık bir teknoloji olduğuna şüphe yok. Ancak öte yandan, sistemin görsel arayüzünün kullanımı inanılmaz derecede kolay. Tek yapmanız gereken, tıpkı Google'da yaptığınız gibi, metin kutusuna yazmak. Basitleştirilmiş bir arayüze sahip olan programın bu özelliği, farklı yaş ve geçmişlere sahip kullanıcıların programla anında etkileşime girmesine izin veriyor. ChatGPT'nin bir başka gücü de esnekliğidir. Eğer verdiği yanıtı beğenmezseniz, öneride bulunabilirsiniz. Böylece yapay zeka yanıt vermeye tamamen hazır olacaktır.
Şarku’l Avsat’ın, Time dergisinde kısa bir süre önce yayınlanan bir makaleden aktardığına göre ChatGPT, yalnızca birkaç hafta içinde sohbet robotu teknolojisi pazarını inanılmaz bir hızla silip süpürdü.
İnternet sitelerinin trafiğiyle ilgili veriler sağlayan SimilarWeb adlı analiz sitesine göre ChatGPT, Kasım ayı sonlarında tanıtılmasından sadece iki ay sonra ocak ayında aylık 100 milyon aktif kullanıcıya ulaştı. İsviçre bankası UBS tarafından yapılan bir araştırma, 20 yıllık e-ticaret geçmişinde bu denli hızlı bir yükselişe daha önce tanık olunmadığına işaret edildi. Digital-Adoption.com’a göre ChatGPT'nin sahibi OpenAI şirketinin internet sitesi şu an dünyada en çok ziyaret edilen 50 internet sitesi arasında yer alıyor.
Bir kıyaslama yapmak gerekirse Instagram'ın 100 milyon kullanıcıya ulaşması iki buçuk yılını, TikTok'un dokuz ayını alırken ChatGPT bunu sadece iki ayda başardı!
ChatGPT'nin bu şaşırtıcı yükselişi, onun çok çeşitli görevleri yerine getirme konusundaki kullanışlılığını ve insanlar arasında ‘insansı makineler’ hakkında karşı konulmaz bir merak uyandırdığının da bir kanıtı niteliğinde. Uzmanlar, bu gelişmenin yapay zeka için yeni bir çağın başlangıcı mı yoksa kullanıcılar ChatGPT'nin mevcut yeteneklerinin sınırlarını zorlayınca ortaya çıkan geçici bir heves mi olduğu konusunda ikiye bölünmüş durumda.
ChatGPT, insan beynindeki nöronlar temel alınarak tasarlanan insanların sinir ağlarına benzeyen yazılım ağları aracılığıyla internetteki büyük veri birikimini çalıştırması sayesinde bu yeteneğe sahip. Bu teknoloji, henüz birkaç yıl öncesine dayanması dikkati çekiyor. Teknoloji şirketi Meta'nın baş yapay zeka bilimcisi Yann LeCun, ChatGPT'nin yeni bir teknoloji olmadığını, büyük ölçüde Google'ın 2017 yılında çıkardığı insan beyninin çalışmasını simüle eden yapay sinir ağı teknolojisine dayandığını söyledi.
Yapay zeka şirketi Hugging Face'in baş etik araştırmacısı Margaret Mitchell, ChatGPT'nin genel olarak teknoloji dünyasında ve özelde sohbet robotları alanında herhangi bir büyük atılım üretmemesine karşın bu kadar popüler olması karşısında şaşırdığını söyledi.
Ancak ChatGPT, Google gibi diğer teknoloji şirketleri, bu yeni teknolojinin sonucunun öngörülemezliği ve yanlış bilgi kaynağı olma ya da nefret söylemini ve ırkçılığı yayma gibi beraberinde getirebileceği potansiyel zararlar nedeniyle kendi programlarını ortaya koymaktan çekinirken yapay zekayı sıradan insanların kullanımına sunan tabiri caizse onunla oynama fırsatı veren ilk büyük akıllı teknoloji projesiydi. The New York Times (NYT) gazetesinin haberine göre olası bir rekabet ortamıyla karşı karşıya kalan OpenAI, ürününü bu sonbaharda piyasaya sürmek için acele etti.
İnsanlar ChatGPT’yi nasıl kullanıyor?
ChatGPT’nin viral hale gelmesinin bir numaralı nedeni yeni olmasıydı. Örneğin, bir kullanıcı ChatGPT'den fıstık ezmeli bir sandviçin VCR'den nasıl çıkarılacağına dair İncil'den bir ayet yazmasını, bir diğeri ise ABD’li merhum yıldız Elvis Presley temalı hayali silahlar için kod yazmasını istedi.
Ancak çok geçmeden ChatGPT'nin kullanımı, memlerin ve aldatmacaların ötesine geçerek profesyonel bir noktaya ulaştı. ChatGPT, kullanıcılarıyla fikir alışverişinde bulunabilir, makaleler ve kodlar yazabilir. İnsanlar, farklı dillerde iş başvurularını, ders programlarını, akademik makaleleri ve senaryoları yazmak için ChatGPT’yi kullanmaya başladılar. İnternetteki veriler, ChatGPT'nin temel kullanım amaçları arasında programlama ve yazılım geliştirmenin öne çıktığına işaret ediyor.
Üç boyutlu (3D) modelleme ve oyun geliştirme stüdyosu Metaverse Architects'in kurucu ortağı Sean Ellul, Time dergisine gönderdiği ChatGPT destekli bir e-postada, bu teknolojinin ‘insanların verimliliğinde ve yaratıcılığında bir dönüm noktası olduğunu’ yazdı. Bu teknolojiyi nasıl kullandığını anlatan Ellul, “Onunla beyin fırtınası yapın, makaleler hazırlayın ve yeni projeler için taslaklar ortaya koyun!” dedi.
Ellul aslında alışılageldiği gibi tweet atmıyor. Çünkü birçok şirket bu yapay zekayı iş akışlarında kullanmak için iş modellerinde birtakım ayarlamalar yaptı. Bunların arasında, geniş bir insan kitlesi arasında popüler olan, eğlenceli testleriyle ünlü Buzzfeed adlı site de yer alıyor. Buzzfeed yönetimi, bu kısa testlerin OpenAI şirketinin teknolojisine dayanan Buzzy the Robot adlı bir yapay zeka tarafından destekleneceğini bildirdi.
Time dergisi, bu gelişmeyle birlikte gelen büyük tepkiyi de masaya yatırdı. Örneğin, yapay zekayı ev ödevleri için kullanılmasını engellemek amacıyla New York başta olmak üzere ABD’nin birçok yerinde eğitim kurumları ChatGPT’yi yasakladı.
Futurism.com birkaç gün önce Kuzey Michigan Üniversitesi'ndeki bir felsefe profesörünün, öğrencilerinden birinin kadınların peçe takmasının yasak olduğu durumlarla ilgili bir makale yazmak için ChatGPT’yi kullandığını keşfettiğini aktardı. Ancak profesörün, makale her ne kadar tutarlı ve iyi formüle edilmiş olsa da bazı hataların olduğunu fark etmesinin ardından öğrencinin makaleyi ChatGPT kullanarak hazırladığını kabul etti.
Öte yandan siteye ilgi o kadar yüksekti ki OpenAI, “ChatGPT is at capacity right now” (ChatGPT'nin şu anda kapasitesi dolu) ifadelerinin yer aldığı bir mesaj alan kullanıcıların yoğun saatlerde ChatGPT’yi kullanmalarına izin veren ücretli bir versiyonunu duyurdu.
ChatGPT, ‘üretken yapay zeka’ alanında hegemonyanın başlangıcı mı?
ChatGPT'ye artan ilgi, Time dergisinin de dediği gibi, teknoloji dünyasındaki rakip şirketleri kendi versiyonlarını piyasaya sürmeye itti. Bu şirketler arasında, sohbet robotu teknolojisini kullanan ‘Bard’ adlı uygulamanın sahibi Google da yer alıyor. Reuters'ın haberine göre Çinli teknoloji devi Baidu da benzer bir sohbet robotunu önümüzdeki Mart ayında kullanıcılara sunmak için hazırlıklarına başladı. OpenAI şirketinin eski çalışanları tarafından kurulan bir yapay zeka şirketi olan Anthropic ise kendi sohbet robotu teknolojisi sürümünü test ediyor.
Tüm bunlar olurken boş durmayan Microsoft da kendi akıllı sohbet robotunu oluşturarak onu Bing arama motoru ve Teams mesajlaşma platformuna entegre etti. Bu yüzden pek çok günlük çalışma prosedürü yakında, büyük ihtimalle siz farkına bile varmadan ‘üretken yapay zeka’ teknolojisi ile geliştirilmeye başlanacak.
Buna karşın bazı tehlikeler de kapıda. Yapay zeka, nefret söylemi ve yanlış bilgi yaymak için kullanıldı. Şimdi de kötü amaçlı kod yazmak için kullanılıyor. Hugging Face'in baş etik araştırmacısı Mitchell, kendi ifadesiyle ‘cicim ayları’ sona erdiğinde, bu teknolojinin sorunlu kullanım biçimlerinin ‘bir eleştiri seliyle’ karşı karşıya kalacağını söyledi.
ChatGPT'nin ondan psikolojik durumlarıyla ilgili kendilerine yol göstermesini isteyen kullanıcılar üzerindeki etkisi konusunda oldukça endişeli olan Mitchell, “ChatGPT, kötü tavsiye almanın ne anlama geldiğini bilmeden zehirli ya da zorbaca ifadeler kullanabilir yahut kötü tavsiyeler verebilir” dedi.
Mitchell ayrıca, örneğin bir keresinde dinozorlar tarafından yaratılan ‘başarılı bir uygarlığın’ ayrıntılı bir tarihini yazan ChatGPT’nin açıkça yanlış yanıtlar verdiğinden ve insanlar bir programın sözlerini kabul etme eğiliminde olduklarından bir arama motorunun yerini alacak bir sohbet robotu kullanılması karşısında da endişeli.
Mitchell, sözlerini şöyle sürdürdü:
“Bilişsel önyargımız nedeniyle ChatGPT'nin gerçeklere dayalı bir referansmış gibi kullanılması beni endişelendiriyor.”
ChatGPT'nin hızlı yükselişine kapı açan yapay zeka silahlanma yarışının, rakiplerin pastadan bir dilim alma umuduyla dolambaçlı yöntemler kullanmasına neden olabileceği de göz ardı edilmiyor. On yıl önce sosyal medyanın yükselişi sırasında Facebook'un kurucusu Mark Zuckerberg'in ‘hızlı hareket edin ve bir şeyleri bozun. Bir şeyleri bozmadığınız sürece yeterince hızlı hareket etmiyorsunuzdur’ ilkesi galip geldi. Bunun sonucunda kullanıcıların güvenliği hiçe sayıldı ve sosyal medya platformları, kitlesel katliamların kışkırtılmasında ve seçmenlerin manipüle edilmesinde büyük bir rol oynadı.



Ödül olmadan video oyunu oynayan maymunlar bilim insanlarını şoke etti

Japon makakları (AFP/Temsili)
Japon makakları (AFP/Temsili)
TT

Ödül olmadan video oyunu oynayan maymunlar bilim insanlarını şoke etti

Japon makakları (AFP/Temsili)
Japon makakları (AFP/Temsili)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri 

Yeni bir araştırma kapsamında maymunların herhangi bir yiyecek ödülü olmadan, tamamen meraktan kendi istekleriyle dokunmatik ekranlı bir video oyununu uzun süre oynaması bilim insanlarını şaşkına çevirdi.

Araştırmacılara göre bulgular, merakın hayvan davranışını nasıl yönlendirdiğinin daha iyi anlaşılmasına yol açabilir.

Yiyecek veya çiftleşme fırsatları gibi dışsal ödüllerden bağımsız olarak işleyen merak duygusu, hayvanları çevrelerini keşfetmeye yönlendirir.

Ancak bir hayvanın çevresinin hangi kısımlarının diğerlerine göre daha fazla merak uyandırdığı tam olarak bilinmiyor.

Araştırmacılar, merakın aşırı basit veya karmaşık durumlardan kaçınırken, orta derecede karmaşık veya belirsiz uyaranlara yönelme eğiliminde olduğu varsayımında bulunuyor.

"Goldilocks ilkesi" denen bu kavram, insan merakını de şekillendiriyor.

Ancak hayvanlarda bu dürtüyü inceleyen çok az çalışma var.
 

Video oyunu oynayan maymun (KyotoU/Sakumi İki)​​​​​​​Video oyunu oynayan maymun (KyotoU/Sakumi İki)

Japonya'daki Kyoto Üniversitesi'nden bilim insanları, maymunlara dokunmatik ekranlı bir video oyunu vererek merakın nasıl işlediğini inceledi.

Video oyunları, insanların bilişsel yeteneklerini geliştirmesine ve yaşam kalitelerini artırmasına fayda sağlayan araçlar olarak son yıllarda öne çıkıyor.

Video oyunlarının laboratuvar ve hayvanat bahçelerindeki hayvanların ilgisini çekip çekemeyeceğini ve onların sağlık ve huzurunu iyileştirmeye yardımcı olup olamayacağını araştıran çalışmalar da yapılıyor.

Hakemli dergi iScience'ta yayımlanan çalışmanın yazarlarından Sakumi Iki, "Başlangıçta vahşi maymunların oyun davranışlarını inceliyordum, bu yüzden laboratuvardaki maymunlarda oyun davranışının doğal bir şekilde ortaya çıkabileceği durumlar yaratmayı uzun zamandır istiyordum" diye açıklıyor.

Araştırmacılar, bölgedeki Japon makaklarının merakını tam olarak ne tür uyaranların tetikleyebileceğini araştırdı.

Saklambaçtan esinlenerek dokunmatik ekran tabanlı bir oyun görevi geliştirdiler.

Bu oyunda maymun dokunmatik ekrandaki bir düğmeye bastığında, düğmeye bağlı olarak ekranın farklı bir yerinde bir kukla beliriyor.

Kuklanın ortaya çıkışı farklı gürültü seviyelerine göre değişirken, gürültü seviyesi yükseldikçe kukla daha zor tahmin edilen bir yerde görünüyor.

Bilim insanları maymunların orta ve düşük gürültüye, ardından orta ve yüksek gürültüye verdikleri tepkileri gözlemledi.

Maymunların, kuklanın biraz tahmin edilebilir ama yine de orta derecede belirsiz bir yerde belirmesini sağlayan orta gürültü düğmesini seçtiğini gördüler.

Bu da makakların tıpkı insanlar gibi, çok basit veya çok rastgele uyaranlara kıyasla, orta düzeyde belirsizliğe sahip uyaranları etkin bir şekilde keşfetme eğilimi gösterdiğine işaret ediyor.

Ayrıca maymunların oyunu oynamaya uzun süreler harcaması, oyunun meraklarını uyandırmada başarılı olduğu fikrini destekliyor.

Dr. Iki "Tipik bilişsel görevlerde maymunların motivasyonunu yüksek tutmak için genellikle onlara yiyecek ödülleri verilir; bu yüzden ödül olmadan oyuna ilgi göstereceklerinden pek emin değildim" diyor. 

Ancak şaşırtıcı bir şekilde, bazı maymunlar hiçbir ödül olmamasına rağmen bu oyunda neredeyse 100 deneme boyunca çalıştı.

Araştırmacılar gelecekteki çalışmalarda bu bulguları kullanarak maymunların merakını uyandıran daha fazla oyun geliştirmeyi umuyor.

Merakın arkasındaki sinirsel ve bilişsel mekanizmaları belirleyerek "bu olguyu daha kapsamlı bir şekilde anlamayı" hedefliyorlar.

Independent Türkçe,independent.co.uk/news


Yapay zeka destekli akıllı saat bayılmayı önceden tahmin ediyor

Araştırmacılar, Samsung Galaxy Watch 6 akıllı saatinin bayılma durumları için erken uyarı sistemi görevi görebileceğini belirtiyor (Samsung)
Araştırmacılar, Samsung Galaxy Watch 6 akıllı saatinin bayılma durumları için erken uyarı sistemi görevi görebileceğini belirtiyor (Samsung)
TT

Yapay zeka destekli akıllı saat bayılmayı önceden tahmin ediyor

Araştırmacılar, Samsung Galaxy Watch 6 akıllı saatinin bayılma durumları için erken uyarı sistemi görevi görebileceğini belirtiyor (Samsung)
Araştırmacılar, Samsung Galaxy Watch 6 akıllı saatinin bayılma durumları için erken uyarı sistemi görevi görebileceğini belirtiyor (Samsung)

Araştırmacılar, akıllı saatlerinden gelen verileri kullanarak kişinin bayılmak üzere olup olmadığını tahmin edebilen dünyanın ilk sistemini geliştirdi.

Chung-Ang Üniversitesi Hastanesi'nde 132 hastanın katıldığı klinik çalışmada, Samsung Galaxy Watch'la kullanıcının kalp atış hızından gelen biyosinyallerden yararlanan gerçek zamanlı bir uyarı sistemi geliştirildi.

Sistem, bilimsel olarak vazovagal senkop diye bilinen bayılma nöbetlerini, yüzde 80'den fazla doğrulukla 5 dakikaya kadar önceden tahmin edebildi.

Hastanenin Kardiyoloji Bölümü'nden araştırmayı yöneten Profesör Junhwan Cho, "Senkop hastalarının düşmelerden kaynaklanan travmalar yaşaması yaygın bir durum ve ekstrem vakalarda bazıları kırık veya beyin kanaması gibi ciddi şekilde yaralanıyor" dedi.

Bu teknolojinin sağlayacağı erken uyarı, hastalara güvenli bir pozisyona geçmeleri veya yardım çağırmaları için önceden zaman kazandırabilir ve bu da ikincil yaralanmaların görülme sıklığını önemli ölçüde azaltabilir.

sdvfrtbhn
Samsung ve Kore'deki Chung-Ang Üniversitesi Gwangmyeong Hastanesi'nin ortak klinik çalışmasında, Galaxy Watch 6'dan elde edilen verilerle kişinin bayılıp bayılmayacağını tahmin edilebildi (Samsung)

Araştırmacılar, hastalardan kalp atış hızı değişkenliği verilerini toplamak için Galaxy Watch 6'daki fotopletismografi (PPG) sensörünü kullandı.

Daha sonra bayılma nöbetinin meydana gelmek üzere olup olmadığını belirlemek için verileri analiz etmek adına yapay zeka algoritması kullanıldı.

Bu, ticari bir akıllı saatin bayılmaya yönelik erken tahmin sistemini başarıyla sunduğu ilk örnek.

Samsung'un sağlık alanındaki araştırma ve geliştirme çalışmalarını yöneten Jongmin Choi, "Bu çalışma, giyilebilir teknolojinin sağlık hizmetlerini 'hastalık sonrası bakım'dan 'önleyici bakım' modeline nasıl dönüştürebileceğinin bir örneği" dedi.

Kullanıcılarımızın daha sağlıklı günlük yaşamlar sürmelerini sağlayan teknolojik yeniliklere öncülük etmeye kararlıyız.

Teknoloji devi, sağlık izleme yeteneklerini akıllı saatlerine ve diğer giyilebilir teknoloji cihazlarına entegre etmeyi planlıyor.

Araştırma bulguları, European Heart Journal-Digital Health adlı akademik derginin son sayısında "Prediction of vasovagal syncope using artificial intelligence-enabled smartwatch photoplethysmography-derived heart rate variability" (Yapay zeka destekli akıllı saat fotopletismografisiyle elde edilen kalp atış hızı değişkenliği kullanılarak vazovagal senkopun tahmin edilmesi) başlıklı çalışmada yayımlandı.

Independent Türkçe


ChatGPT'nin tuhaf takıntısının nedeni ortaya çıktı

Fotoğraf: Unsplash
Fotoğraf: Unsplash
TT

ChatGPT'nin tuhaf takıntısının nedeni ortaya çıktı

Fotoğraf: Unsplash
Fotoğraf: Unsplash

OpenAI, yapay zeka sohbet botu ChatGPT'nin mitolojik yaratıklara takıntılı hale gelmesine neden olan "goblin gizemini" çözdü.

ChatGPT'de alakasız sorulara verilen yanıtlarda bile "goblin" kelimesinden bahsedilme sıklığı son 6 ayda hızla arttı. Bu durum nedeniyle bir soruşturma başlatan OpenAI araştırmacıları, hatanın geçen kasımda yeni ChatGPT modelinin piyasaya sürülmesinin ardından "sinsice sızdığını" saptadı.

Öncüllerine kıyasla "daha akıllı ve daha konuşkan" olacak şekilde tasarlanan yeni model, "Meraklı", "İçten" ve "Sıradışı" gibi çeşitli kişilik ayarları içeriyordu.

Bu modelin yayımlanmasından kısa süre sonra ChatGPT kullanıcıları ve araştırmacılar; goblinler, gremlinler ve diğer fantastik yaratıklardan tekrar tekrar bahsedildiği bir örüntü fark etmeye başladı.

OpenAI konuyla ilgili blog yazısında, "GPT-5.1'den itibaren modellerimiz tuhaf bir alışkanlık geliştirmeye başladı: Metaforlarında giderek daha fazla goblin, gremlin ve diğer yaratıklardan bahsediyorlardı" diye belirtiyor.

Yaratıkların yer aldığı metaforlara bilmeden özellikle yüksek ödüller verdik. Goblinler de buradan yayıldı.

Şirketin güvenlik araştırmacıları GPT-5.1'in yayımlanmasının ardından, modelin eğlenceli metaforlar kullanmaya teşvik edilmesi sonucu "goblin" kelimesinin kullanımında yüzde 175'lik artış olduğunu bildirdi.

Eğitim yöntemi sonraki modeller için düzeltilmedi ve martta GPT-5.4 piyasaya sürüldüğünde "goblin" kullanımı, Meraklı kişilik tipinde neredeyse yüzde 4000 artarken diğer modellerde de aynı oranda artış görüldü.

OpenAI, "Ödüller yalnızca Meraklı kişilik ayarında uygulandı ancak pekiştirmeli öğrenme, öğrenilen davranışların onları üreten koşulla sınırlı kalmasını garanti etmez" ifadelerini kullanıyor.

Bir üslup alışkanlığı ödüllendirildiğinde daha sonraki eğitimler bunu başka yerlere yayabilir veya pekiştirebilir; özellikle de bu çıktılar denetimli ince ayar veya tercih verilerinde yeniden kullanılıyorsa.

Bu örnekteki aksaklık nispeten zararsızdı ancak önde gelen yapay zeka modelleri ve bunların eğitilme ve geliştirilme biçimindeki daha geniş bir kusuru gösteriyor.

Pekiştirmeli öğrenme ve ödül sinyallerinin kullanımı, yapay zeka modellerinin beklenmedik ve istenmeyen biçimlerde davranış değiştirmesine yol açabilir.

OpenAI, araştırma ve güvenlik ekibinin hatalı kalıpları araştırmak için yeni yollar geliştirdiğini ve gelecekte model davranışını daha fazla denetleyeceğini belirtiyor.

Independent Türkçe