OpenAI'nin idari sürprizleri devam ediyor

Sam Altman ve Greg Brockman Microsoft'a

Yüzlerce OpenAI çalışanı, Altman'ın görevden alınmasının ardından yönetim kurulunun feshedilmemesi halinde istifa etmekle tehdit ediyor (AFP)
Yüzlerce OpenAI çalışanı, Altman'ın görevden alınmasının ardından yönetim kurulunun feshedilmemesi halinde istifa etmekle tehdit ediyor (AFP)
TT

OpenAI'nin idari sürprizleri devam ediyor

Yüzlerce OpenAI çalışanı, Altman'ın görevden alınmasının ardından yönetim kurulunun feshedilmemesi halinde istifa etmekle tehdit ediyor (AFP)
Yüzlerce OpenAI çalışanı, Altman'ın görevden alınmasının ardından yönetim kurulunun feshedilmemesi halinde istifa etmekle tehdit ediyor (AFP)

ChatGPT programı sayesinde yapay zekâ alanında teknik bir devrime öncülük eden OpenAI tüm platformları alt üst etmesinin ardından en büyük iki kurucusu Sam Altman ve Greg Brockman'ın görevden alınması ve istifası sonucu daha fazla üne kavuşmaya ihtiyaç duymadı.

Yüzlerce çalışanın (Pazartesi günü) şirketin yönetim kurulunun tüm üyelerinin istifasını talep ederek görevlerinden ayrılmak ve Microsoft'a katılmakla tehdit etmesiyle bu şirketteki sürprizler devam ediyor. Şirketin kurucu ortağı Sam Altman'ın şirketten aniden kovulmasının ardından OpenAI'nin bazı kıdemli çalışanları, ilk olarak bir teknoloji haber dergisi olan Wired tarafından yayınlanan ve yönetim kuruluna hitaben yazdıkları mektupta, "Eylemleriniz OpenAI'yi denetleyemeyeceğinizi açıkça ortaya koydu" dedi. Mektubu imzalayanlar arasında, Altman'ın görevden alınmasının ardından (Cuma günü) yerine CEO olarak atanan ancak hafta sonu rütbesi düşürülen üst düzey yönetici direktör Mira Moratti'nin de yer alması dikkat çekti.

Cuma günü görevden alınan Sam Altman'ın (sağda) yerine OpenAI'nin yeni CEO'su olarak atanan Emmett Shear (solda) (AFP)
Cuma günü görevden alınan Sam Altman'ın (sağda) yerine OpenAI'nin yeni CEO'su olarak atanan Emmett Shear (solda) (AFP)

Altman'dan Microsoft'a

Twitch hizmetinin kurucu ortağı Emmett Sherr'in Cuma günü görevden alınmasının ardından Altman'ın yerine OpenAI'nin yeni CEO'su olarak atandığını teyit etmesinin ardından, Microsoft daha önce (Pazartesi) Altman'ın kendi saflarına katıldığını duyurdu. Microsoft CEO'su Satya Nadella X platformunda yaptığı açıklamada, Open AI'nin kurucuları Sam Altman ve Greg Brockman'ın "diğer meslektaşlarıyla birlikte, yapay zeka üzerine bir araştırma ekibine liderlik etmek üzere Microsoft'a katılacağını" söyledi. Buna karşılık, Silikon Vadisi'nin önde gelen isimlerinden Altman (38 yaşında) şunları yazdı "Görev devam ediyor." Nadella şunları ekledi: "OpenAI ile ortaklığımıza bağlıyız ve ürünümüz için belirlenen yol haritasına güveniyoruz."

Beklenmedik işten çıkarma

Sam Altman, yönetim kurulu tarafından kendisine karşı "samimi" olmamakla eleştirildikten sonra ChatGPT'yi başlatan OpenAI'nin başkanlığı görevinden alındı. Şirketin yönetim kurulu yaptığı açıklamada, "Altman'ın ayrılışının, yönetim kurulu tarafından yürütülen ve yönetim kuruluna karşı her zaman dürüst olmadığı sonucuna varılan müzakereli bir inceleme sürecinin ardından geldiğini; "Bu, sorumluluklarını yerine getirme yeteneğini engelledi" ve "OpenAI'yi yönetme yeteneğine artık güvenmediğini" belirtti. Wall Street Journal, Microsoft ve risk sermayesi şirketi Thrive Capital'in başını çektiği şirketin büyük yatırımcılarının Sam Altman'ı geri getirmek için çaba sarf ettiklerini (Pazar günü) doğruladı. New York Times da benzer bir bilgi yayınladı ancak çeşitli medya kuruluşlarına göre yönetim kurulu kararını (Pazar günü) teyit etti.

Sam Altman haftalar önce GBT Chat'in şu anda her hafta yaklaşık 100 milyon aktif kullanıcısı olduğunu söylemişti (AFP)
Sam Altman haftalar önce GBT Chat'in şu anda her hafta yaklaşık 100 milyon aktif kullanıcısı olduğunu söylemişti (AFP)

Yapay zeka yarışı

"ChatGPT’nin ilk versiyonunun 30 Kasım 2022'de piyasaya sürülmesi yapay zeka alanında bir yarışın fitilini ateşledi. İnternetin ortaya çıkışına benzer bir devrim olarak kabul edilen Generative AI, kullanıcıdan gelen basit bir talebe dayalı olarak metin, kod, görüntü ve ses üretilmesine olanak tanıyor.

Microsoft, OpenAI'ye milyarlarca dolar yatırım yaptı ve bu teknolojiyi Bing arama motoru gibi ürünlerine entegre etti.



"Arka kapı" tehlikesi: 250 dosya ChatGPT'yi zehirlemeye yetiyor

(Unsplash)
(Unsplash)
TT

"Arka kapı" tehlikesi: 250 dosya ChatGPT'yi zehirlemeye yetiyor

(Unsplash)
(Unsplash)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi yapay zeka modellerinin, eğitim verilerine yalnızca küçük bir bozulmuş veri örneği eklenerek "zehirlenebileceği" uyarısını yaptı.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü, Alan Turing Enstitüsü ve yapay zeka firması Anthropic'in ortak yürüttüğü çalışma, 250 kadar az sayıda belgenin büyük dil modellerinin (LLM'ler) anlamsız metinler üretmesine yol açan bir "arka kapı" zafiyeti oluşturabileceğini ortaya koydu.

Bu açık özellikle endişe verici çünkü en popüler LLM'ler, kişisel internet siteleri ve blog yazıları da dahil internetteki herkese açık metinlerle önceden eğitiliyor. Bu da herhangi birinin yapay zeka modelinin eğitim verilerine dahil olabilecek içerik üretmesini mümkün kılıyor.

Anthropic, konuyu detaylandıran blog yazısında "Kötü niyetli aktörler, zehirlenme diye bilinen süreçte modelin istenmeyen veya tehlikeli davranışları öğrenmesini sağlamak için bu yayınlara belirli bir metin enjekte edebilir" dedi.

Arka kapı eklemek de bu saldırı türünden. Arka kapılar, modelden normalde gizli kalacak belirli bir davranışı tetikleyen özel ifadelerdir. Örneğin bir saldırgan komut isteminde olduğu gibi rasgele bir tetikleyici ifade içerdiğinde LLM'ler hassas verileri dışarı sızdıracak şekilde zehirlenebilir.

Bulgular yapay zeka güvenliğine dair endişelere yol açarken araştırmacılar, bunun teknolojinin hassas uygulamalarda kullanılma potansiyelini sınırladığını söylüyor.

Alan Turing Enstitüsü'nden Dr. Vasilios Mavroudis ve Dr. Chris Hicks, "Sonuçlarımız şaşırtıcı ve endişe vericiydi: Bir LLM'yi zehirlemek için gereken kötü niyetli belge sayısı (yaklaşık 250), modelin veya eğitim verilerinin boyutundan bağımsız olarak neredeyse sabitti" diye yazdı.

Başka bir deyişle, veri zehirleme saldırıları daha önce sanılandan daha uygulanabilir olabilir. Bir saldırgan için örneğin 250 zehirli Wikipedia makalesi yaratmak nispeten kolay olacaktır.

Riskler, "Poisoning attacks on LLMs require a near-constant number of poison samples" (LLM'lere yönelik zehirleme saldırıları neredeyse sabit sayıda zehir örneği gerektiriyor) başlıklı, hakem kontrolünden geçmemiş makalede detaylandırıldı.

The Independent yorum için Google ve OpenAI'la iletişime geçti.

Independent Türkçe, independent.co.uk/tech


Elon Musk, Twitter davasında uzlaşmaya gitti

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

Elon Musk, Twitter davasında uzlaşmaya gitti

Fotoğraf: Reuters
Fotoğraf: Reuters

Teknoloji milyarderi Elon Musk, kıdem tazminatlarıyla ilgili anlaşmazlıkta kendisine 128 milyon dolardan fazla tazminat istemiyle dava açan işten çıkarılmış Twitter yöneticileriyle uzlaşmaya vardı.

Musk, Ekim 2022'de Twitter'ı satın aldığında CEO Parag Agrawal, Finans Direktörü Ned Segal, Hukuk Direktörü Vijaya Gadde ve Baş Hukuk Müşaviri Sean Edgett dahil çalışanlar arasında büyük bir tasfiye gerçekleştirmişti.

Bu eski yöneticiler Mart 2024'te, Musk'a ve yeniden markalaştırdığı X sosyal medya platformuna, kendilerine ödenmesi gerektiğine inandıkları kıdem tazminatını karşılamak üzere 128 milyon dolardan fazla toplu bir meblağ için dava açmıştı.

Geçen hafta teslim edilen ve ilk olarak çarşamba günü The Verge tarafından haberleştirilen mahkeme belgelerinde, Musk ve X'in davada "belirli koşulların yerine getirilmesini gerektiren" bir uzlaşmaya vardığı ortaya çıktı.

Belgelerde uzlaşma miktarına yer verilmedi. The Independent yorum için Musk ve davacıların avukatlarına ulaştı.

Musk, Nisan 2022'de Twitter'ı satın almayı kabul etmiş ancak birkaç ay sonra satın alma işleminden vazgeçeceğini söylemişti. Twitter, anlaşmayı tamamlamaya zorlamak için teknoloji devine dava açacak kadar ileri gitmişti.

Musk o sonbaharda 44 milyar dolarlık anlaşmayı tamamladıktan sonra Agrawal ve diğer üst düzey çalışanları hızla kovmuştu. Davaya göre yöneticiler Musk'ı, "özel bir öfke" duyduğu bir grubun kıdem tazminatları için daha fazla para ödemekten kaçınmaya çalışmakla suçladı.

Grup davada, "Musk Davacıların kıdem tazminatlarını ödemek istemediğine karar verdiği için, onları sebepsiz yere işten çıkardı, ardından sahte bir neden uydurdu ve çeşitli şirketlerinin çalışanlarını kararını onaylamaları için atadı" dedi.

asdfer
Musk, başlangıçta anlaşmadan caymaya çalıştıktan sonra Twitter'ı satın almayı kabul etmişti (AFP)

Dava, Walter Isaacson'ın Musk hakkındaki biyografisine atıfta bulunuyor. Biyografide teknoloji devinin Twitter anlaşmasını yöneticilerin hisse senedi opsiyonlarını hak etmelerini önlemek için bir gün erken sonuçlandırdığını söylüyor.

Isaacson, Musk'ın "bu gece sonuçlandırmakla yarın sabah yapmak arasında kurabiye kavanozundaki farkın 200 milyon dolar" olduğunu söylediğini aktarıyor.

Ağustosta Musk ve X'in işten çıkarılan yaklaşık 6 bin işçinin kıdem tazminatı konusunda 500 milyon dolarlık davada "prensipte" uzlaşmaya vardığı açıklanmıştı.

Reuters'ın haberine göre, Twitter'ın yan haklar programlarını denetleyen Courtney McMillian ve operasyon müdürü Ronald Cooper tarafından açılan davada, çoğu çalışanın temel ücretlerinin iki ayını ve işte geçirdikleri her tam yıl için bir haftalık ücret almaları beklenirken, en fazla bir aylık kıdem tazminatı teklif edildiği, işten çıkarılan pek çok işçiye ise hiçbir ek ödeme yapılmadığı öne sürülmüştü.

Independent Türkçe


OpenAI, ChatGPT’yi uygulama merkezine dönüştürüyor

ChatGPT, 800 milyondan fazla kullanıcısıyla dünyanın en popüler yapay zeka sohbet botu (AFP)
ChatGPT, 800 milyondan fazla kullanıcısıyla dünyanın en popüler yapay zeka sohbet botu (AFP)
TT

OpenAI, ChatGPT’yi uygulama merkezine dönüştürüyor

ChatGPT, 800 milyondan fazla kullanıcısıyla dünyanın en popüler yapay zeka sohbet botu (AFP)
ChatGPT, 800 milyondan fazla kullanıcısıyla dünyanın en popüler yapay zeka sohbet botu (AFP)

OpenAI, dünyanın en büyük bazı uygulamalarıyla ortaklık kurarak ChatGPT kullanıcılarının çalma listeleri oluşturma veya emlak ilanlarını arama gibi görevleri gerçekleştirmesine olanak tanıdı.

800 milyondan fazla kullanıcısıyla dünyanın en popüler yapay zeka sohbet botu, artık sohbetlerde ilgili uygulamaları öne çıkaracak.

OpenAI bir blog yazısında, "ChatGPT doğru anda bir uygulama önerdiğinde veya isimlerini belirttiğinde bunları keşfedebilirsiniz" ifadelerini kullandı.

ChatGPT kullanıcıları için uygulamalar sohbette onlara eşlik eder ve bağlama uyum sağlayarak daha fazla şey yaratmalarına, öğrenmelerine ve uygulamalarına yardımcı olur... ChatGPT'deki bu yeni nesil uygulamaların büyüsü, haritalar, çalma listeleri ve sunumlar gibi tanıdık ve etkileşimli öğeleri, sohbet yoluyla etkileşim kurmanın yeni yollarıyla harmanlamasında yatıyor.

Booking.com, Expedia, Spotify ve Zillow gibi uygulamalar ChatGPT'ye bağlanabilecek ve kullanıcıların uygulama üzerinden görevler gerçekleştirmesine ve soru sormasına olanak tanıyacak.

OpenAI'ın bunun nasıl çalışabileceğine dair sunduğu birkaç örnekte kullanıcılar, yapay zeka sohbet botundan Spotify'da bir parti için çalma listesi oluşturmasını veya Zillow'da emlak ilanları aramasını istedi.

OpenAI'ın bahsettiği gelecekteki işbirlikleri arasında DoorDash, Instacart ve Uber var ve diğer uygulama geliştiricileri de hizmetlerini yeni bir yazılım seti aracılığıyla entegre edebilecek.

OpenAI CEO'su Sam Altman, şirketin yıllık geliştirici konferansında, "ChatGPT'nin, insanların ilerleme kaydetmesi, daha üretken, daha yaratıcı olması, daha hızlı öğrenmesi ve hayatlarında yapmaya çalıştıkları her şeyi daha iyi yapması için harika bir yol sunmasını istiyoruz" dedi.

Bu, kullanıcıların sohbet edebileceği, etkileşimli, uyarlanabilir ve kişiselleştirilmiş yeni nesil uygulamaların önünü açacak.

Yakın zamanda yapılan bir OpenAI hisse senedi satışı, şirketin değerini 500 milyar dolara çıkarmış ve onu, Elon Musk'ın SpaceX'ini geride bırakarak dünyanın en değerli özel şirketi haline getirmişti. Bu, şirketin henüz kâr elde etmemiş olmasına rağmen gerçekleşti.

OpenAI geliştirici konferansındaki bir soru-cevap oturumunda Altman, yapay zeka sektörünü "bir nevi coşkulu" diye nitelendirdi ancak "gerçek değer yaratılacağını" iddia etti.

Yeni özellik halihazırda sadece AB dışındaki ChatGPT kullanıcılarının erişimine açık.

Independent Türkçe