OpenAI'ın "gizli projesi" Q* ne kadar tehlikeli?

"Yapay zekada büyük bir atılım"

Sam Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (OpenAI)
Sam Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (OpenAI)
TT

OpenAI'ın "gizli projesi" Q* ne kadar tehlikeli?

Sam Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (OpenAI)
Sam Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (OpenAI)

Dünyanın önde gelen yapay zeka şirketlerinden OpenAI'ın kurucu ortağı Sam Altman'ın yönetim kurulu tarafından kovulmasıyla başlayan ve 5 gün sonra görevine dönmesiyle sona eren kaos şüphe, spekülasyon ve endişe dalgasına neden oldu.

Bunların başında da yapay zeka firmasının "tehlikeli bir icat" yaptığı iddiası geliyor.

Reuters'ın 23 Kasım'da yayımladığı ve isimsiz bir kaynağa dayandırdığı haberinde şirkette Q* adlı üstün bir yapay zekanın geliştirildiği öne sürülmüştü.

Adı verilmeyen kaynak, "Yeni model belirli matematik problemlerini çözmeyi başardı" demişti. Öte yandan bu matematik problemlerinin yalnızca ilkokul öğrencileri düzeyinde olduğu belirtilmişti. 

Reuters ayrıca bazı araştırmacıların, Altman'ı ihraç eden yönetim kurulu üyelerine Q*'nun potansiyel tehlikelerini dile getiren bir mektup gönderdiğini yazmıştı.

The Information'ın da isimsiz bir kaynağa dayandırdığı bir diğer habere göre, Q* "çok daha güçlü yapay zeka modellerine" olanak tanıyacak bir atılım olarak görülüyor.

Ancak aynı zamanda yeni yapay zeka araçlarının geliştirilme hızının güvenliğe odaklanan bazı araştırmacıları alarma geçirdiği söyleniyor.

Altman ise 30 Kasım'da The Verge'e verdiği röportajda iddiaları yalanlamamıştı.

Q* ne olabilir?

Analistler, bahsi geçen yeni aracın OpenAI'ın mayısta duyurduğu ve "süreç denetimi" (process supervision) adı verilen teknik sayesinde daha iyi sonuçlar elde edildiğini iddia eden bir projeyle ilgili olabileceğini düşünüyor.

Projede OpenAI'ın baş bilim adamı ve kurucu ortağı Ilya Sutskever'ın da aktif rol aldığı söyleniyor. Sutskever, başlangıçta Altman'ın görevden alınması yönünde oy kullanan yönetim kurulu üyelerinden biriydi. Ancak daha sonra bu konuda geri adım atmış ve pişman olduğunu söylemişti.

Şimdiye kadar edinilen bilgiler, araştırmacının Q* üzerinde çalışmaya öncülük ettiğini gösteriyor.

Mayısta duyurulan proje, ChatGPT'nin de aralarında yer aldığı büyük dil modellerinin (LLM'ler) yaptığı mantıksal hataların azaltılmasına odaklanıyor.

Hem Google hem de Baidu'da yapay zeka laboratuvarlarını yöneten ve Coursera'daki dersleri aracılığıyla birçok insanı makine öğrenimiyle tanıştıran Stanford Üniversitesi profesörü Andrew Ng'e göre bu, büyük dil modellerini geliştirmenin ve daha kullanışlı hale getirmenin bir sonraki adımı.

Ng, "LLM'ler matematikte o kadar iyi değil ama insanlar da iyi sayılmaz" diyor:

Ancak bana bir kalem ve kağıt verirseniz, o zaman çarpma işlemini çok daha iyi yaparım.

Q-öğrenmeye gönderme mi yapılıyor?

Diğer yandan Q*'nun ne olabileceğine dair başka ipuçları da var. Nitekim bu ismin pekiştirmeli bir öğrenme algoritması olan Q-öğrenmeye (Q-learning) gönderme olabileceği düşünülüyor.

Oyun oynayan botlar oluşturmak ve ChatGPT'yi daha yararlı olacak şekilde ayarlamak için de kullanılan sistem, olumlu veya olumsuz geri bildirimler yoluyla bir sorunu çözmeyi öğrenen algoritmayı içeriyor.

Bazı uzmanlarsa ismin aynı zamanda bir programın hedefe giden en uygun yolu bulmasını sağlamak için yaygın kullanılan A* arama algoritmasıyla da ilişkili olabileceğini öne sürüyor.

The Information'ın haberinde de konuyla ilgili bir başka ipucu yer alıyor:

Sutskever'ın atılımı, OpenAI'ın yeni modelleri eğitmek için yüksek kaliteli veri elde etmenin önündeki engellerin üstesinden gelmesine olanak sağladı. Araştırma, yeni modelleri eğitmek için internetten alınan metin veya görsel gibi gerçek dünya verileri yerine bilgisayar tarafından oluşturulan verilerin kullanılmasını içeriyordu.

Yapay zekanın bilgisayar tarafından üretilen verilerle eğitilmesi sıklıkla gündeme gelen bir konu. Bunlara "sentetik eğitim verileri" deniyor ve daha güçlü yapay zeka modellerinin geliştirilmesini sağlayacağı düşünülüyor.

Bu yöntemler ChatGPT'yi matematik bilmecelerinde daha iyi hale getirse de yapay zeka sistemlerinin insan kontrolünden çok yakında çıkabileceği anlamına gelmiyor.

Öte yandan OpenAI, Q*'yla ilgili yorum yapmayı halen reddediyor. 

Independent Türkçe



Microsoft mavi ekrana veda ediyor

Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)
Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)
TT

Microsoft mavi ekrana veda ediyor

Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)
Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor. Arıza, dünya çapında havayollarını, hastaneleri, acil servisleri ve bankaları etkilemişti (AFP)

Microsoft, yaklaşık 40 yılın ardından kötü şöhretli Windows mavi ekranından kurtuluyor.

Çoğu Windows kullanıcısı bu ekranla ve "Kurtarma" mesajıyla büyük ihtimalle en beklenmedik anlarda karşılaşmıştır.

Yazılım şirketi perşembe günü yaptığı açıklamayla bu ekranın yerine, basitleştirilmiş bir kullanıcı arayüzünü kullanıma sunduğunu duyurdu: siyah ekran.

Bu yenilik aynı zamanda siber güvenlik şirketi CrowdStrike'ın hatalı bir güncellemesinin ardından yaşanan büyük bir küresel kesintiden neredeyse bir yıl sonra geliyor.

Dünyanın dört bir yanında Windows kullanan havayolları, hastaneler, acil servisler ve bankalar etkilenmiş ve milyonlarca Microsoft kullanıcısı çevrimdışı kalmıştı.

Yaklaşık 8,5 milyon Windows sisteminin çökmesine, verimlilik kaybı ve diğer sorunlar nedeniyle şirketlerin milyarlarca dolar kaybetmesine neden olmuştu.

Bunun sonucunda Microsoft siber dayanıklılığını güçlendirme sözü vermişti.

Microsoft'un kurumsal ve işletim sistemi güvenliğinden sorumlu başkan yardımcısı David Weston bir blog yazısında "Beklenmedik yeniden başlatma deneyimini kolaylaştırıyoruz" dedi.

Ayrıca başarılı bir şekilde yeniden başlatılamayan bilgisayarlar için bir kurtarma mekanizması olan hızlı makine kurtarma özelliğini de ekliyoruz. Bu değişiklik, beklenmedik bir yeniden başlatma durumunda aksaklıkları azaltmaya yönelik süregelen daha büyük bir çabanın parçası.

Şirket, yeni kurtarma sisteminin bu yazın ilerleyen dönemlerinde tüm Windows 11 24H2 cihazlarında kullanıma sunulacağını belirtti.

Microsoft'a göre bu yenilik, yeniden başlatma sırasında bekleme süresini çoğu kullanıcı için iki saniyeye indirecek.

Weston, The Verge'e verdiği bir röportajda, "Bu gerçekten netlik, daha iyi bilgi sağlama ve bizim ve müşterilerin sorunun özünün ne olduğunu gerçekten anlamamıza izin verme girişimi, böylece sorunu daha hızlı düzeltebiliriz" diye ekledi.

Bunun bir parçası da tam olarak neyin yanlış gittiğine, sorunun Windows'tan mı yoksa bir bileşenden mi kaynaklandığına dair daha temiz bilgi sağlamak.

Microsoft geliştiricisi Raymond Chen bir blog yazısında mavi ekranın 90'lı yılların başında geliştirildiğini yazmıştı.

Independent Türkçe