OpenAI'ın "gizli projesi" Q* ne kadar tehlikeli?

"Yapay zekada büyük bir atılım"

Sam Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (OpenAI)
Sam Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (OpenAI)
TT

OpenAI'ın "gizli projesi" Q* ne kadar tehlikeli?

Sam Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (OpenAI)
Sam Altman yönetiminde şirketin değeri yaklaşık 80 milyar dolara ulaştı (OpenAI)

Dünyanın önde gelen yapay zeka şirketlerinden OpenAI'ın kurucu ortağı Sam Altman'ın yönetim kurulu tarafından kovulmasıyla başlayan ve 5 gün sonra görevine dönmesiyle sona eren kaos şüphe, spekülasyon ve endişe dalgasına neden oldu.

Bunların başında da yapay zeka firmasının "tehlikeli bir icat" yaptığı iddiası geliyor.

Reuters'ın 23 Kasım'da yayımladığı ve isimsiz bir kaynağa dayandırdığı haberinde şirkette Q* adlı üstün bir yapay zekanın geliştirildiği öne sürülmüştü.

Adı verilmeyen kaynak, "Yeni model belirli matematik problemlerini çözmeyi başardı" demişti. Öte yandan bu matematik problemlerinin yalnızca ilkokul öğrencileri düzeyinde olduğu belirtilmişti. 

Reuters ayrıca bazı araştırmacıların, Altman'ı ihraç eden yönetim kurulu üyelerine Q*'nun potansiyel tehlikelerini dile getiren bir mektup gönderdiğini yazmıştı.

The Information'ın da isimsiz bir kaynağa dayandırdığı bir diğer habere göre, Q* "çok daha güçlü yapay zeka modellerine" olanak tanıyacak bir atılım olarak görülüyor.

Ancak aynı zamanda yeni yapay zeka araçlarının geliştirilme hızının güvenliğe odaklanan bazı araştırmacıları alarma geçirdiği söyleniyor.

Altman ise 30 Kasım'da The Verge'e verdiği röportajda iddiaları yalanlamamıştı.

Q* ne olabilir?

Analistler, bahsi geçen yeni aracın OpenAI'ın mayısta duyurduğu ve "süreç denetimi" (process supervision) adı verilen teknik sayesinde daha iyi sonuçlar elde edildiğini iddia eden bir projeyle ilgili olabileceğini düşünüyor.

Projede OpenAI'ın baş bilim adamı ve kurucu ortağı Ilya Sutskever'ın da aktif rol aldığı söyleniyor. Sutskever, başlangıçta Altman'ın görevden alınması yönünde oy kullanan yönetim kurulu üyelerinden biriydi. Ancak daha sonra bu konuda geri adım atmış ve pişman olduğunu söylemişti.

Şimdiye kadar edinilen bilgiler, araştırmacının Q* üzerinde çalışmaya öncülük ettiğini gösteriyor.

Mayısta duyurulan proje, ChatGPT'nin de aralarında yer aldığı büyük dil modellerinin (LLM'ler) yaptığı mantıksal hataların azaltılmasına odaklanıyor.

Hem Google hem de Baidu'da yapay zeka laboratuvarlarını yöneten ve Coursera'daki dersleri aracılığıyla birçok insanı makine öğrenimiyle tanıştıran Stanford Üniversitesi profesörü Andrew Ng'e göre bu, büyük dil modellerini geliştirmenin ve daha kullanışlı hale getirmenin bir sonraki adımı.

Ng, "LLM'ler matematikte o kadar iyi değil ama insanlar da iyi sayılmaz" diyor:

Ancak bana bir kalem ve kağıt verirseniz, o zaman çarpma işlemini çok daha iyi yaparım.

Q-öğrenmeye gönderme mi yapılıyor?

Diğer yandan Q*'nun ne olabileceğine dair başka ipuçları da var. Nitekim bu ismin pekiştirmeli bir öğrenme algoritması olan Q-öğrenmeye (Q-learning) gönderme olabileceği düşünülüyor.

Oyun oynayan botlar oluşturmak ve ChatGPT'yi daha yararlı olacak şekilde ayarlamak için de kullanılan sistem, olumlu veya olumsuz geri bildirimler yoluyla bir sorunu çözmeyi öğrenen algoritmayı içeriyor.

Bazı uzmanlarsa ismin aynı zamanda bir programın hedefe giden en uygun yolu bulmasını sağlamak için yaygın kullanılan A* arama algoritmasıyla da ilişkili olabileceğini öne sürüyor.

The Information'ın haberinde de konuyla ilgili bir başka ipucu yer alıyor:

Sutskever'ın atılımı, OpenAI'ın yeni modelleri eğitmek için yüksek kaliteli veri elde etmenin önündeki engellerin üstesinden gelmesine olanak sağladı. Araştırma, yeni modelleri eğitmek için internetten alınan metin veya görsel gibi gerçek dünya verileri yerine bilgisayar tarafından oluşturulan verilerin kullanılmasını içeriyordu.

Yapay zekanın bilgisayar tarafından üretilen verilerle eğitilmesi sıklıkla gündeme gelen bir konu. Bunlara "sentetik eğitim verileri" deniyor ve daha güçlü yapay zeka modellerinin geliştirilmesini sağlayacağı düşünülüyor.

Bu yöntemler ChatGPT'yi matematik bilmecelerinde daha iyi hale getirse de yapay zeka sistemlerinin insan kontrolünden çok yakında çıkabileceği anlamına gelmiyor.

Öte yandan OpenAI, Q*'yla ilgili yorum yapmayı halen reddediyor. 

Independent Türkçe



Bilim insanlarından küresel ısınma uyarısı: Uyku apnesi vakaları iki katına çıkacak

 (Pexels)
(Pexels)
TT

Bilim insanlarından küresel ısınma uyarısı: Uyku apnesi vakaları iki katına çıkacak

 (Pexels)
(Pexels)

Stuti Mishra Asya İklim Muhabiri 

Yeni bir araştırmaya göre, iklim krizinin yol açtığı daha sıcak geceler, yüzyılın sonuna gelindiğinde uyku apnesini çok daha yaygın ve tehlikeli hale getirebilir.

Araştırmacılar artan sıcaklıkların, dünya çapında yaklaşık 1 milyar kişiyi etkileyen ve kalp hastalığı, demans ve erken ölümle bağlantılı bir uyku bozukluğu olan obstrüktif uyku apnesini (OUA) kötüleştirebileceğini söylüyor.

Flinders Üniversitesi araştırmacılarının yürüttüğü ve hakemli dergi Nature Communications'ta yayımlanan çalışma, iklim değişikliğinin OUA'nın şiddetini ve sağlık üzerindeki etkisini nasıl artırabileceğini modelleyen ilk araştırma.

Flinders Üniversitesi FHMRI Uyku Sağlığı'ndan çalışmanın başyazarı Dr. Bastien Lechat, "Bu çalışma, ortam sıcaklıklarının OUA'nın şiddetini etkileyip etkilemediğini araştırarak iklim gibi çevresel faktörlerin sağlığı nasıl etkileyebileceğini anlamamıza katkı sağlıyor" diyor.

Araştırmacılar uyku sırasında solunum düzensizliklerini izleyen bir yatak altı sensörü aracılığıyla, 29 ülkeden en az 116 bin kişiden elde edilen 58 milyondan fazla gece uykusu verisini kaydetti.

Birkaç yılda toplanan veriler, küresel iklim modellerinden elde edilen saatlik iklim verileriyle eşleştirilerek farklı ısınma senaryoları altında OUA şiddetindeki değişikliklerinin simülasyonu oluşturuldu.

Dr. Lechat, "Genel olarak ortam sıcaklığıyla OUA şiddeti arasındaki ilişkinin büyüklüğü bizi şaşırttı" diyor.

Yüksek sıcaklıklar, kişinin belirli bir gece OUA yaşama olasılığının yüzde 45 artmasıyla ilişkiliydi.

Görsel kaldırıldı.Grafik, çeşitli uluslararası kuruluşlar tarafından ölçülen, endüstri çağından itibaren küresel ortalama sıcaklık artışını gösteriyor (WMO)


Çalışma, OUA şiddetindeki sıcaklıkla ilişkili artışın, Avustralya veya ABD'ye kıyasla Avrupa ülkelerinde bilhassa belirgin olduğunu ortaya koydu. Araştırmacılar bunun, klimaya erişimdeki farklılıklardan kaynaklanabileceğini öne sürüyor.

Araştırmacılar engelliliğe ayarlanmış yaşam yılı (disability-adjusted life years / DALY) kullanarak iklimin şiddetlendirdiği uyku apnesinin sağlık ve ekonomi üzerindeki yükünü tahmin etti. Sadece 2023'te, sıcaklık artışının araştırmadaki 29 ülkede yaklaşık 800 bin sağlıklı yaşam yılının kaybıyla bağlantılı olduğunu saptadılar.

Dr. Lechat, "Bu rakam, bipolar bozukluk, Parkinson hastalığı veya kronik böbrek hastalıkları gibi diğer tıbbi durumlardakine yakın" ifadelerini kullanıyor.

Toplam ekonomik kayıp yaklaşık 98 milyar dolar olarak tahmin edilirken bunun 68 milyar doları sağlığın bozulmasından, 30 milyar dolarıysa işyerindeki verimlilik düşüşünden kaynaklanıyor.

Kıdemli araştırmacı Profesör Danny Eckert, veriler çoğunlukla soğutma ve sağlık hizmetlerine erişimi daha iyi olan yüksek gelirli bölgelerdeki bireylerden elde edildiğinden, örneklemin düşük gelirli ülkelerde OUA'nın gerçek dünyadaki yükünü yeterince yansıtmayabileceğini söylüyor.

Profesör Eckert "Bu, tahminlerimizi yanıltarak sağlık ve ekonomi üzerindeki gerçek maliyetin düşük tahmin edilmesine yol açmış olabilir" diyor.

Sadece Avustralya'da, OUA dahil uykuyla ilgili sağlık sorunlarının maliyeti daha önce yılda 66 milyar Avustralya doları (yaklaşık 1 trilyon 700 milyar TL) olarak tahmin edilmişti.

Ekip halihazırda soğutmaya erişimin veya davranışsal değişikliklerin, ısınan hava koşullarında uyku apnesinin şiddetini nasıl azaltabileceği gibi olası müdahaleleri araştırmayı planlıyor.

Profesör Eckert, "İleride, ortam sıcaklığının uyku apnesinin şiddetine etkisini azaltacak stratejiler araştıran ve altta yatan fizyolojik mekanizmaları inceleyen müdahale çalışmaları tasarlamak istiyoruz" diye belirtiyor.

Çalışma, daha güçlü küresel iklim eylemleri olmadan uyku apnesinin yükünün muhtemelen keskin bir şekilde artacağı ve bunun da halk sağlığı sorunlarını şiddetlendirerek ekonomileri zorlayacağı uyarısında bulunuyor.


Independent Türkçe, independent.co.uk/climate-change