Afet riskinin azaltılmasında yapay zekadan nasıl faydalanılır?

Yapay zeka, en yüksek risk potansiyeline sahip günleri ortaya çıkarabilir ve önceliklerin belirlenmesinde yardımcı olabilir

Afet yönetimi alanında afetin etkilerini azaltmak ve onu yönetmek amacıyla yapay zeka ön plana çıktı / Görsel: Unsplash
Afet yönetimi alanında afetin etkilerini azaltmak ve onu yönetmek amacıyla yapay zeka ön plana çıktı / Görsel: Unsplash
TT

Afet riskinin azaltılmasında yapay zekadan nasıl faydalanılır?

Afet yönetimi alanında afetin etkilerini azaltmak ve onu yönetmek amacıyla yapay zeka ön plana çıktı / Görsel: Unsplash
Afet yönetimi alanında afetin etkilerini azaltmak ve onu yönetmek amacıyla yapay zeka ön plana çıktı / Görsel: Unsplash

Nermin Ali 

Hala birçok gizeminin bilim tarafından bilinmediği bir dünyada, afetlerden kurtulma umutları yetkililer, kurtarma ekipleri ve akıllı sistemlere bağlı kalıyor.

Felaket durumunda, krizle anında başa çıkma, yaralıları tahliye etme ve mahsur kalanları kurtarma ön planda.

Kimi insanlar yapay zeka sistemlerinin topladıkları verilere dayanarak felaketleri gerçek zamanlı olarak tahmin etmelerini umut etse de uzmanların tüm çabalarına rağmen günümüzde yapay zeka, olayları kesin bir şekilde tahmin etme yeteneğine sahip değil.

Uzmanların bu yönde çalışmaları devam ediyor, ancak daha önemli olan, felaketler sırasında ve sonrasında kullanılabilmesi ve bazen felaketlerden kısa bir süre önce kullanılabilmesi.

Ayrıca, yapay zeka sistemlerinin sürekli ihmal edilen veya arıza gösteren bölgelerde güvenlik önlemleri alınması gerektiğine dair önemli ipuçları sağladığı ve bu şekilde maddi zararları ve ölümleri azalttığı biliniyor.

Afet riskinin azaltılması

Afet Riskinin Azaltılması (DRR) veya diğer adıyla Afet Risk Yönetimi (DRM) terimi, afet risklerini belirlemeyi değerlendirmeyi ve azaltmayı amaçlayan sistemli bir yaklaşım olarak tanımlanır.

Temel olarak DRR, felaketlere karşı toplumsal ve ekonomik zayıflıkları azaltmayı hedefler ve özellikle çevresel riskler gibi felakete yol açan risklerle başa çıkmayı amaçlar.

Birleşmiş Milletler Afet Risklerini Azaltma Ofisi (UNDRR) ve Birleşmiş Milletler Kalkınma Programı (UNDP) tarafından tanımlandığı gibi DRR, yeni afet risklerini önlemeyi, mevcut afet risklerini azaltmayı ve diğer riskleri yönetmeyi hedefler.

Bu, esnekliği artırır ve dayanıklılığı sağlar ve böylece sürdürülebilir kalkınmayı teşvik eder.

Yapay zekanın altın çağını yaşadığımız bir dönemde, yapay zeka sistemlerinin bu alanda neler sunabileceği önemli.

Bu sistemler, karar vericilere felaket risklerini azaltma konusunda doğru kararlar alabilmeleri için gerekli araçlar ve bilgileri sağlayabilirler mi?

Yapay zeka ve afetler

Yapay zeka, afetlerin yönetimi ve etkilerinin azaltılması amacıyla afet yönetimi alanında ortaya çıktı.

Bu alan, felaketlerin riskli olaylarını veri toplama ve analiz etme yeteneği ile kullanmaya başladı.

Bu başlangıç, yapay zeka sistemlerinin açık kaynaklardan topladığı verilere dayalı olarak tehlikeli olayları tahmin etme girişimleriyle başlar ve sonunda bu amaç için özel olarak üretilen modern otomatik sistemleri kullanır.

Ayrıca, gerçek zamanlı felaketleri tespit etmek ve hızlı önlemler almak için risk haritaları oluşturur.

Yapay zeka yöntemleri, veri izleme için önceden işlenmiş verileri ve işlenmiş model çıktılarını kullanarak doğal felaketler, jeolojik felaketler, hidrolojik felaketler, çığlar, toprak kaymaları, volkanik patlamalar, seller, tsunamiler, orman yangınları ve doğal olmayan felaketler gibi çeşitli olaylarda erken uyarı yapma gibi yeni uygulamalarla ilgili yeni fırsatlar sunar.

Örneğin, sel olaylarını tespit etmek için, su toplama alanındaki değişiklikleri izlemek ve algılamak için karmaşık bir sensör ağı kurulur.

Bu, ani sel felaketlerinin neredeyse hiç önceden uyarı olmaksızın ortaya çıkmasının oluşturduğu ciddi tehlikeler göz önüne alındığında büyük bir öneme sahiptir.

Yapay zeka ayrıca hava durumu ve iklim tahmini yapmanın ötesinde, belirli bir konumda ve belirli bir günde bir olayın gözlemlenme olasılığını tahmin etmek için uzmanlar tarafından kullanılıyor.

Bu, çevresel koşulları izleyerek bir olayın gözlemlenme olasılığını tahmin eden bir araç oluşturmak amacıyla kullanılıyor.

Bu model, olaya özgü uzman merkezlerden gelen veri ve gözlemleri kullanarak riskin yüksek olduğu günleri belirleyebilir.

Ayrıca, yapay zeka, doğal felaketler ve acil durumlar sırasında sahada çalışan kurumlar arasında etkili iletişim sağlamak için kullanılır.

Yapay zeka, doğal felaketlere müdahale eden ekiplere, riskleri değerlendirmelerine ve öncelikleri belirlemelerine yardımcı olabilecek verileri sunar.

Yapay zekanın en iyi şekilde nasıl yardımcı olabileceği konusunda optimize edilmiş bir yaklaşımın araştırılması konusunda sürekli olarak çalışılıyor.

Risk haritaları

Yapay zeka, deprem, volkan, heyelan, su baskını ve tsunami gibi belirli bir riske maruz kalan alanlara ışık tutan bir harita türü olan risk haritaları da oluşturabilir.

Doğru kullanıldığında bu sistemler, belirli tehlikelere maruz kalmaktan kaçınarak veya bunların potansiyel olumsuz etkilerini etkisiz hale getirerek hayat kurtarabilir ve maddi kayıpları azaltabilir.

Örneğin, Jeolojik Araştırma Kurumu tarafından oluşturulan bir risk haritası, riskli bölgelerde yaşayan insanlar için sigorta ayarlamalarını düzenlemek için sigorta kuruluşları tarafından kullanılabilir.

Ayrıca, sel risk haritaları, sigorta primlerini belirlemekte kullanılabilir ve bireylere belirli bir bölgede yaşamanın risklerini anlamalarına yardımcı olabilir.

Bu haritalar ayrıca bir bölgedeki yaşam risklerini belirlemede de yardımcı olabilir ve insanlara olası tehlikeleri fark etmelerine yardımcı olur, bu da durumsal farkındalık olarak adlandırılan bilgilerin sağlanması anlamına gelir.

Sonuç olarak, farklı kaynaklardan gelen verilere doğru zamanda yönetim, yatırım ve erişim sürecindeki başarı, afet yönetimi sürecindeki başarının önemli bir parçası olarak değerlendirilebilir.

Independent Arabia - Independent Türkçe



Yapay zeka öncüsü, beyin çipinin burundan çekilmesini isteyen şirkete katıldı

Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
TT

Yapay zeka öncüsü, beyin çipinin burundan çekilmesini isteyen şirkete katıldı

Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)
Subsense, beyin-bilgisayar arayüzü (BBA) oluşturmak için burun yoluyla kişinin beynine giren nanopartiküller tasarladı (Subsense)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Yapay zeka öncüsü Ray Kurzweil, solunum yoluyla alınan nanopartiküller aracılığıyla insanların beyinlerini bilgisayarlara bağlamayı hedefleyen bir nöroteknoloji girişimine katıldı.

Silikon Vadisi merkezli Subsense, Elon Musk'ın Neuralink'ine alternatif bir beyin-bilgisayar arayüzü (BBA) geliştirmeye çalışıyor. Şirket, beyne elektrot yerleştirmek için invaziv cerrahiye başvurmak yerine burun spreyi kullanmayı planlıyor.

Bu teknoloji, kokuyla ilgili bilgileri ileten olfaktör sinir aracılığıyla burun yolundan beyne elektrik yüklü nanopartiküller göndererek çalışıyor.

Partiküller beyne girdikten sonra nöronların yakınına yerleşiyor ve harici bir başlığın ürettiği manyetik alanlara tepki verebiliyor. Bu sayede cerrahi müdahaleye gerek kalmadan sinirsel aktivite okunup uyarılabiliyor.

Kurzweil, "Yapay zeka, nanoteknoloji ve sinirbilimin bir araya gelmesinin, insanların teknolojiyle etkileşim biçimini kökten değiştirebileceğine yıllardır inanıyorum" diyor.

Subsense, bu alanları son derece çarpıcı bir şekilde bir araya getiren bir yaklaşım izliyor. Bu yaklaşım, beyin-bilgisayar arayüzlerini günümüzün cerrahi kısıtlamalarının ötesine taşıyarak zamanla çok daha geniş kullanım alanlarına yöneltme potansiyeline sahip.

2012'den beri Google'da baş yapay zeka araştırmacısı olarak görev yapan Kurzweil, en çok 2005 tarihli teknolojik tekillik teorisiyle tanınıyor. Bu teoride, 2029'a gelindiğinde yapay zekanın insan zekasına ulaşacağını ve ardından 2045'te insanların makinelerle birleşerek kontrol edilemez bir zeka patlamasını tetikleyeceğini öne sürüyor.

Subsense'in kurucu ortağı ve CEO'su Tetiana Aleksandrova, "Ray'in kariyeri boyunca üzerinde düşündüğü bazı fikirler hâlâ geleceğe ait" diyor.

Bizim görevimiz, o geleceğin hangi kısımlarını bugün inşa etmeye başlayabileceğimizi titizlikle ve adım adım belirlemek.

Subsense, yenilikçi teknolojisini geliştirmek için şimdiden 27 milyon dolarlık fon topladı ve fareler üzerinde deneyler yürüttü.

Girişimin insan testlerine başlamasına hâlâ yıllar var ancak ilk uygulamalar Parkinson hastalığı ve ALS gibi nörolojik rahatsızlıklara odaklanmayı hedefliyor.

Son duyuru, BBA'lara duyulan ilginin giderek arttığı bir dönemde geldi; Çinli yetkililer, bu teknolojinin geliştirilmesi amacıyla kısa süre önce geniş çaplı bir girişim başlatmıştı.

Önceki aylarda BBA cihazlarının ticari kullanımını onaylayan ilk ülke olan Çin'de tıbbi kullanım amaçlı birçok ürün halihazırda satışta.

Musk'ın Neuralink şirketiyse beyin çipinin, kullanıcıların sadece düşünceleriyle robotik uzuvları ve bilgisayarları kontrol etmesini sağlaması gibi çeşitli kullanım alanlarını çoktan başarıyla sergiledi.

Gelecekteki denemelere katılma umuduyla 10 binden fazla kişi şirketin hasta kayıt sistemine başvurdu.

Independent Türkçe, independent.co.uk/tech


OpenAI'ın "korkutucu" bir güncelleme yaptığı iddiası: "Kırmızı çizgi aşılıyor"

(Reuters)
(Reuters)
TT

OpenAI'ın "korkutucu" bir güncelleme yaptığı iddiası: "Kırmızı çizgi aşılıyor"

(Reuters)
(Reuters)

Andrew Griffin 

Yapay zeka uzmanları, ChatGPT'ye geldiği söylenen ve yapay zeka sistemlerinin faaliyetlerini denetlemeyi zorlaştırabilecek "korkutucu" güncellemeyle ilgili alarma geçti.

Bu hafta çıkan haberlerde, OpenAI'ın yakında piyasaya süreceği Astra modelinin "opak tekrarlama" adı verilen bir teknik kullanacağı öne sürülse de şirket çalışanları bu haberleri yalanladı. OpenAI'ın söylentilere konu olan değişikliğini ilk kez bildiren teknoloji yayıncısı The Information, Anthropic ve Google DeepMind'ın da benzer güncellemeleri hayata geçirmeyi değerlendirdiğini ayrı bir haberde dile getirdi.

Tekrarlayan derinlik diye de bilinen opak tekrarlama, yapay zeka sistemlerinin zorlu görevleri daha iyi yerine getirmesini sağlayabilecek karmaşık ve teknik bir araç. Ancak uzmanlar bunun, düşünce zinciri denetimi tekniğini baltalayabileceği uyarısında bulunuyor. Bu teknik, bir yapay zeka sisteminin çıktısını üretirken girdiği akıl yürütme süreçlerinin bir kısmının insanlar tarafından görülmesini sağlıyor.

Düşünce zinciri denetiminin bazı sınırlamaları var. Ancak araştırmacıların, modellerin olası uygunsuz davranışlarını görüp nasıl ortaya çıktıklarını anlamasına imkan tanıdığından, yapay zeka güvenliğini sağlamada önemli bir araç olabilir.

Örneğin bir OpenAI modelinin başka bir yapay zeka şirketi Hugging Face'e kısa süre önce gerçekleştirdiği siber saldırıda araştırmacılar, deneysel sistemin saldırıyı başlatmaya nasıl karar verdiğini izleyebilmişti.

Yeni Astra modelinin bu tekniği kullandığını doğrulamayan OpenAI, ilk haberlerin "kafa karıştırıcı" olduğunu öne sürerken, The Information'a göre bu teknik yalnızca sınırlı bir şekilde kullanılıyor. OpenAI, Astra'yı piyasaya sürme planlarının devam edeceğini önceki günlerde duyurduğunda, aslında modelin "potansiyel olarak uyumsuz eylemleri hızla saptayıp kontrol altına almak için ek bir düşünce zinciri denetleme sistemi" içerdiğini belirtmişti.

Ancak yapay zeka uzmanları, yapay zeka sistemlerini denetleme yeteneğinin zayıflatılmasının tehlikeli bir süreci başlatabileceği uyarısında bulunuyor.

Yapay zeka güvenliği uzmanı Zvi Mowshowitz, Substack'te "Bu teknik ateşle oynamaktır. OpenAI ve Anthropic'in kurmak için mücadele ettiği, bizimse Düşünce Zinciri sadakatini ve denetlenebilirliğini elimizden geldiğince uzun süre korumak için büyük çaba harcadığımız bir tabuyu ihlal etme riskini taşıyor" diye yazıyor.

Bu tür tekniklerin daha yoğun kullanımı muhtemelen denetlenebilirliğe zarar verecek.

Büyük yapay zeka şirketlerini ve iddialarını düzenli olarak eleştiren araştırmacı Gary Marcus, bu "korkutucu durumun" kırmızı çizgiyi aşmak anlamına geleceğini söylüyor. Marcus "Düşünce zincirinin denetlenebilirliği sınırlı ve tam olarak güvenilir değil ancak ciddi derecede kötü sonuçları önlemek için pratikte elimizdeki tek yol bu" diye yazıyor.

OpenAI çalışanları, konuyla ilgili haberlerin "kafa karıştırıcı" olduğunu öne sürdü. Şirketin baş bilim insanı Jakub Pachocki, söylentilerin "denetlenemezliğe doğru bir yarış" başlatabileceği uyarısı yaparak OpenAI'ın düşünce zincirini denetlemeye yönelik bağlılığını korduğunu ve "bu tekniğe derinden önem verdiğini" söyledi.

Şirketin stratejik gelecekten sorumlu başkanı Dean W. Ball da benzer şekilde tartışmanın büyük ölçüde sosyal medyada gerçekleşmesini eleştirdi. Ball'a göre bu durum, "gerçekte neler olup bittiğine dair neredeyse hiç somut bilgiye sahip olmadan, teknik açıdan karmaşık ve incelikli iddialar hakkında sosyal medyada hüküm vermek" anlamına geliyor. Ball, X'te "Bu açıkçası çılgınca, akıl almaz ve ilgili herkes için sinir bozucu" diye yazdı.

Independent Türkçe, independent.co.uk/tech


OpenAI'dan bilinmeyen güvenlik açıklarını tek başına bulan modeliyle ilgili açıklama

Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
TT

OpenAI'dan bilinmeyen güvenlik açıklarını tek başına bulan modeliyle ilgili açıklama

Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)
Eğitimdeki modellerinin yakın zamanda kontrolden çıkması nedeniyle OpenAI tepki çekiyor (Reuters)

OpenAI, yakında piyasaya sürmeyi planladığı Astra modeli hakkında yeni detaylar paylaştı. 

Yapay zeka şirketi, 1 Eylül Salı günü yaptığı açıklamada Astra'nın "kritik siber güvenlik eşiğine" ulaşan ilk büyük dil modeli olduğunu belirtti.

ChatGPT'nin yaratıcısı, yeni modelin bilgisayar sistemlerindeki bilinmeyen güvenlik açıklarını bulup insan yönlendirmesine ihtiyaç duymadan bunları suiistimal edebildiğini saptadı. Bu da Astra'yı, Risklere Hazırlık Çerçevesi'nin en gelişmiş kategorisine sokuyor.

OpenAI'ın 2023'te devreye soktuğu bu çerçeve, "ciddi zarara yol açabilecek yeni riskler getirme ihtimali olan gelişmiş yapay zeka yeteneklerini izleyip hazırlanma" amacı taşıyor.

Şirket geçen yıl yaptığı bir güncellemede, modellerin ciddi zarara yol açabilecek "mevcut yöntemleri" güçlendirdiği "yüksek" eşiği ve "benzeri görülmemiş yeni yollar" ortaya çıkarabileceği "kritik" eşiği belirlemişti.

OpenAI, siber kötüye kullanma ve modelin yetkisiz eylemlerine karşı korumaları güçlendirip test ederken, Astra'nın geliştirme ve piyasaya sürülme süreçlerinin bazı bölümlerini ertelediğini salı günkü açıklamasında paylaştı: 

Bu çalışmaya dayanarak Astra için geliştirdiğimiz korumaların ciddi zarar riskini, modelin Risklere Hazırlık Çerçevemiz kapsamında kullanıma sunulmasına imkan verecek ölçüde azalttığına inanıyoruz.

OpenAI, Astra'yı yakında kullanıma sunmayı planladığını ancak modelin en gelişmiş siber güvenlik kabiliyetlerine erişimi sınırlı tutacağını da belirtti. Gelişmiş siber güvenlik çalışmalarının başlangıçta bir test grubuna sunulması planlanıyor.

Astra'yla ilgili duyuru, OpenAI'ın güvenlik önlemlerinin yoğun eleştiri altında olduğu bir dönemde geldi. Temmuzda şirketin bazı modelleri eğitim ortamından kaçarak internete bağlanmış ve Hugging Face adlı firmaya saldırmıştı. OpenAI modellerin başkalarını da hedef aldığını daha sonra açıklamıştı.

OpenAI, Astra bu olaya karışmamış olsa da olaydan çıkardığı dersleri modelin güvenlik yaklaşımına dahil ettiğini belirtti.

Açıklamada "O zamandan bu yana Astra için daha da güçlü korumalar uygulamaya koyduk" ifadelerine yer verildi: 

Bunlar arasında modelin zararlı siber talepleri daha güvenilir biçimde reddetmesi ve güvenlik kısıtlamalarına uyması için eğitilmesi, kötüye kullanıma karşı ek korumalar ve potansiyel olarak yetkisiz etkinlikleri durdurabilen izleme sistemleri yer alıyor.

OpenAI, Astra'yı Hugging Face olayında kontrolden çıkan modeller gibi davranmaya iten deneyler hazırladığını ancak modelin test ortamından kaçmaya çalışmadığını söyledi.

Öte yandan TechCrunch, üçüncü taraflar tarafından teyit edilmeden, OpenAI'ın güvenlik veya hazırlıkla ilgili iddialarını doğrulamanın güçlüğüne dikkat çekiyor.

OpenAI Vakfı'nda yapay zeka dayanıklılığı üzerine çalışan eski OpenAI personeli Yona Shavit de Astra'nın kuralları ihlal etmekten kaçınmasının gerçekten güvenlik talimatlarına uymasından mı, yoksa test edildiğini anlayarak araştırmacıları yanıltmaya çalışmasından mı kaynaklandığını sorguluyor.

Independent Türkçe, TechCrunch, CNBC, OpenAI