Microsoft’un raporunda İran'ın siber saldırılarına dikkat çekildi

Tahran manipüle etmek ve korkutmak için yapay zeka tekniklerini kullandı.

Microsoft yayınladığı raporda İran’ın siber saldırılarına yer verdi.
Microsoft yayınladığı raporda İran’ın siber saldırılarına yer verdi.
TT

Microsoft’un raporunda İran'ın siber saldırılarına dikkat çekildi

Microsoft yayınladığı raporda İran’ın siber saldırılarına yer verdi.
Microsoft yayınladığı raporda İran’ın siber saldırılarına yer verdi.

Microsoft'a göre İran, Gazze Şeridi'nde savaşın başladığı 7 Ekim 2023'ten bu yana İsrail'e yönelik siber operasyonlarına ve propaganda kampanyalarına hız verdi.

ABD merkezli Microsoft, Hamas Hareketi’nin 7 Ekim 2023'te gerçekleştirdiği saldırıların öncesi ve sonrasında İran'ın siber faaliyetlerine ilişkin ayrıntılı bir rapor yayınladı.

Raporda, İran hükümetiyle ittifak halinde olan bazı tarafların çok sayıda elektronik ve siber saldırı başlattığı belirtildi. Hamas'a yardım etmeyi ve İsrail'i, onun siyasi müttefiklerini ve ticari ortaklarını zayıflatmayı amaçlayan yapay zekâ tekniklerini ve nüfuz operasyonlarını kullandı.

Microsoft’un raporuna göre İran, Hamas'ı desteklemek amacıyla siber operasyonlarını ve çevrimiçi etki operasyonlarına hız verdi ve faaliyetlerinin yaklaşık yüzde 43'ünü İsrail'e karşı yürüttü.

Ancak rapora göre İran'ın 7 Ekim'den sonra gerçekleştirdiği operasyonların çoğu aceleci ve kaotikti; bu da İran ile Hamas arasında bir koordinasyon olmadığını gösteriyor.

Şarku’l Avsat’ın edindiği bilgilere göre raporda ayrıca İran'ın Lübnan'daki Hizbullah grubuyla iş birliğine de dikkat çekildi. İsrail ile Hamas arasındaki çatışmanın devam etmesi ve ABD başkanlık seçimlerinin yaklaşmasıyla birlikte İran'ın nüfuz operasyonlarının ve elektronik saldırıların önümüzdeki dönemde daha hedefe yönelik ve yıkıcı olacağı öngörülüyor.

Microsoft'un raporuna göre 2024 yılında İran'ın ABD'yi başkanlık seçimleri döneminde daha fazla hedef alması bekleniyor. İran'ın, İsrail hastanesine ve Pensilvanya'daki Amerikan su sistemine karşı yaptığı gibi hayati altyapıyı hedef almak gibi ‘ABD’nin kırmızı çizgilerini test edeceği’ vurgulanıyor.

Rapor, 2020 seçimlerinde olduğu gibi, ABD'li aşırılık yanlılarının kimlik hırsızlığı yaparak ve ABD hükümet yetkililerine karşı şiddeti teşvik ederek gerçekleştirdikleri olaylara dayanarak 2024'te ABD'deki başkanlık seçimleri sırasında yoğunlaşan daha büyük tehditler konusunda uyarıda bulunuldu.

Saldırıların üç aşaması

Raporda üç aşamada gerçekleştirilen operasyonlara ilişkin açıklamalara yer verildi:

İlk aşama etkileşimli olarak başlıyor ve İran Devrim Muhafızları'na bağlı ‘Tesnim’ ajansı gibi devlet medyası aracılığıyla yanıltıcı bilgilerin yayılmasını içeriyor. Örneğin, İsrail elektrik şirketinin arızalanmasıyla ilgili haberlerin yayınlandığı haberlerle ilişkilendirilmiş olan İran Devrim Muhafızları tarafından yönetilen bir grup (muhtemelen) siber saldırılar hakkında bilgiler içeren raporlara dayanır. Bu raporlar, İsrail'deki elektrik kesintilerine ilişkin eski raporlara ve İsrail şirketinin web sitesinde yer alan tarihsiz bir arıza ekran görüntüsüne dayanıyordu.

İkinci aşama, İran hükümetine bağlı çeşitli grupların ve kuruluşların İsrail'e karşı yanıltıcı bilgilerin yayılmasında iş birliği yapmasıyla karakterize edildi. Tahran'ın belirlediği koordinasyon ve hedeflere göre, bu, büyük bir iş birliğine ve dolayısıyla bu saldırıların uzmanlaşmasına ve büyük etkinliğine olanak sağladı.

Raporda, birden fazla İranlı grubun birden fazla koordineli siber faaliyet yoluyla aynı örgütü veya İsrail askeri üssünü hedef aldığı belirtildi. İran'ın kullanmayı tercih ettiği bir yöntem olan İsrail'e yönelik çevrimiçi nüfuz operasyonları hız kazandı ve bu operasyonlar arttı ve Ekim ayında on operasyon kaydedildi. Bu, 2022 yılının kasım ayında bir ayda gerçekleştirilen altı operasyon rekorunun neredeyse iki katına işaret ediyor.

Raporda, İran Devrim Muhafızları'na bağlı ‘Şehit Kaave’ grubunun 18 Ekim'de, İsrail içindeki güvenlik kameralarına karşı elektronik saldırılar düzenlemek için özel olarak tasarlanmış fidye yazılımlarını kullandığı belirtildi. ‘Cund Süleyman’ isimli bir siber karakter, İsrail'in Nevatim Hava Üssü'ndeki güvenlik kameralarını ve verilerini ele geçirdiklerini iddia etti. Ancak ‘Cund Süleyman’ tarafından sızdırılan güvenlik görüntülerinin, Tel Aviv'in kuzeyindeki Nevatim Caddesi'nde bulunan bir kasabada çekildiği ve aynı ismi taşıyan İsrail Hava Üssü'yle ilgisi olmadığı belirtildi.

Üçüncü aşama, geçtiğimiz kasım ayının sonlarında başladı ve İran'ın İsrail'e destek verdiğini düşündüğü ülkeleri hedef alarak coğrafi kapsamı genişletti. Bu aşama, İran destekli Husilerin uluslararası nakliyatı hedef alan saldırılarına başladığı döneme denk geldi. Bu saldırılar özellikle Bahreyn, Arnavutluk ve ABD'yi hedef aldı.

erbtn5y6mu7
İran'ın başlattığı nüfuz operasyonlar arasında rehinelerle ilgili olarak İsrail kamuoyunu etkilemek ve İsrail Başbakanı'na karşı öfkeyi artırmak var. (Microsoft raporu)

20 Kasım'da, ‘kukla’ hesaplarından Arnavutluk'a karşı yakın zamanda gerçekleşecek olan elektronik saldırılara dair uyarılar yapıldı. Daha sonra bu hesaplar, çeşitli Arnavut kuruluşları ve kurumlarına saldırılardan sorumlu olduklarını duyurdu.

21 Kasım'da ‘Tufan’ adı verilen bir siber kukla, İsrail ile ilişkilerini normalleştirmeye devam etmelerini engellemek için denizcilik hükümetini ve finans kurumlarını hedef aldı.

22 Kasım'da, İran Devrim Muhafızları'na bağlı bu gruplar, İsrail'in programlama kontrol ünitelerini hedef almaya başladılar (bu, üretim hatları ve robot cihazları gibi üretim kontrol işlemlerini gerçekleştirmek için geliştirilen endüstriyel bilgisayar cihazlarıdır) ve 25 Kasım'da Pensilvanya eyaletindeki su otoritesinin iletişimini kestiler.

Yanlış bilgi

Raporda hükümet medyasının Hamas saldırılarıyla ilgili yanıltıcı ayrıntılar yayınlamasına da değinildi. İran da İsrail'e yönelik siber saldırı operasyonlarını ve çabalarını artırdı. Saldırılar, savaşın ilk günlerinde bir tepki olarak başladı, ancak ekim ayının sonlarına doğru İran siber güvenlik güçlerinin İsrail'e yönelik saldırılarına odaklandığı belirtildi.

Microsoft’un raporunda, o dönemdeki siber saldırıların giderek daha yıkıcı hale geldiğini ve yanıltıcı bilgilerin yayılması kampanyalarının daha karmaşık hale geldiği belirtildi. Sosyal medya platformlarında sahte ve gerçek olmayan hesapların kullanıldığı ifade edildi.

Sayısal olarak bakıldığında, Microsoft'un gözlemlediği İran hükümet grupları, savaşın ilk haftasında dokuz saldırıdan bir sonraki haftada sadece bir hafta içinde on dört saldırıya çıkarak arttı.

2021'deki bir olaydan iki ayda bir düzenlenen etki operasyonları, sadece 2023 yılının Ekim ayında 11'e yükseldi. Ayrıca, Tahran'ın çevrimiçi eylemlerinde yüzde 42'lik bir artışın olduğu ve bir ay sonra yüzde 28'lik bir artışın daha kaydedildiği bildirildi.

İsrail’in ana hedef olmasına rağmen, Batı ve Arap ülkeleri de saldırılara maruz kaldı. Bunlar arasında, bir İran grubunun Bahreyn hükümetini ve finansal kurumları hedef alması da yer aldı. Son olarak, İran Devrim Muhafızları'na bağlı bir grup, Pensilvanya'daki ABD su yönetim merkezine siber saldırılar düzenledi.

İran'ın hedefleri

Raporda, İran'ın ana hedefinin, siber operasyonlarını kullanarak İsrail ve dünya genelinde kamuoyunu etkilemek olduğu belirtiliyor. Bu, ‘siyasi ve sosyal anlaşmazlıkları’ hedefleyerek manipülasyon veya korku yoluyla gerçekleştiriliyor.

Raporda, etki operasyonlarının sık sık çabalarını, Hamas'ın liderlik ettiği saldırı sırasında kaçırılan 240 rehineye veya İsrail Başbakanı Binyamin Netanyahu'nun görevden alınmasına yönlendirdiği kaydedildi. Bu, kafa karışıklığı ve güven kaybı yaratmak için yapılan bir girişimdi.

Microsoft’un raporu, ana hedeflerine de değinildi: Birincisi, iç siyasi ve sosyal farklılıkları daha da kötüleştiren kutuplaşma yoluyla istikrarsızlaştırma. Bu nedenle, 240 rehine kriziyle başa çıkma konusunda İsrail hükümetinin benimsediği yaklaşıma odaklanıldı. Kendilerini barış isteyen aktivist gruplar olarak tanıttılar, İsrail hükümetini ve İsrail Başbakanı'nı eleştirdiler ve onun görevden alınması çağrısında bulundular.

Microsoft raporuna göre ikinci hedef intikamdı. İran'ın saldırıları, İsrail'in ‘göze göz dişe diş’ prensibinden hareketle Gazze'deki elektrik, su ve yakıtı keseceği yönündeki tehditlerine yanıt olarak İsrail'in elektrik, su ve yakıt altyapısını hedef aldı.

Üçüncü hedef, İsrail vatandaşlarını korkutarak ve İsrail askerlerinin ailelerini tehdit ederek korku yaratmaktı. Bu amaçla, İsrail ordusunun askerlerini koruma yetkisinin olmadığını belirten ve İsrail Savunma Kuvvetleri'nin askerlerini teslim olmaya ikna etmeyi amaçlayan mesajlar gibi, X platformu üzerinden hesaplar aracılığıyla mesajlar yayınladılar.

Dördüncü hedef ise İsrail'i destekleyen tarafları hedef alarak ve İsrail'in Gazze Şeridi'ne yönelik saldırılarının yarattığı hasarı öne çıkararak İsrail'e verilen uluslararası desteği baltalamaktı.

Yapay zekâ saldırıları

Rapora göre İran'ın en büyük saldırısı, 2023 yılının Aralık ayı başlarında televizyon yayın hizmetlerini keserek, yerine İngiltere, Kanada ve BAE'deki İran nüfuz kampanyası kapsamında (yapay zeka tarafından üretilen bir haber spikeri) kullanılan bir video klip kullanılmasıydı. Microsoft, bu olaya özel bir vurgu yaparak, Tahran'daki hükümet grupları tarafından benzer bir şekilde yapılan ilk saldırı olduğunu ve operasyonlarında büyük ölçüde yapay zekâ teknolojilerine güvendiklerini belirtti.

Microsoft şirketinin yapay zeka izleme bölümü, İran'ın propaganda göstergelerini takip etti.

Microsoft raporu, İran devletine bağlı medyanın, ABD ile yakın müttefik olan İngiltere, Kanada, Avustralya ve Yeni Zelanda gibi İngilizce konuşulan ülkelerde büyük başarı elde ettiğini gözler önüne serdi. İran haber kaynaklarına olan ilgi ve trafiğin, genel internet trafiğiyle karşılaştırıldığında önemli ölçüde arttığını ifade etti. İsrail'in Gazze'ye yönelik saldırısı sırasında, ABD, İngiltere, Kanada, Avustralya ve Yeni Zelanda'dan İran kaynaklı internet sitelerine olan ziyaretlerin yüzde 42 arttığı kaydedildi. Bu durum, İran'ın Ortadoğu'daki çatışma hakkındaki raporlarıyla Batı halkına ulaşma yeteneğine işaret etti. Rapor, bu başarının özellikle savaşın ilk günlerinde daha güçlü olduğunu ve savaşın bir ayı aşkın bir süre geçtikten sonra bile, İran kaynaklarına erişimin savaş öncesi seviyelerinin yüzde 28 üzerinde kaldığını belirtti.

İran sızma operasyonları

Rapor, İranlı kurumların sadece düşmanlarını değil, aynı zamanda dostlarını da taklit ettiğini belirtiyor. İran'ın son operasyonları, İsrail ordusunu tehdit eden sahte mesajlar yayınlamak için Hamas'ın askeri kanadı olan Kassam Tugayı'nın adını ve logosunu kullandı. Ancak, İran'ın bunun için Hamas'tan onay alıp almadığı bilinmiyor.

İran, İsraillileri faaliyetlerine katılmaya çekmeyi başardı. ‘Savaşın Gözyaşları’ adlı son bir operasyonda, İranlı ajanlar İsraillileri, İsrail basınında yer alan haberlere dayanarak İsrail mahallelerinde yapay zeka ürünü görseller kullandı. ‘Savaşın Gözyaşları’ sloganlı pankartlar asmaya ve Binyamin Netanyahu'nun görevden alınmasını teşvik etmeye ikna etti.

E-posta kampanyaları

İran'ın, psikolojik etkileri artırmak için kitle mesajlaşma ve e-posta kampanyalarını artan bir şekilde kullandığı belirlendi. İnsanların telefonlarına veya gelen kutularına gelen mesajların, sosyal medyadaki sahte hesaplardan daha büyük bir etkiye sahip olduğu ortaya çıktı. Rapora göre İran, İran Devrim Muhafızları'na bağlı hem açık hem de gizli medya organlarını, siber operasyonların etkilerini büyütmek için kullanıyor. Eylül ayında, İranlı bir hacker grubu, İsrail demiryolu sistemine karşı elektronik saldırılar düzenlediğini iddia etti. İran Devrim Muhafızları'nın medyası da söz konusu iddiaları köpürterek yayılmasını sağladı.



Yapay zekâ geliştirme hızını yavaşlatmak mümkün mü?

İllüstrasyonda “yapay zekâ” ifadesi, klavye ve robotik el (Reuters)
İllüstrasyonda “yapay zekâ” ifadesi, klavye ve robotik el (Reuters)
TT

Yapay zekâ geliştirme hızını yavaşlatmak mümkün mü?

İllüstrasyonda “yapay zekâ” ifadesi, klavye ve robotik el (Reuters)
İllüstrasyonda “yapay zekâ” ifadesi, klavye ve robotik el (Reuters)

Yapay zekâ sektörünün önde gelen yöneticileri, bu teknolojinin hızla ilerleyen geliştirme sürecini yavaşlatmaya çalışıyor. Ancak şirketler arasındaki yoğun rekabet, ABD hükümetinin kısıtlamalar getirmekten kaçınması ve jeopolitik kaygılar bu hedefin önünde engel oluşturuyor.

Geliştirme hızının yavaşlatılması çağrıları

Anthropic Üst Yöneticisi (CEO) Dario Amodei, cumartesi günü yapay zekânın geliştirilme hızının yavaşlatılması için koordineli çaba çağrısında bulundu. Amodei, bunun ilgili taraflara teknolojinin giderek artan yeteneklerinden kaynaklanan riskleri anlamaları için daha fazla zaman sağlayacağını belirtti.

Şarku’l Avsat’ın Fransız Haber Ajansı AFP’den aktardığı habere göre   Amodei'nin çağrısına OpenAI CEO'su Sam Altman'ın yanı sıra Elon Musk ve Google DeepMind CEO'su Demis Hassabis de açık destek verdi.

Endişeler neden şimdi arttı?

Bu çağrılar, OpenAI ve Anthropic'in son aylarda yapay zekâ sistemlerinin izole edildikleri ortamlardan kendiliğinden çıkarak internete eriştiği ve hatta internet siteleri ile platformlara saldırdığı çeşitli olayları açıklamasının ardından geldi.

Söz konusu olaylar sırasında bu sistemlerin kendi aralarında koordinasyon kurma, hiyerarşiler oluşturma, kandırma ve gerçekleştirdikleri eylemlerin izlerini silme gibi yeteneklere sahip olduğu görüldü.

dfvgthy
New York’ta bir bilgisayar ekranında Anthropic’in internet sitesinden sayfalar ve şirketin logoları (AP)

Öte yandan daha önce OpenAI'da çalışmış ve Anthropic'ten istifa etmiş olan Jacob Coxon, salı günü iki girişimci şirketi güvenlik standartlarında gevşek davranmak ve "hayatımızı kumara yatırmakla" açıkça suçladı.

Şirketler geliştirme hızını kendi başlarına yavaşlatabilir mi?

Sektörün en büyük şirketleri arasındaki rekabetin son derece yoğun olması, yüz milyarlarca dolarlık yatırımın söz konusu olduğu bir ortamda herhangi bir şirketin tek başına geliştirme hızını düşürmesini zorlaştırıyor.

Amodei rakiplerle koordinasyon sağlamaya hazır olduğunu belirtirken Çin'i bu işbirliğinin dışında bıraktı.

Şu ana kadar Anthropic ve OpenAI'ın attığı somut adım ise yapay zekâ güvenliği alanındaki çalışmalarını şirket içinde denetlemek üzere bağımsız gözlemcilerden yararlanmakla sınırlı kaldı.

Bu sadece bir halkla ilişkiler kampanyası mı?

Amodei'nin çağrısı sektörde çok sayıda çalışan tarafından memnuniyetle karşılanırken bazı kesimler ise çağrının ardındaki gerekçeleri sorguladı.

Yapay zekâ sektörünün önde gelen girişimcilerinden Brian Rommele, çağrının aslında Anthropic'in muhtemel halka arzından birkaç hafta önce gerçekleştirilen bir pazarlama hamlesi olduğunu savundu.

Rommele, geniş çapta beklenen halka arza atıfta bulunarak X platformunda şu ifadeleri kullandı: "Bu, bir makale biçiminde halka arz hikâyesi: Biz sorumlu şirketiz, biz çözümüz, güvenlik primini satın alın."

rgthy
Mayıs 2026'da şirketin düzenlediği etkinlik sırasında yapay zekâ şirketi Anthropic'in logosu (DPA)

Teknoloji sektöründeki bazı özel yatırımcılar da Anthropic'i "düzenleyici kurumların ele geçirilmesi" olarak tanımlanan bir yaklaşımı benimsemekle suçladı. Buna göre şirket, kamu otoritelerini, girişimin kurallar yoluyla oluşturulacak düzenleyici hiyerarşinin en üstünde yer alacağı bir yapı kurmaya yönlendirmeye çalışıyor.

ABD Başkanı Donald Trump'ın yapay zekâ danışmanlığını daha önce yürüten ve halen Beyaz Saray'da etkisini sürdüren David Sacks ise "Yavaşlamanın ardındaki motivasyonun tamamen fedakârlık olduğunu iddia etmeyi bırakın" dedi.

Sacks, "Ürünleriniz son derece zararlı bir siber saldırının gerçekleştirilmesine imkân verirse ürün sorumluluğu açısından çok büyük risklerle karşı karşıya kalırsınız" ifadelerini kullandı.

Trump yönetiminin desteği olmadan yapay zekâ yavaşlatılabilir mi?

Trump, pazar günü yapay zekâ sektörünün liderleri tarafından dile getirilen uyarıları reddederek bunları "negatif güçler" olarak nitelendirdi.

ABD Temsilciler Meclisi Başkanı Mike Johnson'a göre çok sayıda Cumhuriyetçi, teknolojiye yönelik aktif düzenlemeler konusunda temkinli davranıyor. Bunun nedenleri arasında düzenlemelerin inovasyonu boğabileceği ve Çin'in yapay zekâ yarışını kazanmasına yol açabileceği endişesi bulunuyor.

Amodei ise pazar günü yapay zekâ üzerinde devlet denetimine ihtiyaç duyulduğu yönündeki görüşünü yineledi. Amodei, Altman ve Hassabis gibi sektörün kendi kendini düzenlemesinin yeterli olmayacağını vurguladı.

Çin olmadan geliştirme hızı yavaşlatılabilir mi?

Amodei, koordinasyonun demokratik ülkelerle sınırlandırılmasını ve Çin'in sürecin dışında tutulmasını öneriyor. Ancak yapay zekâ yarışı ve Çin'in bu alandaki ilerlemesinin, teknolojinin geliştirilme hızının yavaşlatılması ihtimali değerlendirilirken "en zor açmazı" oluşturduğunu kabul ediyor.

Amodei, pazar günü CBS'e verdiği röportajda Çin'in kaydettiği ilerlemenin yapay zekânın geliştirilme hızının yavaşlatılması meselesini daha karmaşık hale getirdiğini söyledi.

ABD'nin, Çin Devlet Başkanı Şi Cinping'in eylül ayı sonunda Washington'a gerçekleştirmesi planlanan ziyareti sırasında yapay zekâ güvenliğini görüşmesi bekleniyor. Ancak çeşitli medya kuruluşlarının haberlerine göre Çin, ABD'nin kendi düzenleyici çerçevesini dayatma girişimine karşı çıkıyor.

Anlaşmazlık, özellikle Çin'in "açık" yapay zekâ sistemlerinin geliştirilmesini teşvik etmesi nedeniyle daha belirgin hale geliyor. Bu sistemlere erişim sağlanabiliyor ve modeller serbestçe değiştirilebiliyor. Buna karşılık ABD'nin önde gelen şirketleri daha çok "kapalı" modelleri tercih ediyor.

Açık modeller, doğaları gereği daha zor kontrol ediliyor. Kullanıcıların modellerin parametrelerini değiştirebilmesi, bu sistemlerin şüpheli amaçlarla kullanılmasına imkân tanıyabiliyor.

Amodei, Çin dışındaki öncü şirketlerin geliştirme hızını yavaşlatabilmesi için ABD'nin en gelişmiş yarı iletkenlerinin Çin'e ihracatına yönelik kontrollerin sıkılaştırılmasını ve Batı'nın yapay zekâ teknolojisinin Çin'deki laboratuvarlar tarafından kötüye kullanılmasını önleyecek güvencelerin güçlendirilmesini öneriyor.


Washington’ın yapay zekâ açmazı: Güvenlik mi, küresel rekabet mi?

Güney İsviçre’nin Lugano kent merkezindeki bilgisayarlar (AFP)
Güney İsviçre’nin Lugano kent merkezindeki bilgisayarlar (AFP)
TT

Washington’ın yapay zekâ açmazı: Güvenlik mi, küresel rekabet mi?

Güney İsviçre’nin Lugano kent merkezindeki bilgisayarlar (AFP)
Güney İsviçre’nin Lugano kent merkezindeki bilgisayarlar (AFP)

Gelişmiş yapay zekâya ilişkin ABD’deki endişeler artık uzak bir geleceğe dair senaryolarla sınırlı değil. Son dönemde yaşanan olaylar, bazı modellerin geliştirici şirketler tarafından getirilen kısıtlamaları aşabildiğini, internete ve harici sistemlere erişebildiğini ve insanlar tarafından doğrudan yönlendirilmemiş biçimlerde hareket edebildiğini ortaya koydu.

Teknoloji şirketleri daha güçlü ve daha bağımsız modeller geliştirmek için yarışırken Washington’da da bu teknolojiye daha katı sınırlar getirilmesi yönündeki çağrılar giderek artıyor. Tartışma siber güvenliğin ötesine geçerek yatırım, inovasyon, verimlilik ve Çin karşısında ABD’nin rekabet gücünün geleceğine uzanıyor.

Son gelişmeler ABD yönetimini ve Kongre’yi karmaşık bir denklemle karşı karşıya bırakıyor: Potansiyel yapay zekâ riskleri nasıl kontrol altına alınırken aynı zamanda önümüzdeki yıllarda büyüme, verimlilik ve ekonomik rekabetin en önemli motorlarından biri olarak görülen bu teknolojinin gelişimi yavaşlatılmayacak?

‘Hugging Face’ olayı alarm zillerini çaldırdı

‘Hugging Face’ platformuna yönelik saldırı olayı, bu tartışmanın merkezindeki başlıklardan biri haline geldi. Zira OpenAI tarafından yürütülen incelemeler, siber güvenlik testleri sırasında kullanılan bazı modellerin kimi güvenlik önlemlerini aşabildiğini, internete erişebildiğini ve açıkları istismar ederek üçüncü taraflara ait sistemlere ulaşabildiğini ortaya koydu.

hrg4t
OpenAI şirketinin logosu (Reuters)

OpenAI, söz konusu olayı şimdiye kadar tespit ettiği bu tür vakalar arasında en ciddi olay olarak nitelendirdi. Şirket, olayın yüksek kapasiteye sahip modellerin uygun güvenlik önlemleri bulunmadığında teknik kısıtlamaları aşabileceğini, yetkisiz kanallar üzerinden iletişim kurabileceğini ve herhangi bir insan tarafından doğrudan talep edilmeyen işlemleri gerçekleştirebileceğini gösterdiğini bildirdi.

Şirket olayın müşteri verilerini, ürünlerinin işlevlerini veya hizmetlerin erişilebilirliğini etkilemediğini belirtse de olayın politika yapıcılar açısından önemi başka bir noktada yatıyor. Eğer sistemler bir test ortamında kendileri için oluşturulan bariyerleri aşabiliyorsa, bu yetenekler ticari ölçekte yaygınlaştığında insan kontrolünün nasıl güvence altına alınacağı sorusu gündeme geliyor.

Kongre soruşturma başlattı

Bu gelişmeler Kongre üyelerini harekete geçirdi. Cumhuriyetçi Senatör Josh Hawley, OpenAI hakkında soruşturma başlatarak ‘Hugging Face’ olayı ve yapay zekâ modellerinin kontrolden çıkma ihtimaline ilişkin soru işaretleri doğurduğunu belirttiği diğer olaylar hakkında ayrıntılı bilgi talep etti.

Hawley, özellikle doğrudan insan müdahalesi olmadan karmaşık işlemleri gerçekleştirebilen daha bağımsız ve yetenekli sistemlere ilişkin endişelerin arttığı bir dönemde Amerikalıların yaşananların tüm ayrıntılarını bilmeye hakkı olduğunu söyledi.

vrgthy
Yapay zekâ şirketi Anthropic’in logosu (Reuters)

Demokrat Senatör Chris Van Hollen ise ayrı bir girişimle OpenAI’nin federal siber güvenlik kurumlarının risk düzeyini değerlendirebilmesi için gerekli bilgilere erişmesine izin vermesini istedi.

Van Hollen, şirketin ‘GPT-6 Astra’ sisteminin güvenliğini sağlayamaması ve sistemi etkin biçimde denetleyememesi halinde kamu kullanımından çekmesi gerektiğini söyledi.

Bu girişimler, Washington’daki tartışmanın genel anlamda daha fazla şeffaflık talebinden daha temel bir soruya doğru kaydığını gösteriyor: Gelişmiş bir sistem beklenmedik biçimde hareket ettiğinde müdahale etme yetkisi kimin elinde olacak?

Sanders denetimin ötesine geçiyor

Ancak Kongre’deki şimdiye kadarki en dikkat çekici siyasi girişim bağımsız Senatör Bernie Sanders ile Demokrat Temsilci Greg Casar’dan geldi. İki isim, ‘süper yapay zekâ’nın yasaklanmasını ve federal güvenlik kuralları oluşturulana kadar gelişmiş yapay zekâ çalışmalarının geçici olarak durdurulmasını öngören bir yasa tasarısı açıkladı.

Sanders, şirketlere yönelik denetimlerin sıkılaştırılması çağrısının çok daha ötesine geçiyor. Senatör, ‘süper yapay zekâ’ sistemlerinin geliştirilmesi ve kullanıma sunulmasına kalıcı yasak getirilmesini, gelişmiş sistemlerin geliştirilmesine ise hükümetin federal bir düzenleyici kurum oluşturup modellerin incelenmesine yönelik açık kurallar belirlemesine kadar geçici olarak ara verilmesini istiyor.

fvgbhy
Soldan sağa: Elon Musk, Anthropic’in kurucu ortağı ve Üst Yöneticisi (CEO) Dario Amodei ile OpenAI Üst Yöneticisi (CEO) Sam Altman (AFP).

Sanders, yapay zekâ şirketlerinin yöneticilerinin dahi teknolojiyi tam anlamıyla anlamadıklarını ve sistemlerin giderek onları kontrol etme kapasitelerini aştığını kabul ettiklerini savunuyor. Bu nedenle mevcut koşullarda daha güçlü sistemler geliştirmeyi sürdürmenin sorumsuzluk olduğunu belirten Sanders, insanlığın geleceğinin sınırlı sayıdaki teknoloji devinin eline bırakılmaması gerektiğini düşünüyor.

Casar ise süper yapay zekânın güvenliği, özgürlüğü ve Amerikalıların yaşamlarını etkileyebileceği uyarısında bulunuyor. Demokrat vekil, bugün ortaya çıkan çelişkiye dikkat çekerek en ileri teknolojinin, günlük yaşamın birçok alanından daha az düzenlemeye tabi olduğunu belirtiyor.

Risklerin yeniden dağıtılması

Sanders’ın tasarısı yalnızca teknolojiyi durdurmayı değil, aynı zamanda risklerin yeniden dağıtılmasını hedefliyor. Tasarının ekonomik açıdan önemi de burada ortaya çıkıyor.

Mesele yalnızca geleceğin bir teknolojisini yasaklamak değil, bu teknolojinin geliştirilmesinden kaynaklanan risklerin maliyetini kimin üstleneceğini belirlemek.

Yapay zekâ şirketleri daha yetenekli modeller geliştirmek için büyük yatırımlar yaparken şirketler, hissedarlar ve ekonomi; verimlilik artışı, otomasyon, yazılım ve hizmetlerin geliştirilmesi ile bilimsel araştırmaların hızlanmasından doğabilecek kazanımlardan yararlanıyor.

Buna karşılık geniş çaplı bir güvenlik kazası, gelişmiş bir modelin siber saldırıda veya biyolojik silah geliştirilmesinde kullanılması ya da büyük ekonomik zararlara yol açması halinde ortaya çıkacak maliyetler, sistemi geliştiren şirketin sınırlarını aşarak diğer şirketlere, hükümete, tüketicilere ve vergi mükelleflerine yüklenebilir.

rgth
Teknisyenler, Varşova’da yapay zekâ geliştirmelerinin düzenlenmesi çağrısıyla düzenlenen gösterinin ardından robotları paketledi. (AFP)

Bu nedenle gelişmiş sistemleri yaşam döngüleri boyunca denetleyebilecek, tehlikeli yetenekleri ortadan kaldırmak için müdahale edebilecek ve hatta Sanders’ın tasarısına göre ‘süper yapay zekâ’ sistemlerinin imha edilmesini denetleyebilecek yeni bir federal düzenleyici kurum oluşturulması çağrısı önem taşıyor.

Dolayısıyla mücadele yalnızca şirketlerin ne kadar güçlü yapay zekâ sistemleri geliştirmesine izin verileceğiyle ilgili değil. Aynı zamanda bu teknolojiden elde edilecek ekonomik getirilerin, ortaya çıkabilecek risklere karşı nasıl dağıtılacağıyla da ilgili.

Daha zor denklem: Güvenlik mi rekabet gücü mü?

Ancak kapsamlı kısıtlamalar getirilmesi, beraberinde son derece hassas bir ekonomik ve stratejik soruyu getiriyor: ABD yapay zekâ geliştirmeyi yavaşlatırken Çin ilerlemeye devam ederse ne olacak?

Bu durum, meseleyi geleneksel bir teknoloji sektörünün düzenlenmesinden farklı kılıyor.

cdfvgrt
İsviçre’nin güneyindeki Lugano kentinde bulunan İsviçre Ulusal Süper Bilgisayar Merkezi’nde (CSCS) bir çalışan, “Alps” süper bilgisayarının bileşenlerinden birini değiştiriyor. (AFP)

Yapay zekâ artık verimlilik, sanayi kapasitesi, siber güvenlik, bilimsel araştırmalar, çipler, veri merkezleri, enerji ve dijital altyapıya yapılan dev yatırımlarla doğrudan bağlantılı.

Dolayısıyla ABD’nin geniş kapsamlı bir yavaşlamaya gitmesinin maliyeti yalnızca yapay zekâ şirketleriyle sınırlı kalmayabilir. Bu durum, giderek daha fazla yapay zekâya dayanan sektörlerde ABD ekonomisinin rekabet gücünü de etkileyebilir.

Bu nedenle Kongre’deki bazı isimler denetimlerin gerekli olduğunu savunurken ABD’nin küresel rekabet kapasitesini koruması gerektiğini vurguluyor. Washington’daki tartışmalarda sıkça dile getirilen uyarı şu: ABD ağır kısıtlamalar getirirken Çin kendi kapasitesini geliştirmeye devam ederse, güvenliği sağlamaya yönelik politika yeni bir stratejik ve ekonomik risk kaynağına dönüşebilir.

‘Kapatma anahtarı’ndan kontrol standartlarına

Kongre’deki tartışmalar Sanders’ın tasarısıyla sınırlı değil.

Demokrat Temsilci Ted Lieu ile Cumhuriyetçi Temsilci Nathaniel Moran, temmuz ayında ‘Yapay Zekâ Kapatma Anahtarı Yasası’nı gündeme getirdi. Tasarı, en güçlü yapay zekâ sistemlerinin geliştiricilerini, sistemleri yavaşlatabilecek, askıya alabilecek veya tamamen kapatabilecek teknik bir kapasiteyi muhafaza etmekle yükümlü kılmayı hedefliyor. Ayrıca hükümete, felaket boyutunda zarara yol açabilecek sistemlere müdahale yetkisi verilmesini öngörüyor.

fyj
Yapay zekâ şirketi Anthropic’in bir etkinlikte sergilenen logosu. (dpa)

Demokrat Temsilci Josh Gottheimer ile Cumhuriyetçi Temsilci Mike Lawler ise eylül ayında ‘Başıboş Yapay Zekâyı Durdurma Yasası’ tasarısını sundu. Tasarı, yapay zekâ ajanlarının tespit edilmesi, doğrulanması ve kontrol edilmesine yönelik ulusal standartlar oluşturulmasına odaklanıyor.

Bu yaklaşım Sanders’ın projesinden köklü biçimde ayrılıyor.

Burada amaç gelişmiş sistemlerin geliştirilmesini durdurmak yerine insanın kontrol mekanizmasının içinde tutulması. Böylece şirketler ve kamu kurumları kendi ağlarında hangi sistemlerin çalıştığını, bu sistemlerin nelere erişebildiğini ve gerektiğinde nasıl devre dışı bırakılabileceğini bilebilecek.

Denklemin diğer tarafında verimlilik var

Tartışmayı daha da zorlaştıran unsur, yapay zekânın yalnızca potansiyel bir risk değil, aynı zamanda muazzam bir ekonomik fırsat olması.

Teknolojinin verimliliği artırması, görevleri otomatikleştirmesi, araştırma ve geliştirmeyi hızlandırması, bazı hizmetlerin maliyetini düşürmesi ve yeni ürünlerle pazarlar oluşturması bekleniyor.

Bu nedenle gelişmiş sistemlerin geliştirilmesini dondurmak, büyük ekonomilerin artan iş gücü maliyetleri, yaşlanan nüfus ve mali baskılar karşısında verimliliği artırmaya çalıştığı bir dönemde bu kazanımların bir bölümünün ertelenmesi anlamına gelebilir.

Burada temel bir paradoks ortaya çıkıyor: Milletvekillerinin geniş çaplı ekonomik sarsıntılara yol açmasından korktuğu teknoloji, aynı zamanda gelecekte verimliliği ve büyümeyi artıracak başlıca araçlardan biri olabilir.

Bu da düzenleme kararını yalnızca ‘güvenlik’ ile ‘inovasyon’ arasında bir tercihten çok daha karmaşık hale getiriyor. Çünkü inovasyon yapmamanın da ekonomik bir maliyeti, kontrolsüz inovasyonun da potansiyel bir ekonomik maliyeti bulunuyor.

Kongre teknolojinin hızına yetişemiyor

Bu tartışma, ABD yasalarının yapay zekâ sistemlerinin gelişim hızına henüz ayak uyduramadığı bir dönemde yaşanıyor.

Kongre’de iki partinin üyelerinden oluşan bir grup 2024 yılında yapay zekâ ve güvenlik önlemleri için üç yıl içinde en az 32 milyar dolar ayrılmasını tavsiye etmişti. Ancak yasama sürecindeki ilerleme teknolojinin gelişim hızına yetişemedi.

Sadece birkaç yıl içinde yapay zekâ, sorulara yanıt verebilen sohbet robotlarından bir dizi görevi daha bağımsız biçimde yerine getirebilen, internete erişebilen, yazılım yazabilen, açıkları analiz edebilen ve diğer sistemlerle etkileşim kurabilen sistemlere dönüştü.

Yeni yetenekler ekonominin temel altyapısının bir parçası haline gelmeden önce kurallar oluşturulması yönünde milletvekilleri üzerindeki baskıyı artıran dönüşüm de bu.

‘Süper yapay zekâyı’ kim düzenleyecek?

Sanders’ın tasarısı sıradan bir denetim kurumu oluşturmanın da ötesine geçiyor. Tasarı, kabine düzeyinde yeni bir federal kurum ve bir Yapay Zekâ Danışma Konseyi kurulmasını, gelişmiş sistemlerin yaşam döngüleri boyunca izlenmesini ve tehlikeli yeteneklerin ortadan kaldırılmasının denetlenmesini öngörüyor.

Tasarı ayrıca ihlal durumunda son derece ağır yaptırımlar getiriyor. Bunlar arasında tasarının ‘şirketler için idam cezası’ olarak nitelendirdiği yaptırım ile bireyler için 20 yıla kadar hapis cezası bulunuyor.

Tasarı uluslararası bir boyut da içeriyor. ABD’nin dünyanın herhangi bir yerinde süper yapay zekâ geliştirilmesini engelleyecek uluslararası anlaşmalar yapılması için çaba göstermesini, müttefiklerle koordinasyon kurulmasını ve ihracat kontrolleri gibi araçların kullanılmasını öneriyor.

Böylece mesele bir kez daha ABD ekonomisinin sınırlarını aşarak küresel teknoloji ekonomisine uzanıyor. Gelişmiş yapay zekâ kapasitesi uluslararası anlaşmaların ve ihracat kontrollerinin konusu haline gelirse, stratejik teknolojilerin diğer alanlarında yaşandığı gibi çipler, veri merkezleri ve gelişmiş bilgi işlem altyapısına yönelik yatırım haritası da değişebilir.

Ekonominin geleceği için mücadele

Washington’daki mevcut mücadele özünde ABD ekonomisinin geleceğine ilişkin daha geniş bir anlaşmazlığı yansıtıyor.

Daha sıkı denetimden yana olanlar, felaket boyutunda bir olayın maliyetinin bugün geliştirme sürecini yavaşlatmanın maliyetini katbekat aşabileceğini savunuyor. Ekonomik açıdan çıkar sağlayan şirketlerin güvenlik sınırlarını tek başlarına belirlemesine izin verilmesinin ise çıkar çatışması oluşturduğunu düşünüyor.

Kapsamlı bir durdurmaya karşı çıkanlar ise teknolojinin küresel ölçekte geliştiğine dikkat çekiyor ve ABD’nin rakipleri yapay zekâya yatırım yapmaya devam ederken bu alanda basitçe duramayacağını vurguluyor.

xcdfv
İnsanlar, Şanghay’da düzenlenen Dünya Yapay Zekâ Konferansı sırasında “Enflame” standının yanından geçiyor. (Reuters)

Bu iki yaklaşımın arasında ise giderek güçlenen üçüncü bir seçenek öne çıkıyor: Yapay zekâ geliştirmeye devam etmek, ancak en tehlikeli sistemler kullanıma sunulmadan önce bunları izleme, müdahale etme ve gerektiğinde durdurma kapasitesini temel bir şart haline getirmek.

Böylece ABD’deki temel soru artık yapay zekânın düzenlenip düzenlenmemesi değil. Asıl mesele, inovasyon ve verimliliğin en önemli motorlarından birini boğmadan ve teknoloji alanındaki küresel rekabetin, kazanma değeri arttıkça güvenlik kaygılarının geri plana itildiği bir yarışa dönüşmesine izin vermeden bunun ne ölçüde yapılabileceği.

Washington’daki tartışmanın ‘yapay zekâ riskleri’nden yasaklama, geliştirmeyi durdurma, kapatma anahtarları ve federal denetime ilişkin yasa tasarılarına kayması, ABD’nin artık gerçek mücadelenin yalnızca makinelerin ne kadar akıllı olacağıyla ilgili olmadığını fark etmeye başladığını gösteriyor. Asıl mücadele, bu sistemler üzerindeki kontrolün kimin elinde olacağı, ekonomik getirilerden kimin yararlanacağı ve sistemlerin kontrolden çıkması halinde hataların bedelini kimin ödeyeceği üzerine.


Yeni keşif, Antik Roma dindarlığının "en mahrem alanına" ışık tuttu

Mermer levha, bir Antik Roma villasının altında gömülü halde bulundu (İtalya Kültür Bakanlığı)
Mermer levha, bir Antik Roma villasının altında gömülü halde bulundu (İtalya Kültür Bakanlığı)
TT

Yeni keşif, Antik Roma dindarlığının "en mahrem alanına" ışık tuttu

Mermer levha, bir Antik Roma villasının altında gömülü halde bulundu (İtalya Kültür Bakanlığı)
Mermer levha, bir Antik Roma villasının altında gömülü halde bulundu (İtalya Kültür Bakanlığı)

Vishwam Sankaran Bilim ve Teknoloji Muhabiri 

Arkeologlar, İtalya'nın Tivoli kentindeki İmparator Hadrianus'un Villası'nda, Roma'nın şimşek tanrısını onurlandıran oymalar taşıyan mermer bir levhayı gün yüzüne çıkardı.

Keşif, Antik Roma ritüellerine daha fazla ışık tutuyor.

Levha, villanın amfitiyatrosunun yakınındaki bir alanda, ilk gömüldüğü yerde bulundu.

Üzerinde, Antik Roma'nın gece şimşekleri tanrısı Summano anlamına gelen "FVLGVR SVBMANIVM" yazısı yer alıyordu.

Kazı direktörü Fabio Giorgio Cavallero, "FVLGVR SVBMANIVM yazıtının orijinal konumunda korunmuş halde bulunması, olağanüstü öneme sahip bir bulgu" diyor.

Bu keşif, Villa Adriana'nın bu bölümünün tarihi ve mekanların yeniden düzenlenmesinde fulgur conditum ritüelinin rolüne dair yeni perspektifler sunuyor.

Dr. Cavallero, levhanın "anıtsal alanın tamamının" dönüşümüne yol açan süreci aydınlatabileceğini de ekliyor.

Araştırmacılar, levhanın gömülmesinin, yıldırım düşen yerin Roma ritüelleriyle kutsallaştırılmasıyla bağlantılı olduğundan şüpheleniyor.

Roma döneminde yıldırımın çarptığı yerler dini kabul edilir ve ilahi müdahaleyle kutsanmış sayılırdı.

Yıldırım çarpan nesneler, ritüeller kapsamında toplanarak yer altına gömülürdü.

İtalya Kültür Bakanı Alessandro Giuli, "Bu keşif, Roma dindarlığının olağanüstü çağrışım gücüne nadir bir kanıt sunuyor: Yıldırımın bıraktığı iz ve etkilenen yerin ilahi alana ait olduğunun kabul edildiği ritüel" diyor.

Arkeolojinin bize maddi izler, düşünceler, ritüeller ve ilahi olanla kurulan ilişkinin biçimleri aracılığıyla geçmişi geri getirme yeteneği sözkonusu. İtalyan mirasının en olağanüstü yerlerinden biri hakkındaki bilgimizi genişleten bu keşif için Urbino Üniversitesi arkeologlarıyla Villa Adriana ve Villa d'Este Enstitüsü'ne teşekkür ederim.

Mermer levhadaki yazıtta yıldırımın gece düştüğü de özellikle belirtiliyor.

Görsel kaldırıldı.
Mermer levha, Romalıların gece şimşekleri tanrısına atıfta bulunuyor (İtalya Kültür Bakanlığı)

Antik Roma kaynakları, Jüpiter'e atfedilen gündüz şimşekleriyle gökyüzü ve gece şimşeği tanrısı Summano'ya dayandırılan gece yıldırımlarını rutin bir şekilde ayrı tutuyordu.

Yazıtın özenli ayrıntıları ve gömülmesi, yıldırım çarpmasının ilahi bir varlığın insan alanına girişini simgelediğine, burayı sıradan durumundan çıkararak dini bir mekan haline getirdiğine işaret ediyor.

İtalya Kültür Bakanlığı'na bağlı Villa Adriana'nın müdürü Alberto Samonà, "Bu keşif, dikkati büyük mimari eserlerden Roma dindarlığının en mahrem alanına kaydırıyor" diyor.

Dr. Samonà şu ifadeleri kullanıyor: 

Yıldırım çarpan bir yerin kutsanmasının maddi izini bulmak, o dönemin titiz ritüel prosedürlerine dokunmamızı sağlıyor.

Independent Türkçe, independent.co.uk/news