Sürücüler yasal olarak otonom araçların güvenliğinden sorumlu tutulmalı mı?

Sürücüler yasal olarak otonom araçların güvenliğinden sorumlu tutulmalı mı?
TT

Sürücüler yasal olarak otonom araçların güvenliğinden sorumlu tutulmalı mı?

Sürücüler yasal olarak otonom araçların güvenliğinden sorumlu tutulmalı mı?

“Otonom sürüş teknolojine sahip araçların çağında sürücülerin yol güvenliğinden yasal olarak sorumlu olması gerekir mi?” sorusu gündemdeki yerini koruyor. İngiltere, Galler ve İskoçya'daki yasal komitelere göre, bu tür araçlarda sürücünün farklı yasal sorumluluklara sahip bir ‘sorumlu kullanıcı’ olarak adlandırılması için yeniden tanımlanması gerekiyor.
Yeni değişikliğe göre, bir şeyler ters giderse, sürücü değil, sistemin sahibi şirket sorumlu olacak. Yeni sistemde, aracın otonom sürüşe uygun olup olmadığını belirlemeli.
Bu arada yeni düzenlemeye göre, otomobil üreticileri otonom sürüş ve sürücü destekli özellikler arasındaki fark konusunda son derece net olmalıdır.
Bir aracın otonom sürüş yeteneğinin değişken ölçüleri olmamalıdır. Araç ya otonom sürüş teknolojisine sahiptir ya da değildir.
Mesela, aşırı hava koşulları söz konusu olduğunda arabanın otonom sürüş modunda olması kabul edilmemeli ve geleneksel sürüş kuralları uygulanmalı.
Bu bağlamda, 2018 yılında hukuk komitelerinden, otonom araçlara ve bu araçların kamuya açık yollarda kullanımına ilişkin düzenleyici çerçeve hakkında bir dizi rapor hazırlamaları istendi.
Bu araçlarda sürücüye ihtiyaç duyulmasa da, sorumlu kullanıcıların yine de sürüş testinden geçmesi ve ehliyet alması gerekecek. Sürücüler ayrıca emniyete alma, yükleri kontrol etme ve çocukların emniyet kemeri takmalarını sağlama gibi sürücünün sorumluluğundaki görevlerini de sürdürecekler. Ayrıca, sürüş sırasında izin verilen alkol limitlerine uymaları gerekiyor.
Öneriler, mevcut birçok araçta bulunan hız sabitleyici gibi sürücü destek özellikleri ile sürücülerin ellerini direksiyondan çekebilecekleri otonom sürüş modları arasında bir ayrım yapılması gerektiğini söylüyor.



OpenAI ve Google "kara listedeki" Çinli devlerle iş yapıyor

Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)
Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)
TT

OpenAI ve Google "kara listedeki" Çinli devlerle iş yapıyor

Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)
Çinli şirketlerin düşük maliyetli ve yüksek performanslı yapay zeka modelleri, son dönemde ABD'li devlere karşı alternatif olarak öne çıkıyor (AP)

OpenAI ve Google'ın, Pentagon'un kara listesindeki Çinli teknoloji devlerine gelişmiş yapay zeka modelleri sattığı ortaya çıktı.

Financial Times (FT), irtibata geçtiği OpenAI ve Google'ın, ABD tarafından Çin ordusuyla işbirliği yapmakla suçlanan Alibaba, Baidu ve Tencent'in Singapur merkezli iştiraklerine yapay zeka hizmetleri sağladıklarını doğruladığını aktarıyor.

OpenAI'dan bir yetkili, modellerin yasadışı şekilde kullanılması endişesiyle geçen ay Alibaba'yla bağlantılı geliştiricilerin yapay zeka modellerine uzaktan erişimini askıya aldıklarını belirtiyor.

Google da yapay zeka hizmetlerinin kullanım şartlarına tabi olmak kaydıyla Hong Kong ve Singapur'da erişime açık olduğunu bildirdi.

Haberde, ABD'li firmaların yapay zeka hizmetlerini bu şirketlere satmasının yasadışı olmadığı vurgulanıyor.

ABD Savunma Bakanlığı (Pentagon), bazı Çinli firmaları Çin Halk Kurtuluş Ordusu'yla (ÇHKO) bağlantılı oldukları gerekçesiyle kara listeye alıyor. Apple'ın da bu listedeki Çinli çip üreticileri CXMT ve YMTC'yle iş yapmanın yollarını aradığı aktarılmıştı.

Diğer yandan ABD ulusal güvenliğini tehdit edebilecek şirketlerin yer aldığı "1260H" diye bilinen bu listenin herhangi bir hukuki bağlayıcılığı yok.

Buna rağmen bazı kesimler Beyaz Saray'ın, Pekin'le yarı iletken ticaretine uyguladığına benzer sınırlamaları yapay zeka modelleri için de devreye sokmasını istiyor.

ABD'li düşünce kuruluşu Dış İlişkiler Konseyi'nden teknoloji ve güvenlik uzmanı Chris McGuire şu yorumu yapıyor:

Trump yönetimi sürekli yapay zeka alanında Çin'i geride bırakmamız gerektiğini söylüyor. Ancak sorun şu ki Çin'i yavaşlatmak için elimizdeki asıl araç olan ihracat kontrolü hakkında hiçbir adım atmadılar.

ChatGPT'nin yaratıcısı OpenAI, modellerine Çin'den erişilmesine izin verilmediğini bildiriyor. Ancak Çin sermayeli veya genel merkezi Çin'de yer alan bazı şirketlerin belirli koruma önlemleri dahilinde yapay zeka hizmetlerini kullanabildiğini aktarıyor.

Pentagon'la yaşadığı anlaşmazlıkla gündem olan Anthropic'in, Alibaba'yı yapay zeka modelinin yeteneklerini yasadışı şekilde kopyalamakla suçlaması da dikkat çekmişti.

ABD'li teknoloji devinden geçen ay yapılan açıklamada, Anthropic'in Claude modeline erişim için Alibaba'nın 25 bin sahte hesap oluşturduğu öne sürülmüştü.

Alibaba da çalışanlarının Claude'u kullanmasını yasaklamış, bu modeli "yüksek riskli yazılım" listesine almıştı.

Independent Türkçe, Financial Times, CNBC, China Daily


Liseli Japon, ChatGPT destekli siber saldırıyla 46 bin hesabı birden sildi

ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)
ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)
TT

Liseli Japon, ChatGPT destekli siber saldırıyla 46 bin hesabı birden sildi

ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)
ChatGPT uygulamasının logosu bir akıllı telefon ekranında görülüyor (AFP)

Japonya'da 15 yaşındaki bir erkek çocuk, yapay zeka kullanarak bir anime yayın platformundaki onbinlerce hesabı zorla silen bir program geliştirdiği gerekçesiyle gözaltına alındı.

Polis, olayı bir ay boyunca hizmet kesintisine neden olan kasıtlı ve süregelen bir siber saldırı diye niteledi.

Tokyo yakınlarındaki Tokorozawa'da yaşayan lise öğrencisi, Japonya'nın en büyük oyuncak üreticisi Bandai Namco Holdings'in alt şirketi Bandai Namco Filmworks'ün sunucularına 4 Kasım 2025'te sahte komutlar göndererek hile yoluyla iş faaliyetlerini engellemekle suçlandı.

Tokyo Metropoliten Polis Teşkilatı saldırının, şirketin Bandai Channel yayın platformundaki 46 bin 812 hesabın kullanıcıların bilgisi veya rızası olmadan topluca silinmesine yol açtığını belirtti.

İddiaları kabul eden öğrenci, ilk kaynak kodunu kendisinin yazdığını ve daha sonra bunu iyileştirip tamamlamak için ChatGPT'ye başvurduğunu dedektiflere söyledi.

Asahi Shimbun'a göre öğrenci, dedektiflere, "Kayıt silme işlemi için kaynak kodunu kendim oluşturdum. İşlem uzun sürdüğü için ChatGPT'ye danıştım ve farklı bir programlama dilinde tamamladım" dedi.

Şirkete karşı herhangi bir kin beslemediğini söyleyen öğrenci, sadece giriş yapabileceği çok sayıda hesap olması nedeniyle onları hedef aldığını açıkladı.

Bandai Namco Filmworks önlemler alarak erişimini engelledikten sonra bile öğrencinin, IP adresini 30 kez değiştirerek sahte komutlar göndermeyi sürdürdüğü iddia ediliyor.

Şirket, hizmetlerini bir aydan uzun süre askıya almak ve etkilenen üyelere para iadesi yapmak zorunda kaldı.

Ertesi ay Bandai Namco Filmworks, yaklaşık 1,36 milyon hesabın e-posta adresleri, hesap bakiyeleri ve ödeme yöntemleri gibi kişisel bilgilerinin sızdırılmış olabileceğini duyurdu.

Şirket, verilerin internette yayımlanması gibi ikincil bir zararın doğrulanmadığını ifade etti.

Japon basınına göre şirket, "Bu durumu çok ciddiye alıyoruz ve düzenli kontroller yapmaya devam ederek böyle bir olayın tekrarlanmasını önlemek için çaba göstereceğiz" dedi.

İlkokuldayken kendi kendine kod yazmayı öğrenen öğrenci, dedektiflere ağ iletişimini analiz etmekten keyif aldığını söyledi.

Haziranda başka bir üyenin hesabını kullanarak yayın platformuna giriş yaptığı şüphesiyle gözaltına alınmasının ardından dedektifler daha geniş çaplı saldırıyı ortaya çıkardı.

Metropoliten Polis Teşkilatı'ndan üst düzey bir dedektif, gözaltı kararının ardından bir uyarı yayımladı.

Dedektif, "Siber uzay son derece anonim bir ortam ve insanlar kolayca suç işlemeye yönelebilir ancak bu eylemler ciddi sonuçlara yol açabilir" dedi.

Japonya'daki bir siber saldırıda üretken yapay zekanın araç olarak kullanıldığı ilk vakalardan biri olan bu olay, bu tür teknolojinin çevrimiçi suç faaliyetlerindeki engelleri ne kadar kolay aşabileceğine dair yeni soruları gündeme getiriyor.

Independent Türkçe


"Uzaylı bulduğunu" sanan yapay zeka nasıl kolayca kandırıldı?

Yapay zekanın yaşam işaretlerini yanlış yorumlaması, sunduğu verilerin insan kontrolünden geçmesi gerektiğini vurguluyor (Unsplash)
Yapay zekanın yaşam işaretlerini yanlış yorumlaması, sunduğu verilerin insan kontrolünden geçmesi gerektiğini vurguluyor (Unsplash)
TT

"Uzaylı bulduğunu" sanan yapay zeka nasıl kolayca kandırıldı?

Yapay zekanın yaşam işaretlerini yanlış yorumlaması, sunduğu verilerin insan kontrolünden geçmesi gerektiğini vurguluyor (Unsplash)
Yapay zekanın yaşam işaretlerini yanlış yorumlaması, sunduğu verilerin insan kontrolünden geçmesi gerektiğini vurguluyor (Unsplash)

Yapay zekanın eğitim sürecinde başarılı olsa bile cansız yapıları çok yüksek oranda uzaylı yaşam formu sanabildiği tespit edildi.

Nöral ağlardan oluşan yapay zeka modelleri, tekrarlayan örüntüleri tespit etmede başarılı olduğu için genetik ve uzay çalışmaları gibi alanlarda sıkça kullanılıyor.

Dünya çapındaki gökbilimciler de başka gezegenlerdeki yaşam arayışlarında bu teknolojinin muazzam miktarda veriyi işleyerek çalışmalarını kolaylaştırmasını umuyor.

Yaşamın varlığını kesin olarak doğrulayan tek bir biyoimza yok ancak gökbilimciler, yaşamın bilgiyi kodlaması gerektiğini söylüyor. Kendilerini kopyalayabilen DNA gibi zincir benzeri moleküller buna örnek verilebilir.

Michigan Eyalet Üniversitesi'nden Ankit Gupta ve Christoph Adami, yapay zekanın bu yaşam işaretlerini ne kadar iyi saptayabildiğini anlamak için sanal ortamda bir çalışma yürüttü.

Araştırmacılar Avida isimli bir program kullanarak bilgisayar koduyla yazılmış dijital organizmalar üretti. Bu dijital canlılar, sanal ortamda tekrar tekrar kendilerini kopyalıyor.

Bilim insanları her kopyalama işleminin kusurlu olduğunu ve tıpkı gerçek organizmaların genetik kodunun üreme sırasında mutasyona uğraması gibi, bilgisayar kodlarının da değiştiğini belirtiyor.

Adami, bu tür dijital yaşam formlarının evrim araştırmalarında onlarca yıldır kullanıldığını söylüyor.

Çalışma kapsamında, kendilerini kopyalama bilgisine sahip olan ve olmayan onbinlerce dijital organizma üreten ekip, bir yapay zeka modelini bunlarla eğitti. Eğitim süresince yapay zeka hangi organizmaların "canlı" olup olmadığını yüzde 99,97 oranında doğru tespit etti.

Ancak model, daha önce görmediği organizmalarla test edilince pek iyi bir performans sergilemedi.

Bulguları Kanada'da düzenlenen 2026 Yapay Yaşam Konferansı'nda sunulan çalışmada ekip ilk olarak yapay zekaya dijital cansız yapıları sundu ve model bunun cansız olduğunu saptadı.

Ancak araştırmacılar daha sonra organizmanın bilgisayar kodunu yavaş yavaş değiştirdi.Sadece 150 değişikliğin ardından organizma artık kendini kopyalayama niteliğini kaybetse bile yapay zeka modeli onu canlı sanmaya devam etti.

Gupta, "Hangi komut dizisiyle başlarsak başlayalım, yapay zekayı yüzde 100 oranında kandırmayı başardık" diyor.

Bu tür hatalı tahminler, başka gezegenlerde yaşam bulunduğunun sanılıp daha sonra yapay zekanın yanıldığının ortaya çıkmasına yol açabilir. Ayrıca yapay zeka sağlık gibi çeşitli alanlarda da kullanıldığı için bu sorunun daha geniş çaplı yansımaları olabilir. 

Çalışma, eğitim sürecinin başarılı geçmesinin bile bu modellere güvenmek için yeterli olmayacağını gösteriyor.

Araştırmacılar bu nedenle verilerin sürekli insanlar tarafından kontrol edilmesi gerektiğini belirtiyor.

Yapay zekanın örüntüleri yanlış sınıflandırmak gibi bir "zayıf noktası" olduğuna dikkat çeken Adami şöyle diyor:

Karar sürecinde mutlaka bir insan yer almalı.

Araştırmacılar bundan sonraki çalışmalarında yapay zekayı dijital yerine gerçek yaşam verisiyle test etmeyi planlıyor.

Independent Türkçe, Phys.org, IFLScience