Mesleklerimizi icra edebilen insansı yapay zeka robotlarıyla tanışın

Robert Waugh, yapay zekadaki mevcut atılımların "insan" androidlerdeki devrimin anahtarı olduğunu anlatıyor. Bunlardan bazıları halihazırda meslek sahibi

Tesla'nın robotu 2023 Dünya Yapay Zeka Konferansı'nda sergilenmişti. Elon Musk daha önce yapay zekanın "potansiyel açıdan nükleer silahlardan daha tehlikeli" olduğunu söylemişti (AFP)
Tesla'nın robotu 2023 Dünya Yapay Zeka Konferansı'nda sergilenmişti. Elon Musk daha önce yapay zekanın "potansiyel açıdan nükleer silahlardan daha tehlikeli" olduğunu söylemişti (AFP)
TT

Mesleklerimizi icra edebilen insansı yapay zeka robotlarıyla tanışın

Tesla'nın robotu 2023 Dünya Yapay Zeka Konferansı'nda sergilenmişti. Elon Musk daha önce yapay zekanın "potansiyel açıdan nükleer silahlardan daha tehlikeli" olduğunu söylemişti (AFP)
Tesla'nın robotu 2023 Dünya Yapay Zeka Konferansı'nda sergilenmişti. Elon Musk daha önce yapay zekanın "potansiyel açıdan nükleer silahlardan daha tehlikeli" olduğunu söylemişti (AFP)

İnsanların işini yapabilen insansı bir robot fikri, neredeyse 3 bin yıl öncesine, tanrı Hefaistos'un kendi yarattığı metalik varlıklardan yardım aldığı İlyada'ya kadar dayanıyor. Ama bugün, 2023'te bu konsept gerçeğe dönüşüyor.

ChatGPT'nin arkasındaki OpenAI firmasının finanse ettiği bir robotik girişimi, Avrupa ve Amerika'da güvenlik görevlisi olarak EVE robot cihazlarını çalıştırıyor. Burada insan operatörler sanal gerçekliği kullanarak "gövdenin" içine "adım atabiliyor".

Elon Musk'ın Tesla'sı da kendi robotu Optimus üzerinde çalışıyor. Zira Musk uzun vadede bunun, şirketin otomobil işinden "daha önemli olabileceğine" inanıyor.

Goldman Sachs, insansı robotların 15 yıl içinde yılda 150 milyar dolarlık bir pazar haline gelebileceğini ve 2025'e dek fabrikalarda çalışıyor olabileceğini öngörüyor.

2030'a gelindiğindeyse Goldman Sachs, robotların ABD'de imalat alanındaki öngörülen işgücü kıtlığının yüzde 4'ünü doldurabileceğine, "en pembe" senaryoda ise insansı androidlerin işgücü açığının yüzde 126'sını tamamlayabileceğine inanıyor. Sachs, insansı robotların 2025'ten 2028'e kadar fabrikalarda, 2030'dan 2035'e kadar da tüketiciye yönelik işlerde ekonomik açıdan uygulanabilir olacağını tahmin ediyor.

Yapay zekanın nükleer silahlardan daha tehlikeli olduğunu söyleyen Musk ise Tesla robotunun nihayetinde insanların yapabileceği her şeyi yapabileceğini savunuyor ve bu yıl üretime geçeceğini iddia ediyor.

Bir başka robot Phoenix, halihazırda Kanada'daki bir lastik mağazasında çalışıyor ve ürünleri paketleme, etiketleme, işaretleme ve katlama dahil olmak üzere 110 "insan" görevini doğru biçimde yerine getiriyor. Robo-C gibi diğer robotlar da mağazalarda müşteri hizmetlerinde çalışmak üzere üretildi ve 1X, robotları bakıcı olarak kullanılması için test etti.

Teknolojinin arkasındaki şirketler, robotların "insan işlerini" üstlenmeyeceğini, bunun yerine dünyanın dört bir yanında işgücü piyasasındaki, özellikle de kas gücüne dayalı işgücündeki kıtlıkları ve uzun vadede azalan doğum oranlarını telafi edeceğini savunuyor.

Sanctuary AI'ın insansı robotunun videoları, cihazın nesneleri topladığını, sıraladığını ve istiflediğini gösteriyor. Phoenix, bir insan gibi çalışmak ve "düşünmek" üzere, ayrıca sesli komutlara yanıt verebilecek şekilde geliştirildi.

Sanctuary AI'ın insansı robotu, "insan benzeri el becerisini" sergiliyor (Sanctuary AI / YouTube)
Sanctuary AI'ın insansı robotu, "insan benzeri el becerisini" sergiliyor (Sanctuary AI / YouTube)

Endüstride yaygın kullanılan robotların aksine Phoenix, tek bir iş yerine, verilen herhangi bir görevi yerine getirmek üzere tasarlandı. Sanctuary AI'ın CEO'su ve kurucu ortağı Geordie Rose, tek bir amaca yönelik robotlar yapmanın robotik şirketleri için bir "tuzak" olduğu görüşünde.

CEO, "Birçok yapay zeka ve robotik şirketinin aksine, Sanctuary AI, kuruluşların dünya çapında karşılaştığı büyük işgücü kıtlığını ele almaya odaklanıyor" diyor.

Robotlarımız insanlar gibi davranmak, hareket etmek ve düşünmek üzere tasarlandığından, bu robotlar boş kalan pozisyonları doldurmak, tehlikeli görevleri yerine getirmek ve insan işgücünü artırmak için endüstrilerde ve bölgelerde kullanılabilir.

Yeni nesil androidleri mümkün kılan önemli atılımlardan biri, nesneleri hassas bir şekilde kavrayabilen eller. Rose, robotun ellerinin beceri ve yumuşak temas bakımından "insan ellerine rakip" olduğuna inanıyor. Bu da örneğin Phoenix'in yiyecekleri plastik bir torbaya doldurabileceği anlamına geliyor. Zira bir "dokunsal" (titreşim) teknolojisi Phoenix'e dokunma hissi veriyor.

Rose, "Tüm işlerin yüzde 98'inden fazlasının insan elinin becerisini gerektirdiği göz önüne alınırsa, insan benzeri eller olmadan gerçekten kullanışlı bir insansı robot üretilemez" ifadelerini kullanıyor.

Yüksekliği 1,70 metreye ulaşan robot, saatte 4,8 kilometre hızla hareket edebiliyor.

Dünya doğum oranlarındaki düşüş ve nüfustaki yaşlanmayla uğraşırken Rose, bunun büyük bir işgücü sıkıntısına yol açacağını ve Phoenix gibi insansı robotların giderek daha gerekli hale geleceğini savunuyor. Yalnızca ABD'de bugün 9,8 milyon pozisyon boş kalmış durumda ama sadece 5,9 milyon işsiz var.

Önceki nesil robotlar da epey etkiliydi, ancak yetenekleri sadece belirli bir işle sınırlıydı. Örneğin, bir üretim robotu, bir araç şasisini çok hassas ve özel bir model izleyerek hareket ettirmek üzere tasarlanabilir.

Öte yandan Rose, tek bir amaca yönelik robotların görevi son derece iyi yerine getirmesinden ziyade, geleceğin işletmelerinin verilen herhangi bir işi yapabilecek robotlara ihtiyaç duyacağına inanıyor.

CEO, "Bir kişinin makul seviyede yapması beklenen her işi yapabilen bir robot inşa ediyoruz" diyor.

Yapabileceğimiz için değil, yapmamız gerektiğine inandığımız için.

Phoenix'e Carbon adlı bir yapay zeka yazılım sistemi tarafından "insan benzeri" zeka sağlanıyor. Bu, robotun komutlara İngilizce yanıt vermesini ve görevleri kendi yeteneğiyle tamamlamasına olanak tanıyor.

Rose, şirketin robotla "son derece gurur duyduğunu" ama "gösterinin gerçek yıldızının" altta yatan yazılım olduğunu söylüyor.

İnsansı robotlara giden yolculuk uzun ve engebeli olageldi. Honda, 1986'da iki ayaklı bir yürüyüş robotu tasarlamaya başlamış ve bundan 10 yıl sonra Asimo robotunun P2 prototipini tanıtmıştı. Asimo teknoloji fuarlarında ve diğer etkinliklerde yer alarak küresel çapta ün kazandı.

Honda, robotun insanların evlerinde yaşayabilecek kişisel bir asistan olmasını umarken, Asimo üzerinde çalışan Satoshi Shigemi, robotun "ev işlerinde yardım etmeye başlayan bir ilkokul çocuğu" olmasını umduğunu belirtiyor.

Robot en son Mart 2022'de insanların karşısına çıkmıştı ama (bir keresinde Barack Obama'ya futbol topu atmış olmasına rağmen) hiç satışa sunulmadı.

Yapay zeka ses teknolojisi şirketi Voices.ai'ın kurucusu ve CEO'su David Ciccarelli, yapay zekadaki mevcut atılımların insansı androidlerdeki devrime güç veren önemli bir faktör olduğunu dile getiriyor. Aynı zamanda insanların, ChatGPT tarzı uygulamalarla etkileşime girdikleri gibi droidlere de doğal İngilizceyle komut verebildiğini hatırlatıyor.

Ciccarelli, gözlemlerini, "Bugünün androidleri önceki on yıllardan çok daha sofistike hale geldikçe manzara değişiyor" diye ifade ediyor:

Sadece fiziksel görevleri yerine getirmekle kalmıyorlar, aynı zamanda gelişmiş programlamayla, bir zamanlar ancak insanlara özgü olduğu düşünülen karmaşık görevlerin üstesinden geliyorlar.

Ciccarelli, doğal konuşmalar yapabilen ve mağazalarda müşteri hizmetlerinde kullanılabilecek başka bir insansı robota (Promobot'tan Robo-C2) işaret ediyor. EVE ve Phoenix'in aksine, Robo-C2'nin yüzü insana benzeyecek şekilde yapıldı. Şirket, "duygularını ifade edebildiği" ve gerçek ya da kurgusal herhangi bir kişi gibi görünebildiği için övünüyor.

Ciccarelli, "Yapay zeka patlaması ve insansı robotlar el ele gidiyor" diyor:

Voices.ai'da ses tanıma için bir yapay zeka modeli geliştirirken, sistemin insan konuşmasındaki nüansları yakaladığını görmek büyüleyiciydi ve yapay zekanın işyerlerimizi yeniden şekillendirmede insansı robotlara güç verme potansiyelini gösteriyordu.

Birmingham City Üniversitesi'nde yapay zeka profesörü Atıf Azad da yapay zekadaki hızlı ilerlemelerin, sensörlerden toplanan bilgilerle birlikte, robotların insanlarla veya diğer robotlarla ekipler halinde çalışmasını sağlayacağını belirtiyor.

Azad, "Derin öğrenme gibi yapay zeka teknikleri, nesneleri tanımak ve onların farklı örneklerini tanımlamak, konuşmayı ve doğal dili anlamak ve insan hareketlerini doğru yorumlamak gibi kritik görevlerde devrim yarattı" ifadelerini kullanıyor.

Profesör Azad, işyerinde robotların insan "meslektaşlarıyla" birlikte çalışmalarını sağlamak için yakındaki bilgisayar sistemlerinden ve sensörlerden bilgi toplayacağı görüşünde.

Yapay zeka alanındaki şirketler de robotiğe yatırım yapıyor. Norveçli 1X girişimi, ChatGPT'yi tasarlayan OpenAI'ın girişim fonu tarafından finanse edildi, bu da şirketin OpenAI teknolojisine erken erişime sahip olduğu anlamına geliyor.

Şirketin CEO'su Bernt Bornich, robotları "vücut bulmuş yapay zeka" diye nitelendirdi.

1X'in EVE robotu. Şirket, robotlarının güvenlikten bakım ve destek işlerine kadar çok çeşitli uygulama alanlarında kullanılmasını umuyor (1X / YouTube)
1X'in EVE robotu. Şirket, robotlarının güvenlikten bakım ve destek işlerine kadar çok çeşitli uygulama alanlarında kullanılmasını umuyor (1X / YouTube)

Android EVE, tümüyle insan vücudunun yaptığı gibi çalışacak şekilde tasarlandı. Robotun içindeki kas ve tendonları andıran sentetik halatlar kutuları insanla ürkütücü derecede benzer şekilde paketlemesini sağlıyor. Bu teknoloji, robotun kendi gücünü kontrol edebildiği ve bir şeyleri kırma veya çevredekileri öldürme olasılığının düşük olduğu anlamına geliyor. 1X'in iletişim başkanı Hege Nikolaisen, insansı robotların daha yaygın kullanılmasının önüne geçen kilit engellerden birinin bu olduğunu söylüyor.

Bir robot tarafından öldürülen ilk insan 1979'da Ford fabrikasında bir tonluk transfer aracının altında kalarak hayatını kaybetmişti. Nikolaisen'e göre, robot üretmenin önündeki önemli bir engel, fabrika ortamından çıkabilecek kadar güvenli bir teknoloji geliştirmek.

"Hepimiz yıllardır robotların yakında bizim için çalışmaya başlayacağını duyuyoruz ama bu şimdiye kadar hiç gerçekleşmedi" diyen Nikolaisen, şöyle devam ediyor:

Androidlerimiz güçlü ancak enerji açısından verimli motorlar kullanıyor. Böylece yüksek hız ve kuvvetin birleşimiyle çevreye zarar vermeksizin çevreleriyle güvenli biçimde etkileşime girebiliyorlar.

Nikolaisen, EVE robotunun nesneleri alıp onlarla etkileşime girebildiğini ve halihazırda biri Avrupa'da diğeri Amerika'da olmak üzere iki tesiste güvenlik görevlisi olarak çalıştığını söylüyor. Bu robot gerektiğinde (örneğin, bir güvenlik vukuatı varrsa) sanal gerçeklik aracılığıyla insan gözetmenler tarafından kontrol ediliyor.

Öte yandan çoğu zaman koruduğu tesisin etrafında kendi kendini kontrol ederek dolaşıyor: "Ellerini" kullanarak kapıları açabiliyor ve hatta asansörlere binerek düğmelere basabiliyor.

Ayrıca bir gözetmen birden fazla EVE robotunu kontrol edebiliyor.

Nikolaisen, "Kontrol merkezinde oturan bir güvenlik görevlisi, ticari bir binada otonom devriye gezen ve dolaşan bir EVE android filosunu işletir" diyor:

Kurallara aykırı bir olay varsa veya operatör bir görevi yerine getirme ihtiyacı duyarsa; robotun görüş yeteneğini ve vücudunu kontrol altına almak için gözlükleri ve kumandaları kullanarak androidi uzaktan çalıştırmak üzere senkronizasyon modunu açar. Daha sonra androidi kullanarak telebulunma (telepresence / sanal gerçeklik teknolojisini kullanarak makinelerin uzaktan yönetilmesi -çn.) sırasında bükme, kavrama, bakma veya iletişim kurma davranışlarında bulunabilir.

Şirket, robotların birçok farklı sektörde kullanılabileceğini umuyor.

Nikolaisen, "Androidler gözetim, lojistik, perakende ve/veya depolarda kullanılabilir" ifadelerini kullanıyor. Paketleme, sıralama, taşıma, baskı, temizleme veya gözetleme gibi tipik, sıkıcı ve tekrarlayan görevleri yerine getirebilirler.

Birkaç on yıl içinde androidleri kişisel asistan olarak kullanmanın mümkün olacağına inanıyoruz.

Ciccarelli'ye göre, ileri vadede, bugünkü hızlı yapay zeka büyümesinin insansı robotlardaki patlamayla paralel gerçekleşmesi muhtemel. Zira doğal dili işleyen robotlar, yapay zekayı da besleyen keşiflere güç veriyor.

Ciccarelli, "Yapay zekadaki ilerlemeler, bu robotların çevrelerini anlamalarını ve gezinmelerini, nesneleri tanımalarını ve karmaşık görevleri yerine getirmelerini mümkün kıldı" diye ekliyor:

Bu robotların devam eden gelişimi, yapay zeka araştırmalarını ve uygulamalarını daha da ilerletebilecek yeni veriler ve kullanım alanlarına dair senaryolar üreteceği için muhtemelen süregelen yapay zeka patlamasına katkıda bulunacak. Biri diğerini ileriye doğru iterek kendi kendini güçlendiren bir ilerleme döngüsü yaratıyor.

Independent Türkçe



Çin, Silikon Vadisi’yle arayı kapatıyor

Yarı iletken çipler üzerinden yürüyen yapay zeka yarışı, yeni dil modelleriyle kızışıyor (AP)
Yarı iletken çipler üzerinden yürüyen yapay zeka yarışı, yeni dil modelleriyle kızışıyor (AP)
TT

Çin, Silikon Vadisi’yle arayı kapatıyor

Yarı iletken çipler üzerinden yürüyen yapay zeka yarışı, yeni dil modelleriyle kızışıyor (AP)
Yarı iletken çipler üzerinden yürüyen yapay zeka yarışı, yeni dil modelleriyle kızışıyor (AP)

Çinli yapay zeka şirketleri düşük maliyetli ve yüksek performanslı modellerle OpenAI, Anthropic ve Google'ın teknolojik üstünlüğüne meydan okuyor.

New York Times'ın (NYT) analizine göre özellikle Çinli girişim Z.ai'nin geliştirdiği yeni GLM-5.2 modeli, ABD'li rakiplerine kıyasla çok daha düşük maliyetle benzer seviyede performans sunarak küresel yapay zeka yarışında dengeleri değiştiriyor.

Donald Trump yönetimi ulusal güvenlik ve siber güvenlik endişelerini gerekçe göstererek, ABD vatandaşı olmayanların Anthropic'in Fable 5 ve Mythos 5 yapay zeka modellerine erişimini yasaklamıştı.

Pentagon'la yaşadığı tartışmalarla gündem olan şirketten 12 Haziran'da yapılan açıklamada, sözkonusu modellere erişimin küresel olarak kaldırıldığı duyurulmuştu.

Analize göre bu hamle bazı şirketleri alternatif yapay zeka modelleri aramaya itti.

Geçen hafta tanıtılan GLM-5.2 özellikle yazılım geliştirme ve yapay zeka ajanları alanında öne çıkıyor. Bazı görevlerde Anthropic'in Claude Opus 4.8 modelinin yaklaşık sekizde biri maliyetle çalışabiliyor.

Teknoloji analiz şirketleri Graphistry ve Semgrep tarafından yapılan iki ayrı güvenlik değerlendirmesinde, GLM-5.2'nin siber güvenlik ve güvenlik açığı tespiti testlerinde önde gelen ABD modelleriyle aynı seviyede performans gösterdiği ortaya kondu.

ABD Ticaret Bakanlığı'nın geçen yıl kara listeye aldığı Z.ai'nin modelinin açık kaynak olarak yayımlanması da geliştiricilerin bunu ücretsiz biçimde kullanıp özelleştirebilmesini sağlıyor. Öte yandan aynı özellik, kullanıcıların güvenlik kontrollerini kaldırmasını da mümkün kılıyor. Bu da bilgisayar korsanlarının modeli siber saldırılarda kullanmasının önünü açıyor.

Anthropic ve ChatGPT'nin yaratıcısı OpenAI, Çinli şirketleri kendi modellerinden izinsiz veri toplamakla suçluyor. Anthropic'in ABD'li senatörler Tim Scott ve Elizabeth Warren'a 10 Haziran'da gönderdiği mektupta, şirketin Claude modelinin bazı özelliklerinin Çinli teknoloji devi Alibaba tarafından kopyalandığı öne sürülmüştü. Şirketten suçlamalara henüz yanıt gelmedi.

Yapay zeka şirketi Baseten'dan Charles O'Neill ise Çinli yapay zeka modellerinin başarısının sadece bununla açıklanamayacağına dikkat çekiyor:

Bu modellerin tüm kapasitesinin Anthropic'ten geldiğine yönelik anlatı tam olarak gerçeği yansıtmıyor.

Independent Türkçe, New York Times, Axios


Apple, bellek çiplerinin maliyetindeki artış nedeniyle MacBook ve iPad fiyatlarını yükseltti

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

Apple, bellek çiplerinin maliyetindeki artış nedeniyle MacBook ve iPad fiyatlarını yükseltti

Fotoğraf: Reuters
Fotoğraf: Reuters

Apple, iPad ve MacBook fiyatlarını yükseltti.

Şirket, yapay zekâ sektörünün veri merkezi yatırımları sebebiyle artan bellek ve depolama çipi maliyetlerini artık tüketicilere yansıtmama seçeneklerinin kalmadığını belirtti.

Fakat bu zam, Apple'ın en büyük gelir kaynağı olan iPhone'u etkilemiyor.

Öte yandan şirketin bütçe dostu Windows ve Chromebook modellerinden pazar payı kapmak amacıyla piyasaya sürdüğü en ucuz dizüstü bilgisayarı olan Neo'nun başlangıç fiyatı, lansmanından sadece birkaç ay sonra 599 dolardan 699 dolara çıkacak.

Apple'ın fiyatları yükseltmesi, sektörde gıpta edilen tedarik ilişkilerine sahip, dünyanın en değerli elektronik şirketlerinin bile bellek çiplerinin fiyatlarındaki artıştan etkilendiğini gösteriyor.

Micron gibi bellek üreticileri, son aylarda Nvidia gibi yapay zekâ çip üreticilerinin siparişlerine öncelik vererek, bu şirketlerin büyük kâr elde etmesine yardımcı oldu.

Apple yaptığı açıklamada, "Bir bileşen fiyatının bu kadar hızlı ve bu kadar fazla arttığını daha önce hiç görmedik. Şimdiye kadar müşterilerimizi bu artıştan koruduk fakat artık iPad ve Mac için bugün uyguladığımız zamlar da dâhil olmak üzere, birçok üründe fiyatları artırmaya başlamamız gereken bir noktaya geldik" dedi.

Apple'ın internet sitesinde yer alan güncel fiyatlara göre, 512 gigabayt depolama alanına sahip MacBook Air'in fiyatı 1,099 dolardan 1,299 dolara yükselirken, 1 terabayt depolama alanına sahip MacBook Pro'nun fiyatı ise 1,699 dolardan 1,999 dolara çıktı. 128 gigabaytlık iPad Air'in fiyatı ise 599 dolardan 749 dolara çıktı.

Independent Türkçe

 


Uzmanlar, tıbbi yapay zekanın beklenmedik risklerine karşı uyardı

Fotoğraf: Unsplash
Fotoğraf: Unsplash
TT

Uzmanlar, tıbbi yapay zekanın beklenmedik risklerine karşı uyardı

Fotoğraf: Unsplash
Fotoğraf: Unsplash

Uzmanlar, tıpta kullanılan yapay zekanın insanların mahremiyetini beklenmedik şekillerde tehlikeye atabileceğini tespit etti.

Pek çok kişi, çeşitli kullanım alanları olan bu tür tıbbi yapay zeka sistemlerinin sağlık hizmetlerinde çarpıcı bir iyileşme yaratabileceğini iddia ediyor. Bu sistemler, özellikle tıbbi uzmanlık bilgisinin nadir olduğu bölgelerde fayda sağlayabiliyor ve böylece insanlar, örneğin tıbbi görüntüler üzerinden sorunları teşhis etmek için yapay zekaya başvurabiliyor.

Ancak yeni çalışma aynı teknolojinin, sistemin eğitilmesi için haberleri bile olmadan verileri kullanılan kişilerin mahremiyetini tehlikeye atabileceği uyarısında bulunuyor. Bu, devrim yarabilecek bu yeni teknolojide ortaya çıkabilecek çeşitli güvenlik açıklarından biri.

Yeni araştırma, kötü niyetli kullanıcıların tıbbi yapay zeka sistemlerine gizlilik saldırıları düzenleyebileceği ve hackerların bu sayede, örneğin bir kişinin belirli bir hastalık için tedavi görüp görmediğini öğrenebileceğine dair uyarıyor.

Diğer yapay zeka sistemlerine benzer şekilde tıbbi yapay zeka araçları da hasta görüntüleri gibi çeşitli verileri bilgisayara yükleyip hangi görüntülerin belirli bir sonuca işaret ettiğini bildirerek çalışıyor. Sistem daha sonra bu kalıpları aramayı öğrenerek bu sayede potansiyel semptomları tespit edebiliyor.

Verileri bu şekilde kullanılan kişilerin kimliklerinin gizli tutulması gerekiyor. Ancak yeni araştırma, belirli bir hastanın verilerinin o modeli eğitmek için kullanılıp kullanılmadığının saptanabileceğini öne sürüyor.

Bu bilgi daha sonra sözkonusu hasta hakkında hassas tıbbi bilgileri elde etmek için kullanılabilir. Örneğin yeni çalışmada araştırmacılar, birinin kanser olup olmadığını öğrenmek için kullanılabilecek bir tür saldırı yöntemini tanımlıyor.

Araştırmada, "üyelik çıkarım saldırısı" diye bilinen ve hackerların belirli bir hastanın verilerinin belirli bir modeli eğitmek için kullanılıp kullanılmadığını tespit etmelerine olanak tanıyan spesifik bir saldırı yöntemi incelendi. Bilim insanları bu tür bir saldırının bazı hastalarda "neredeyse kusursuz başarı oranları" elde edebildiğini ve bu riskin yeterince temsil edilmeyen gruplarda daha yüksek olduğunu ortaya koydu.

Araştırmacılar, siber suçluların bu bilgiyi insanların mahremiyetini ihlal etmek ve ele geçirdikleri verilerden başka tür saldırılarda yararlanmak için kullanabileceği uyarısında bulunuyor.

Araştırmacılar, "Bu güvenlik açığı göz önüne alındığında, tıbbi yapay zeka modelleri ve bunların kullanıldığı bağlamlar, saldırganların eğitim veri kümesi üyeliğini başarıyla çıkararak elde edebilecekleri hassas bilgiler açısından değerlendirilmeli" diye uyarıyor. Bu çalışma da tıbbi yapay zeka sistemlerinin bu tür saldırılara karşı korunması gerektiğini gösteren önemli bir kanıt niteliğinde.

Çalışma, hakemli dergi Nature'da yayımlanan "Disparate privacy risks from medical AI" (Tıbbi yapay zekadan kaynaklanan farklı gizlilik riskleri) başlıklı yeni makalede anlatılıyor.

Independent Türkçe