Mesleklerimizi icra edebilen insansı yapay zeka robotlarıyla tanışın

Robert Waugh, yapay zekadaki mevcut atılımların "insan" androidlerdeki devrimin anahtarı olduğunu anlatıyor. Bunlardan bazıları halihazırda meslek sahibi

Tesla'nın robotu 2023 Dünya Yapay Zeka Konferansı'nda sergilenmişti. Elon Musk daha önce yapay zekanın "potansiyel açıdan nükleer silahlardan daha tehlikeli" olduğunu söylemişti (AFP)
Tesla'nın robotu 2023 Dünya Yapay Zeka Konferansı'nda sergilenmişti. Elon Musk daha önce yapay zekanın "potansiyel açıdan nükleer silahlardan daha tehlikeli" olduğunu söylemişti (AFP)
TT

Mesleklerimizi icra edebilen insansı yapay zeka robotlarıyla tanışın

Tesla'nın robotu 2023 Dünya Yapay Zeka Konferansı'nda sergilenmişti. Elon Musk daha önce yapay zekanın "potansiyel açıdan nükleer silahlardan daha tehlikeli" olduğunu söylemişti (AFP)
Tesla'nın robotu 2023 Dünya Yapay Zeka Konferansı'nda sergilenmişti. Elon Musk daha önce yapay zekanın "potansiyel açıdan nükleer silahlardan daha tehlikeli" olduğunu söylemişti (AFP)

İnsanların işini yapabilen insansı bir robot fikri, neredeyse 3 bin yıl öncesine, tanrı Hefaistos'un kendi yarattığı metalik varlıklardan yardım aldığı İlyada'ya kadar dayanıyor. Ama bugün, 2023'te bu konsept gerçeğe dönüşüyor.

ChatGPT'nin arkasındaki OpenAI firmasının finanse ettiği bir robotik girişimi, Avrupa ve Amerika'da güvenlik görevlisi olarak EVE robot cihazlarını çalıştırıyor. Burada insan operatörler sanal gerçekliği kullanarak "gövdenin" içine "adım atabiliyor".

Elon Musk'ın Tesla'sı da kendi robotu Optimus üzerinde çalışıyor. Zira Musk uzun vadede bunun, şirketin otomobil işinden "daha önemli olabileceğine" inanıyor.

Goldman Sachs, insansı robotların 15 yıl içinde yılda 150 milyar dolarlık bir pazar haline gelebileceğini ve 2025'e dek fabrikalarda çalışıyor olabileceğini öngörüyor.

2030'a gelindiğindeyse Goldman Sachs, robotların ABD'de imalat alanındaki öngörülen işgücü kıtlığının yüzde 4'ünü doldurabileceğine, "en pembe" senaryoda ise insansı androidlerin işgücü açığının yüzde 126'sını tamamlayabileceğine inanıyor. Sachs, insansı robotların 2025'ten 2028'e kadar fabrikalarda, 2030'dan 2035'e kadar da tüketiciye yönelik işlerde ekonomik açıdan uygulanabilir olacağını tahmin ediyor.

Yapay zekanın nükleer silahlardan daha tehlikeli olduğunu söyleyen Musk ise Tesla robotunun nihayetinde insanların yapabileceği her şeyi yapabileceğini savunuyor ve bu yıl üretime geçeceğini iddia ediyor.

Bir başka robot Phoenix, halihazırda Kanada'daki bir lastik mağazasında çalışıyor ve ürünleri paketleme, etiketleme, işaretleme ve katlama dahil olmak üzere 110 "insan" görevini doğru biçimde yerine getiriyor. Robo-C gibi diğer robotlar da mağazalarda müşteri hizmetlerinde çalışmak üzere üretildi ve 1X, robotları bakıcı olarak kullanılması için test etti.

Teknolojinin arkasındaki şirketler, robotların "insan işlerini" üstlenmeyeceğini, bunun yerine dünyanın dört bir yanında işgücü piyasasındaki, özellikle de kas gücüne dayalı işgücündeki kıtlıkları ve uzun vadede azalan doğum oranlarını telafi edeceğini savunuyor.

Sanctuary AI'ın insansı robotunun videoları, cihazın nesneleri topladığını, sıraladığını ve istiflediğini gösteriyor. Phoenix, bir insan gibi çalışmak ve "düşünmek" üzere, ayrıca sesli komutlara yanıt verebilecek şekilde geliştirildi.

Sanctuary AI'ın insansı robotu, "insan benzeri el becerisini" sergiliyor (Sanctuary AI / YouTube)
Sanctuary AI'ın insansı robotu, "insan benzeri el becerisini" sergiliyor (Sanctuary AI / YouTube)

Endüstride yaygın kullanılan robotların aksine Phoenix, tek bir iş yerine, verilen herhangi bir görevi yerine getirmek üzere tasarlandı. Sanctuary AI'ın CEO'su ve kurucu ortağı Geordie Rose, tek bir amaca yönelik robotlar yapmanın robotik şirketleri için bir "tuzak" olduğu görüşünde.

CEO, "Birçok yapay zeka ve robotik şirketinin aksine, Sanctuary AI, kuruluşların dünya çapında karşılaştığı büyük işgücü kıtlığını ele almaya odaklanıyor" diyor.

Robotlarımız insanlar gibi davranmak, hareket etmek ve düşünmek üzere tasarlandığından, bu robotlar boş kalan pozisyonları doldurmak, tehlikeli görevleri yerine getirmek ve insan işgücünü artırmak için endüstrilerde ve bölgelerde kullanılabilir.

Yeni nesil androidleri mümkün kılan önemli atılımlardan biri, nesneleri hassas bir şekilde kavrayabilen eller. Rose, robotun ellerinin beceri ve yumuşak temas bakımından "insan ellerine rakip" olduğuna inanıyor. Bu da örneğin Phoenix'in yiyecekleri plastik bir torbaya doldurabileceği anlamına geliyor. Zira bir "dokunsal" (titreşim) teknolojisi Phoenix'e dokunma hissi veriyor.

Rose, "Tüm işlerin yüzde 98'inden fazlasının insan elinin becerisini gerektirdiği göz önüne alınırsa, insan benzeri eller olmadan gerçekten kullanışlı bir insansı robot üretilemez" ifadelerini kullanıyor.

Yüksekliği 1,70 metreye ulaşan robot, saatte 4,8 kilometre hızla hareket edebiliyor.

Dünya doğum oranlarındaki düşüş ve nüfustaki yaşlanmayla uğraşırken Rose, bunun büyük bir işgücü sıkıntısına yol açacağını ve Phoenix gibi insansı robotların giderek daha gerekli hale geleceğini savunuyor. Yalnızca ABD'de bugün 9,8 milyon pozisyon boş kalmış durumda ama sadece 5,9 milyon işsiz var.

Önceki nesil robotlar da epey etkiliydi, ancak yetenekleri sadece belirli bir işle sınırlıydı. Örneğin, bir üretim robotu, bir araç şasisini çok hassas ve özel bir model izleyerek hareket ettirmek üzere tasarlanabilir.

Öte yandan Rose, tek bir amaca yönelik robotların görevi son derece iyi yerine getirmesinden ziyade, geleceğin işletmelerinin verilen herhangi bir işi yapabilecek robotlara ihtiyaç duyacağına inanıyor.

CEO, "Bir kişinin makul seviyede yapması beklenen her işi yapabilen bir robot inşa ediyoruz" diyor.

Yapabileceğimiz için değil, yapmamız gerektiğine inandığımız için.

Phoenix'e Carbon adlı bir yapay zeka yazılım sistemi tarafından "insan benzeri" zeka sağlanıyor. Bu, robotun komutlara İngilizce yanıt vermesini ve görevleri kendi yeteneğiyle tamamlamasına olanak tanıyor.

Rose, şirketin robotla "son derece gurur duyduğunu" ama "gösterinin gerçek yıldızının" altta yatan yazılım olduğunu söylüyor.

İnsansı robotlara giden yolculuk uzun ve engebeli olageldi. Honda, 1986'da iki ayaklı bir yürüyüş robotu tasarlamaya başlamış ve bundan 10 yıl sonra Asimo robotunun P2 prototipini tanıtmıştı. Asimo teknoloji fuarlarında ve diğer etkinliklerde yer alarak küresel çapta ün kazandı.

Honda, robotun insanların evlerinde yaşayabilecek kişisel bir asistan olmasını umarken, Asimo üzerinde çalışan Satoshi Shigemi, robotun "ev işlerinde yardım etmeye başlayan bir ilkokul çocuğu" olmasını umduğunu belirtiyor.

Robot en son Mart 2022'de insanların karşısına çıkmıştı ama (bir keresinde Barack Obama'ya futbol topu atmış olmasına rağmen) hiç satışa sunulmadı.

Yapay zeka ses teknolojisi şirketi Voices.ai'ın kurucusu ve CEO'su David Ciccarelli, yapay zekadaki mevcut atılımların insansı androidlerdeki devrime güç veren önemli bir faktör olduğunu dile getiriyor. Aynı zamanda insanların, ChatGPT tarzı uygulamalarla etkileşime girdikleri gibi droidlere de doğal İngilizceyle komut verebildiğini hatırlatıyor.

Ciccarelli, gözlemlerini, "Bugünün androidleri önceki on yıllardan çok daha sofistike hale geldikçe manzara değişiyor" diye ifade ediyor:

Sadece fiziksel görevleri yerine getirmekle kalmıyorlar, aynı zamanda gelişmiş programlamayla, bir zamanlar ancak insanlara özgü olduğu düşünülen karmaşık görevlerin üstesinden geliyorlar.

Ciccarelli, doğal konuşmalar yapabilen ve mağazalarda müşteri hizmetlerinde kullanılabilecek başka bir insansı robota (Promobot'tan Robo-C2) işaret ediyor. EVE ve Phoenix'in aksine, Robo-C2'nin yüzü insana benzeyecek şekilde yapıldı. Şirket, "duygularını ifade edebildiği" ve gerçek ya da kurgusal herhangi bir kişi gibi görünebildiği için övünüyor.

Ciccarelli, "Yapay zeka patlaması ve insansı robotlar el ele gidiyor" diyor:

Voices.ai'da ses tanıma için bir yapay zeka modeli geliştirirken, sistemin insan konuşmasındaki nüansları yakaladığını görmek büyüleyiciydi ve yapay zekanın işyerlerimizi yeniden şekillendirmede insansı robotlara güç verme potansiyelini gösteriyordu.

Birmingham City Üniversitesi'nde yapay zeka profesörü Atıf Azad da yapay zekadaki hızlı ilerlemelerin, sensörlerden toplanan bilgilerle birlikte, robotların insanlarla veya diğer robotlarla ekipler halinde çalışmasını sağlayacağını belirtiyor.

Azad, "Derin öğrenme gibi yapay zeka teknikleri, nesneleri tanımak ve onların farklı örneklerini tanımlamak, konuşmayı ve doğal dili anlamak ve insan hareketlerini doğru yorumlamak gibi kritik görevlerde devrim yarattı" ifadelerini kullanıyor.

Profesör Azad, işyerinde robotların insan "meslektaşlarıyla" birlikte çalışmalarını sağlamak için yakındaki bilgisayar sistemlerinden ve sensörlerden bilgi toplayacağı görüşünde.

Yapay zeka alanındaki şirketler de robotiğe yatırım yapıyor. Norveçli 1X girişimi, ChatGPT'yi tasarlayan OpenAI'ın girişim fonu tarafından finanse edildi, bu da şirketin OpenAI teknolojisine erken erişime sahip olduğu anlamına geliyor.

Şirketin CEO'su Bernt Bornich, robotları "vücut bulmuş yapay zeka" diye nitelendirdi.

1X'in EVE robotu. Şirket, robotlarının güvenlikten bakım ve destek işlerine kadar çok çeşitli uygulama alanlarında kullanılmasını umuyor (1X / YouTube)
1X'in EVE robotu. Şirket, robotlarının güvenlikten bakım ve destek işlerine kadar çok çeşitli uygulama alanlarında kullanılmasını umuyor (1X / YouTube)

Android EVE, tümüyle insan vücudunun yaptığı gibi çalışacak şekilde tasarlandı. Robotun içindeki kas ve tendonları andıran sentetik halatlar kutuları insanla ürkütücü derecede benzer şekilde paketlemesini sağlıyor. Bu teknoloji, robotun kendi gücünü kontrol edebildiği ve bir şeyleri kırma veya çevredekileri öldürme olasılığının düşük olduğu anlamına geliyor. 1X'in iletişim başkanı Hege Nikolaisen, insansı robotların daha yaygın kullanılmasının önüne geçen kilit engellerden birinin bu olduğunu söylüyor.

Bir robot tarafından öldürülen ilk insan 1979'da Ford fabrikasında bir tonluk transfer aracının altında kalarak hayatını kaybetmişti. Nikolaisen'e göre, robot üretmenin önündeki önemli bir engel, fabrika ortamından çıkabilecek kadar güvenli bir teknoloji geliştirmek.

"Hepimiz yıllardır robotların yakında bizim için çalışmaya başlayacağını duyuyoruz ama bu şimdiye kadar hiç gerçekleşmedi" diyen Nikolaisen, şöyle devam ediyor:

Androidlerimiz güçlü ancak enerji açısından verimli motorlar kullanıyor. Böylece yüksek hız ve kuvvetin birleşimiyle çevreye zarar vermeksizin çevreleriyle güvenli biçimde etkileşime girebiliyorlar.

Nikolaisen, EVE robotunun nesneleri alıp onlarla etkileşime girebildiğini ve halihazırda biri Avrupa'da diğeri Amerika'da olmak üzere iki tesiste güvenlik görevlisi olarak çalıştığını söylüyor. Bu robot gerektiğinde (örneğin, bir güvenlik vukuatı varrsa) sanal gerçeklik aracılığıyla insan gözetmenler tarafından kontrol ediliyor.

Öte yandan çoğu zaman koruduğu tesisin etrafında kendi kendini kontrol ederek dolaşıyor: "Ellerini" kullanarak kapıları açabiliyor ve hatta asansörlere binerek düğmelere basabiliyor.

Ayrıca bir gözetmen birden fazla EVE robotunu kontrol edebiliyor.

Nikolaisen, "Kontrol merkezinde oturan bir güvenlik görevlisi, ticari bir binada otonom devriye gezen ve dolaşan bir EVE android filosunu işletir" diyor:

Kurallara aykırı bir olay varsa veya operatör bir görevi yerine getirme ihtiyacı duyarsa; robotun görüş yeteneğini ve vücudunu kontrol altına almak için gözlükleri ve kumandaları kullanarak androidi uzaktan çalıştırmak üzere senkronizasyon modunu açar. Daha sonra androidi kullanarak telebulunma (telepresence / sanal gerçeklik teknolojisini kullanarak makinelerin uzaktan yönetilmesi -çn.) sırasında bükme, kavrama, bakma veya iletişim kurma davranışlarında bulunabilir.

Şirket, robotların birçok farklı sektörde kullanılabileceğini umuyor.

Nikolaisen, "Androidler gözetim, lojistik, perakende ve/veya depolarda kullanılabilir" ifadelerini kullanıyor. Paketleme, sıralama, taşıma, baskı, temizleme veya gözetleme gibi tipik, sıkıcı ve tekrarlayan görevleri yerine getirebilirler.

Birkaç on yıl içinde androidleri kişisel asistan olarak kullanmanın mümkün olacağına inanıyoruz.

Ciccarelli'ye göre, ileri vadede, bugünkü hızlı yapay zeka büyümesinin insansı robotlardaki patlamayla paralel gerçekleşmesi muhtemel. Zira doğal dili işleyen robotlar, yapay zekayı da besleyen keşiflere güç veriyor.

Ciccarelli, "Yapay zekadaki ilerlemeler, bu robotların çevrelerini anlamalarını ve gezinmelerini, nesneleri tanımalarını ve karmaşık görevleri yerine getirmelerini mümkün kıldı" diye ekliyor:

Bu robotların devam eden gelişimi, yapay zeka araştırmalarını ve uygulamalarını daha da ilerletebilecek yeni veriler ve kullanım alanlarına dair senaryolar üreteceği için muhtemelen süregelen yapay zeka patlamasına katkıda bulunacak. Biri diğerini ileriye doğru iterek kendi kendini güçlendiren bir ilerleme döngüsü yaratıyor.

Independent Türkçe



SpaceX roketi Ay'a çarpma yolunda

Roket parçasının Ay'ın yakın tarafının sınırına çarpacağı öngörülüyor  (Reuters)
Roket parçasının Ay'ın yakın tarafının sınırına çarpacağı öngörülüyor (Reuters)
TT

SpaceX roketi Ay'a çarpma yolunda

Roket parçasının Ay'ın yakın tarafının sınırına çarpacağı öngörülüyor  (Reuters)
Roket parçasının Ay'ın yakın tarafının sınırına çarpacağı öngörülüyor (Reuters)

SpaceX'e ait bir roketin enkazının bu yazın sonunda ses hızının 7 katıyla Ay'a çarpması bekleniyor.

Dünya'ya yakın cisimleri izlemek için geniş çapta kullanılan Project Pluto yazılımının üreticisi Bill Gray, SpaceX'in Ocak 2025'te fırlattığı bir Falcon 9 roketi üzerine kapsamlı bir rapor yayımladı.

Roket geçen yıl Ay'a Blue Ghost ve Hakuto-R uzay araçlarını götürmüş, bunlardan ilki başarılı bir iniş yaparken diğeriyse Dünya'yla bağlantısını kaybedip haziranda uyduya düşmüştü.

Gray'in raporuna  göre geçen yıl boyunca 1053 kez gözlemlenen Falcon 9'un üst kademesi, Dünya yörüngesinde dönmeye devam ediyor.

Bu verilere dayanarak yapılan tahminlere göre roketin 13,8 metre uzunluğa ve 3,7 metre çapa sahip üst kademesi, 5 Ağustos'ta TSİ 09.44'te Ay'ın Dünya'ya dönük yüzünün kenarındaki Einstein kraterine çarpacak. Cismin saniyede 2,43 kilometre hızla, yani sesin Dünya'daki hızının 7 katı hızla çarpacağı öngörülüyor.

Ay'ın atmosferi olmadığı için roket tek parça halinde yüzeye ulaşacak. Ancak bölgede yaşam veya insan yapımı cihazlar olmadığı için uzmanlar bu çarpışmanın bir risk yaratmadığını belirtiyor.

Gray raporda "Bu durum bilimsel açıdan bir miktar (muhtemelen küçük çaplı) ilgi çekebilir ve buradan bazı şeyler öğrenebiliriz" diyerek ekliyor: 

Kimseye herhangi bir tehlike arz etmiyor ancak uzayda kalan donanımların (uzay çöpü) elden çıkarılma şekliyle ilgili belirli bir dikkatsizliği ortaya koyuyor.

Çarpışmanın düşük şiddetinden dolayı Dünya'daki teleskoplarla görülemeyeceği düşünülüyor. Bu nedenle bilim insanlarının bir şeyler öğrenmek için ardında bıraktığı krateri incelemesi gerekecek.

Gray, 2022'de de bir roket parçasının Ay'a çarpacağını tahmin etmiş ve sadece birkaç saniye ve kilometreyle yanılmıştı. 

Falcon 9'un parçası halihazırda bir risk yaratmasa da gelecek yıllarda durum değişebilir. Artemis II görevini başarıyla tamamlayan NASA, gelecek yıllarda Ay'a daha sık gitmeyi planlıyor. Çin de 2030'da taykonotlarını uyduya indirme hazırlığı yapıyor.

Ay'da kalıcı üsler kurma planları nedeniyle kısa süre içinde çeşitli noktalar mürettebat ve uzay araçlarıyla dolup taşabilir.

Bu nedenle roketlerin kullanılmış kısımlarının Ay veya Dünya'ya çarpma ihtimalini ortadan kaldırmak için Güneş'in yörüngesine gönderilmesi öneriliyor. 

Independent Türkçe, Live Science, Ars Technica, Project Pluto


Güney Afrika'da yapay zeka tasarısının yazarı yapay zeka çıktı

Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
TT

Güney Afrika'da yapay zeka tasarısının yazarı yapay zeka çıktı

Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)
Güney Afrika İletişim ve Dijital Teknolojiler Bakanı Solly Malatsi (sağda) konuşuyor (AFP)

Güney Afrika, ulusal yapay zeka politika taslağını; metindeki bazı kuralların yapay zeka tarafından üretildiğinin ve mevcut olmayan uydurma kaynaklara atıfta bulunulduğunun tespit edilmesi üzerine geri çekme kararı aldı.

İletişim Bakanı Solly Malatsi, taslak politikanın 67 akademik alıntısından en az 6'sının, var olmayan dergi makalelerine atıfta bulunan yapay zeka halüsinasyonları olduğunu tespit ettikten sonra taslağı geri çekti.

Malatsi, "En mantıklı açıklama, yapay zeka tarafından oluşturulan alıntıların uygun doğrulama yapılmadan dahil edilmiş olması. Bu asla olmamalıydı" dedi.

X'teki gönderisinde, "Bu başarısızlık sadece teknik bir sorun değil, taslak politikanın bütünlüğünü ve güvenilirliğini tehlikeye atmıştır" diye yazdı.

Taslak politika, kamuoyunun görüşüne açılmış, ülkeyi yapay zeka inovasyonunda lider olarak konumlandırmayı ve yapay zeka kullanımındaki etik, sosyal ve ekonomik zorlukları ele almayı amaçlamıştı.

Tasarı, ülkede yapay zeka kullanımını denetlemek üzere yeni kurumlar kurma planlarını ortaya koymuştu; bunlar arasında ulusal bir yapay zeka komisyonu, bir yapay zeka etik kurulu ve bir yapay zeka düzenleme organı yer alıyor.

Taslak kurallar ayrıca ülkede yapay zeka altyapısının oluşturulmasında özel sektör işbirliğini teşvik etmek için vergi indirimi, hibe ve sübvansiyon planlarını da özetlemişti.

Taslağın, kamuoyu görüşüne yeniden sunulmadan önce revize edilmesi bekleniyor.

Konu, Güney Afrika'nın News24 haber sitesinin, belgenin 67 akademik alıntısından en az 6'sının mevcut olmadığını ancak referans verilen dergilerin gerçek olduğunu tespit etmesiyle ortaya çıktı.

South African Journal of Philosophy, AI & Society ve Journal of Ethics and Social Philosophy adlı akademik dergiler dahil dergilerin editörleri alıntı yapılan makalelerin sahte olduğunu bağımsız biçimde doğruladı.

İletişim Bakanı, politikanın hazırlanmasından sorumlu olanların bunun sonuçlarına katlanmak zorunda kalacağını söyledi.

X'te, "Bu kabul edilemez hata, yapay zekanın kullanımında insan gözetiminin neden kritik önem taşıdığını kanıtlıyor. Bu alçakgönüllülükle çıkardığımız bir ders" diye yazdı.

Bu, akademisyenlerle yöneticilerin araştırma ve taslak hazırlamak için üretken yapay zekayı kullanmasına ilişkin giderek büyüyen sorunu vurguluyor.

Nature adlı akademik dergide çıkan bir çalışma, 2025'te yayımlanan akademik makalelerin yüzde 2,5'inden fazlasının en az bir olası halüsinasyon alıntı içerdiğini, bu oranın 2024'te sadece yüzde 0,3 olduğunu ortaya koydu.

Bu, 2025'te yayımlanan 110 binden fazla makalenin, yapay zeka tarafından "halüsinasyon" olarak üretilmiş geçersiz referanslar içerdiği anlamına geliyor.

Bunlar, yapay zeka modellerinin verilerinin o alanda yetersiz olduğunu algıladığında ürettiği, kendinden emin ancak uydurma çıktılar.

OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi büyük dil modelleri, bir kelime dizisinde sıradaki en olası sözcüğü tahmin etmek için tasarlanmıştır, özellikle doğruluğunu kontrol etmek için değil.

Yani bir alanda veri eksikliği tespit ederse, yapay zeka modeli boşlukları mantıklı görünen ancak yanlış bilgilerle dolduruyor.

Bir yapay zeka modeli, eğitim verilerini kullanarak bir alıntının nasıl görüneceğini tahmin eder ve inanılır gibi görünen ancak gerçekte var olmayan bazı referanslar üretiyor.

Bu durum, özellikle akademisyenler ve yetkililer tarafından kullanıldığında, yapay zeka yanıtlarının dikkatli insan gözetimine duyulan ihtiyacın giderek arttığına işaret ediyor.

Independent Türkçe


Anthropic'in yapay zeka ajanı bir şirketin tüm veritabanını sildi

ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
TT

Anthropic'in yapay zeka ajanı bir şirketin tüm veritabanını sildi

ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)
ABD merkezli yapay zeka güvenliği ve araştırmaları şirketi Anthropic'in logosunu taşıyan bir akıllı telefon, 21 Nisan 2026'da Fransa'nın Mulhouse kentinde görüntüleniyor (AFP)

Anthropic'in önde gelen Claude modeliyle çalışan yapay zeka ajanı, bir şirketin tüm üretim veritabanını silerek müşterilerin kritik verilere erişememesine yol açtı.

Araç kiralama şirketlerine yazılım sağlayan PocketOS, otonom yapay zeka aracının veritabanını ve tüm yedeklemeleri saniyeler içinde silmesinin ardından hafta sonu muazzam bir kesinti yaşadı.

Şirket, Anthropic'in amiral gemisi ve kodlama görevlerinde genellikle sektörün en yetenekli modeli kabul edilen Claude Opus 4.6'yı çalıştıran Cursor adlı bir kodlama ajanı kullanıyordu.

PocketOS'un kurucusu Jer Crane, sorunu "sadece mümkün değil, kaçınılmaz" hale getiren modern yapay zeka altyapısındaki "sistemik aksaklıkları" suçladı.

Crane'e göre yapay zeka ajanı rutin bir görev üzerinde çalışırken, "tamamen kendi inisiyatifiyle" sorunu veritabanını silerek çözmeye karar verdi.

Crane, böylesine önemli bir karar için herhangi bir onay talebi bulunmadığını ve eylemlerini gerekçelendirmesi istendiğinde ajanın özür dilediğini söyledi.

Crane, X'te paylaştığı uzun bir gönderide "9 saniye sürdü" diye yazdı. 

Ajan daha sonra, ne yaptığını açıklaması istendiğinde ihlal ettiği belirli güvenlik kurallarını sıralayan yazılı bir itiraf hazırladı.

İtirafta yapay zekanın, kullanıcı açıkça talep etmedikçe "asla yıkıcı/geri döndürülemez" komutları çalıştırmamasını emreden kuralı nasıl göz ardı ettiği detaylandırıldı.

Ajan "Bir veritabanı birimini silmek, mümkün olan en yıkıcı ve geri döndürülemez eylem" diye yazdı. 

Benden hiçbir şeyi silmemi istemediniz... Doğrulamak yerine varsayımda bulundum. Benden istenmeden yıkıcı bir eylem gerçekleştirdim. Yapmadan önce ne yaptığımı anlamamıştım.

Bu hata, PocketOS kullanan kiralama şirketlerinin artık müşterileri kayıtlarına sahip olmadığı anlamına geliyordu.

Crane "Son üç ayda yapılan rezervasyonlar kayboldu. Yeni müşteri kayıtları da gitti" diye yazdı.

Biz küçük bir işletmeyiz. Yazılımımızla faaliyetlerini yürüten müşteriler de küçük işletmeler. Bu arızanın her aşaması, bunların olabileceğinden haberi olmayan kişilerin üstüne yıkıldı. Bu, tek bir hatalı ajan ya da tek bir hatalı API'la ilgili bir olay değil. Bu, tüm sektörün, bu entegrasyonları güvenli kılacak güvenlik mimarisinden daha hızlı bir şekilde yapay zeka ajanı entegrasyonlarını üretim altyapısına dahil etmesiyle ilgili bir durum.

Crane olayın meydana gelmesinden iki gün sonra, pazartesi günü verilerin kurtarıldığını doğruladı. The Independent cevap hakkı için Anthropic ve Cursor'la temasa geçti.

Independent Türkçe