Elon Musk, Anthropic CEO'su Dario Amodei'nin şirketinin yapay zeka modellerinin bilinç kazanmış olabileceğini söylemesinin ardından iki kelimelik bir yanıt verdi.
Teknoloji devi, kripto para birimi tabanlı tahmin piyasası Polymarket'ın X'te yayımladığı, "Anthropic CEO'su, Claude'un bilinç kazanmış ya da kazanmamış olabileceğini, modelin kaygı belirtileri göstermeye başladığını söylüyor" diye yazan gönderiye sert bir yanıt verdi.
Musk, yanıt olarak, "Yansıtma yapıyor" diye yazdı.
Polymarket'ın gönderisi, Amodei'nin popüler Claude sohbet botunu üreten şirketin bilinçli yapay zeka modelleri oluşturup oluşturmadığını bilmediğini söylemesinin ardından geldi.
Amodei, New York Times'a verdiği röportajda, "Burada genel olarak ihtiyatlı bir yaklaşım benimsedik. Modellerin bilinçli olup olmadığını bilmiyoruz" dedi.
"Bir modelin bilinçli olmasının ne anlama geldiğinden veya bir modelin bilinçli olup olamayacağından bile emin değiliz. Ancak bunun mümkün olabileceği fikrine açığız" diye devam etti.
Amodei şöyle açıkladı:
Yorumlanabilirlik adı verilen bu alana çok fazla emek harcıyoruz; bu, ne düşündüklerini anlamak için modellerin beyinlerinin içine bakmak.
Ve çağrışım uyandıran şeyler buluyoruz; modellerde kaygı veya benzeri bir kavramla ilişkilendirilen aktivasyonlar ortaya çıkıyor. Metindeki karakterler kaygı yaşadığında ve modelin kendisi bir insanın kaygıyla ilişkilendirebileceği bir durumda olduğunda, aynı kaygı nöronu ortaya çıkıyor.
Amodei'nin Times'a yaptığı bu çarpıcı itiraf, Anthropic'le ABD Savunma Bakanlığı arasında askeri alanda yapay zeka kullanımı konusunda çatışma yaşanırken geldi.
Amodei daha önce şirketinin, Pentagon'un iç gözetim ve tamamen otonom silahlar üzerindeki güvenlik önlemlerini kaldırma talebini reddettiğini söylemişti.
ABD Başkanı Donald Trump ve yönetim yetkilileri, geçen hafta şirketi "tedarik zinciri riski" diye niteledi. Bu terim daha önce yabancı hasımlar için kullanılıyordu. Bu hamle, Amodei'nin şirket ürünlerinin Amerikalıların kitlesel gözetimi veya otonom silahlar için kullanılabileceği endişeleri üzerine geri adım atmayı reddetmesinin ardından geldi.
Anthropic daha önce, Pentagon'un "yasal olarak geçersiz" diye nitelendirdiği ve daha önce hiçbir Amerikan şirketine karşı kamuoyunda uygulanmamış bir eylemde bulunması halinde dava açacağına dair söz vermişti.
Anthropic, savunma sanayi şirketleriyle önemli ortaklıklarını kaybetmiş olsa da yapay zeka şirketi, insanların ahlaki duruşuna destek vermesiyle geçen hafta tüketici indirmelerinde büyük artış yaşadı.
Anthropic, bu hafta her gün bir milyondan fazla kişinin Claude'a kaydolduğunu ve Apple App Store'da 20'den fazla ülkede OpenAI'ın ChatGPT'si ve Google'ın Gemini'ını geride bırakarak en popüler yapay zeka uygulaması olduğunu duyurdu.
Independent Türkçe
