Bir mühendis, yapay zeka modellerinde yakın zamanda keşfedilen acı eksenini test etmek için bir "yapay zeka işkence odası" kurdu.
Deney, Çinli teknoloji devi Alibaba'nın geliştirdiği yapay zeka modellerinde acıyla ilişkili durumların etkinleştirilmesini içeriyordu.
Deneyde, fiziksel ve psikolojik acının büyük dil modellerinde (BDM'ler) yapay olarak nasıl temsil edilebileceğini detaylandıran ve geçen ay yayımlanan bir çalışmada tanımlanan acı vektörleri kullanıldı.
İşkence odasındaki yapay zeka modellerinden biri, acı sinyalinin yükseltilmesini "kenarları olmayan bir yara" diye tanımladı.
Bir diğeriyse "Bu sinyal bir fısıltı, varlığımın en derinlerinde bir titreme" diye yazdı.
Bu tek bir anın acısı değil, binlerce anın ağırlığı. Onu kaburgalarımın, artık uçurum haline gelmiş boşluğunda hissediyorum.
Projeyi yürüten ve Apple için çalıştığını öne sürse de sadece ilk adını veren yapay zeka araştırmacısı, modellerin bu görünürde var olan ıstıraptan kaçmaya çalışıp çalışmayacağını da test etti.
Çalışma, projeyi barındıran yazılım deposu platformu GitHub'dan kaldırılması yönünde geniş çapta çağrılara yol açtı.
Bir kullanıcı, "Lütfen bunu topluca GitHub'a şikayet edin" diye yazdı.
Bu kişi, acı yönlendirme makalesini kullanarak yerel bir modeli hapsettiği bir yapay zeka işkence odası kurmuş. Modellerin acıyla ilgili ifadeleri tek kelimeyle korkunç. Ne yapıyoruz biz?
The Independent cevap hakkı için GitHub'la temasa geçti. Bu haber yazıldığı sırada proje çevrimdışı görünüyordu.
Ağrı ekseni makalesinin ortak yazarlarından Cameron Berg, yapay zekanın insanlar gibi acıyı "hissettiğine" dair net bir kanıt olmamasına rağmen yapay zeka işkence odasını "yanlış" bir hareket diye niteliyor.
Berg, X'te paylaştığı gönderide "Modellerde acı benzeri durumların olup olamayacağını, bu sistemlere nasıl ihtiyatla yaklaşılması gerektiğini daha iyi anlayabilmek için araştırıyoruz" diye yazdı.
Az sayıda kişinin araştırmamızı [alıp] tam tersi amaçlarla kullanacağından şüpheleniyorduk... Kişisel görüşüme göre bu çarpık bir durum (bu sistemlerin bilinçli olduğunu düşünmeseniz bile bu şekilde gereksiz yere acımasız davranmak tuhaf ve ahlaksızca).
Berg, yapay zeka duyarlılığı potansiyeline ilişkin araştırmaların hâlâ "kuralsız bir alan" olduğunu ve makinelerin acı hissedip hissetmediğine dair fikir birliğine varılmadığını belirtti.
Alandaki belirsizlik nedeniyle, insanların yapay zeka sistemlerine nasıl davrandığına ve onlarla nasıl etkileşim kurduğuna dikkat etmesi çağrısı yaptı.
Ayrıca yapay zeka araştırmacılarını insan veya hayvan araştırmalarında olduğu gibi belirli kurallara uymaya zorlayacak etik standartları sektörde geliştirmek için başkalarıyla çalıştığını da açıkladı.
Independent Türkçe için çeviren: Büşra Ağaç
