New York Valisi Kathy Hochul, dün (çarşamb) çocukların kendilerini arkadaşlarıymış gibi gösteren yapay zekâ destekli sohbet botlarını kullanmasını kısıtlayan yeni bir yasayı imzaladı. Söz konusu düzenleme, tüketicilere yönelik bu tür yapay zekâ modellerinin kullanımını sınırlandırmaya yönelik şimdiye kadarki en kapsamlı adımlardan biri olarak değerlendiriliyor.
Yasa, ChatGPT gibi programların işletmecilerine kullanıcıların yaşını doğrulama ve kullanıcı 18 yaşından küçükse belirli özelliklere erişimi kısıtlama yükümlülüğü getiriyor. Şarku’l Avsat’ın Fransız Haber Ajansı AFP’den aktardığı habere göre düzenleme, reşit olmayan kullanıcıların bu programlarla etkileşiminde bazı içeriklerin üretilmesini de yasaklıyor.
Yasaya göre, reşit olmayan kullanıcıların bu programları kullanması durumunda, yapay zekânın kendisini “insan, canlı bir varlık veya insana özgü duygulara sahip” bir varlık gibi gösteren içerikler üretmesine izin verilmeyecek.
Düzenleme ayrıca sohbet botlarının, kullanıcıda kendileriyle kişisel ya da profesyonel bir ilişki içinde olduğu veya otorite sahibi bir kişiliği temsil ettiği izlenimini yaratacak içerikler üretmesini de yasaklıyor.
New York Valisi Kathy Hochul, çarşamba günü düzenlenen imza töreninde, “Çocuklar artık arkadaşları ya da romantik partnerleriymiş gibi davranan sohbet programlarına erişemeyecek. Bu programlar ayrıca çocukların duygusal veya fiziksel sağlıklarına ilişkin hassas bilgileri saklayamayacak” ifadelerini kullandı.
Kaliforniya gibi diğer ABD eyaletleri de sohbet botlarını sınırlandıran yasaları kabul etmişti. Ancak Hochul’un imzaladığı yasanın, bu teknolojinin düzenlenmesine ilişkin en kapsamlı hükümlerden bazılarını içerdiği belirtiliyor. Düzenlemenin bu yönü, yapay zekâ şirketlerinin eleştirilerine yol açtı.
New York’taki teknoloji sektörünü temsil eden ve haklarını savunan Tech:NYC kuruluşu, yasanın ifadelerinin “muğlak” olduğunu savundu.
Kuruluş, yaptığı açıklamada, “Çocukları çevrim içi ortamda korumak, öğrenmelerine ve gelecekteki mesleklerine hazırlanmalarına yardımcı olan araçlardan mahrum bırakılmaları anlamına gelmemeli” değerlendirmesinde bulundu.
OpenAI ve Anthropic şirketleri ise AFP’nin yasaya ilişkin yorum talebine yanıt vermedi.
Buna karşılık, ebeveynlere medya içeriklerinin çocuklar için uygunluğu konusunda rehberlik sağlayan Common Sense Media kuruluşu, yasanın kabul edilmesini memnuniyetle karşıladı. Kuruluş, düzenlemeyi “ülkede yapay zekâ alanında çocukların güvenliğine ilişkin en güçlü yasa” olarak nitelendirdi.
Common Sense Media Üst Yöneticisi Jim Steyer, yaptığı açıklamada, “Yapay zekâ şirketleri, çocuklara ve ergenlere tehlikeli, hatta zaman zaman ölümcül olabilen özellikler içeren sohbet botları sunuyor. Artık bu zararlı özellikler New York eyaletinde yasayla yasaklanacak” ifadelerini kullandı.
