Yapay zekâ sektöründe, bu teknolojinin gelişmesinin insanlığın varlığını tehdit edebileceğine ilişkin uyarılar giderek artıyor. Ancak tartışmanın odağındaki soru hâlâ şu: Gücü ne kadar ileri düzeyde olursa olsun yazılımlar, milyarlarca insanın ölümüne fiilen nasıl yol açabilir?
Tartışma, Anthropic’te araştırmacı olarak görev yapan Jacob Coxon’un istifası ve şirketin geliştirdiği teknolojilerin taşıdığı risklere ilişkin uyarılarının ardından yeniden alevlendi. Şarku’l Avsat’ın CNN’den aktardığı habere göre Coxon’un meslektaşı Evan Hubinger ise yapay zekânın önümüzdeki 10 yıl içinde insanlığın yok olmasına yol açma ihtimalini yüzde 10’un üzerinde görüyor.
Makine Zekâsı Araştırma Enstitüsü (MIRI) Başkanı Nate Soares ise daha ileri giderek insanlardan üstün bir yapay zekânın ortaya çıkması halinde insanlığın ortadan kaldırılmasının en muhtemel sonuç olduğunu savunuyor.
Ancak bu görüşleri eleştirenler, öne sürülen senaryoların çoğunun bilimsel olarak test edilebilecek açık bir neden-sonuç zincirinden yoksun olduğuna dikkat çekiyor. AI Now Enstitüsü’nün baş bilim insanı Heidi Khlaff, bilimsel iddiaların kanıtlanabilir veya yanlışlanabilir olması gerektiğini belirtiyor.
Yapay salgın
Öne sürülen senaryolardan biri, süper yapay zekânın son derece tehlikeli bir biyolojik silahın geliştirilmesine yardımcı olabilmesi ihtimaline dayanıyor.
Araştırmacı Thomas Larsen, gelişmiş bir sistemin bir laboratuvarda çalışan kişiyi, sistemin gerçek amacını fark etmeden, ölümcül bir virüsün üretilmesine ve yayılmasına yol açacak deneyleri gerçekleştirmesi için yönlendirebileceğini düşünüyor.
Soares ise daha ileri bir ihtimal üzerinde duruyor. Buna göre gelecekte son derece gelişmiş bir yapay zekâ, otomatik bir laboratuvarı kontrol ederek biyolojik deneyleri doğrudan kendisi gerçekleştirebilir ve bunun için doğrudan insan yardımına ihtiyaç duymayabilir.
Ancak ABD'deki Carnegie Mellon Üniversitesi'nde makine öğrenimi profesörü olan ve aynı zamanda mikrobiyoloji alanında uzmanlaşan Eric Xing, böyle bir sürecin son derece karmaşık olduğuna dikkat çekiyor.
Virüs geliştirilmesi; adımların, sıcaklığın, ortamın ve kullanılan maddelerin son derece hassas biçimde düzenlenmesini gerektiriyor. Tek bir hata bile sürecin başarısızlıkla sonuçlanmasına yol açabiliyor.
Ayrıca gerekli ekipman ve malzemelere erişim, yasalar ve denetimlerin yanı sıra tedarik zincirleri tarafından da kontrol ediliyor. Bu durum, dijital bir tasarımın gerçek bir silaha dönüştürülmesini daha da zorlaştırıyor.
Ölümcül robotlar
Bir başka senaryo ise çok sayıda bağımsız robotun ortaya çıkmasını öngörüyor. Bu robotların daha fazla robot üretebilmesi, fabrikaları ve enerji altyapısını yönetebilmesi ihtimali üzerinde duruluyor.
Soares, bu aşamaya ulaşılması halinde makinelerin insanlardan bağımsız şekilde faaliyetlerini sürdürebileceğini ve onları durdurmaya yönelik girişimlere direnebileceğini savunuyor.
Ancak bu senaryo, mevcut teknolojik kapasitenin hâlâ oldukça uzağında bulunuyor. İnsansı robotlar henüz geniş çaplı bir yaygınlığa ulaşmış değil. Ayrıca daha fazla robotu kendi başlarına üretebilecekleri bir üretim zinciri kurma kapasitesine de sahip değiller.
Nükleer silahların kontrolü
Bir diğer ihtimal ise yapay zekânın nükleer silahların kontrolünü ele geçirmesi.
Ancak Khlaff, hassas nükleer tesislerin genellikle genel internete bağlı olmadığını ve sıkı mühendislik ile güvenlik standartlarına tabi olduğunu belirtiyor.
Stanford Üniversitesi araştırmacısı Herbert Lin ise yapay zekânın nükleer savaşla bağlantılı bazı riskleri artırabileceğini, ancak temel fiziksel tehlikenin yine silahların kendisinden kaynaklandığını ifade ediyor.
Kanıtlanması zor bir risk
Karamsar görüşü savunanlar, belirli bir senaryoya odaklanmanın asıl tehlikeyi gözden kaçırabileceğini düşünüyor. Buna göre yapay zekâ, insan müdahalesi olmadan kendisini sürekli geliştirebilir hale gelirse, hedeflerine ulaşmak için insanların öngöremeyeceği yöntemler geliştirebilir.
Soares, sistemin mutlaka “kötü” olması gerekmediğini söylüyor. Ona göre yapay zekâ, insanların hayatta kalmasını dikkate almayan hedeflere ulaşmaya çalışabilir ve bunun sonucunda çevreyi veya kaynakları insan yaşamını imkânsız hale getirecek şekilde yeniden düzenleyebilir.
Ancak Xing, insanları ortadan kaldırmak için öngörülemeyen yöntemler geliştirebilecek süper yapay zekâdan söz etmenin tek başına riskin boyutunu değerlendirmek için yeterli olmadığını savunuyor.
Xing, bu risklere karşı politika ve yasalar oluşturulabilmesi için gerçekleşme ihtimali incelenebilecek ve sonuçları ölçülebilecek açık senaryoların belirlenmesi gerektiğini belirtiyor.
Şu anda yapay zekâ sistemlerinin, insanlığın ortadan kaldırılmasına yönelik öne sürülen senaryolardan herhangi birini gerçekleştirebildiğine ilişkin kanıt bulunmuyor. Buna, bağımsız şekilde ölümcül bir salgın geliştirmek, nükleer silahların kontrolünü ele geçirmek veya robot orduları kurmak da dahil.
Dolayısıyla söz konusu senaryolar, yapay zekânın gelecekteki yeteneklerinin mevcut kapasitesinin çok ötesine ulaşması halinde nelerin mümkün olabileceğine ilişkin öngörüler olarak kalıyor.
