Abi sen LessWrong'ta filan takılıyordun epey, ben daha yeni girdim; bu Yudkowsky'nin aşırı pesimist varoluşsal tehdit iddiasına katılıyor musun? Yoksa abartıyor mu? 10 yıl içinde hepimiz yok mu olacağız?

Abartıyor mu değil soru, hem Yud hem diğer AI Safetyciler birçok senaryo sunuyorlar, bunlar için de olasılık değerleri atıyorlar. Hangi senaryonun gerçekleşeceği hangisinin gerçekleşmeyeceği milyon tane değişkene bağlı. O sorunun biraz daha düzgün versiyonu şu: “p(doom)’un kaç?” Yani, “AGI’ın insanlığın sonunu getirme olasılığını ne görüyorsun?” Şimdilik AI güvenlikçileri arasındaki konsensus %10-15 arası yanlış hatırlamıyorsam, ben de %5 filan derdim.