1. 关于存在性风险的争论 在那些构建了现代人工智能的人当中，确实存在着尚未解决的分歧。被誉为“深度学习教父”的 Geoffrey Hinton 为了能够自由地谈论这一问题而离开 Google，如今他认为，在未来几十年内，人工智能导致人类灭绝的概率大约为 10%–20%。他坦率地承认，这并不是一个精确计算出来的数字，而是在一个没有任何历史先例的情境下所做出的知情判断。Elon Musk 也曾发出类似警告，他经常借助历史类比来表达这一观点（下文还会进一步讨论他关于尼安德特人的类比）。而像 Eliezer Yudkowsky…