埃利泽·尤德科夫斯基：关于人工智能的危险和人类文明的终结

本期播客节目由埃利泽·尤德科夫斯基讨论了高级人工智能可能带来的生存风险。 讨论涵盖了诸如通用人工智能（AGI）的定义、将AGI与人类价值观对齐的挑战，以及AGI可能导致人类灭绝的情景等话题。 尤德科夫斯基的观点批判了当前的人工智能开发实践，特别是像GPT-4这样强大模型的开源，因为他认为这存在不受控制的人工智能的危险。 本集还涉及了诸如意识和进化等相关的哲学概念，为理解人工智能风险讨论提供了广泛的背景。