Dwarkesh Patel与Ilya Sutskever的采访摘要 • 当前的方法将“走一段路然后停滞不前”，它们会不断改进，但无法实现AGI。 • 有效的系统是我们“尚不知道如何构建”的东西。 • 预计未来几年对劳动市场会产生重大影响。 • 主要瓶颈：泛化。模型在这方面远不如人类。 • 你可以在每个竞争编程问题上进行训练，但模型仍然无法发展出真正的“品味”，而一个青少年大约在10小时内就能学会开车。 • 评估分数看起来很不错，但现实世界的表现滞后，因为强化学习训练最终会优化评估本身。 • 真正的奖励黑客是那些设计这些基准和训练循环的研究人员。 • 他说他有关于缺失内容的想法，但不会公开分享。 • 然而，ASI将在5-20年内出现。 "你知道什么是疯狂的吗？这一切都是真实的" 我真的感受到了那句话。