Dwarkesh Patel 與 Ilya Sutskever 的訪談摘要 • 當前的方法將「走一段距離然後停滯不前」，它們會持續改進，但不會實現 AGI。 • 能夠運作的系統是我們「尚未知道如何構建」的東西。 • 預計在未來幾年內對勞動市場會有重大影響。 • 主要瓶頸：泛化。模型在這方面遠不如人類。 • 你可以在每個競賽編程問題上進行訓練，但模型仍然無法發展出真正的「品味」，而一個青少年學習駕駛大約只需 10 小時。 • 評估分數看起來很棒，但實際表現滯後，因為強化學習訓練最終會優化評估本身。 • 真正的獎勵黑客是那些設計這些基準和訓練循環的研究人員。 • 他表示他對缺失的東西有想法，但不會公開分享。 • 然而，ASI 預計在 5-20 年內實現。 「你知道什麼是瘋狂的嗎？這一切都是真實的。」 我真的感受到那句話。