再次未能理解指数增长？ 我与@Mononofu - Julian Schrittwieser（@AnthropicAI，AlphaGo Zero，MuZero）的对话 - 关于第37步、扩展强化学习、人工智能诺贝尔奖以及人工智能前沿： 00:00 - 冷开场：“我们没有看到任何放缓。” 00:32 - 介绍 — 认识Julian 01:09 - 前沿实验室内部的“指数” 04:46 - 2026–2027：全天工作的代理；专家级广度 08:58 - 基准与现实：长期工作，GDP-Val，用户价值 10:26 - 第37步 — 实际发生了什么以及为什么重要 13:55 - 新颖的科学：AlphaCode/AlphaTensor → 人工智能何时能获得诺贝尔奖？ 16:25 - 不连续性与平滑进展（及警告信号） 19:08 - 预训练 + 强化学习能否让我们到达那里？（AGI辩论不谈） 20:55 - Sutton的“从零开始的强化学习”？Julian的看法 23:03 - Julian的路径：谷歌 → DeepMind → Anthropic 26:45 - AlphaGo（学习 + 搜索）用简单英语解释 30:16 - AlphaGo Zero（没有人类数据） 31:00 - AlphaZero（一个算法：围棋、国际象棋、将棋） 31:46 - MuZero（使用学习的世界模型进行规划） 33:23 - 对今天代理的教训：大规模搜索 + 学习 34:57 - LLM是否已经拥有隐含的世界模型？ 39:02 - 为什么在LLM上进行强化学习花了时间（稳定性，反馈循环） 41:43 - 强化学习的计算与扩展 — 我们迄今所见 42:35 - 奖励前沿：人类偏好、评分标准、RLVR、过程奖励 44:36 - 强化学习训练数据与“飞轮”（以及质量为何重要） 48:02 - 强化学习与代理101 — 为什么强化学习解锁了鲁棒性 50:51 - 建设者应该使用强化学习即服务吗？还是仅仅使用工具 + 提示？ 52:18 - 可靠代理缺失的是什么（能力与工程） 53:51 - 评估与Goodhart — 内部与外部基准 57:35 - 机械解释性与“金门克劳德” 1:00:03 - Anthropic的安全与对齐 — 如何在实践中体现 1:03:48 - 工作：人类与人工智能的互补性（比较优势） 1:06:33 - 不平等、政策，以及10倍生产力的案例 → 丰富 1:09:24 - 结束思考