新播客！ 在这一集的 @greenpillnet 中，我与 @edelwax，@meaningaligned 研究所的创始人，一起讨论全栈 AI 对齐。 主题：为什么 AI 对齐很重要，社交媒体的教训，激励与机构的角色，以及四个“月球计划”供建设者参考：超级谈判者、公共资源监管者、市场中介和价值管理代理。乔分享了一个充满希望的 AI 视野，以及强化人类诚信和繁荣的机构。 00:00 – 介绍 Green Pill 的新季节和乔·艾德尔曼 01:59 – 乔的背景和意义对齐研究所 03:43 – 为什么对齐对 AI 和机构很重要 05:46 – 社交媒体和注意力经济的教训 09:06 – 对肤浅 AI 对齐方法的批评（RLHF，价值作为文本） 13:20 – 价值的厚模型：深入探讨抽象理想 15:11 – 跨模型、指标和机构的全栈对齐 17:00 – 将价值与资本主义激励结构调和 19:17 – 避免反乌托邦经济，建立以价值为驱动的市场 21:32 – 四个月球计划：超级谈判者、公共资源监管者、市场中介、价值管理代理 27:32 – 中介与价值管理代理的解释 29:09 – 建设者和学者如何参与全栈对齐项目 31:10 – 为什么跨机构合作至关重要 32:46 – 乔对未来十年全栈对齐的愿景 34:51 – 食品系统类比：从“糖”到滋养 AI 36:40 – 市场中的长期与短期激励 38:25 – 充满希望的展望：将诚信融入 AI 和机构 39:04 – 结束语和乔工作的链接 查看那篇论文： 订阅播客 => @greenpillnet