NIEUWE POD! In deze aflevering van @greenpillnet ben ik samen met @edelwax, oprichter van het @meaningaligned Instituut, om te praten over Full Stack AI Alignment. Onderwerpen: waarom AI-afstemming belangrijk is, lessen van sociale media, de rol van prikkels en instellingen, en vier "moonshots" voor bouwers: superonderhandelaars, publieke hulpbronnenregulators, marktintermediairs en waarde-beheeragents. Joe deelt een hoopvolle visie op AI en instellingen die menselijke integriteit en bloei versterken. 00:00 – Introductie van het nieuwe seizoen van Green Pill en Joe Edelman 01:59 – Joe’s achtergrond en het Meaning Alignment Institute 03:43 – Waarom afstemming belangrijk is voor AI en instellingen 05:46 – Lessen van sociale media en de aandachtseconomie 09:06 – Kritiek op oppervlakkige AI-afstemmingsbenaderingen (RLHF, waarden-als-tekst) 13:20 – Dikke modellen van waarde: dieper gaan dan abstracte idealen 15:11 – Full stack afstemming over modellen, metrics en instellingen 17:00 – Waarden verzoenen met kapitalistische prikkelstructuren 19:17 – Dystopische economieën vermijden en waarde-gedreven markten bouwen 21:32 – Vier moonshots: superonderhandelaars, publieke hulpbronnenregulators, marktintermediairs, waarde-beheeragents 27:32 – Intermediairs vs. waarde-beheeragents uitgelegd 29:09 – Hoe bouwers en academici betrokken kunnen raken bij full stack afstemmingsprojecten 31:10 – Waarom cross-institutionele samenwerking cruciaal is 32:46 – Joe’s visie op de wereld over 10 jaar met full stack afstemming 34:51 – Voedsel systeem analogie: van "suiker" naar voedzame AI 36:40 – Lange termijn vs. korte termijn prikkels in markten 38:25 – Hoopvolle vooruitzichten: integriteit in AI en instellingen bouwen 39:04 – Slotopmerkingen en links naar Joe’s werk Bekijk dat paper: Abonneer je op de pod => @greenpillnet