NOVO POD! Neste episódio de @greenpillnet , estou acompanhado por @edelwax, fundador do @meaningaligned Institute, para conversar sobre o Full Stack AI Alignment. Tópicos: por que o alinhamento da IA é importante, lições das mídias sociais, o papel dos incentivos e instituições e quatro "moonshots" para os construtores: super negociadores, reguladores de recursos públicos, intermediários de mercado e agentes de administração de valor. Joe compartilha uma visão esperançosa da IA e de instituições que reforçam a integridade e o florescimento humanos. 00:00 – Introdução à nova temporada de Green Pill e Joe Edelman 01:59 - O histórico de Joe e o Instituto de Alinhamento de Significado 03:43 – Por que o alinhamento é importante para a IA e as instituições 05:46 - Lições das mídias sociais e da economia da atenção 09:06 - Crítica de abordagens de alinhamento de IA superficial (RLHF, valores como texto) 13:20 - Modelos grossos de valor: indo mais fundo do que ideais abstratos 15:11 – Alinhamento de pilha completa entre modelos, métricas e instituições 17:00 – Conciliar valores com estruturas de incentivos capitalistas 19:17 - Evitando economias distópicas e construindo mercados orientados por valor 21:32 - Quatro moonshots: super negociadores, reguladores de recursos públicos, intermediários de mercado, agentes de administração de valor 27:32 – Intermediários vs. agentes de administração de valor explicados 29:09 - Como construtores e acadêmicos podem se envolver em projetos de alinhamento de pilha completa 31:10 – Por que a colaboração interinstitucional é fundamental 32:46 – A visão de mundo de Joe em 10 anos com alinhamento full stack 34:51 - Analogia do sistema alimentar: do "açúcar" à IA nutritiva 36:40 – Incentivos de longo prazo vs. incentivos de curto prazo nos mercados 38:25 - Perspectiva esperançosa: construindo integridade na IA e nas instituições 39:04 - Considerações finais e links para o trabalho de Joe Confira esse artigo: Assine o pod => @greenpillnet