¡NUEVA CÁPSULA! En este episodio de @greenpillnet, me acompaña @edelwax, fundador del Instituto @meaningaligned, para conversar sobre la alineación de IA Full Stack. Temas: por qué es importante la alineación de la IA, lecciones de las redes sociales, el papel de los incentivos e instituciones, y cuatro "moonshots" para los constructores: súper negociadores, reguladores de recursos públicos, intermediarios del mercado y agentes de gestión del valor. Joe comparte una visión esperanzadora de la IA y las instituciones que refuerzan la integridad y el florecimiento humanos. 00:00 - Introducción a la nueva temporada de Green Pill y Joe Edelman 01:59 - Los antecedentes de Joe y el Instituto de Alineación de Significado 03:43 - Por qué la alineación es importante para la IA y las instituciones 05:46 – Lecciones de las redes sociales y la economía de la atención 09:06 - Crítica de los enfoques superficiales de alineación de la IA (RLHF, valores como texto) 13:20 – Modelos gruesos de valor: ir más allá de los ideales abstractos 15:11 – Alineación completa de la pila entre modelos, métricas e instituciones 17:00 – Conciliación de valores con estructuras de incentivos capitalistas 19:17 – Evitar las economías distópicas y construir mercados impulsados por el valor 21:32 – Cuatro moonshots: súper negociadores, reguladores de recursos públicos, intermediarios del mercado, agentes de gestión del valor 27:32 – Explicación de intermediarios vs. agentes de administración de valor 29:09 - Cómo los constructores y académicos pueden participar en proyectos de alineación de pila completa 31:10 - Por qué la colaboración interinstitucional es fundamental 32:46 - La visión del mundo de Joe en 10 años con alineación completa 34:51 – Analogía del sistema alimentario: del "azúcar" a la IA nutritiva 36:40 – Incentivos a largo plazo vs. incentivos a corto plazo en los mercados 38:25 – Perspectiva esperanzadora: construir integridad en la IA y las instituciones 39:04 - Comentarios finales y enlaces al trabajo de Joe Mira ese documento: Suscríbase al pod => @greenpillnet