NUOVO POD! In questo episodio di @greenpillnet, sono accompagnato da @edelwax, fondatore del @meaningaligned Institute, per parlare di Allineamento AI Full Stack. Argomenti: perché l'allineamento AI è importante, lezioni dai social media, il ruolo degli incentivi e delle istituzioni, e quattro “moonshot” per i costruttori: super negoziatori, regolatori delle risorse pubbliche, intermediari di mercato e agenti di stewardship del valore. Joe condivide una visione speranzosa dell'AI e delle istituzioni che rafforzano l'integrità umana e il fiorire. 00:00 – Introduzione alla nuova stagione di Green Pill e Joe Edelman 01:59 – Il background di Joe e il Meaning Alignment Institute 03:43 – Perché l'allineamento è importante per l'AI e le istituzioni 05:46 – Lezioni dai social media e dall'economia dell'attenzione 09:06 – Critica degli approcci superficiali all'allineamento AI (RLHF, valori-come-testo) 13:20 – Modelli spessi di valore: andare oltre gli ideali astratti 15:11 – Allineamento full stack attraverso modelli, metriche e istituzioni 17:00 – Riconciliare i valori con le strutture di incentivo capitalistico 19:17 – Evitare economie distopiche e costruire mercati guidati dal valore 21:32 – Quattro moonshot: super negoziatori, regolatori delle risorse pubbliche, intermediari di mercato, agenti di stewardship del valore 27:32 – Intermediari vs. agenti di stewardship del valore spiegati 29:09 – Come i costruttori e gli accademici possono partecipare a progetti di allineamento full stack 31:10 – Perché la collaborazione inter-istituzionale è fondamentale 32:46 – La visione di Joe del mondo tra 10 anni con allineamento full stack 34:51 – Analogia del sistema alimentare: da “zucchero” a AI nutriente 36:40 – Incentivi a lungo termine vs. a breve termine nei mercati 38:25 – Prospettiva speranzosa: costruire integrità nell'AI e nelle istituzioni 39:04 – Osservazioni finali e link al lavoro di Joe Dai un'occhiata a quel documento: Iscriviti al pod => @greenpillnet