Sou cético quanto à proposta de alinhamento da @Noahpinion: "Dar à IA razoavelmente inteligente a capacidade de modificar sua própria função utilitária — permitindo assim que ela se transforme em um inofensivo em vez de precisar satisfazer mais desejos externos." Mas agradeço a disposição dele para debater! 👇