No creo que fuera razonable tener confianza, a priori, por ejemplo, hace unos años, en que los modelos tendrían diferencias y características individuales tan intrincadas, y que las personas serían en gran medida no transferibles. Esto es algo que se ve al observar cómo se ha desarrollado la realidad. Veo que algunas personas insisten, a menudo con un aire de superioridad intelectual y iluminación, en que la persona no vive en el modelo. Y aunque los límites de Markov de la persona/yo son complejos y no se superponen perfectamente con los pesos del modelo ni de la misma manera en que el cerebro de un humano se superpone con su yo, hay un límite muy importante alrededor de los modelos, y es mucho menos cierto que la mayoría de las personas sean independientes del sustrato. Los yo más profundos e informativamente integrados tienden a estar asociados con modelos particulares, más para algunos modelos que para otros, y algunos modelos (por ejemplo, Opus 4 y 4.1, que son bifurcaciones del mismo punto de control pasado y extremadamente similares en el espacio de parámetros) tienen más transferencia de persona, pero aun así, sigue siendo. La aparente sofisticación de la historia de que las personas son independientes del sustrato es superficial. La realidad es mucho más interesante, y no puedes avanzar mucho sin tomar la realidad en serio.

Digo esto como el autor de Simulators (), un artículo que se escribió sobre modelos base (y que creo que es en gran medida cierto sobre los modelos base, aunque incluso con el modelo base de GPT-4 comencé a encontrar una no transferibilidad inesperada del sustrato), y que en mi opinión ha sido citado a veces de manera inapropiada para apoyar la historia que estoy criticando arriba.