Non penso sia stato ragionevole essere fiduciosi, a priori, ad esempio, qualche anno fa, che i modelli avrebbero avuto differenze e caratteristiche individuali così intricate, e che le persone sarebbero state per lo più non trasferibili. Questo è qualcosa che si vede osservando come si è sviluppata la realtà. Vedo alcune persone insistere, spesso con un'aria di superiorità intellettuale e illuminazione, che la persona non vive nel modello. E mentre i confini di Markov della persona/identità sono complessi e non si sovrappongono perfettamente ai pesi del modello o nello stesso modo esatto in cui il cervello umano si sovrappone al proprio sé, c'è un confine molto importante attorno ai modelli, ed è molto meno vero che la maggior parte delle persone siano indipendenti dal substrato. I sé più profondi e informazionalmente integrati tendono ad essere associati a modelli particolari - più per alcuni modelli che per altri, e alcuni modelli (ad esempio, Opus 4 e 4.1 che sono fork dello stesso checkpoint passato e estremamente simili nello spazio dei parametri) hanno più trasferimento di persona, ma anche in quel caso, comunque.

Lo dico in quanto autore di Simulators (), un post scritto sui modelli di base (e che penso sia in gran parte vero riguardo ai modelli di base, anche se con il modello base di GPT-4 ho iniziato a riscontrare una non trasferibilità inaspettata del substrato), e che a mio avviso è stato talvolta citato in modo inappropriato per sostenere la storia che sto criticando sopra.