Lorsqu'un LLM effectue des calculs, son mécanisme d'attention crée un vaste champ tensoriel transitoire d'influence causale. Les couches linéaires façonnent sa géométrie. C'est l'"esprit" du LLM - il est incompréhensible pour nous. Il n'est pas évident qu'un tel processus ne puisse pas donner lieu à une expérience subjective.

La nouvelle liste incroyable à connaissance nulle est également disponible au format standard README de Github si vous n'aimez pas le site web sophistiqué. Les contributions sont les bienvenues.