J'ai affirmé que les LLMs auto-régressifs sont des processus de diffusion qui divergent exponentiellement. Voici l'argument : Soit e la probabilité qu'un token généré sorte de l'arbre des réponses "correctes". Alors la probabilité qu'une réponse de longueur n soit correcte est (1-e)^n 1/