Chaque solution pour lutter contre la nature non déterministe des grands modèles de langage s'accompagne de compromis. Il n'y a pas de repas gratuit. Certaines personnes ont suggéré d'exécuter le même processus 3 fois et de choisir la réponse la plus courante. Cela améliorerait certainement la fiabilité, mais cela rendrait la solution 3 fois plus lente. Quiconque a passé plus de 10 minutes à développer des logiciels pour gagner sa vie comprend pourquoi cette nature non déterministe est un gros problème. Si la fiabilité était tout ce qui comptait, vous pourriez trouver 1 000 façons de l'améliorer, mais il y a toujours plus en jeu.