Cada solução para combater a natureza não determinística dos Large Language Models vem com compensações. Não existe nada de graça. Algumas pessoas sugeriram executar o mesmo processo 3 vezes e escolher a resposta mais comum. Isso definitivamente melhoraria a confiabilidade, mas tornará a solução 3x mais lenta. Qualquer pessoa que tenha passado mais de 10 minutos construindo software para ganhar a vida entende por que essa natureza não determinística é um grande problema. Se a confiabilidade fosse tudo o que importasse, você poderia encontrar 1.000 maneiras de melhorá-la, mas sempre há mais em jogo.