Każde pojedyncze rozwiązanie mające na celu zwalczanie niedeterministycznej natury dużych modeli językowych wiąże się z kompromisami. Nie ma darmowego obiadu. Niektórzy sugerowali uruchomienie tego samego procesu 3 razy i wybranie najczęstszej odpowiedzi. To z pewnością poprawiłoby niezawodność, ale sprawiłoby, że rozwiązanie byłoby 3 razy wolniejsze. Każdy, kto spędził więcej niż 10 minut na budowaniu oprogramowania zawodowo, rozumie, dlaczego ta niedeterministyczna natura jest dużym problemem. Gdyby niezawodność była wszystkim, co się liczy, można by znaleźć 1 000 sposobów na jej poprawę, ale zawsze jest więcej do stracenia.