Varje enskild lösning för att bekämpa den icke-deterministiska karaktären hos stora språkmodeller kommer med kompromisser. Det finns ingen gratislunch. Vissa personer har föreslagit att köra samma process 3 gånger och välja det vanligaste svaret. Det skulle definitivt förbättra tillförlitligheten, men det kommer att göra lösningen 3 gånger långsammare. Alla som har tillbringat mer än 10 minuter med att bygga programvara för att försörja sig förstår varför den icke-deterministiska naturen är ett stort problem. Om tillförlitlighet var det enda som betydde något skulle du kunna hitta 1 000 sätt att förbättra den, men det är alltid mer som står på spel.