大規模言語モデルの非決定論的な性質に対抗するためのすべてのソリューションには、トレードオフが伴います。 タダより高いものはない。 同じプロセスを 3 回実行して、最も一般的な答えを選択することを提案する人もいます。 そうすれば信頼性は確実に向上しますが、ソリューションの速度は 3 倍になります。 10分以上ソフトウェアの構築に費やして生計を立てたことがある人なら誰でも、その非決定論的な性質がなぜ大きな問題なのか理解できるでしょう。 信頼性がすべて重要であれば、信頼性を改善する方法は 1,000 通りありますが、常にさらに多くのことが危険にさらされています。