ハーネスはヨロリングだけでもかなり遠くまで進められますが、少しプロファイリングすれば性能も劇的に向上します。文脈を使い切っているものは何でしょうか。スペースを使っているのは何だ、痕跡を見ろ。記憶の中で何が詰まっているのか。何が間違ってるのか、エラーを出しているのか。なぜ時間がかかりすぎているのでしょうか(300倍も時間がかかりすぎています)(FP16ではなくFP32でロードしてシステムメモリにスワップアウトしているからです
このモデルの傾向は何か。この傾向に基づいて、環境で能力を高めるために何を構築できるか。長期的な一貫性や記憶力を高めるにはどうすればいいですか
34