我認為它有更大的背景,並且是一個超稀疏的 MoE。 Gpt 4.5 的激活參數與 Grok/Gemini 相比要高得多。