🚀 Support du jour 0 : Kimi K2 Thinking maintenant opérationnel sur vLLM ! En partenariat avec @Kimi_Moonshot, nous sommes fiers de fournir un support officiel pour le modèle de pensée de pointe avec 1T de paramètres, 32B actifs. Déploiement facile dans vLLM (version nocturne) avec une API compatible OpenAI : Ce qui le rend spécial : ⚡ Quantification INT4 native → 2× plus rapide en inférence 💾 Moitié moins d'empreinte mémoire, sans perte de précision 🎯 Contexte de 256K, stable sur 200-300 appels d'outils 🎯 Recette officielle et guide de déploiement inclus Raisonnement de classe mondiale, maintenant accessible à tous. 📦 Modèle : 📚 Recettes : #vLLM #KimiK2 #LLMInference