🚀 Hỗ trợ Ngày 0: Kimi K2 Thinking hiện đang chạy trên vLLM! Hợp tác với @Kimi_Moonshot, chúng tôi tự hào cung cấp hỗ trợ chính thức cho mô hình tư duy tiên tiến với 1T tham số, 32B hoạt động. Triển khai dễ dàng trong vLLM (phiên bản nightly) với API tương thích OpenAI: Điều gì làm cho nó đặc biệt: ⚡ Định lượng INT4 gốc → suy diễn nhanh gấp 2 lần 💾 Giảm một nửa dung lượng bộ nhớ, không mất độ chính xác 🎯 256K ngữ cảnh, ổn định trong 200-300 lần gọi công cụ 🎯 Công thức & hướng dẫn triển khai chính thức được bao gồm Lý luận đẳng cấp thế giới, giờ đây có sẵn cho mọi người. 📦 Mô hình: 📚 Công thức: #vLLM #KimiK2 #LLMInference