🚀 Päivän 0 tuki: Kimi K2 Thinking on nyt käynnissä vLLM:ssä! Yhteistyössä @Kimi_Moonshot:n kanssa olemme ylpeitä voidessamme tarjota virallista tukea huippuluokan avoimen ajattelun mallille, jossa on 1T-parametrit, 32B aktiivinen. Helppo käyttöönotto vLLM:ssä (yöversio) OpenAI-yhteensopivan API:n avulla: Mikä tekee siitä erityisen: ⚡ Natiivi INT4-kvantisointi → 2× nopeampi päättely 💾 Puolet pienempi muistitila, ei tarkkuuden heikkenemistä 🎯 256 kt:n konteksti, vakaa 200–300 työkalukutsussa 🎯 Mukana virallinen resepti ja käyttöönotto-opas Maailmanluokan päättelyä, joka on nyt kaikkien saatavilla. 📦 Malli: 📚 Reseptit: #vLLM #KimiK2 #LLMInference