Om du inte har provat en lokal LLM på ett år+ Jag säger dig, prova Nemotron 3 Nano den kommer att köras på ett potatis-GPU Tack till experter som avlastar den körs till och med helt på CPU + RAM Bara en förhandsvisning av AI som lever på din maskin, och det är det värsta det någonsin kommer att bli. Unsloth har bra kvant-storlekar och -storlekar