Increíblemente, puedo obtener velocidades utilizables en qwen 232b en mi PC solo con CPU
@wondering_camel básicamente velocidades de gpt4.5 lol
@nirw4nna @lmstudio @ggerganov Debería ser más rápida la versión nxfp4, me pregunto.
6,33K