Hämmästyttävää kyllä, saan käyttökelpoisia nopeuksia qwen 232b:ssä tietokoneellani vain suorittimella
@wondering_camel periaatteessa gpt4.5 nopeutta lol
@nirw4nna @lmstudio @ggerganov Pitäisikö nxfp4-version olla nopeampi, mutta ihmettelen
5,92K