GLM-4.7 běží docela dobře na M3 Ultra s mlx-lm, i když je téměř bezztrátová přesnost (6bitová tady). Vytvořil nejlepší hru Space Invaders, jakou jsem zatím viděl pro lokální model (dokonce obsahovala zvukové efekty!). Vygeneroval jsem 6600 tokenů a běžel rychlostí 16 tok/s.
Z.ai
Z.ai23. 12. 01:30
GLM-4.7 je tady! GLM-4.7 překonává GLM-4.6 díky výrazným zlepšením v kódování, složitém uvažování a používání nástrojů, čímž stanovuje nové open-source standardy SOTA. Také zvyšuje výkon v chatu, kreativním psaní a roleplay scénářích. Výchozí model programovacího plánu: Vyzkoušejte to teď: Váhy: Technologický blog:
Tady je záznam obrazovky hry a příkaz, kterým byla vytvořena: ``` mlx_lm.generate --model mlx-community/GLM-4.7-6bit --prompt "Napište HTML a JavaScript stránku implementující vesmírné invadery" -m 8192 ```
897