GLM-4.7 rulează destul de bine pe un M3 Ultra cu mlx-lm, chiar și la o precizie aproape fără pierderi (6 biți aici). A generat cel mai bun joc Space Invaders pe care l-am văzut până acum pentru un model local (a inclus chiar și efecte sonore!). A generat 6600 de jetoane și a rulat la 16 tok/s.
Z.ai
Z.ai23 dec., 01:30
GLM-4.7 este aici! GLM-4.7 îl depășește pe GLM-4.6 prin îmbunătățiri substanțiale în programare, raționament complex și utilizarea uneltelor, stabilind noi standarde open-source SOTA. De asemenea, îmbunătățește performanța în chat, scriere creativă și scenarii de role-play. Model implicit pentru planul de codificare: Încearcă acum: Greutăți: Blog tehnologic:
Iată o înregistrare de ecran a jocului și a comenzii folosite pentru a-l genera: ``` mlx_lm.generate --model mlx-community/GLM-4.7-6bit --prompt "Scrie o pagină HTML și JavaScript care implementează invadatori de spațiu" -m 8192 ```
791