GLM-4.7 досить добре працює на M3 Ultra з mlx-lm, навіть з майже безвтратною точністю (6-бітний тут). Вона створила найкращу гру Space Invaders, яку я бачив для локальної моделі (навіть додала звукові ефекти!). Згенерував 6600 токенів і працював зі швидкістю 16 ток/с.
Z.ai
Z.ai23 груд., 01:30
GLM-4.7 вже тут! GLM-4.7 перевершує GLM-4.6 завдяки суттєвим покращенням у програмуванні, складному мисленні та використанні інструментів, встановлюючи нові відкриті стандарти SOTA. Це також підвищує продуктивність у чаті, творчому письмі та рольових іграх. Стандартна модель для плану кодування: Спробуйте зараз: Ваги: Технічний блог:
Ось запис екрану гри та команди, яка використовується для її генерації: ``` mlx_lm.generate --model mlx-community/GLM-4.7-6bit --prompt "Write an HTML and JavaScript page with implementing space invaders" -m 8192 ```
781