GLM-4.7, mlx-lm ile M3 Ultra'da neredeyse kayıpsız bir hassasiyetle bile oldukça iyi çalışıyor (burada 6 bit). Yerel model için şimdiye kadar gördüğüm en iyi Space Invaders oyununu üretti (hatta ses efektleri de dahil edildi!). 6600 jeton ürettim ve 16 tok/s hızında çalıştım.
Z.ai
Z.ai23 Ara 01:30
GLM-4.7 burada! GLM-4.7, kodlama, karmaşık akıl yürütme ve araç kullanımında önemli iyileştirmelerle GLM-4.6'yı geride bırakarak yeni açık kaynak SOTA standartları belirledi. Ayrıca sohbet, yaratıcı yazım ve rol yapma senaryolarında performansı artırır. Kodlama Planı için Varsayılan Model: Şimdi dene: Ağırlıklar: Teknoloji Blogu:
İşte oyunun ekran kaydı ve onu oluşturmak için kullanılan komut: ``` mlx_lm.generate --model mlx-community/GLM-4.7-6bit --"Uzay istilaçılarını uygulayan bir HTML ve JavaScript sayfası yaz" -m 8192 ```
799