GLM-4.7 berjalan cukup baik pada M3 Ultra dengan mlx-lm, bahkan pada presisi yang hampir lossless (6-bit di sini). Ini menghasilkan game penyerbu luar angkasa terbaik yang pernah saya lihat untuk model lokal (bahkan termasuk efek suara!). Menghasilkan 6600 token dan berjalan pada 16 tok/s.
Z.ai
Z.ai23 Des, 01.30
GLM-4.7 ada di sini! GLM-4.7 melampaui GLM-4.6 dengan peningkatan substansial dalam pengkodean, penalaran yang kompleks, dan penggunaan alat, menetapkan standar SOTA sumber terbuka baru. Ini juga meningkatkan kinerja dalam obrolan, penulisan kreatif, dan skenario permainan peran. Model Default untuk Paket Pengkodean: Coba sekarang: Bobot: Blog Teknologi:
Berikut adalah rekaman layar game dan perintah yang digunakan untuk menghasilkannya: ``` mlx_lm.generate --model mlx-community/GLM-4.7-6bit --prompt "Tulis halaman HTML dan JavaScript yang mengimplementasikan penyerbu ruang" -m 8192 ```
789