mactop ist ein tolles Tool.
- Super einfach zu installieren: brew install mactop
- Einfach auszuführen: mactop (kein sudo mehr nötig)
- Super genaue Metriken
Danke @carsenklock
mactop v2.0.1 ⚡
- Fügt mehrere neue Farben/Themen hinzu
- Einige Fehlerbehebungen und kleine Updates
- Thunderbolt- und RDMA-Unterstützung
- Schöne Druckoption für den headless Modus
- Neues Layout (insgesamt 11 jetzt)
- Speichert Ihre Sortierung der Prozessliste
⭐
brew upgrade mactop
Überprüfen Sie die Batch-Generierung in mlx-lm mit GLM 4.7 auf einem M3 Ultra.
Das 6-Bit-Modell führt eine Batch von 4 mit fast der doppelten Durchsatzrate (~30 Tok/Sek) einer einzelnen Generation aus.
GLM-4.7 läuft ziemlich gut auf einem M3 Ultra mit mlx-lm, sogar bei nahezu verlustfreier Präzision (hier 6-Bit).
Es hat das beste Space Invaders-Spiel generiert, das ich bisher für ein lokales Modell gesehen habe (sogar mit Soundeffekten!).
Generiert 6600 Tokens und lief mit 16 tok/s.