MLX-LM oldukça güçlü bir küçük çıkarım çerçevesi haline geliyor! En son sürüm, MLX'te (h/t @angeloskath) yeni düşük gecikmeli JACCL arka uçunda kullanılmak üzere tensör paralel LLM çıkarımı ekliyor. Ayrıca Transformers V5'i desteklemek için güncellendi!