SGLang + Miles: Rollout Routing Replay (R3) Şimdi Canlı Oldu! 🎉 SGLang ve Miles'ın artık MoE modellerinde stabil pekiştirme öğrenme eğitimi için Rollout Routing Replay (R3)'ü desteklediğini duyurmaktan heyecan duyuyoruz! Gerçek Doğa Bakım modellerini eğitmek kötü şöhretli derecede istikrarsızdır ve çoğu zaman felaket bir çöküşe yol açmaktadır. Sorun ne? Çıkarım ve eğitim motorları arasındaki rota tutarsızlığı. R3, bu durumu, çıkarım sırasında uzman yönlendirme kararlarını kaydedip eğitim sırasında tekrar oynayarak düzeltir. Etkisi önemli: çıkarım yönlendirme kararlarının yeniden kullanılmasıyla eğitim-çıkarım uyumsuzluğunu dramatik şekilde azalttı, böylece eğitimin çöküşünü önledi. R3, DataParallel Attention ve tüm paralellik stratejileri ile tam dağıltılı eğitim desteğine sahiptir, desteklenen modeller arasında Qwen3-30B-A3B, deepseek_v2 vb. bulunur. Deneyin ve sonuçlarınızı bizimle paylaşın! 🚀