SGLang + Miles: Rollout Routing Replay (R3) er nå live! 🎉 Vi er glade for å kunngjøre at SGLang og Miles nå støtter Rollout Routing Replay (R3) for stabil forsterkningslæringstrening på MoE-modeller! Trening av MoE-modeller med RL har vært notorisk ustabil, og har ofte ført til katastrofale sammenbrudd. Problemet? Routing-inkonsistens mellom inferens- og treningsmotorer. R3 fikser dette ved å registrere ekspert-rutingbeslutninger under inferensen og spille dem av under trening. Effekten er betydelig: dramatisk redusert trenings- og inferensforskjeller ved å gjenbruke inferensrutingsbeslutninger, noe som forhindrer treningskollaps. R3 har full distribuert treningsstøtte med DataParallel Attention og alle parallellismestrategier, støttede modeller inkluderer Qwen3-30B-A3B, deepseek_v2, osv. Prøv det og gi oss beskjed om resultatene dine! 🚀