Entonces, como sospechábamos, el ajuste fino supervisado era una lobotomía. Me alegro de haber dejado atrás esa época.
Aran Komatsuzaki
Aran Komatsuzaki5 sept, 12:36
Razor de RL: RL en la política olvida menos que SFT. Incluso con una precisión igualada, RL muestra un olvido menos catastrófico Factor clave: el sesgo de las actualizaciones de la política de RL hacia las soluciones mínimas de KL Teoría + LLM y experimentos de juguete confirman que RL se mantiene más cerca del modelo base
12.21K