🚀Rất hào hứng để chia sẻ công việc mới của chúng tôi! 💊Vấn đề: Độ chính xác BF16 gây ra sự không khớp lớn giữa đào tạo và suy diễn, dẫn đến việc đào tạo RL không ổn định. 💡Giải pháp: Chỉ cần chuyển sang FP16. 🎯Chỉ vậy thôi. 📰Bài báo: ⭐️Mã nguồn: