Mais pré-treinamento melhora o desempenho do robô real GEN-0 (por meio de avaliações A/B cegas com lançamentos em loop fechado). As melhorias são significativas no regime de poucos dados, mas os melhores modelos prosperam tanto com pré-treinamento quanto com pós-treinamento amplo. Veja o adendo do blog:

Apresentando o GEN-0, nosso mais recente modelo de base 10B+ para robôs ⏱️ construído sobre o Raciocínio Harmônico, nova arquitetura que pode pensar e agir perfeitamente 📈 Leis de escala fortes: mais pré-treinamento e tamanho do modelo = melhor 🌍 Corpus sem precedentes de 270.000+ horas de dados hábeis Ler mais 👇