Cada vez estoy más convencido de que la vida real y técnicas similares solo están redescubriendo cómo aprenden los humanos. Piénsalo: Primero, un modelo está preentrenado en un lenguaje formal (básicamente reglas gramaticales libres de contexto) que genera una "subred sintáctica" dentro del modelo. Encima de esta subred, el "lenguaje real" (conjunto de datos de internet) se superpone al entrenamiento real del modelo (en el contexto de los lenguajes formales esto se denomina básicamente gramática sin restricciones) Pero entonces... ¿No es igual que los bebés humanos? Venimos "preentrenados" con una subred sintáctica para entender la forma básica del lenguaje (cadencia de transferencia de información, protogramática) y luego "imponemos" el lenguaje real que aprendemos encima. ¡Cosas fascinantes!