Pregunté @echen por qué Claude escribe (y programa) mucho mejor que otros modelos. Su respuesta: datos de entrenamiento de mayor calidad. "La mayoría de la gente ni siquiera entiende lo que significa calidad en este espacio. Piensan que podrías simplemente lanzar cuerpos a un problema y obtener buenos datos, y eso es completamente falso. Déjame darte un ejemplo. Imagina que quieres entrenar a un modelo para escribir un poema de ocho versos sobre la luna. ¿Qué lo convierte en un buen poema? Si no piensas profundamente en la calidad, te preguntarás, ¿es esto un poema? ¿Contiene ocho líneas? ¿Contiene la palabra luna? ¿Cumples todas estas casillas? Así que sí, claro, dices que es un gran poema. Pero eso es completamente diferente de lo que queremos. Buscamos poesía ganadora del Premio Nobel. ¿Es esta poesía única? ¿Está lleno de imágenes sutiles? ¿Te sorprende y te tira del corazón? ¿Te enseña algo sobre la naturaleza de la luz de la luna? ¿Se refleja en las emociones y te hace pensar? Eso es en lo que pensamos cuando pensamos en un poema de alta calidad."