Zapytałem @echen, dlaczego Claude pisze (i koduje) znacznie lepiej niż inne modele. Jego odpowiedź: dane treningowe wyższej jakości. "Większość ludzi nie rozumie, co oznacza jakość w tej dziedzinie. Myślą, że wystarczy rzucić ludzi na problem, aby uzyskać dobre dane, a to całkowicie błędne. Pozwól, że podam ci przykład. Wyobraź sobie, że chcesz wytrenować model do napisania ośmiowierszowego wiersza o księżycu. Co sprawia, że to dobry wiersz? Jeśli nie zastanowisz się głęboko nad jakością, będziesz myśleć: czy to jest wiersz? Czy zawiera osiem wersów? Czy zawiera słowo księżyc? Sprawdzasz wszystkie te punkty? Więc tak, pewnie, mówisz, że to świetny wiersz. Ale to całkowicie różni się od tego, czego chcemy. Szukamy poezji, która zdobędzie Nagrodę Nobla. Czy ta poezja jest unikalna? Czy jest pełna subtelnych obrazów? Czy cię zaskakuje i porusza twoje serce? Czy uczy cię czegoś o naturze światła księżyca? Czy odgrywa emocjami i sprawia, że myślisz? To jest to, o czym myślimy, gdy myślimy o wierszu wysokiej jakości."