Я запитав @echen, чому Клод пише (і кодить) набагато краще за інші моделі. Його відповідь: дані про навчання вищої якості. "Більшість людей навіть не розуміють, що таке якість у цьому просторі. Вони думають, що можна просто кинути людей у проблему і отримати якісні дані, а це абсолютно неправильно. Дозвольте навести приклад. Уявіть, що ви хочете навчити модель написати восьмирядковий вірш про місяць. Що робить цей вірш хорошим? Якщо не думати глибоко про якість, ти запитаєш: чи це вірш? Чи містить він вісім рядків? Чи містить там слово місяць? Ти відмічаєш усі ці пункти? Отже, так, ти кажеш, що це чудовий вірш. Але це зовсім не те, чого ми хочемо. Ми шукаємо поезію, лауреата Нобелівської премії. Чи є ця поезія унікальною? Чи наповнена вона тонкими образами? Чи дивує це тебе і торкається твого серця? Чи навчає це вас чомусь про природу місячного світла? Чи грає вона через емоції, і чи змушує вас задуматися? Ось про що ми думаємо, коли думаємо про якісний вірш.»