C'est étrange que, avant les LLM, il n'était même pas largement spéculé que les vecteurs de haute dimension codent des Concepts, et que la géométrie de leurs positions relatives encode le Sens, de manière générale. On pourrait penser que cela aurait été une hypothèse candidate à laquelle on aurait donné 30 % de probabilité.

@johnmark_taylor Quiconque a pensé en 2014 que "l'apprentissage profond va fonctionner" avait sans doute raison. Je n'ai tout simplement pas entendu ce morceau central plus simple et plus audacieux de l'apprentissage profond gagner une plausibilité généralisée dans le discours.