Det er rart at før LLM-er ble det ikke engang spekulert mye i at høydimensjonale vektorer koder for konsepter, og geometrien til deres relative posisjoner koder for mening, i full generalitet. Man skulle tro det ville ha vært en kandidathypotese som ble gitt 30 % sannsynlighet.

@johnmark_taylor Alle som i 2014 trodde "Dyp læring kommer til å fungere" hadde uten tvil rett. Jeg hørte bare ikke denne enklere, dristigere kjernen av dyp læring få utbredt plausibilitet i diskursen.