stap-voor-stap LLM Engineering Projecten een project = één concept geleerd op de harde (d.w.z. echte) manier Tokenisatie & Embeddings > bouw een byte-pair encoder + train je eigen subwoord vocabulaire > schrijf een "token visualizer" om woorden/fragmenten naar ID's te mappen > one-hot vs learned-embedding: plot cosinusafstanden Positional Embeddings > klassieke sinusgolf vs geleerd vs RoPE vs ALiBi: demonstreer alle vier > animeer een speelgoedsequentie die "positie-gecodeerd" wordt in 3D > ablate posities—kijk hoe aandacht instort Zelf-Aandacht & Multihead Aandacht > handmatig dot-product aandacht voor één token > schaal naar multi-head, plot per-head gewicht hittekaarten > maskeer toekomstige tokens, verifieer causale eigenschap transformers, QKV, & stapelen > stapel de Aandacht implementaties met LayerNorm en residuen → enkele-blok transformer > generaliseer: n-blok "mini-former" op speelgoeddata > dissecteer Q, K, V: verwissel ze, breek ze, kijk wat explodeert Sampling Parameters: temp/top-k/top-p ...