Ik heb het gevoel dat de meest banale en ondergewaardeerde observatie over LLM's is dat een algoritme op veel verschillende manieren supermenselijke prestaties kan leveren. Het is een hoog-dimensionale ruimte, waarin één vector is "burstcapaciteit, 24/7 beschikbaarheid, 20e percentiel menselijke prestaties 95% van de tijd."

Er zijn veel toepassingen waarvoor je nooit iets op die manier zou moeten aannemen en er zijn veel toepassingen waarvoor dat transformerend is. Aangezien die richting onbekend is in de geschiedenis tot ongeveer een jaar geleden, hebben we zelfs niet stilgestaan bij wat we ermee zouden doen.

Veel mensen die nooit een proces hebben hoeven opzetten om repetitieve beslissingen te genereren, onderschatten hoeveel processen in de economie repetitieve beslissingen genereren.

En er zijn veel dingen die een bedrijf/etc niet heeft gedaan omdat een haalbaarheidsstudie of andere planningsactiviteit zei: “Ugh, we zouden 24/7 personeel nodig hebben of een follow-the-sun model om dit te doen, wat een if-statement zou zijn als het anders gevormd was. Helaas impliceert dat...

Nu moet elke haalbaarheidsstudie overwegen: "Q: Is dit een activiteit waarbij betaal-dollars-consume-tokens in principe voldoende is zonder verder nadenken, of is het een waarbij een engineeringproject plus tokens ons daar brengt?"

Er is een ongecompliceerde bezwaren hierover die zegt dat je geen nuttig systeem kunt architecten met SLA-doelen uit componenten die hallucineren. Ik heb slecht nieuws voor je over mensen die in systemen werken. Ik heb goed nieuws, OTOH: er zijn niet-nul systemen die werken.

“OMG een foutpercentage. Stop ermee, jongens.”, zei het vakgebied van Operations Research in een vreselijke dystopie waarin we niet leven.