De conclusie is dat, dankzij AI-agenten, elke kleine onderneming en ondernemer nu de middelen van een Fortune 500 tot hun beschikking heeft. Technologie is altijd gericht geweest op het produceren van meer overvloed en betere toegang tot een bepaalde hulpbron. We hebben dit decennialang gedaan met software, van mainframe naar client-server naar cloud. Elk van deze periodes maakte technologie 10-100X toegankelijker voor meer bedrijven. AI doet nu hetzelfde voor alle gebieden van kenniswerk. Waarom is hoogwaardig coderen alleen beschikbaar voor een microscopisch kleine groep bedrijven in de wereld? Waarom kunnen de overgrote meerderheid van de bedrijven zich geen geweldige reclame veroorloven? Waarom krijgen alleen een klein subset van bedrijven geweldig juridisch advies, softwarebeveiliging, onderzoek en bijna elk ander domein van kenniswerk? AI brengt al deze mogelijkheden naar bedrijven van alle groottes. De grootste kansen in AI-agenten liggen in het uitzoeken welke middelen de meeste bedrijven altijd hebben gewild, maar nooit hebben kunnen veroorloven of vinden.

Hier is waarom contextengineering zo'n grote zaak is. We hebben net 2 uur gedebatteerd over wanneer een agent op zijn interne kennis moet vertrouwen versus het proberen te vinden van relevante context binnen data voor slechts één type vraag. We hebben 2 testgevallen doorlopen van de honderden. Zelfs de mensen die betrokken waren bij de brainstorm konden het er niet allemaal over eens worden wat ze zouden verwachten dat mensen in deze situatie zouden doen. Er was echt geen goed antwoord, en het is altijd contextspecifiek, klant per klant. Alles in contextengineering is een afweging tussen verschillende factoren: hoe snel wil je dat de agent een vraag beantwoordt, hoeveel interactie wil je van de gebruiker vereisen, hoeveel werk moet het doen voordat het probeert een vraag te beantwoorden, hoe weet het dat het de uitputtende bronmaterialen heeft om de vraag te beantwoorden, wat is het risiconiveau van het verkeerde antwoord, enzovoort. Elke beslissing die je neemt op een van deze dimensies heeft een gevolg aan de andere kant. Er is geen gratis lunch. Dit is waarom het bouwen van AI-agenten zo wild is. Het benadrukt ook hoeveel waarde er boven de LLM-laag is. Het goed krijgen van deze beslissingen heeft direct invloed op de kwaliteit van de waardepropositie.

Uit de laatste post van Karpathy: "LLM-apps zullen teams van hen organiseren, verfijnen en daadwerkelijk animeren tot uitgeruste professionals in specifieke sectoren door privédata, sensoren en actuatoren en feedbackloops te leveren." Dit is precies juist. In een wereld van AI-agenten is er een veel dikkere laag boven de LLM dan aanvankelijk werd waargenomen. De kritiek op de dunne wrapper werkte enigszins in een wereld waar mensen tokens herverpakten met een licht aangepaste interface of systeemprompt, wat grotendeels alles was wat mogelijk was 2 jaar geleden. Maar AI-agenten zullen tools, eigendomsdata, zeer domeinspecifieke systeemprompts, gespecialiseerde interfaces voor de menselijke-in-de-lus delen van de workflows, geavanceerde contextengineering om om te gaan met de beperkingen van de contextvensters, en meer combineren. De overgrote meerderheid hiervan zal beter presteren wanneer ze zijn afgestemd op een specifieke sector, functie of type taak. Bovendien is er om echte adoptie in de onderneming te krijgen, meestal een hoge mate van systeemintegratie en verandermanagement nodig om de workflowveranderingen en adoptie te stimuleren. Dit is waarom bedrijven (of tenminste producten) die zich richten op specifieke kansen vaak nodig zullen zijn om deze workflows daadwerkelijk aan te drijven. Er zijn hier veel kansen in het komende jaar.