Här är varför kontextingenjörskonst är så viktigt. Vi tillbringade precis två timmar med att diskutera när en agent ska förlita sig på sin interna kunskap kontra försöka hitta relevant kontext inom data för bara en typ av fråga. Vi tog oss igenom två testfall med hundratals. Inte ens de inblandade i brainstormen kunde enas om vad de förväntade sig att människor skulle göra i denna situation. Det fanns verkligen inget rätt svar, och det är alltid kontext-specifikt från kund till kund. Allt inom kontextingenjörskonst är en avvägning mellan flera faktorer: hur snabbt vill du att agenten ska svara på en fråga, hur mycket fram och tillbaka-interaktion vill du kräva för användaren, hur mycket arbete bör den göra innan den försöker svara på en fråga, hur vet den att den har det uttömmande källmaterialet för att besvara frågan, Vad är risken för fel svar, och så vidare. Varje beslut du fattar i en av dessa dimensioner har en konsekvens i andra änden. Det finns ingen gratislunch. Det är därför det är så galet att bygga AI-agenter. Det belyser också hur mycket värde det finns ovanför LLM-lagret. Att fatta dessa beslut rätt hänger direkt ihop med kvaliteten på värdeerbjudandet.