95 % av AI-ingeniørfaget er bare kontekstteknikk. Alle er besatt av bedre modeller, mens konteksten fortsatt er den virkelige flaskehalsen. Selv den beste modellen i verden vil gi deg søppel hvis du gir den feil informasjon. Dette er det de fleste går glipp av: Kontekstutvikling handler ikke bare om RAG, minne eller agenter. Det er kunsten og vitenskapen å levere riktig informasjon, i riktig format, til rett tid, til din LLM. Tenk på hva du faktisk trenger: ↳ Henting for å hente relevante dokumenter ↳ Korttidsminne for å spore samtaler ↳ Langtidsminne for å huske brukerpreferanser ↳ Agenter til å orkestrere alt ↳ Verktøy for å utvide kapabiliteter Det er 5 forskjellige systemer du må bygge, koble til og vedlikeholde. Jeg har nylig bygget med Pixeltable, og det er en interessant tilnærming til dette problemet. Det er åpen kildekode og behandler kontekstutvikling som et samlet dataproblem: Ideen er enkel: i stedet for å sy sammen en vektordatabase, en SQL-database, en embedding-tjeneste og et agent-rammeverk, lever alt i ett system. Dokumentene dine, embeddingene, samtalehistorikken og agentutdataene dine er alle bare tabeller. Embeddings er beregnede kolonner som oppdateres automatisk. Vektorsøk fungerer parallelt med dine vanlige dataoperasjoner. Hva jeg finner nyttig: ↳ RAG-pipelines uten å administrere separate databaser ↳ Langtidsminne gjennom vektorsøk over historiske samtaler...