95 % tekoälytekniikasta on pelkkää kontekstitekniikkaa. Kaikki ovat pakkomielteisiä paremmista malleista, kun taas konteksti on todellinen pullonkaula. Jopa maailman paras malli antaa sinulle roskaa, jos annat sille väärää tietoa. Tässä mitä useimmat ihmiset eivät huomaa: Kontekstisuunnittelu ei ole pelkästään RAG:ia, muistia tai agentteja. Se on taitoa ja tiedettä toimittaa oikea tieto, oikeassa muodossa ja oikeaan aikaan LLM:llesi. Mieti, mitä oikeasti tarvitset: ↳ Hae asiaankuuluvien asiakirjojen hakemista ↳ Lyhytkestoinen muisti keskustelujen seuraamiseen ↳ Pitkäkestoinen muisti käyttäjän mieltymysten muistamiseen ↳ Agentit järjestävät kaiken ↳ Työkaluja kykyjen laajentamiseen Se on viisi eri järjestelmää, jotka täytyy rakentaa, yhdistää ja ylläpitää. Olen viime aikoina rakentanut Pixeltablella, ja se on mielenkiintoinen lähestymistapa tähän ongelmaan. Se on avoimen lähdekoodin ja käsittelee kontekstisuunnittelua yhtenäisenä dataongelmana: Ajatus on yksinkertainen: sen sijaan, että yhdistettäisiin vektoritietokanta, SQL-tietokanta, upotuspalvelu ja agenttikehys, kaikki sijaitsee samassa järjestelmässä. Dokumenttisi, upotuksesi, keskusteluhistoriasi ja agenttitulostesi ovat kaikki vain taulukoita. Upotukset ovat laskettuja sarakkeita, jotka päivittyvät automaattisesti. Vektorihaku toimii rinnakkain tavallisten dataoperaatioidesi kanssa. Mitä pidän hyödyllisenä: ↳ RAG-putket ilman erillisten tietokantojen hallintaa ↳ Pitkäkestoinen muisti vektorihaun avulla historiallisten keskustelujen yli...