Olen rakentanut tekoälyagentteja tuotannossa yli vuoden ajan. Tässä on yleinen ongelma, jonka kehittäjät kohtaavat, kun he skaalaavat agentteja tuotantoon: Ne tasapainottelevat tyypillisesti erillisten vektoripalveluiden, rakenteellisen datan ja istuntojen välillä. Kolme erilaista liitäntäpoolia. Kolme varastrategiaa. Kolme valvontapaneelia. Agenttisilmukka itsessään on yksinkertainen päättelyllä, työkaluilla ja muistilla, mutta infrastruktuuri muuttuu pullonkaulaksi. Jos haluat nähdä puhtaamman tavan hoitaa tämä, rakensin agentin käyttäen @MongoDB ainoana taustajärjestelmänä kaikkeen. Tein yhteistyötä heidän tiiminsä kanssa jakaakseni tämän kanssasi. Asetelma on yksinkertainen: ↳ Aloita PDF-dokumentilla. Välittäjä vastaa kysymyksiin ja muistaa aiemmat keskustelut. ↳ Ensiksi pilko PDF ja upota se Voyage AI:n mallin avulla. Nämä upotukset menevät suoraan MongoDB:hen vektoriindeksillä. ↳ Sitten määrittelet kaksi työkalua: yksi vektorihakuun, toinen peruslaskelmiin tarvittaessa. Agentti päättää, mitä käyttää kyselyn perusteella. ↳ Muisti tallennetaan samaan tietokantaan istuntotunnusten alle. Jokainen agentin vuorovaikutus kirjoitetaan takaisin, jotta se voi viitata aiempiin vuoroihin. ↳ Suunnittelija sitoo sen yhteen. Se tarkastelee keskusteluhistoriaa, päättää tarvitaanko työkalua, suorittaa sen ja tuottaa lopullisen vastauksen. Tässä yhtenäisellä taustajärjestelmällä on merkitystä: Kun agentti etsii kontekstia, se hakee samaa tietokantaa, joka tallentaa käyttäjäistuntoja ja rakenteellista dataa. Kun se kirjoittaa muistiin, sama MongoDB-instanssi käsittelee vektoriupotuksia. ...