Järjestelmäkehotteet ovat vanhentuneita! Tässä on ristiriitainen opetus todellisten agenttien rakentamisesta: Jättimäisten järjestelmäkehotteiden kirjoittaminen ei paranna agentin suorituskykyä; se usein pahentaa tilannetta. Voit esimerkiksi lisätä hyvityskäytäntöjä koskevan säännön. Sitten yksi sävystä. Sitten toinen siitä, milloin eskaloida. Ennen pitkää sinulla on 2 000 sanan käyttöohje. Mutta tässä on se, mitä olemme oppineet: LLM:t ovat erittäin huonoja käsittelemään tätä. Viimeaikaiset tutkimukset vahvistavat myös sen, mitä monet meistä kokevat. On olemassa "ohjeiden kirous". Mitä enemmän sääntöjä lisäät kehotteeseen, sitä huonommin malli seuraa yksittäistä sääntöä. Tässä on parempi lähestymistapa: kontekstuaalisesti ehdolliset ohjeet. Yhden jättimäisen kehotteen sijaan jaa ohjeet modulaarisiin osiin, jotka latautuvat LLM:ään vain tarvittaessa. ``` agent.create_guideline( condition="Asiakas kysyy hyvityksistä", action="Tarkista tilauksen tila ensin nähdäksesi, onko se kelvollinen", tools=[check_order_status], ) ``` Kussakin ohjeessa on kaksi osaa: - Kunto: Milloin se ladataan? - Toiminta: Mitä agentin pitäisi tehdä? Taika tapahtuu kulissien takana. Kun kysely saapuu, järjestelmä arvioi, mitkä ohjeet liittyvät nykyiseen keskustelutilaan. ...