Systemmeldinger begynner å bli utdaterte! Her er en kontraintuitiv lærdom fra å bygge agenter i den virkelige verden: Å skrive gigantiske systemforespørsler forbedrer ikke en agents ytelse; det gjør det ofte verre. Du kan for eksempel legge til en regel om refusjonsregler. Så en om tone. Så en annen om når du skal eskalere. Om ikke lenge har du en bruksanvisning på 2,000 ord. Men her er hva vi har lært: LLM-er er ekstremt dårlige til å håndtere dette. Nyere forskning bekrefter også det mange av oss opplever. Det er en «instruksjoners forbannelse». Jo flere regler du legger til i en ledetekst, jo dårligere presterer modellen når det gjelder å følge en enkelt. Her er en bedre tilnærming: kontekstuelt betingede retningslinjer. I stedet for en gigantisk forespørsel, del instruksjonene dine i modulære deler som bare lastes inn i LLM når det er relevant. ``` agent.create_guideline( condition="Kunden spør om refusjoner", action="Sjekk bestillingsstatus først for å se om kvalifisert", verktøy=[check_order_status], ) ``` Hver retningslinje har to deler: - Tilstand: Når blir den lastet? - Handling: Hva skal agenten gjøre? Magien skjer bak kulissene. Når en spørring mottas, evaluerer systemet hvilke retningslinjer som er relevante for gjeldende diskusjonstilstand. ...