Systemmeddelanden börjar bli föråldrade! Här är en kontraintuitiv lektion från att skapa verkliga agenter: Att skriva gigantiska systemuppmaningar förbättrar inte en agents prestanda; Det gör det ofta värre. Du kan till exempel lägga till en regel om återbetalningspolicyer. Sedan en om ton. Sedan en annan om när man ska eskalera. Det dröjer inte länge förrän du har en bruksanvisning på 2 000 ord. Men här är vad vi har lärt oss: LLM:er är extremt dåliga på att hantera detta. Ny forskning bekräftar också det som många av oss upplever. Det finns en "förbannelse av instruktioner". Ju fler regler du lägger till i en prompt, desto sämre är modellen på att följa en enskild regel. Här är en bättre metod: kontextuellt villkorliga riktlinjer. Istället för en gigantisk prompt, dela upp dina instruktioner i modulära bitar som bara laddas in i LLM när det är relevant. ``` agent.create_guideline( condition = "Kunden frågar om återbetalningar", action="Kontrollera orderstatus först för att se om du är berättigad", verktyg=[check_order_status], ) ``` Varje riktlinje består av två delar: - Skick: När laddas den? - Åtgärd: Vad ska agenten göra? Magin sker bakom kulisserna. När en fråga tas emot utvärderar systemet vilka riktlinjer som är relevanta för det aktuella konversationstillståndet. ...