System prompts stają się przestarzałe! Oto nieintuicyjna lekcja z budowania agentów w rzeczywistym świecie: Pisanie ogromnych systemowych wskazówek nie poprawia wydajności agenta; często ją pogarsza. Na przykład, dodajesz zasadę dotyczącą polityki zwrotów. Potem jedną o tonie. Następnie kolejną o tym, kiedy eskalować. Zanim się obejrzysz, masz 2000-słowny podręcznik instrukcji. Ale oto, czego się nauczyliśmy: LLM-y są niezwykle słabe w radzeniu sobie z tym. Najnowsze badania również potwierdzają to, co wielu z nas doświadcza. Istnieje „klątwa instrukcji”. Im więcej zasad dodasz do wskazówki, tym gorzej model radzi sobie z przestrzeganiem jakiejkolwiek z nich. Oto lepsze podejście: kontekstowe, warunkowe wytyczne. Zamiast jednej ogromnej wskazówki, podziel swoje instrukcje na modułowe części, które ładują się do LLM tylko wtedy, gdy są istotne. ``` agent.create_guideline( condition="Klient pyta o zwroty", action="Najpierw sprawdź status zamówienia, aby zobaczyć, czy kwalifikuje się", tools=[check_order_status], ) ``` Każda wytyczna ma dwie części: - Warunek: Kiedy jest ładowana? - Działanie: Co powinien zrobić agent? Magia dzieje się za kulisami. Gdy przychodzi zapytanie, system ocenia, które wytyczne są istotne dla aktualnego stanu rozmowy. ...