Jak zastosować skuteczne inżynierie kontekstu dla agentów AI? Przeczytaj to, jeśli jesteś deweloperem AI budującym agentów AI dzisiaj. Kontekst jest najważniejszy! I musi być inżynieryjnie zaprojektowany, a nie tylko wywoływany. Napisałem kilka notatek po przeczytaniu wspaniałego nowego przewodnika po inżynierii kontekstu od Anthropic: Inżynieria kontekstu vs. inżynieria podpowiedzi - Inżynieria podpowiedzi = pisanie i organizowanie instrukcji - Inżynieria kontekstu = kuracja i utrzymanie podpowiedzi, narzędzi, historii, i danych zewnętrznych - Inżynieria kontekstu jest iteracyjna, a kontekst jest regularnie kuratowany Dlaczego inżynieria kontekstu ma znaczenie? - Ograniczony budżet uwagi - Zjawisko "kontext rot" występuje, gdy kontekst staje się zbyt duży; inżynieria kontekstu pomaga - Cel: kuracja i utrzymanie minimalnej liczby wysokosygnałowych tokenów Anatomia skutecznego kontekstu - Podpowiedzi systemowe: jasne, na odpowiedniej wysokości (nie za szczegółowe ani za ogólne) - Narzędzia: utrzymuj narzędzia na minimalnym poziomie, używaj opisowych parametrów i dąż do wydajności tokenów - Przykłady Few-Shot: dostarczaj różnorodne, kanoniczne przykłady pożądanych zachowań - Historia wiadomości: agresywnie przycinaj Strategie pozyskiwania kontekstu...