Google právě zveřejnil skvělý průvodce efektivním kontextovým inženýrstvím pro multiagentní systémy. Věnujte tomu pozor, vývojáři AI! (ulož si to) Zde jsou mé hlavní poznatky: Kontextová okna nejsou úzkým hrdlem. Kontextové inženýrství ano. U složitějších a dlouhodobých problémů nelze správu kontextu považovat za jednoduchý problém "manipulace s řetězci". Výchozí přístup k řešení kontextu v agentních systémech dnes zůstává vkládat vše do promptu. Více historie, více symbolů, více zmatku. Většina týmů považuje kontext za problém konkatenace řetězců. Ale surové kontextové výpisy vytvářejí tři zásadní selhání: > nákladů exploze kvůli opakujícím se informacím > zhoršení výkonu v důsledku efektů "ztraceného uprostřed" > nárůst míry halucinací, když agenti špatně přisuzují akce v systému Správa kontextu se stává architektonickou záležitostí vedle úložiště a výpočetního zpracování. To znamená, že explicitní transformace nahrazují ad-hoc konkatenaci řetězců. Agenti dostávají minimální požadovaný kontext ve výchozím nastavení a explicitně požadují další informace prostřednictvím nástrojů. Zdá se, že Google Agent Development Kit opravdu hluboce přemýšlí o správě kontextu. Zavádí vrstvenou architekturu, která považuje kontext za "kompilovaný pohled nad stavovým systémem" spíše než za aktivitu s naplňováním promptů. Jak to vypadá? 1) Struktura: Stupňovitý model Rámec odděluje úložiště od prezentace ve čtyřech odlišných vrstvách: 1) Working Context zpracovává efemérní zobrazení na jedno vyvolání. 2) Session udržuje odolný záznam událostí, zachycuje každou zprávu, volání nástroje a řídicí signál....