如何為 AI 代理應用有效的上下文工程? 如果你是今天正在構建 AI 代理的 AI 開發者,請閱讀這篇文章。 上下文是王道!它必須被工程化,而不僅僅是被提示。 在閱讀了 Anthropic 的精彩新上下文工程指南後,我寫下了一些筆記: 上下文工程與提示工程 - 提示工程 = 編寫和組織指令 - 上下文工程 = 策劃和維護提示、工具、歷史和外部數據 - 上下文工程是迭代的,並且上下文會定期策劃 為什麼上下文工程很重要? - 有限的注意預算 - 如果上下文變得過大,會發生上下文衰退;上下文工程有助於解決這個問題 - 目標:策劃和維護最少的高信號標記 有效上下文的解剖 - 系統提示:清晰,正確的高度(不過於具體或過於模糊) - 工具:保持工具最小化,使用描述性參數,並追求標記效率 - 少量示例:提供多樣的、典範的期望行為示例 - 訊息歷史:積極修剪 上下文檢索策略 - 預檢索與即時檢索;有向代理搜索的轉變...