Làm thế nào để bạn áp dụng kỹ thuật xây dựng ngữ cảnh hiệu quả cho các tác nhân AI? Đọc điều này nếu bạn là một nhà phát triển AI đang xây dựng các tác nhân AI ngày hôm nay. Ngữ cảnh là vua! Và nó phải được xây dựng, không chỉ đơn thuần là được gợi ý. Tôi đã viết một vài ghi chú sau khi đọc qua hướng dẫn xây dựng ngữ cảnh tuyệt vời mới từ Anthropic: Xây dựng Ngữ cảnh so với Gợi ý Ngữ cảnh - Gợi ý Ngữ cảnh = viết và tổ chức hướng dẫn - Xây dựng Ngữ cảnh = biên soạn và duy trì các gợi ý, công cụ, lịch sử, và dữ liệu bên ngoài - Xây dựng Ngữ cảnh là một quá trình lặp đi lặp lại, và ngữ cảnh được biên soạn thường xuyên Tại sao Xây dựng Ngữ cảnh lại Quan trọng? - Ngân sách chú ý hữu hạn - Ngữ cảnh sẽ bị hỏng nếu ngữ cảnh trở nên quá lớn; xây dựng ngữ cảnh giúp - Mục tiêu: biên soạn và duy trì các token có tín hiệu cao tối thiểu Cấu trúc của Ngữ cảnh Hiệu quả - Gợi ý hệ thống: rõ ràng, ở độ cao đúng (không quá cụ thể hoặc quá mơ hồ) - Công cụ: giữ cho công cụ tối thiểu, sử dụng các tham số mô tả, và nhắm đến tính hiệu quả của token - Ví dụ Few-Shot: cung cấp các ví dụ đa dạng, điển hình về hành vi mong muốn - Lịch sử tin nhắn: cắt giảm một cách quyết liệt Chiến lược Truy xuất Ngữ cảnh...