95% kỹ thuật AI chỉ là kỹ thuật ngữ cảnh. Mọi người đều bị ám ảnh với các mô hình tốt hơn trong khi ngữ cảnh vẫn là nút thắt thực sự. Ngay cả mô hình tốt nhất thế giới cũng sẽ cho bạn thông tin rác nếu bạn cung cấp cho nó thông tin sai. Đây là điều mà hầu hết mọi người bỏ lỡ: Kỹ thuật ngữ cảnh không chỉ là về RAG hay bộ nhớ hay các tác nhân. Đó là nghệ thuật và khoa học của việc cung cấp thông tin đúng, ở định dạng đúng, vào thời điểm đúng, cho LLM của bạn. Hãy nghĩ về những gì bạn thực sự cần: ↳ Lấy tài liệu liên quan ↳ Bộ nhớ ngắn hạn để theo dõi các cuộc trò chuyện ↳ Bộ nhớ dài hạn để nhớ sở thích của người dùng ↳ Các tác nhân để phối hợp mọi thứ ↳ Các công cụ để mở rộng khả năng Đó là 5 hệ thống khác nhau mà bạn phải xây dựng, kết nối và duy trì. Gần đây tôi đã xây dựng với Pixeltable, và đó là một cách tiếp cận thú vị cho vấn đề này. Nó mã nguồn mở và coi kỹ thuật ngữ cảnh như một vấn đề dữ liệu thống nhất: Ý tưởng rất đơn giản: thay vì ghép nối một cơ sở dữ liệu vector, một cơ sở dữ liệu SQL, một dịch vụ nhúng và một khung tác nhân, mọi thứ sống trong một hệ thống. Tài liệu, nhúng, lịch sử cuộc trò chuyện và đầu ra của tác nhân của bạn đều chỉ là các bảng. Nhúng là các cột được tính toán tự động cập nhật. Tìm kiếm vector hoạt động song song với các hoạt động dữ liệu thông thường của bạn. Những gì tôi thấy hữu ích: ↳ Các pipeline RAG mà không cần quản lý các cơ sở dữ liệu riêng biệt ↳ Bộ nhớ dài hạn thông qua tìm kiếm vector trên các cuộc trò chuyện lịch sử...