95% інженерії ШІ — це просто контекстна інженерія. Усі одержимі кращими моделями, а контекст залишається справжнім вузьким місцем. Навіть найкраща модель у світі дасть тобі погані слова, якщо ти даси їй неправильну інформацію. Ось чого більшість людей пропускають: Контекстна інженерія — це не лише про RAG, пам'ять чи агентів. Це мистецтво і наука надання правильної інформації, у правильному форматі, у потрібний час для вашої LLM. Подумайте, що вам насправді потрібно: ↳ Пошук для отримання відповідних документів ↳ Короткочасна пам'ять для відстеження розмов ↳ Довготривала пам'ять для запам'ятовування вподобань користувача ↳ Агенти організовують усе ↳ Інструменти для розширення можливостей Це 5 різних систем, які потрібно будувати, підключати та обслуговувати. Останнім часом я працював з Pixeltable, і це цікавий підхід до цієї проблеми. Він відкритий і розглядає контекстну інженерію як уніфіковану задачу даних: Ідея проста: замість того, щоб об'єднувати векторну базу даних, SQL-базу даних, сервіс вбудовування та фреймворк агентів, усе працює в одній системі. Ваші документи, вбудовування, історія розмов і виведення агента — це просто таблиці. Вкладення — це обчислені стовпці, які оновлюються автоматично. Векторний пошук працює паралельно з вашими звичайними операціями з даними. Що я вважаю корисним: ↳ Конвеєри RAG без управління окремими базами даних ↳ Довготривала пам'ять через векторний пошук за історичними розмовами...