El 95% de la ingeniería de IA es solo ingeniería de contexto. Todos están obsesionados con mejores modelos mientras que el contexto sigue siendo el verdadero cuello de botella. Incluso el mejor modelo del mundo te dará basura si le das la información incorrecta. Aquí está lo que la mayoría de la gente pasa por alto: La ingeniería de contexto no se trata solo de RAG o memoria o agentes. Es el arte y la ciencia de entregar la información correcta, en el formato correcto, en el momento correcto, a tu LLM. Piensa en lo que realmente necesitas: ↳ Recuperación para obtener documentos relevantes ↳ Memoria a corto plazo para seguir conversaciones ↳ Memoria a largo plazo para recordar preferencias del usuario ↳ Agentes para orquestar todo ↳ Herramientas para extender capacidades Eso son 5 sistemas diferentes que tienes que construir, conectar y mantener. He estado construyendo con Pixeltable recientemente, y es un enfoque interesante para este problema. Es de código abierto y trata la ingeniería de contexto como un problema de datos unificado: La idea es simple: en lugar de unir una base de datos vectorial, una base de datos SQL, un servicio de incrustación y un marco de agentes, todo vive en un solo sistema. Tus documentos, incrustaciones, historial de conversaciones y salidas de agentes son solo tablas. Las incrustaciones son columnas calculadas que se actualizan automáticamente. La búsqueda vectorial funciona junto a tus operaciones de datos regulares. Lo que encuentro útil: ↳ Pipelines RAG sin gestionar bases de datos separadas ↳ Memoria a largo plazo a través de búsqueda vectorial sobre conversaciones históricas...